Savings Layer adalah bagian dari platform BiVelio
Privasi

Apa yang keluar dari infrastrukturmu

Halaman ini menjelaskan cara layanan bekerja saat ini; yang mengikat adalah LICENSE dan Ketentuan BiVelio.

Apa yang dikirim Perangkat Lunak (SDK dan gateway lokal) ke BiVelio, apa yang tidak pernah dikirimnya, dan berapa lama BiVelio menyimpannya.

Yang tidak pernah dikirim ke BiVelio

  • Isi permintaan dan responsmu: prompt, instruksi sistem, pesan, definisi alat, argumen dan hasil alat, dokumen yang diambil, dan jawaban yang dihasilkan.
  • Kredensial yang kamu gunakan dengan penyedia LLM-mu: kunci API, token OAuth, atau header otorisasi lainnya.

Isi dan kredensial itu hanya berpindah antara sistemmu dan penyedia LLM yang kamu konfigurasikan.

Catatan penggunaan

SDK mengirim catatan penggunaan hanya jika kamu mengonfigurasi server lisensi atau URL pengukuran; gateway lokal selalu mengirimnya. Setiap batch membawa kunci akun layanan BiVelio-mu, yang mengidentifikasi organisasimu, serta permukaan dan versi Perangkat Lunak di header x-bvsala-version.

Setiap catatan dibatasi pada kolom di bawah ini. Penerimaan data BiVelio menolak setiap catatan yang membawa kolom yang tidak ada dalam daftar ini.

Pengidentifikasi

ID permintaan yang dibuat di sisimu (secara acak, atau oleh generatormu sendiri). Untuk permintaan berulang yang dinilai berdasarkan referensi, ID dan waktu permintaan sebelumnya yang penghitung penyedianya digunakan. ID kursi: nilai yang kamu tetapkan, atau nilai buram yang dihitung di mesinmu sebagai hash berkunci (HMAC), dengan kunci akun layananmu sebagai kunci, dari platform, arsitektur CPU, jalur file eksekusi runtime, nama host, nama pengguna sistem operasi, dan direktori home; nilai-nilai itu tidak pernah dikirim. Melalui gateway lokal, ID sesi dan sub-agen yang dilampirkan agen pemrogramanmu pada permintaannya sendiri (misalnya ID sesi Claude Code), hanya jika berupa pengidentifikasi sederhana. Petunjuk organisasi (BiVelio selalu menurunkan organisasimu dari kunci). Penanda untuk runner CI atau sementara.

  • requestId
  • referenceRequestId
  • referenceAt
  • seatId
  • sessionId
  • agentId
  • orgId
  • ci

Model dan waktu

ID model yang melayani permintaan: model yang disebut dalam permintaan atau, jika Perangkat Lunak mengirim permintaan ke model lain berdasarkan pengaturan yang kamu aktifkan, model tersebut; untuk deployment yang di-host sendiri atau Azure, nama yang kamu berikan. Dan waktu permintaan.

  • model
  • at

Hitungan

Panggilan LLM yang dijalankan dan dihindari; token input dan output sebelum dan sesudah optimasi Perangkat Lunak, termasuk token yang dihapus, dikompresi, atau dibaca dari cache penyedia; dan hasil cache.

  • avoidedLlm
  • actualLlm
  • baselineInputTokens
  • actualInputTokens
  • eliminatedInputTokens
  • compressedInputTokens
  • baselineOutputTokens
  • actualOutputTokens
  • providerCachedInputTokens
  • cacheResult

Biaya

Angka biaya yang dihitung Perangkat Lunak dari katalog harganya, atau dari model biaya yang kamu berikan: biaya dasar, biaya aktual, rasio penghematan bersih, dasar angka-angka itu (measured, reference, estimated, shadow, atau unmeasured), dan nilai, dengan harga baca cache penyedia, dari token input yang dilaporkan penyediamu sebagai dihapus dari konteks.

  • baselineCost
  • actualCost
  • netSavings
  • basis
  • eliminatedInputFloorCost

Verifikasi opsional (hanya SDK, nonaktif secara bawaan)

Jika kamu mengaktifkan opsi verifikasi SDK, SDK mengirim ulang sampel permintaan yang telah dilayaninya ke penyediamu sendiri, tanpa optimasi, lalu membuang respons kedua itu. Untuk setiap permintaan dalam sampel, SDK mengirim ke BiVelio, melalui saluran terpisah, hanya kolom di bawah ini; saluran itu juga menolak kolom lain apa pun, dan tidak ada yang diterimanya yang dipakai untuk menghitung komisi.

Setiap permintaan dalam sampel

Label verification, ID dan waktu permintaan; model yang diminta dan model yang melayani; hasil cache; kategori permintaan dan hasil pemeriksaan; token input, input dari cache, dan output serta biaya permintaan yang dilayani dan salinan tanpa optimasi; bagaimana salinan itu berakhir dan apakah memenuhi kontrak respons; dan harga per token yang diterapkan.

  • basis
  • requestId
  • at
  • requestedModel
  • servedModel
  • cacheResult
  • stratum
  • outcome
  • optimizedInputTokens
  • optimizedCachedInputTokens
  • optimizedOutputTokens
  • optimizedCost
  • naiveInputTokens
  • naiveCachedInputTokens
  • naiveOutputTokens
  • naiveCost
  • naiveFinishReason
  • naiveContract
  • inputPer1k
  • cachedInputPer1k
  • outputPer1k

Hitungan harian

Untuk setiap hari, jumlah permintaan di setiap kategori, termasuk yang dikecualikan dari pemeriksaan.

  • day
  • category
  • requests

Setiap batch

ID batch acak, untuk membuang duplikat, dan kedua daftar di atas.

  • batchId
  • samples
  • counts

Permintaan lain ke BiVelio

Perangkat Lunak juga mengambil token lisensinya yang berlaku dan daftar pencabutan lisensi yang ditandatangani, dan gateway lokal mengambil hak fitur organisasimu. Permintaan ini membawa kunci akun layananmu jika autentikasi diperlukan, dan tanpa data permintaan.

Seperti permintaan HTTPS apa pun, semua hal di atas juga mengungkap metadata jaringan biasa, seperti alamat IP-mu.

Apa yang disimpan BiVelio, dan berapa lama

Penerimaan data menambahkan setiap catatan penggunaan ke total harian: per hari, per model, per kursi, dan per sesi gateway. Baris individual hanya disimpan di tempat-tempat di bawah ini, dan tugas harian menghapus setiap baris setelah melewati masa simpannya:

  • ID permintaan, disimpan untuk membuang catatan duplikat: 30 hari.
  • Permintaan berulang yang dinilai berdasarkan referensi (ID permintaan, model, waktu, dan penghitung penyedia yang digunakan), baris di balik unduhan rekeningmu: 460 hari.
  • Sampel verifikasi dan hitungan hariannya: 180 hari.
  • ID batch verifikasi: 30 hari.

Total harian, aktivitas kursi, dan rekening tersegelmu saat ini tidak memiliki jadwal penghapusan otomatis.

Untuk apa BiVelio menggunakannya

Untuk menjalankan lisensi dan pencabutan, menampilkan dasbormu, menghitung kursi yang terpakai, dan menghitung biaya yang dijelaskan di halaman harga.

Akunmu di situs ini

Email masukmu, organisasimu, dan detail penagihanmu (pembayaran diproses oleh Stripe) diatur oleh kebijakan privasi BiVelio.

Pertanyaan dan permintaan tentang data ini: privacy@bivelio.com.