OpenAIAnthropicGoogleDiukur langsung dengan penghitung milik setiap penyedia
Dua produk
Ke mana token Anda pergi: ke aplikasi Anda atau ke agen pemrograman Anda?
Keduanya dilisensikan per kursi dan keduanya menghitung dengan penghitung penyedia Anda sendiri. Keduanya mengerjakan tugas yang berbeda, jadi masing-masing membuat janjinya sendiri — dan hari ini hanya satu yang memiliki angka penghematan yang dipublikasikan.
SDK
Untuk aplikasi Node.js, dalam JavaScript atau TypeScript, yang memanggil API LLM dengan kunci Anda sendiri dan membayar setiap token.
SDK membungkus panggilan di dalam kode Anda, hanya mengirim ke penyedia yang memang harus dibayar, dan mengembalikan SavingsReport bersama setiap respons.
Angka yang kami publikasikan
OpenAIgpt-4o-mini
31,5%tagihan lebih kecil (interval 95%: 25,7% hingga 36,7%) pada aliran di mana 30% permintaan adalah pengulangan persis — GSM8K, SDK 0.4.31
Bukan perkiraan: berapa yang Anda hemat bergantung pada seberapa sering lalu lintas Anda berulang. Hanya yang dikonfirmasi penghitung penyedia Anda yang dihitung dalam laporan penghematan Anda — termasuk permintaan berulang yang dilayani tanpa memanggil penyedia, masing-masing dinilai dengan penghitung permintaan identik yang sudah dijalankan.
Untuk Anda yang memakai Claude Code, Codex CLI, atau agen pemrograman lain dengan kunci API.
Satu perintah menempatkan pengukur lokal di depan terminal Anda, tanpa mengubah kode. Gateway menghitung setiap permintaan yang penggunaannya dilaporkan penyedia Anda, dengan penghitung milik penyedia itu sendiri — untuk model dalam katalog harga kami — lalu menjumlahkannya di dasbor Anda, per hari dan per model.
Angka yang kami publikasikan
Anthropic
2,5%dari tagihan dengan penurunan cache PRO, sudah dikurangi kegagalan cache yang ditimbulkannya (interval 95%: 1,5% hingga 3,6%). Disimulasikan dengan harga daftar pada 51 sesi Claude Code dari satu organisasi saja, yaitu kami sendiri.
Bukan prakiraan untuk tim Anda: ini satu organisasi, satu penyedia, dan harga daftar, dan ini penghematan kecil yang terasa ketika pengeluaran di Anthropic tinggi. Dengan PRO, pada model Anthropic, gateway memindahkan penulisan cache dari TTL satu jam ke TTL lima menit, hanya pada giliran ketika porsi besar dari prompt masih baru — seperti giliran pertama sebuah sesi atau setelah pemadatan — dan membiarkan giliran berantai dari sesi yang sedang berjalan apa adanya. Itu mengubah harga, tidak pernah apa yang dibaca model, dan hanya yang dikonfirmasi penghitung penyedia Anda yang dihitung dalam laporan penghematan Anda.
SDK — untuk aplikasi JavaScript dan TypeScript dengan kunci API
Dibuat untuk pengembang
Lebih sedikit sakit kepala soal tagihan. Tanpa ganti penyedia.
Empat fakta tentang paket ini. Tidak satu pun berupa janji.
dependencies: {}
Nol dependensi runtime
Satu bundel ESM saja. Tidak ada yang terpasang di samping kode Anda selain yang kami tulis sendiri; tokenizer eksak adalah peer opsional.
report.cost.basis
Satu SavingsReport per panggilan
Empat buku besar yang tidak pernah dijumlahkan, biaya dengan dasarnya (terukur atau estimasi), dan jejak per tahap. Sama persis dengan yang dibaca dasbor Anda.
app → provider api
Lalu lintas Anda tetap langsung
SDK membungkus panggilan di dalam proses Anda. Prompt Anda tidak pernah lewat BiVelio: kami hanya menerima hitungan dan biaya.
layer.generateStream(request)
Streaming, laporan yang sama
generateStream() menyerahkan jawaban kepada Anda saat penyedia menulisnya dan ditutup dengan SavingsReport yang sama seperti generate(), dengan aturan yang sama untuk dasar biayanya: penghitung akhir penyedia dibaca di akhir stream, dan stream tanpa penghitung itu dilaporkan sebagai tidak terukur dan tidak pernah dihitung sebagai penghematan terukur. Dengan kontrak keluaran, jawaban tiba sudah tervalidasi, utuh dalam satu bagian.
Dengan bahasa sehari-hari
Sebenarnya apa yang dilakukan SDK?
Empat ide, empat animasi delapan detik.
01
AI menagih per kata
Setiap permintaan ke AI dibayar berdasarkan teks yang masuk dan keluar. Savings berdiri di tengah jalur itu: permintaan yang sudah pernah dilihat dan diverifikasi dijawab tanpa memanggil penyedia lagi, dan yang tak perlu Anda bayar jatuh ke toples Anda.
02
Anda tidak membayar dua kali untuk hal yang sama
AI membaca ulang setiap giliran semua yang sudah Anda kirim — dan penyedia menagihnya lagi. Savings menyiapkan setiap permintaan agar penyedia menerapkan harga diskonnya pada pengulangan. Diskonnya milik penyedia; bagian kami adalah memintanya dengan benar.
03
Struk yang bisa Anda periksa
Kami tidak meminta kepercayaan buta. Setiap penghematan diukur dengan meteran resmi penyedia — meteran yang sama untuk menagih Anda — dan muncul di struk Anda. Yang tidak bisa dicocokkan dengan tagihan tidak pernah diumumkan.
04
Ukur gratis, lalu bayar per kursi
Mulailah dengan lisensi Measure yang gratis: lapisan berjalan dalam mode bayangan dan menunjukkan berapa yang akan dihemat pada lalu lintas Anda sendiri. Untuk menyalakan tuasnya, Anda membayar biaya tetap per kursi, atau paket Tim, baik Anda hemat atau tidak — dan tanpa komisi atas penghematan Anda.
Animasi ini menggambarkan idenya. Angka sesungguhnya — diukur terhadap penyedia sungguhan — ada tepat di bawah.
Tanpa janji: pengukuran
Dari mana kami tahu ini menghemat? Kami mengukurnya — dan kami menerbitkan setiap percobaan, satu per satu.
Setiap skenario dijalankan dua kali terhadap penyedia sungguhan: apa adanya, dan dengan Savings di depan. Kedua hasil dihitung dengan meteran milik penyedia sendiri — meteran yang menentukan harga tagihan Anda. Inilah hasilnya, lengkap dengan margin galat:
31,5%tagihan lebih kecil (interval 95%: 25,7% hingga 36,7%) pada aliran di mana 30% permintaan adalah pengulangan persis — GSM8K, SDK 0.4.31
Anthropicclaude-sonnet-5
75,1%aliran yang sama (interval 95%: 69,3% hingga 79,6%). Sekitar 41% dari tagihan awal adalah diskon cache prefiks milik Anthropic sendiri — milik penyedia, bukan kami, dan ditampilkan terpisah
Setiap tuas masuk ke buku besarnya sendiri, dan buku-buku itu tidak pernah dijumlahkan. Di baterai ini penghematan berasal dari permintaan berulang yang dilayani SDK tanpa memanggil penyedia dan, pada Claude, dari cache prefiks milik penyedia sendiri. Paket npm tidak menyertakan kompresor.
Kompatibel tidak sama dengan terukur. SDK bekerja dengan endpoint apa pun yang kompatibel dengan API OpenAI, ditambah adaptor native Anthropic dan adaptor native Gemini (baru di 0.4.33). Dengan angka penghematan di bangku uji publik, saat ini hanya model OpenAI dan Anthropic; Gemini tidak memiliki angka penghematan. Yang terukur untuk Gemini: Gemini 3.8 Flash, melalui API native-nya, di bench mingguan langsung 1 Oktober 2026 — keempat baterai, tanpa kegagalan lapisan dan tanpa penolakan yang di-cache atau dikreditkan sebagai penghematan. Bench itu memeriksa bahwa lapisan tidak merusak apa pun dan tidak menagih lebih; bench itu tidak mengukur penghematan. Juga terukur: Gemini 3.1 Pro, melalui API native-nya, dalam dua putaran parsial pada 1–2 Oktober 2026 (kuota harian penyedianya tidak cukup untuk keempat baterai dalam satu hari): keempat baterai, juga tanpa kegagalan lapisan dan tanpa penolakan yang di-cache atau dihitung sebagai penghematan.
Pengujian ini eksperimen yang adil: tugas yang sama dua kali — tanpa Savings dan dengan Savings — dengan meteran penyedia yang sama menghitung keduanya.
Terjemahan, tanpa jargon
Pada aliran di mana 30% permintaan berulang persis, tagihan turun 31,5% — antara 25,7% dan 36,7% dengan keyakinan 95%. Berapa yang Anda hemat bergantung pada seberapa sering lalu lintas Anda berulang.
Persentase tidak berarti apa-apa tanpa intervalnya, modelnya, dan lalu lintasnya: kami menerbitkan ketiganya.
Penghitungan yang jujur
Setiap jenis penghematan dihitung terpisah — agar tak ada angka yang digelembungkan.
Setiap SavingsReport membagi penghematan ke dalam empat buku besar — panggilan yang dihindari, teks yang dihapus, teks yang dikompresi, dan diskon cache penyedia Anda sendiri — dan tidak pernah menjumlahkannya menjadi satu angka pemasaran.
Di bangku uji publik (2026-09-28), penghematan SDK yang terpasang berasal dari buku besar pertama — permintaan berulang yang dilayani tanpa memanggil penyedia — dan, pada Claude, dari yang keempat, yaitu diskon penyedia Anda sendiri. Paket npm tidak menyertakan kompresor. Buku besar tanpa angka yang diterbitkan dijelaskan di sini, tidak diiklankan.
01
avoided_calls
Panggilan LLM, retrieval, dan tool yang sama sekali tidak pernah dieksekusi.
02
eliminated_tokens
Informasi yang dibuang karena memang tidak diperlukan.
03
compressed_tokens
Informasi tetap dipertahankan, tetapi dikodekan dengan lebih sedikit token.
04
provider_cached_tokens
Masih ada dalam prompt, tetapi ditagih atau diproses lebih murah.
SDK · satu tuas, pada data Anda, sebelum membayar
Tempel data Anda. Lihat berapa token yang akan dikirim SDK.
Di sini pemilih format SDK yang asli berjalan di browser Anda, pada data Anda. Tidak ada yang keluar dari halaman ini dan Anda tidak memerlukan akun.
Coba sebuah contoh
…atau tempel JSON Anda sendiri di sini. Tidak ada yang keluar dari browser Anda.
Memuat pengoptimal dan tokenizer eksak…
Apa ini, dan apa yang bukan: satu tuas — cara data terstruktur ditulis ke dalam prompt — pada token masukan data ini. Tuas ini hanya berlaku untuk data yang Anda berikan ke SDK sebagai structuredData, bukan untuk JSON yang sudah tertulis di dalam pesan Anda. Ini bukan tagihan Anda: panggilan yang dihindari, cache penyedia Anda, dan keluaran tidak termasuk di sini, dan banyak permintaan sama sekali tidak membawa data terstruktur. Untuk SDK secara keseluruhan, angka yang kami publikasikan adalah angka di bagian pengukuran, beserta catatannya.
Atau biarkan satu perintah menyesuaikannya dengan stack Anda.init membaca package.json Anda (Next.js, Express, Vercel AI SDK, Mastra, LangChain.js, SDK Anthropic, atau SDK OpenAI) lalu mencetak baris instalasi, kode persis untuk adaptor Anda, dan sebuah pemeriksaan yang tidak memakai token: setelah lisensi Anda terpasang, lapisan menjawabnya di mesin Anda tanpa memanggil model. Perintah ini tidak menulis apa pun kecuali Anda memintanya.
Tempat otomasi Anda sudah berjalan. Yang diukur adalah panggilan ke API penyedia Anda dengan kunci Anda: di aplikasi Node.js, SDK membungkusnya; dari kode lain yang memakai SDK resmi OpenAI atau Anthropic, gateway berdiri di depannya dan mencatatnya untuk model yang memiliki harga daftar.
Gateway — untuk agen pemrograman dengan kunci API
Gateway · terminal pemrograman
Claude Code dengan kunci API? Lihat pengeluaran nyata, token demi token.
Satu perintah menempatkan pengukur lokal di depan terminal Anda, tanpa menyentuh kode Anda: ekspor kunci layanan Anda dan jalankan agen Anda melalui bvsala. Prompt Anda tidak pernah meninggalkan mesin Anda — yang sampai ke dasbor Anda hanya hitungan dan biaya.
npm i -g @bivelio/savings-layer
export BIVELIO_SERVICE_KEY=bvk_…
bvsala claude
Gateway mengukur, dengan penghitung penyedia Anda, setiap permintaan yang penggunaannya dilaporkan penyedia tersebut (untuk model dalam katalog harga kami) dan, seperti SDK, hanya berjalan dengan lisensi aktif: gateway mengambilnya dengan kunci layanan Anda dan memverifikasi tanda tangannya di mesin Anda. Dengan lisensi PRO, pada model Anthropic, gateway juga menerapkan satu tuas secara default: memindahkan penulisan cache dari TTL satu jam ke TTL lima menit hanya pada giliran ketika porsi besar dari prompt masih baru — seperti giliran pertama sebuah sesi atau setelah pemadatan — dan membiarkan giliran berantai apa adanya. Ini mengubah harga, bukan konten yang dibaca model. Tuas lainnya tetap mati sampai Anda mengaktifkannya. Skill savings-mode tersedia untuk batas kuota Anda, dengan efek yang masih harus diukur. Gateway juga bekerja dengan Codex CLI, Goose, Qwen Code, opencode, Kilo, Aider, serta GitHub Copilot CLI dengan kunci Anthropic Anda sendiri; untuk yang lain, seperti Cline atau Continue, bvsala doctor mencetak konfigurasi persisnya. Cursor tidak bisa diukur, dan Gemini CLI belum. Lihat cara kerjanya →
Python atau bahasa lain? Arahkan SDK resmi OpenAI atau Anthropic ke gateway, dan setiap permintaan yang penggunaannya dilaporkan penyedia, untuk model yang memiliki harga daftar, tercatat di panel ini dengan harga tersebut; log gateway memberi tahu bila ada yang tidak diukur. bvsala doctor mencetak base URL untuk setiap SDK. Untuk streaming OpenAI, minta penggunaan di dalam permintaan (stream_options.include_usage).
Skill — untuk agen pemrograman dengan langganan
savings-mode · skill gratis
Skill yang merenggangkan batas langgananmu
Tanpa tagihan bukan berarti tanpa sakit: jendela lima jam dan batas mingguan. savings-mode adalah skill berisi instruksi murni — tanpa proxy, lalu lintasmu tak tersentuh — yang memangkas dua massa yang benar-benar membakar batas: keluaran model dan hasil alat. Gratis; yang dibayar ke Savings adalah mengetahui berapa banyak ia menghematmu.
01
pembacaan cache
Seluruh konteks dibaca ulang setiap giliran — karena itu menjaganya ramping penting.
02
penulisan cache (satu jam)
Setiap hasil alat ditulis ke cache dengan premi sebelum dibaca ulang.
03
keluaran model
Bagian kecil dari token, dengan harga per token tertinggi; skill menyerangnya langsung.
Ke mana biaya sesi Claude Code pergi, dengan urutan ini: pembacaan cache, penulisan cache satu jam, dan keluaran model — diukur dengan meteran kami pada lalu lintas kami sendiri, terhadap penghitung penyedia. Laporan itu tidak diterbitkan, jadi kami tidak menampilkan angkanya. Efek skill itu sendiri akan diterbitkan setelah diukur dengan A/B — tidak pernah sebelumnya.
npx -y @bivelio/savings-layer skill
Satu perintah: terpasang di ~/.claude/skills dan aktif sendiri saat percakapan menyinggung batas atau menghemat token.
Paket
Ukur gratis. Bayar per kursi saat Anda menginginkan penghematannya.
Mulailah dengan Measure: gratis dan tanpa kartu. Lapisan berjalan dalam mode bayangan pada lalu lintas Anda sendiri dan dasbor Anda menunjukkan berapa yang akan dihemat, dinilai dengan penghitung penyedia Anda. Pro dan Tim ditagih per kursi, dalam EUR, baik Anda hemat atau tidak, dan tanpa komisi atas penghematan Anda.
Measure
Gratis
Tanpa kartu. Lapisan dalam mode bayangan untuk satu organisasi, hingga 5 kursi dan 20.000 permintaan per hari: tidak ada yang Anda kirim yang berubah, tidak ada yang dilayani dari cache, tidak pernah menjadi bagian dari komisi apa pun — dan Anda melihat berapa yang akan dihemat. Memerlukan @bivelio/savings-layer 0.4.33 atau lebih baru.
Lebih banyak kursi daripada yang diizinkan pembayaran online, kontrak sendiri, atau ketentuan faktur yang disepakati: hubungi kami.
Setiap optimasi BV‑SALA, tanpa batas
Tanda terima per permintaan: SavingsReport dengan empat buku besar, terukur dan estimasi dipisah
Dasbor penghematan & analitik tim
Prompt Anda tidak pernah keluar dari infrastruktur Anda
Satu kursi adalah satu mesin atau identitas layanan, bukan orang. Kamu membayar kursi yang dicakup langgananmu; dasbormu menampilkan berapa yang terpakai bulan ini (aktif setidaknya 3 hari; CI dan runner sementara tidak dihitung).
Belum termasuk PPN. Jika perusahaan Anda memiliki nomor PPN Uni Eropa, berlaku mekanisme reverse charge.
Sudah memakai model sebelumnya, dengan komisi atas penghematan terukur? Anda mempertahankannya tanpa perubahan; ketentuannya ada di ketentuan harga.
Perusahaan dan ekosistem
BiVelioBıVelıo adalah anggota NVIDIA Inception Program.
Program NVIDIA untuk startup yang membangun dengan AI.
