Hóa đơn LLM của bạn, trong tầm kiểm soát. Được đo ở mỗi lời gọi.

Các đoạn hoạt hình minh họa ý tưởng. Những con số thật — đo với nhà cung cấp thật — nằm ngay bên dưới.

# 1 · gói
pnpm add @bivelio/savings-layer

# 2 · giấy phép (từ bảng điều khiển của bạn)
export BIVELIO_LICENSE_KEY=…

# 3 · bọc lệnh gọi — đây là toàn bộ thay đổi mã
const layer = createSavingsLayer({ provider, licenseKey, … });
const { text, report } = await layer.generate({ model, messages });

console.log(report.cost.netSavingsRatio)  // ← khoản tiết kiệm, đã đo

Hoặc để một lệnh tự điều chỉnh cho stack của bạn. init đọc package.json của bạn (Next.js, Express, Vercel AI SDK, Mastra, LangChain.js, SDK của Anthropic hoặc của OpenAI) và in ra dòng cài đặt, mã chính xác cho adapter của bạn và một bước kiểm tra không tốn token: khi giấy phép của bạn đã sẵn sàng, lớp tự trả lời ngay trên máy của bạn mà không gọi mô hình. Lệnh này không ghi gì nếu bạn không yêu cầu.

npx @bivelio/savings-layer@latest init

Nơi các tự động hóa của bạn đã sống. Thứ được đo là lời gọi tới API của nhà cung cấp bằng khóa của bạn: trong một ứng dụng Node.js, SDK bọc lời gọi đó; từ mã khác dùng SDK chính thức của OpenAI hoặc Anthropic, gateway đứng chắn phía trước và ghi nhận nó với mô hình có giá niêm yết.

npm i -g @bivelio/savings-layer
export BIVELIO_SERVICE_KEY=bvk_…

bvsala claude

Gateway đo, bằng chính bộ đếm của nhà cung cấp, mọi yêu cầu mà nhà cung cấp của bạn có báo cáo mức sử dụng (với các mô hình trong danh mục giá của chúng tôi) và, giống như SDK, chỉ chạy khi có giấy phép đang hoạt động: nó lấy giấy phép bằng khóa dịch vụ của bạn và xác minh chữ ký ngay trên máy của bạn. Với giấy phép PRO, trên các mô hình Anthropic, nó còn áp dụng mặc định một đòn bẩy: chuyển các lần ghi bộ nhớ đệm từ TTL một giờ sang TTL năm phút, chỉ ở những lượt mà một phần lớn prompt là mới — như lượt đầu tiên của một phiên hoặc sau khi nén ngữ cảnh — và giữ nguyên các lượt nối tiếp. Điều này thay đổi giá, không bao giờ thay đổi nội dung mà mô hình đọc. Các đòn bẩy khác vẫn tắt cho đến khi bạn bật chúng. Skill savings-mode đã sẵn sàng cho các giới hạn của bạn, hiệu quả còn chờ đo. Gateway cũng hoạt động với Codex CLI, Goose, Qwen Code, opencode, Kilo, Aider và, với khóa Anthropic của riêng bạn, GitHub Copilot CLI; với các công cụ khác như Cline hoặc Continue, bvsala doctor in ra cấu hình chính xác. Cursor không thể đo được, còn Gemini CLI thì chưa. Xem cách hoạt động →

Python hay bất kỳ ngôn ngữ nào khác? Trỏ SDK chính thức của OpenAI hoặc Anthropic tới gateway và mọi yêu cầu mà nhà cung cấp báo cáo mức sử dụng, với mô hình có giá niêm yết, đều được ghi vào bảng điều khiển này theo giá đó; log của gateway sẽ báo khi có yêu cầu không được đo. bvsala doctor in ra base URL cho từng SDK. Với streaming của OpenAI, hãy yêu cầu mức sử dụng ngay trong yêu cầu (stream_options.include_usage).

Chi phí của một phiên Claude Code đi về đâu, theo thứ tự: đọc bộ nhớ đệm, ghi bộ nhớ đệm một giờ và đầu ra của mô hình — đo bằng đồng hồ của chúng tôi trên lưu lượng của chính chúng tôi, đối chiếu với bộ đếm của nhà cung cấp. Báo cáo đó chưa được công bố, nên chúng tôi không hiển thị các con số của nó. Hiệu quả của chính skill sẽ được công bố khi đã đo bằng A/B — không bao giờ trước đó.

npx -y @bivelio/savings-layer skill