Savings Layer là một phần của nền tảng BiVelio
Quyền riêng tư

Những gì rời khỏi hạ tầng của bạn

Trang này mô tả cách dịch vụ hoạt động hiện nay; văn bản có hiệu lực là LICENSE và Điều khoản của BiVelio.

Những gì Phần mềm (SDK và gateway cục bộ) gửi tới BiVelio, những gì nó không bao giờ gửi, và BiVelio lưu giữ chúng bao lâu.

Không bao giờ gửi tới BiVelio

  • Nội dung các yêu cầu và phản hồi của bạn: prompt, chỉ dẫn hệ thống, tin nhắn, định nghĩa công cụ, đối số và kết quả công cụ, tài liệu được truy xuất, và câu trả lời được tạo ra.
  • Thông tin xác thực bạn dùng với nhà cung cấp LLM: khóa API, token OAuth hoặc các header ủy quyền khác.

Nội dung và thông tin xác thực đó chỉ đi giữa hệ thống của bạn và nhà cung cấp LLM mà bạn cấu hình.

Bản ghi sử dụng

SDK chỉ gửi bản ghi sử dụng khi bạn cấu hình máy chủ giấy phép hoặc URL đo lường; gateway cục bộ thì luôn gửi. Mỗi lô mang khóa tài khoản dịch vụ BiVelio của bạn, dùng để xác định tổ chức của bạn, cùng bề mặt và phiên bản của Phần mềm trong header x-bvsala-version.

Mỗi bản ghi chỉ gồm các trường bên dưới. Hệ thống tiếp nhận của BiVelio từ chối mọi bản ghi mang một trường không có trong danh sách này.

Mã định danh

Một mã yêu cầu được tạo ở phía bạn (ngẫu nhiên, hoặc bằng trình tạo của riêng bạn). Với một yêu cầu lặp lại được định giá theo tham chiếu, mã và thời điểm của yêu cầu trước đó có bộ đếm nhà cung cấp được dùng. Một mã ghế: giá trị do bạn đặt, hoặc một giá trị mờ được tính trên máy của bạn bằng hàm băm có khóa (HMAC), dùng khóa tài khoản dịch vụ của bạn làm khóa, từ nền tảng, kiến trúc CPU, đường dẫn tệp thực thi, tên máy chủ, tên người dùng hệ điều hành và thư mục chính; các giá trị đó không bao giờ được gửi. Qua gateway cục bộ, mã phiên và mã tác tử phụ mà tác tử lập trình của bạn gắn vào các yêu cầu của chính nó (ví dụ mã phiên của Claude Code), chỉ khi chúng là mã định danh đơn giản. Một gợi ý về tổ chức (BiVelio luôn xác định tổ chức của bạn từ khóa). Một cờ đánh dấu trình chạy CI hoặc tạm thời.

  • requestId
  • referenceRequestId
  • referenceAt
  • seatId
  • sessionId
  • agentId
  • orgId
  • ci

Mô hình và thời điểm

Mã của mô hình đã phục vụ yêu cầu: mô hình được nêu trong yêu cầu hoặc, nếu Phần mềm gửi yêu cầu tới mô hình khác theo một thiết lập bạn đã bật, mô hình đó; với triển khai tự lưu trữ hoặc Azure, tên bạn đã đặt. Và thời điểm của yêu cầu.

  • model
  • at

Số đếm

Các lệnh gọi LLM đã thực hiện và đã tránh; token đầu vào và đầu ra trước và sau các tối ưu hóa của Phần mềm, bao gồm token bị loại bỏ, nén hoặc đọc từ bộ nhớ đệm của nhà cung cấp; và kết quả bộ nhớ đệm.

  • avoidedLlm
  • actualLlm
  • baselineInputTokens
  • actualInputTokens
  • eliminatedInputTokens
  • compressedInputTokens
  • baselineOutputTokens
  • actualOutputTokens
  • providerCachedInputTokens
  • cacheResult

Chi phí

Các con số chi phí do Phần mềm tính từ danh mục giá của nó, hoặc từ mô hình chi phí do bạn cung cấp: chi phí cơ sở, chi phí thực tế, tỷ lệ tiết kiệm ròng, cơ sở của các con số (measured, reference, estimated, shadow hoặc unmeasured), và giá trị, theo giá đọc bộ nhớ đệm của nhà cung cấp, của các token đầu vào mà nhà cung cấp báo đã xóa khỏi ngữ cảnh.

  • baselineCost
  • actualCost
  • netSavings
  • basis
  • eliminatedInputFloorCost

Xác minh tùy chọn (chỉ SDK, tắt theo mặc định)

Nếu bạn bật tùy chọn xác minh của SDK, SDK gửi lại một mẫu các yêu cầu đã phục vụ tới chính nhà cung cấp của bạn, không tối ưu hóa, rồi bỏ phản hồi thứ hai đó. Với mỗi yêu cầu trong mẫu, SDK gửi tới BiVelio, qua một kênh riêng, chỉ các trường bên dưới; kênh đó cũng từ chối mọi trường khác, và không dữ liệu nào nó nhận được dùng để tính hoa hồng.

Mỗi yêu cầu trong mẫu

Nhãn verification, mã và thời điểm của yêu cầu; mô hình được yêu cầu và mô hình đã phục vụ; kết quả bộ nhớ đệm; loại yêu cầu và kết quả kiểm tra; token đầu vào, đầu vào từ bộ nhớ đệm và đầu ra cùng chi phí của yêu cầu đã phục vụ và của bản sao không tối ưu hóa; bản sao kết thúc thế nào và có đáp ứng hợp đồng phản hồi hay không; và giá mỗi token đã áp dụng.

  • basis
  • requestId
  • at
  • requestedModel
  • servedModel
  • cacheResult
  • stratum
  • outcome
  • optimizedInputTokens
  • optimizedCachedInputTokens
  • optimizedOutputTokens
  • optimizedCost
  • naiveInputTokens
  • naiveCachedInputTokens
  • naiveOutputTokens
  • naiveCost
  • naiveFinishReason
  • naiveContract
  • inputPer1k
  • cachedInputPer1k
  • outputPer1k

Số đếm hằng ngày

Với mỗi ngày, số yêu cầu thuộc từng loại, kể cả những yêu cầu bị loại khỏi việc kiểm tra.

  • day
  • category
  • requests

Mỗi lô

Một mã lô ngẫu nhiên, dùng để loại bản trùng, và hai danh sách ở trên.

  • batchId
  • samples
  • counts

Các yêu cầu khác tới BiVelio

Phần mềm cũng tải token giấy phép hiện hành và danh sách thu hồi giấy phép có chữ ký, còn gateway cục bộ tải các quyền tính năng của tổ chức bạn. Các yêu cầu này mang khóa tài khoản dịch vụ của bạn khi cần xác thực, và không mang dữ liệu yêu cầu nào.

Như mọi yêu cầu HTTPS, tất cả những điều trên còn để lộ siêu dữ liệu mạng thông thường, chẳng hạn địa chỉ IP của bạn.

BiVelio lưu giữ gì, và trong bao lâu

Hệ thống tiếp nhận cộng mỗi bản ghi sử dụng vào tổng hằng ngày: theo ngày, theo mô hình, theo ghế và theo phiên gateway. Các dòng riêng lẻ chỉ được giữ ở những nơi dưới đây, và một tác vụ hằng ngày xóa mỗi dòng khi nó quá hạn:

  • Mã yêu cầu, giữ để loại các bản ghi trùng: 30 ngày.
  • Các yêu cầu lặp lại được định giá theo tham chiếu (mã yêu cầu, mô hình, thời điểm và bộ đếm nhà cung cấp đã dùng), các dòng đằng sau bản tải xuống của sao kê: 460 ngày.
  • Mẫu xác minh và số đếm hằng ngày của chúng: 180 ngày.
  • Mã lô của việc xác minh: 30 ngày.

Tổng hằng ngày, hoạt động theo ghế và các sao kê đã niêm phong của bạn hiện chưa có lịch xóa tự động.

BiVelio dùng chúng để làm gì

Để vận hành giấy phép và việc thu hồi, hiển thị bảng điều khiển của bạn, đếm số ghế đang dùng và tính các khoản phí được mô tả trên trang giá.

Tài khoản của bạn trên trang web này

Email đăng nhập, tổ chức và thông tin thanh toán của bạn (thanh toán do Stripe xử lý) thuộc phạm vi chính sách quyền riêng tư của BiVelio.

Câu hỏi và yêu cầu về dữ liệu này: privacy@bivelio.com.