Savings Layer jest częścią platformy BiVelio
Prywatność

Co opuszcza Twoją infrastrukturę

Ta strona opisuje, jak usługa działa dziś; wiążące są LICENSE i Warunki BiVelio.

Co Oprogramowanie (SDK i lokalny gateway) wysyła do BiVelio, czego nigdy nie wysyła i jak długo BiVelio to przechowuje.

Czego nigdy nie wysyła się do BiVelio

  • Treści Twoich żądań i odpowiedzi: promptów, instrukcji systemowych, wiadomości, definicji narzędzi, argumentów i wyników narzędzi, pobranych dokumentów ani wygenerowanych odpowiedzi.
  • Danych uwierzytelniających, których używasz u dostawcy LLM: kluczy API, tokenów OAuth ani innych nagłówków autoryzacji.

Ta treść i te dane uwierzytelniające przechodzą wyłącznie między Twoimi systemami a skonfigurowanym dostawcą LLM.

Rekordy użycia

SDK wysyła rekordy użycia tylko wtedy, gdy skonfigurujesz serwer licencji lub adres URL pomiaru; lokalny gateway robi to zawsze. Każda paczka zawiera Twój klucz konta usługi BiVelio, który identyfikuje Twoją organizację, oraz powierzchnię i wersję Oprogramowania w nagłówku x-bvsala-version.

Każdy rekord ogranicza się do poniższych pól. Pobieranie danych w BiVelio odrzuca każdy rekord zawierający pole spoza tej listy.

Identyfikatory

Identyfikator żądania wygenerowany po Twojej stronie (losowo lub przez Twój własny generator). Dla powtórzonego żądania wycenionego przez odniesienie: identyfikator i czas wcześniejszego żądania, którego licznik dostawcy jest używany. Identyfikator stanowiska: wartość, którą ustawiasz sam, albo nieprzejrzysta wartość obliczana na Twojej maszynie jako skrót z kluczem (HMAC), z Twoim kluczem konta usługi jako kluczem, z platformy, architektury procesora, ścieżki pliku wykonywalnego, nazwy hosta, nazwy użytkownika systemu operacyjnego i katalogu domowego; te wartości nigdy nie są wysyłane. Przez lokalny gateway: identyfikatory sesji i podagenta, które Twój agent programistyczny dołącza do własnych żądań (na przykład id sesji Claude Code), tylko gdy są to proste identyfikatory. Wskazówka dotycząca organizacji (BiVelio zawsze ustala Twoją organizację na podstawie klucza). Znacznik runnerów CI lub efemerycznych.

  • requestId
  • referenceRequestId
  • referenceAt
  • seatId
  • sessionId
  • agentId
  • orgId
  • ci

Model i czas

Identyfikator modelu, który obsłużył żądanie: modelu wskazanego w żądaniu albo, jeśli Oprogramowanie wysłało żądanie do innego modelu na podstawie włączonego przez Ciebie ustawienia, tego modelu; dla wdrożenia własnego lub w Azure nazwa, którą mu nadałeś. Oraz czas żądania.

  • model
  • at

Liczniki

Wykonane i uniknięte wywołania LLM; tokeny wejściowe i wyjściowe przed optymalizacjami Oprogramowania i po nich, w tym tokeny usunięte, skompresowane lub odczytane z pamięci podręcznej dostawcy; oraz wynik pamięci podręcznej.

  • avoidedLlm
  • actualLlm
  • baselineInputTokens
  • actualInputTokens
  • eliminatedInputTokens
  • compressedInputTokens
  • baselineOutputTokens
  • actualOutputTokens
  • providerCachedInputTokens
  • cacheResult

Koszt

Wartości kosztów obliczane przez Oprogramowanie z jego katalogu cen lub z dostarczonego przez Ciebie modelu kosztów: koszt bazowy, koszt rzeczywisty, wskaźnik oszczędności netto, podstawa wartości (measured, reference, estimated, shadow lub unmeasured) oraz wartość, po cenie odczytu z pamięci podręcznej dostawcy, tokenów wejściowych, które dostawca zgłosił jako usunięte z kontekstu.

  • baselineCost
  • actualCost
  • netSavings
  • basis
  • eliminatedInputFloorCost

Opcjonalna weryfikacja (tylko SDK, domyślnie wyłączona)

Jeśli włączysz opcję weryfikacji w SDK, SDK wysyła ponownie do Twojego dostawcy próbkę obsłużonych żądań, bez optymalizacji, i odrzuca tę drugą odpowiedź. Dla każdego żądania z próbki wysyła do BiVelio osobnym kanałem wyłącznie poniższe pola; ten kanał również odrzuca każde inne pole, a nic z tego, co otrzymuje, nie służy do obliczania prowizji.

Każde żądanie z próbki

Etykieta verification, identyfikator i czas żądania; model żądany i model, który odpowiedział; wynik pamięci podręcznej; kategoria żądania i wynik sprawdzenia; tokeny wejściowe, wejściowe z pamięci podręcznej i wyjściowe oraz koszt obsłużonego żądania i niezoptymalizowanej kopii; jak zakończyła się kopia i czy spełniła kontrakt odpowiedzi; oraz zastosowane ceny za token.

  • basis
  • requestId
  • at
  • requestedModel
  • servedModel
  • cacheResult
  • stratum
  • outcome
  • optimizedInputTokens
  • optimizedCachedInputTokens
  • optimizedOutputTokens
  • optimizedCost
  • naiveInputTokens
  • naiveCachedInputTokens
  • naiveOutputTokens
  • naiveCost
  • naiveFinishReason
  • naiveContract
  • inputPer1k
  • cachedInputPer1k
  • outputPer1k

Dzienne liczniki

Dla każdego dnia liczba żądań w każdej kategorii, w tym tych wyłączonych ze sprawdzenia.

  • day
  • category
  • requests

Każda paczka

Losowy identyfikator paczki, służący do odrzucania duplikatów, oraz dwie powyższe listy.

  • batchId
  • samples
  • counts

Inne żądania do BiVelio

Oprogramowanie pobiera też swój aktualny token licencji i podpisaną listę unieważnionych licencji, a lokalny gateway pobiera uprawnienia funkcji Twojej organizacji. Te żądania zawierają Twój klucz konta usługi tam, gdzie wymagane jest uwierzytelnienie, i żadnych danych żądań.

Jak każde żądanie HTTPS, wszystko to ujawnia ponadto zwykłe metadane sieciowe, takie jak Twój adres IP.

Co BiVelio przechowuje i jak długo

Pobieranie danych dodaje każdy rekord użycia do sum dziennych: na dzień, na model, na stanowisko i na sesję gatewaya. Pojedyncze wiersze są przechowywane tylko w poniższych miejscach, a codzienne zadanie usuwa każdy wiersz, gdy przekroczy swój termin:

  • Identyfikatory żądań, przechowywane do odrzucania zduplikowanych rekordów: 30 dni.
  • Powtórzone żądania wycenione przez odniesienie (identyfikatory żądań, model, czas i użyty licznik dostawcy), czyli wiersze pobierane z Twojego wyciągu: 460 dni.
  • Próbki weryfikacji i ich dzienne liczniki: 180 dni.
  • Identyfikatory paczek weryfikacji: 30 dni.

Sumy dzienne, aktywność stanowisk i Twoje zapieczętowane wyciągi nie mają dziś terminu automatycznego usuwania.

Do czego BiVelio ich używa

Do obsługi licencji i unieważnień, pokazywania Twojego panelu, liczenia używanych stanowisk i obliczania opłat opisanych na stronie z cennikiem.

Twoje konto w tym serwisie

Twój adres e-mail do logowania, Twoja organizacja i dane rozliczeniowe (płatności obsługuje Stripe) podlegają polityce prywatności BiVelio.

Pytania i wnioski dotyczące tych danych: privacy@bivelio.com.