Co opuszcza Twoją infrastrukturę
Ta strona opisuje, jak usługa działa dziś; wiążące są LICENSE i Warunki BiVelio.
Co Oprogramowanie (SDK i lokalny gateway) wysyła do BiVelio, czego nigdy nie wysyła i jak długo BiVelio to przechowuje.
Czego nigdy nie wysyła się do BiVelio
- Treści Twoich żądań i odpowiedzi: promptów, instrukcji systemowych, wiadomości, definicji narzędzi, argumentów i wyników narzędzi, pobranych dokumentów ani wygenerowanych odpowiedzi.
- Danych uwierzytelniających, których używasz u dostawcy LLM: kluczy API, tokenów OAuth ani innych nagłówków autoryzacji.
Ta treść i te dane uwierzytelniające przechodzą wyłącznie między Twoimi systemami a skonfigurowanym dostawcą LLM.
Rekordy użycia
SDK wysyła rekordy użycia tylko wtedy, gdy skonfigurujesz serwer licencji lub adres URL pomiaru; lokalny gateway robi to zawsze. Każda paczka zawiera Twój klucz konta usługi BiVelio, który identyfikuje Twoją organizację, oraz powierzchnię i wersję Oprogramowania w nagłówku x-bvsala-version.
Każdy rekord ogranicza się do poniższych pól. Pobieranie danych w BiVelio odrzuca każdy rekord zawierający pole spoza tej listy.
Identyfikatory
Identyfikator żądania wygenerowany po Twojej stronie (losowo lub przez Twój własny generator). Dla powtórzonego żądania wycenionego przez odniesienie: identyfikator i czas wcześniejszego żądania, którego licznik dostawcy jest używany. Identyfikator stanowiska: wartość, którą ustawiasz sam, albo nieprzejrzysta wartość obliczana na Twojej maszynie jako skrót z kluczem (HMAC), z Twoim kluczem konta usługi jako kluczem, z platformy, architektury procesora, ścieżki pliku wykonywalnego, nazwy hosta, nazwy użytkownika systemu operacyjnego i katalogu domowego; te wartości nigdy nie są wysyłane. Przez lokalny gateway: identyfikatory sesji i podagenta, które Twój agent programistyczny dołącza do własnych żądań (na przykład id sesji Claude Code), tylko gdy są to proste identyfikatory. Wskazówka dotycząca organizacji (BiVelio zawsze ustala Twoją organizację na podstawie klucza). Znacznik runnerów CI lub efemerycznych.
requestIdreferenceRequestIdreferenceAtseatIdsessionIdagentIdorgIdci
Model i czas
Identyfikator modelu, który obsłużył żądanie: modelu wskazanego w żądaniu albo, jeśli Oprogramowanie wysłało żądanie do innego modelu na podstawie włączonego przez Ciebie ustawienia, tego modelu; dla wdrożenia własnego lub w Azure nazwa, którą mu nadałeś. Oraz czas żądania.
modelat
Liczniki
Wykonane i uniknięte wywołania LLM; tokeny wejściowe i wyjściowe przed optymalizacjami Oprogramowania i po nich, w tym tokeny usunięte, skompresowane lub odczytane z pamięci podręcznej dostawcy; oraz wynik pamięci podręcznej.
avoidedLlmactualLlmbaselineInputTokensactualInputTokenseliminatedInputTokenscompressedInputTokensbaselineOutputTokensactualOutputTokensproviderCachedInputTokenscacheResult
Koszt
Wartości kosztów obliczane przez Oprogramowanie z jego katalogu cen lub z dostarczonego przez Ciebie modelu kosztów: koszt bazowy, koszt rzeczywisty, wskaźnik oszczędności netto, podstawa wartości (measured, reference, estimated, shadow lub unmeasured) oraz wartość, po cenie odczytu z pamięci podręcznej dostawcy, tokenów wejściowych, które dostawca zgłosił jako usunięte z kontekstu.
baselineCostactualCostnetSavingsbasiseliminatedInputFloorCost
Opcjonalna weryfikacja (tylko SDK, domyślnie wyłączona)
Jeśli włączysz opcję weryfikacji w SDK, SDK wysyła ponownie do Twojego dostawcy próbkę obsłużonych żądań, bez optymalizacji, i odrzuca tę drugą odpowiedź. Dla każdego żądania z próbki wysyła do BiVelio osobnym kanałem wyłącznie poniższe pola; ten kanał również odrzuca każde inne pole, a nic z tego, co otrzymuje, nie służy do obliczania prowizji.
Każde żądanie z próbki
Etykieta verification, identyfikator i czas żądania; model żądany i model, który odpowiedział; wynik pamięci podręcznej; kategoria żądania i wynik sprawdzenia; tokeny wejściowe, wejściowe z pamięci podręcznej i wyjściowe oraz koszt obsłużonego żądania i niezoptymalizowanej kopii; jak zakończyła się kopia i czy spełniła kontrakt odpowiedzi; oraz zastosowane ceny za token.
basisrequestIdatrequestedModelservedModelcacheResultstratumoutcomeoptimizedInputTokensoptimizedCachedInputTokensoptimizedOutputTokensoptimizedCostnaiveInputTokensnaiveCachedInputTokensnaiveOutputTokensnaiveCostnaiveFinishReasonnaiveContractinputPer1kcachedInputPer1koutputPer1k
Dzienne liczniki
Dla każdego dnia liczba żądań w każdej kategorii, w tym tych wyłączonych ze sprawdzenia.
daycategoryrequests
Każda paczka
Losowy identyfikator paczki, służący do odrzucania duplikatów, oraz dwie powyższe listy.
batchIdsamplescounts
Inne żądania do BiVelio
Oprogramowanie pobiera też swój aktualny token licencji i podpisaną listę unieważnionych licencji, a lokalny gateway pobiera uprawnienia funkcji Twojej organizacji. Te żądania zawierają Twój klucz konta usługi tam, gdzie wymagane jest uwierzytelnienie, i żadnych danych żądań.
Jak każde żądanie HTTPS, wszystko to ujawnia ponadto zwykłe metadane sieciowe, takie jak Twój adres IP.
Co BiVelio przechowuje i jak długo
Pobieranie danych dodaje każdy rekord użycia do sum dziennych: na dzień, na model, na stanowisko i na sesję gatewaya. Pojedyncze wiersze są przechowywane tylko w poniższych miejscach, a codzienne zadanie usuwa każdy wiersz, gdy przekroczy swój termin:
- Identyfikatory żądań, przechowywane do odrzucania zduplikowanych rekordów: 30 dni.
- Powtórzone żądania wycenione przez odniesienie (identyfikatory żądań, model, czas i użyty licznik dostawcy), czyli wiersze pobierane z Twojego wyciągu: 460 dni.
- Próbki weryfikacji i ich dzienne liczniki: 180 dni.
- Identyfikatory paczek weryfikacji: 30 dni.
Sumy dzienne, aktywność stanowisk i Twoje zapieczętowane wyciągi nie mają dziś terminu automatycznego usuwania.
Do czego BiVelio ich używa
Do obsługi licencji i unieważnień, pokazywania Twojego panelu, liczenia używanych stanowisk i obliczania opłat opisanych na stronie z cennikiem.
Twoje konto w tym serwisie
Twój adres e-mail do logowania, Twoja organizacja i dane rozliczeniowe (płatności obsługuje Stripe) podlegają polityce prywatności BiVelio.
Pytania i wnioski dotyczące tych danych: privacy@bivelio.com.