Savings Layer fa parte della piattaforma BiVelio
Privacy

Cosa esce dalla tua infrastruttura

Questa pagina descrive come funziona il servizio oggi; prevalgono la LICENSE e i Termini di BiVelio.

Che cosa invia il Software (l'SDK e il gateway locale) a BiVelio, che cosa non invia mai e per quanto tempo BiVelio lo conserva.

Cosa non viene mai inviato a BiVelio

  • Il contenuto delle tue richieste e risposte: prompt, istruzioni di sistema, messaggi, definizioni degli strumenti, argomenti e risultati degli strumenti, documenti recuperati e risposte generate.
  • Le credenziali che usi con il tuo provider di LLM: chiavi API, token OAuth o altri header di autorizzazione.

Quel contenuto e quelle credenziali viaggiano solo tra i tuoi sistemi e il provider di LLM che configuri.

Record di utilizzo

L'SDK invia record di utilizzo solo se configuri un server delle licenze o un URL di misurazione; il gateway locale, sempre. Ogni lotto porta la tua chiave di account di servizio di BiVelio, che identifica la tua organizzazione, e la superficie e la versione del Software nell'header x-bvsala-version.

Ogni record è limitato ai campi qui sotto. L'ingestione di BiVelio rifiuta qualsiasi record che contenga un campo non presente in questo elenco.

Identificativi

Un identificativo di richiesta generato dalla tua parte (a caso, o dal tuo generatore). Per una richiesta ripetuta valorizzata per riferimento, l'identificativo e l'istante della richiesta precedente di cui si usa il contatore del provider. Un identificativo di postazione: un valore che imposti tu, oppure un valore opaco calcolato sulla tua macchina come hash con chiave (HMAC), con la tua chiave di account di servizio come chiave, a partire da piattaforma, architettura della CPU, percorso dell'eseguibile, nome host, nome utente del sistema operativo e directory home; questi valori non vengono mai inviati. Tramite il gateway locale, gli identificativi di sessione e di sotto-agente che il tuo agente di programmazione aggiunge alle proprie richieste (per esempio l'id di sessione di Claude Code), solo quando sono identificativi semplici. Un indizio sull'organizzazione (BiVelio ricava sempre la tua organizzazione dalla chiave). Un indicatore per i runner CI o effimeri.

  • requestId
  • referenceRequestId
  • referenceAt
  • seatId
  • sessionId
  • agentId
  • orgId
  • ci

Modello e istante

L'identificativo del modello che ha risposto alla richiesta: quello indicato nella richiesta oppure, se il Software l'ha inviata a un altro modello per un'impostazione che hai attivato, quest'ultimo; per un deployment self-hosted o Azure, il nome che gli hai dato. E l'istante della richiesta.

  • model
  • at

Conteggi

Chiamate al LLM eseguite ed evitate; token di input e di output prima e dopo le ottimizzazioni del Software, inclusi i token rimossi, compressi o letti dalla cache del provider; e l'esito della cache.

  • avoidedLlm
  • actualLlm
  • baselineInputTokens
  • actualInputTokens
  • eliminatedInputTokens
  • compressedInputTokens
  • baselineOutputTokens
  • actualOutputTokens
  • providerCachedInputTokens
  • cacheResult

Costo

Cifre di costo calcolate dal Software con il suo catalogo prezzi o con un modello di costo che fornisci tu: costo di riferimento, costo effettivo, il rapporto di risparmio netto, la base delle cifre (measured, reference, estimated, shadow o unmeasured) e il valore, al prezzo di lettura della cache del provider, dei token di input che il tuo provider ha dichiarato rimossi dal contesto.

  • baselineCost
  • actualCost
  • netSavings
  • basis
  • eliminatedInputFloorCost

Verifica facoltativa (solo SDK, disattivata per impostazione predefinita)

Se attivi l'opzione di verifica dell'SDK, l'SDK rimanda al tuo stesso provider un campione delle richieste che ha servito, senza ottimizzazione, e scarta quella seconda risposta. Per ogni richiesta del campione invia a BiVelio, attraverso un canale separato, solo i campi qui sotto; anche quel canale rifiuta qualsiasi altro campo, e nulla di ciò che riceve viene usato per calcolare la commissione.

Ogni richiesta del campione

L'etichetta verification, l'identificativo e l'istante della richiesta; il modello richiesto e quello che ha risposto; l'esito della cache; la categoria della richiesta e l'esito del controllo; i token di input, di input in cache e di output e il costo della richiesta servita e della copia non ottimizzata; come è terminata la copia e se ha rispettato il contratto di risposta; e i prezzi per token applicati.

  • basis
  • requestId
  • at
  • requestedModel
  • servedModel
  • cacheResult
  • stratum
  • outcome
  • optimizedInputTokens
  • optimizedCachedInputTokens
  • optimizedOutputTokens
  • optimizedCost
  • naiveInputTokens
  • naiveCachedInputTokens
  • naiveOutputTokens
  • naiveCost
  • naiveFinishReason
  • naiveContract
  • inputPer1k
  • cachedInputPer1k
  • outputPer1k

Conteggi giornalieri

Per ogni giorno, il numero di richieste di ciascuna categoria, incluse quelle escluse dal controllo.

  • day
  • category
  • requests

Ogni lotto

Un identificativo di lotto casuale, per scartare i duplicati, e i due elenchi precedenti.

  • batchId
  • samples
  • counts

Altre richieste a BiVelio

Il Software scarica anche il proprio token di licenza in vigore e l'elenco firmato delle licenze revocate, e il gateway locale scarica le funzionalità abilitate per la tua organizzazione. Queste richieste portano la tua chiave di account di servizio quando serve l'autenticazione, e nessun dato delle richieste.

Come qualsiasi richiesta HTTPS, tutto ciò rivela inoltre i normali metadati di rete, come il tuo indirizzo IP.

Cosa conserva BiVelio, e per quanto tempo

L'ingestione somma ogni record di utilizzo a totali giornalieri: per giorno, per modello, per postazione e per sessione del gateway. Le singole righe si conservano solo nei punti qui sotto, e un'attività giornaliera cancella ogni riga quando supera il suo termine:

  • Identificativi di richiesta, conservati per scartare record duplicati: 30 giorni.
  • Richieste ripetute valorizzate per riferimento (identificativi di richiesta, modello, istante e contatore del provider usato), le righe dietro il download del tuo estratto: 460 giorni.
  • Campioni di verifica e i loro conteggi giornalieri: 180 giorni.
  • Identificativi di lotto della verifica: 30 giorni.

I totali giornalieri, l'attività per postazione e i tuoi estratti sigillati oggi non hanno un termine di cancellazione automatica.

A cosa serve a BiVelio

A gestire licenze e revoche, mostrarti la dashboard, contare le postazioni in uso e calcolare le tariffe descritte nella pagina dei prezzi.

Il tuo account su questo sito

La tua e-mail di accesso, la tua organizzazione e i tuoi dati di fatturazione (i pagamenti sono gestiti da Stripe) rientrano nella informativa sulla privacy di BiVelio.

Domande e richieste su questi dati: privacy@bivelio.com.