Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Funzionamento di Guardrail per Amazon Bedrock
Guardrail per Amazon Bedrock contribuiscono a garantire la sicurezza delle applicazioni di IA generativa valutando sia gli input degli utenti che le risposte dei modelli.
Puoi configurare i guardrail per le applicazioni in base alle seguenti considerazioni:
-
Un account può avere più guardrail, ciascuno con una configurazione diversa e personalizzato per un caso d’uso specifico.
-
Un guardrail è una combinazione di più policy configurate per prompt e risposte, tra cui: filtri dei contenuti, argomenti negati, filtri per informazioni sensibili, filtri per parole e filtri dei contenuti delle immagini.
-
Un guardrail può essere configurato con una singola policy o una combinazione di più policy.
-
Un guardrail può essere utilizzato con qualsiasi modello di fondazione (FM) facendo riferimento al guardrail durante l’inferenza del modello.
-
Puoi usare i guardrail con Agent per Amazon Bedrock e Knowledge Base per Amazon Bedrock.
Quando si utilizza un guardrail nelle operazioni InvokeModel, InvokeModelWithResponseStream, Converse o ConverseStream, il funzionamento durante la chiamata di inferenza è il seguente. (Il funzionamento dipende dalla configurazione delle policy per la gestione di input e output.)
-
L’input viene valutato rispetto alle policy configurate specificate nel guardrail. Inoltre, per migliorare la latenza, l’input viene valutato in parallelo per ciascuna policy configurata.
-
Se la valutazione dell’input determina un intervento di guardrail, viene restituita una risposta di messaggio bloccato configurata e l’inferenza del modello di fondazione viene ignorata.
-
Se la valutazione dell’input ha esito positivo, la risposta del modello viene successivamente valutata rispetto alle policy configurate nel guardrail.
-
Se la risposta comporta un intervento di guardrail o una violazione, verrà sovrascritta con messaggi bloccati preconfigurati o con il mascheramento delle informazioni sensibili in base alla configurazione della policy.
-
Se la valutazione della risposta ha esito positivo, la risposta viene restituita all’applicazione senza alcuna modifica.
Per ulteriori informazioni sui prezzi di Guardrail per Amazon Bedrock, consulta Prezzi di Amazon Bedrock
Come vengono calcolati i costi per Guardrail per Amazon Bedrock
I costi per Guardrail per Amazon Bedrock vengono addebitati solo per le policy configurate nel guardrail. Il prezzo per ogni tipo di policy è disponibile su Prezzi di Amazon Bedrock
-
Se un guardrail blocca il prompt di input, ti verrà addebitato il costo della valutazione del guardrail. Non sono previsti costi per chiamate di inferenza del modello di fondazione.
-
Se un guardrail blocca la risposta del modello, ti verrà addebitato il costo della valutazione del prompt di input e della risposta del modello da parte del guardrail. In questo caso, vengono addebitate le chiamate di inferenza del modello di fondazione, oltre alla risposta del modello generata prima della valutazione del guardrail.
-
Se un guardrail non blocca il prompt di input e la risposta del modello, verrà addebitato il costo della valutazione del prompt e della risposta del modello da parte del guardrail, oltre al costo dell’inferenza del modello di fondazione.
