Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Usa l' InvokeGuardrailChecks API nella tua applicazione
Con l'InvokeGuardrailChecksAPI, puoi valutare le richieste degli utenti e modellare le risposte con protezioni specifiche come filtri dei contenuti, rilevamento tempestivo degli attacchi e filtri per le informazioni sensibili in qualsiasi momento dell'applicazione senza creare risorse guardrail individuali. Puoi utilizzare questa API in varie applicazioni, compresi i flussi di lavoro di intelligenza artificiale agentici che prevedono conversazioni a turni in cui è richiesta la valutazione dei contenuti per ogni turno. L'API è di sola rilevazione: rileva i contenuti indesiderati e restituisce un punteggio numerico per ogni controllo di sicurezza, in modo da poter definire la soglia e intraprendere l'azione richiesta all'interno della logica dell'applicazione. Con questi punteggi, è possibile creare una logica di risposta adattiva, ad esempio block, bypass, retry o route for human review, in base alla soglia personalizzata e ai requisiti dell'applicazione.
Caratteristiche dell'API: InvokeGuardrailChecks
-
Flessibilità: puoi richiamare qualsiasi controllo di sicurezza con l'
InvokeGuardrailChecksAPI e integrarlo ovunque nell'applicazione. È possibile richiamare l'API per eseguire qualsiasi controllo di sicurezza prima di inviare un prompt all'LLM, dopo aver ricevuto la risposta dall'LLM, prima di eseguire uno strumento che il modello desidera chiamare, dopo che uno strumento ha restituito un risultato o in qualsiasi altro momento in cui si desidera valutare il contenuto. Ad esempio, potresti includere il rilevamento tempestivo degli attacchi per un prompt di input insieme alla moderazione dei contenuti con filtri di contenuto, ma verificare la presenza di fughe di informazioni sensibili come i contenuti PII con risposte del modello. -
Non è necessario creare risorse in anticipo: non è necessario creare una risorsa guardrail prima di invocare le protezioni richieste con l'API. Non è necessario includere un
CreateGuardrailpassaggio e non è necessario tenere traccia degli ID o delle versioni individuali del guardrail. Ciò è particolarmente utile per i flussi di lavoro di intelligenza artificiale agentica in cui fasi diverse richiedono posizioni di sicurezza diverse. È possibile applicare protezioni individuali in fasi diverse senza creare risorse di protezione in ogni fase, il che evita il sovraccarico operativo. -
Detect-only— L'
InvokeGuardrailChecksAPI restituisce i risultati di ogni controllo di sicurezza con un punteggio numerico compreso tra 0 e 1. L'API non blocca, trasmette o oscura i contenuti. Sei tu a decidere l'azione richiesta in base ai requisiti dell'applicazione, ad esempio bloccare i contenuti, oscurare una corrispondenza con dati PII o visualizzare un avviso. -
Protezioni supportate: l'
InvokeGuardrailChecksAPI supporta le seguenti protezioni offerte da Amazon Bedrock Guardrails:-
Bloccare parole e conversazioni dannose con i filtri dei contenuti
-
Rilevare attacchi tramite prompt con Guardrail per Amazon Bedrock— Il rilevamento tempestivo degli attacchi viene offerto come protezione separata al di fuori dei filtri di contenuto per l'API.
InvokeGuardrailChecksSi tratta di una soluzione diversa dall'ApplyGuardrailAPI, in cui il controllo di sicurezza degli attacchi tempestivi è incluso come parte dei filtri dei contenuti.
-
Argomenti
Regioni supportate
L'InvokeGuardrailChecksAPI è disponibile nelle seguenti AWS regioni:
Stati Uniti orientali (Virginia settentrionale)
Stati Uniti orientali (Ohio)
Stati Uniti occidentali (Oregon)
Europa (Londra)
Europa (Stoccolma)
Asia Pacifico (Tokyo)
Asia Pacifico (Sydney)
