Utilizzare il guardrail con operazioni di inferenza per valutare l’input dell’utente

È possibile utilizzare i guardrail con le operazioni di inferenza di base InvokeModel e InvokeModelWithResponseStream (streaming). Questa sezione spiega come valutare selettivamente l’input dell’utente e come configurare il comportamento di risposta in streaming. Si noti che per le applicazioni conversazionali si possono ottenere gli stessi risultati con l’API Converse.

Per un esempio di codice che richiama le operazioni di inferenza di base, consulta Invia una sola richiesta con InvokeModel. Per informazioni sull’utilizzo di un guardrail con le operazioni di inferenza di base, segui i passaggi nella scheda API di Testare il guardrail.