Miglioramento della precisione dell’agente utilizzando modelli di prompt avanzati in Amazon Bedrock - Amazon Bedrock
Terminologia

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Miglioramento della precisione dell’agente utilizzando modelli di prompt avanzati in Amazon Bedrock

Dopo la creazione, l’agente viene configurato con i seguenti quattro modelli di prompt di base predefiniti, che descrivono come l’agente crea i prompt da inviare al modello di fondazione in ogni fase della sequenza dell’agente. Per informazioni dettagliate sulle singole fasi, consulta Processo di runtime.

  • Pre-elaborazione

  • Orchestrazione

  • Generazione di risposte della knowledge base

  • Post-elaborazione (disabilitata per impostazione predefinita)

  • Riepilogo della memoria

  • Classificatore di routing

I modelli di prompt definiscono in che modo l’agente esegue le operazioni sotto indicate:

  • Elabora il testo di input dell’utente e i prompt di output dai modelli di fondazione (FM)

  • Esegue l’orchestrazione tra FM, gruppi di operazioni e knowledge base

  • Formatta e restituisce le risposte all’utente

L’utilizzo di prompt avanzati consente di migliorare la precisione dell’agente grazie alla modifica di questi modelli di prompt per fornire configurazioni dettagliate. È inoltre possibile fornire esempi selezionati manualmente per il prompt in pochi passaggi, che permette di migliorare le prestazioni del modello fornendo esempi etichettati per un’attività specifica.

Seleziona un argomento per scoprire di più sui prompt avanzati.

Argomenti

Terminologia dei prompt avanzati

La terminologia seguente è utile per comprendere il funzionamento dei prompt avanzati.

  • Sessione: un gruppo di richieste InvokeAgent effettuate allo stesso agente con il medesimo ID di sessione. Quando effettui una richiesta InvokeAgent, puoi riutilizzare una richiesta sessionId restituita dalla risposta di una chiamata precedente per continuare la stessa sessione con un agente. Finché il tempo idleSessionTTLInSeconds nella configurazione dell’agente non scade, viene mantenuta la stessa sessione con l’agente.

  • Turno: una sola chiamata InvokeAgent. Una sessione consiste in uno o più turni.

  • Iterazione: una sequenza delle seguenti azioni:

    1. (Obbligatorio) Una chiamata al modello di fondazione

    2. (Facoltativo) Un'invocazione del gruppo di operazioni

    3. (Facoltativo) Un'invocazione della knowledge base

    4. (Facoltativo) Una risposta all'utente che richiede ulteriori informazioni

    A seconda della configurazione dell’agente o dei requisiti dell’agente in quel momento, un’azione potrebbe essere ignorata. Un turno consiste in una o più iterazioni.

  • Prompt: un prompt è costituito dalle istruzioni per l'agente, dal contesto e dall'input di testo. L’input di testo può provenire da un utente o dall’output di un’altra fase nella sequenza dell’agente. Il prompt viene fornito al modello di fondazione per determinare il passaggio successivo che l’agente compie per rispondere all’input dell’utente

  • Modello di prompt di base: gli elementi strutturali che compongono un prompt. Il modello è costituito da segnaposti che vengono compilati con l’input dell’utente, la configurazione dell’agente e il contesto in fase di runtime allo scopo di creare un prompt per l’elaborazione del modello di fondazione quando l’agente raggiunge quella fase. Per ulteriori informazioni su questi segnaposto, consulta Utilizzare le variabili segnaposto nei modelli di prompt di Agent per Amazon Bedrock. I prompt avanzati consentono di modificare questi modelli.

  • Riferimento al payload: funzionalità di compressione del prompt che viene utilizzata per la collaborazione multiagente e, per impostazione predefinita, è abilitata per l’agente primario. Contribuisce a ridurre i token di output utilizzati dall’agente primario per comunicare con l’agente secondario o l’utente finale e, di conseguenza, anche i costi. Riduce inoltre le dimensioni della cronologia delle conversazioni se nel prompt sono presenti payload ripetuti.