Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Configurare i prompt avanzati
È possibile configurare i prompt avanzati nell'API AWS Management Console o tramite l'API.
- Console
-
Nella console, è possibile configurare i prompt avanzati dopo aver creato l'agente. La configurazione avviene durante la modifica dell'agente.
Per visualizzare o modificare i prompt avanzati per il tuo agente
-
Accedi a AWS Management Console con un'identità IAM che dispone delle autorizzazioni per utilizzare la console Amazon Bedrock. Quindi, apri la console Amazon Bedrock in https://console.aws.amazon.com/bedrock.
-
Nel riquadro di navigazione a sinistra, scegli Agenti. Quindi scegli un agente nella sezione Agenti.
-
Nella pagina dei dettagli dell'agente, nella sezione Bozza di lavoro, seleziona Bozza di lavoro.
-
Nella pagina Bozza di lavoro, nella sezione Strategia di orchestrazione, scegli Modifica.
-
Nella pagina Strategia di orchestrazione, nella sezione Dettagli della strategia di orchestrazione, assicurati che sia selezionata l'orchestrazione predefinita, quindi scegli la scheda corrispondente alla fase della sequenza di agenti che desideri modificare.
-
Per abilitare la modifica del modello, attiva Ignora i valori predefiniti del modello. Nella finestra di dialogo Ignora i valori predefiniti del modello, scegli Conferma.
avvertimento
Se disattivi le impostazioni predefinite del modello Override o modifichi il modello, viene utilizzato il modello Amazon Bedrock predefinito e il modello verrà immediatamente eliminato. Per confermare, inserisci
confirmnella casella di testo per confermare il messaggio visualizzato. -
Per consentire all'agente di utilizzare il modello durante la generazione delle risposte, attiva Activate template. Se questa configurazione è disattivata, l'agente non utilizza il modello.
-
Per modificare il modello di prompt di esempio, utilizzate l'editor di modelli Prompt.
-
In Configurazioni, è possibile modificare i parametri di inferenza per il prompt. Per le definizioni dei parametri e ulteriori dettagli sui parametri supportati dai diversi modelli, consulta Parametri di richiesta di inferenza e campi di risposta per i modelli di base.
-
(Facoltativo) Per utilizzare una funzione Lambda che hai definito per analizzare l'output del modello di base non elaborato, esegui le seguenti azioni:
Nota
Una funzione Lambda viene utilizzata per tutti i modelli di prompt.
-
Nella sezione Configurazioni, seleziona Usa la funzione Lambda per l'analisi. Se si cancella questa impostazione, l'agente utilizzerà il parser predefinito per il prompt.
-
Per la funzione Parser Lambda, seleziona una funzione Lambda dal menu a discesa.
Nota
È necessario assegnare le autorizzazioni per l'agente in modo che possa accedere alla funzione Lambda. Per ulteriori informazioni, consulta Policy basata sulle risorse per consentire ad Amazon Bedrock di richiamare una funzione Lambda del gruppo di azioni.
-
-
Per salvare le impostazioni, scegli una delle seguenti opzioni:
-
Per rimanere nella stessa finestra in modo da poter aggiornare dinamicamente le impostazioni dei prompt durante il test dell'agente aggiornato, scegli Salva.
-
Per salvare le impostazioni e tornare alla pagina Bozza di lavoro, scegliete Salva ed esci.
-
-
Per testare le impostazioni aggiornate, scegliete Prepara nella finestra Test.
-
- API
-
Per configurare i prompt avanzati utilizzando le operazioni API, si invia una UpdateAgentchiamata e si modifica il seguente oggetto.
promptOverrideConfiguration"promptOverrideConfiguration": { "overrideLambda": "string", "promptConfigurations": [ { "basePromptTemplate": "string", "inferenceConfiguration": { "maximumLength": int, "stopSequences": [ "string" ], "temperature": float, "topK": float, "topP": float }, "parserMode": "DEFAULT | OVERRIDDEN", "promptCreationMode": "DEFAULT | OVERRIDDEN", "promptState": "ENABLED | DISABLED", "promptType": "PRE_PROCESSING | ORCHESTRATION | KNOWLEDGE_BASE_RESPONSE_GENERATION | POST_PROCESSING | MEMORY_SUMMARIZATION" } ], promptCachingState: { cachingState: "ENABLED | DISABLED" } }-
Nell'elenco
promptConfigurations, includi un oggettopromptConfigurationper ogni modello di prompt che desideri modificare. -
Specifica il prompt da modificare nel campo
promptType. -
Modificate il modello di prompt tramite i seguenti passaggi:
-
Specifica i campi
basePromptTemplatecon il modello di prompt. -
Includi i parametri di inferenza negli oggetti
inferenceConfiguration. Per ulteriori informazioni sulle configurazioni dell'inferenza, consulta Parametri di richiesta di inferenza e campi di risposta per i modelli di base.
-
-
Per abilitare il modello di prompt, imposta su.
promptCreationModeOVERRIDDEN -
Per consentire o impedire all'agente di eseguire il passaggio nel
promptTypecampo, modificate ilpromptStatevalore. Questa impostazione può essere utile per la risoluzione dei problemi relativi al comportamento dell'agente.-
Se si imposta su
promptStateDISABLEDper iPOST_PROCESSINGpassaggiPRE_PROCESSINGKNOWLEDGE_BASE_RESPONSE_GENERATION, o,, l'agente salta quel passaggio. -
Se si imposta su
promptStateDISABLEDper ilORCHESTRATIONpassaggio, l'agente invia solo l'input dell'utente al modello di base in fase di orchestrazione. Inoltre, l'agente restituisce la risposta così com'è senza orchestrare le chiamate tra le operazioni API e le knowledge base. -
Per impostazione predefinita, il
POST_PROCESSINGpassaggio è.DISABLEDPer impostazione predefinitaPRE_PROCESSING, iKNOWLEDGE_BASE_RESPONSE_GENERATIONpassaggiORCHESTRATION, e sonoENABLED. -
Per impostazione predefinita, il
MEMORY_SUMMARIZATIONpassaggio èENABLEDse la memoria è abilitata e ilMEMORY_SUMMARIZATIONpassaggio èDISABLEDse la memoria è disabilitata.
-
-
Per utilizzare una funzione Lambda che hai definito per analizzare l'output del modello di base non elaborato, esegui i seguenti passaggi:
-
Per ogni modello di prompt per cui desideri abilitare la funzione Lambda,
parserModeimposta su.OVERRIDDEN -
Specificare l'Amazon Resource Name (ARN) della funzione Lambda nel
overrideLambdacampo dell'oggetto.promptOverrideConfiguration
-
-