Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Configurare prompt avanzati
Puoi configurare prompt avanzati nella Console di gestione AWS o tramite l’API.
- Console
-
Nella console, è possibile configurare i prompt avanzati dopo aver creato l'agente. La configurazione avviene durante la modifica dell'agente.
Per visualizzare o modificare i prompt avanzati per il tuo agente
-
Accedi alla Console di gestione AWS con un’identità IAM che disponga delle autorizzazioni per utilizzare la console Amazon Bedrock. Quindi, apri la console Amazon Bedrock all’indirizzo https://console.aws.amazon.com/bedrock
. -
Nel riquadro di navigazione a sinistra, seleziona Agenti. Quindi, scegli un agente nella sezione Agenti.
-
Nella sezione Bozza di lavoro della pagina dei dettagli dell’agente, seleziona Bozza di lavoro.
-
Nella pagina Bozza di lavoro, nella sezione Strategia di orchestrazione, scegli Modifica.
-
Nella pagina Strategia di orchestrazione, nella sezione Dettagli della strategia di orchestrazione, assicurati che sia selezionata l’opzione Orchestrazione predefinita, quindi scegli la scheda corrispondente alla fase della sequenza di agenti che desideri modificare.
-
Attiva Ignora impostazioni predefinite del modello per abilitare la modifica del modello. Nella finestra di dialogo Ignora impostazioni predefinite del modello scegli Conferma.
avvertimento
Se disattivi Ignora impostazioni predefinite del modello o modifichi il modello, viene utilizzato il modello Amazon Bedrock predefinito e il modello viene immediatamente eliminato. Per confermare, inserisci
confirmnella casella di testo per confermare il messaggio visualizzato. -
Abilita Attiva modello per consentirne l’utilizzo da parte dell’agente durante la generazione delle risposte. Se questa configurazione è disattivata, l’agente non lo utilizza.
-
Utilizza Editor di modelli di prompt per modificare il modello di prompt di esempio.
-
In Configurazioni, è possibile modificare i parametri di inferenza per il prompt. Per le definizioni dei parametri e ulteriori dettagli sui parametri supportati dai diversi modelli, consulta Parametri di richiesta di inferenza e campi di risposta per i modelli di fondazione.
-
(Facoltativo) Per utilizzare una funzione Lambda che hai definito per analizzare l’output del modello di fondazione non elaborato, esegui queste azioni:
Nota
Una funzione Lambda viene utilizzata per tutti i modelli di prompt.
-
Nella sezione Configurazioni seleziona Usa la funzione Lambda per l’analisi. Se disattivi questa impostazione, il tuo agente utilizza il parser predefinito per il prompt.
-
Per Funzione Parser Lambda, seleziona una funzione Lambda dal menu a discesa.
Nota
È necessario collegare autorizzazioni per consentire a un agente di accedere alla funzione Lambda. Per ulteriori informazioni, consulta Policy basata sulle risorse per consentire ad Amazon Bedrock di invocare una funzione Lambda del gruppo di operazioni.
-
-
Per salvare le impostazioni, scegli una delle seguenti opzioni:
-
Per rimanere nella stessa finestra in modo da poter aggiornare dinamicamente le impostazioni dei prompt durante il test dell’agente aggiornato, scegli Salva.
-
Per salvare le impostazioni e tornare alla pagina Bozza di lavoro, scegli Salva ed esci.
-
-
Per testare le impostazioni aggiornate, scegli Prepara nella finestra Test.
-
- API
-
Per configurare prompt avanzati tramite operazioni API, invia una chiamata UpdateAgent e modifica il seguente oggetto
promptOverrideConfiguration."promptOverrideConfiguration": { "overrideLambda": "string", "promptConfigurations": [ { "basePromptTemplate": "string", "inferenceConfiguration": { "maximumLength": int, "stopSequences": [ "string" ], "temperature": float, "topK": float, "topP": float }, "parserMode": "DEFAULT | OVERRIDDEN", "promptCreationMode": "DEFAULT | OVERRIDDEN", "promptState": "ENABLED | DISABLED", "promptType": "PRE_PROCESSING | ORCHESTRATION | KNOWLEDGE_BASE_RESPONSE_GENERATION | POST_PROCESSING | MEMORY_SUMMARIZATION" } ], promptCachingState: { cachingState: "ENABLED | DISABLED" } }-
Nell'elenco
promptConfigurations, includi un oggettopromptConfigurationper ogni modello di prompt che desideri modificare. -
Specifica il prompt da modificare nel campo
promptType. -
Per modificare il modello di prompt, attieniti alla seguente procedura:
-
Specifica i campi
basePromptTemplatecon il modello di prompt. -
Includi i parametri di inferenza negli oggetti
inferenceConfiguration. Per ulteriori informazioni sulle configurazioni dell'inferenza, consulta Parametri di richiesta di inferenza e campi di risposta per i modelli di fondazione.
-
-
Per abilitare il modello di prompt, imposta
promptCreationModesuOVERRIDDEN. -
Per consentire o impedire all’agente di eseguire la fase nel campo
promptType, modifica il valorepromptState. Questa impostazione può essere utile per la risoluzione dei problemi del comportamento dell’agente.-
Se imposti
promptStatesuDISABLEDper le fasiPRE_PROCESSING,KNOWLEDGE_BASE_RESPONSE_GENERATIONoPOST_PROCESSING, l’agente ignora tale fase. -
Se imposti
promptStatesuDISABLEDper la faseORCHESTRATION, l’agente invia solo l’input dell’utente al modello di fondazione nell’orchestrazione. Inoltre, l’agente restituisce la risposta così com’è senza eseguire l’orchestrazione delle chiamate tra le operazioni API e le knowledge base. -
Per impostazione predefinita, la fase
POST_PROCESSINGèDISABLED. Per impostazione predefinita, le fasiPRE_PROCESSING,ORCHESTRATIONeKNOWLEDGE_BASE_RESPONSE_GENERATIONsonoENABLED. -
Per impostazione predefinita, la fase
MEMORY_SUMMARIZATIONèENABLEDse la memoria è abilitata e la faseMEMORY_SUMMARIZATIONèDISABLEDse la memoria è disabilitata.
-
-
Per utilizzare una funzione Lambda che hai definito per analizzare l’output del modello di fondazione non elaborato, attieniti alla seguente procedura:
-
Per ogni modello di prompt per cui desideri abilitare la funzione Lambda, imposta
parserModesuOVERRIDDEN. -
Specifica il nome della risorsa Amazon (ARN) della funzione Lambda nel campo
overrideLambdadell’oggettopromptOverrideConfiguration.
-
-