Usa sessioni isolate per gli agenti

Amazon Bedrock AgentCore Runtime consente di isolare ogni sessione utente e riutilizzare il contesto in modo sicuro tra più chiamate in una sessione utente. L'isolamento delle sessioni è fondamentale per i carichi di lavoro degli agenti AI a causa delle loro caratteristiche operative uniche:

Comprendere il contesto effimero

Per impostazione predefinita, l'elaborazione (microVM) associata a una sessione è effimera. Tutti i dati archiviati in memoria o scritti su disco persistono solo per il ciclo di vita dell'elaborazione. Ciò include la cronologia delle conversazioni, le preferenze dell'utente, i risultati di calcolo intermedi e qualsiasi altra informazione sullo stato conservata dall'agente.

Per rendere persistenti i dati del file system tra i stop/resume cicli di sessione, configura l'archiviazione delle sessioni, una directory persistente che sopravvive alla terminazione del calcolo. Vedi Configurazioni del AgentCore file system per Runtime.

Per i dati strutturati che devono essere conservati oltre la durata della sessione (come la cronologia delle conversazioni degli utenti, le preferenze acquisite o informazioni importanti), usa AgentCore Memory. Questo servizio fornisce uno storage persistente appositamente progettato per i carichi di lavoro degli agenti, con funzionalità di memoria sia a breve che a lungo termine.

Conversazioni estese e flussi di lavoro in più fasi

A differenza delle tradizionali funzioni serverless che terminano dopo ogni richiesta, AgentCore supporta sessioni isolate supportate da calcoli temporanei della durata massima di 8 ore per ciclo di vita. Ciò semplifica la creazione di flussi di lavoro agentici in più fasi in quanto è possibile effettuare più chiamate allo stesso ambiente, con ogni chiamata basata sul contesto stabilito dalle interazioni precedenti. È possibile utilizzare sia InvokeAgentRuntime per il ragionamento degli agenti che per l'esecuzione deterministica dei comandi shell all'interno della InvokeAgentRuntimeCommand stessa sessione.

AgentCore Ciclo di vita della sessione di runtime

Creazione di sessioni

Alla prima chiamata viene creata una nuova sessione con un runtime univoco SessionId fornito dall'applicazione. AgentCore Runtime fornisce un ambiente di esecuzione dedicato (microVM) per ogni sessione. Il contesto viene preservato tra le chiamate alla stessa sessione. Entrambi InvokeAgentRuntime InvokeAgentRuntimeCommand funzionano sulla stessa sessione: un comando vede lo stesso contenitore, filesystem e ambiente dell'agente.

Stati della sessione

Lo stato della sessione è determinato dal ciclo di vita dell'elaborazione e può essere uno dei seguenti:

Come usare le sessioni

Per utilizzare le sessioni in modo efficace:

Esempio di utilizzo delle sessioni per una conversazione

# First message in a conversation

response1 = agent_core_client.InvokeAgentRuntime(
   agentRuntimeArn=agent_arn,
   runtimeSessionId="user-123456-conversation-12345678", # or uuid.uuid4()
   payload=json.dumps({"prompt": "Tell me about AWS"}).encode()
)

# Follow-up message in the same conversation reuses the runtimeSessionId.

response2 = agent_core_client.InvokeAgentRuntime(
   agentRuntimeArn=agent_arn,
   runtimeSessionId="user-123456-conversation-12345678", # or uuid.uuid4()
   payload=json.dumps({"prompt": "How does it compare to other cloud providers"}).encode()
)

Utilizzando lo stesso runtime SessionId per le chiamate correlate, vi assicurate che il contesto venga mantenuto per tutta la conversazione, permettendo all'agente di fornire risposte coerenti basate sulle interazioni precedenti.

Intestazioni di sessione per protocollo

Quando richiami gli agenti, includi l'intestazione di sessione appropriata per garantire che le richieste vengano instradate alla stessa microVM. L'intestazione dipende dal protocollo configurato dall'agente:

Viscosità microVM: Amazon Bedrock AgentCore utilizza l'intestazione della sessione per indirizzare le richieste alla stessa istanza MicroVM. I client devono acquisire l'ID di sessione restituito nella risposta e includerlo in tutte le richieste successive per garantire l'affinità della sessione. Senza un ID di sessione coerente, ogni richiesta può essere indirizzata a una nuova microVM, il che può comportare una latenza aggiuntiva dovuta agli avvii a freddo.

Per le specifiche del protocollo MCP, incluse le modalità stateless e stateful, consulta Gestione delle sessioni MCP e rigidità delle microVM.