View a markdown version of this page

MicroVMS - Fondamento Amazon AgentCore
Componenti chiaveVersioni della piattaformaAutenticazione e sicurezzaFunzionalità aggiuntivePanoramica dell'implementazione

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

MicroVMS

Amazon Bedrock AgentCore Runtime gestisce il ridimensionamento, la gestione delle sessioni, l'isolamento della sicurezza e la gestione dell'infrastruttura, consentendoti di concentrarti sulla creazione di esperienze intelligenti per gli agenti piuttosto che sulla complessità operativa. Sfruttando le caratteristiche e le funzionalità qui descritte, puoi creare, distribuire e gestire sofisticati agenti di intelligenza artificiale che offrono valore ai tuoi utenti contribuendo al contempo a mantenere sicurezza e affidabilità di livello aziendale.

Componenti chiave

AgentCore Runtime

Un AgentCore Runtime è il componente fondamentale che ospita il codice dell'agente o dello strumento AI. Rappresenta un'applicazione containerizzata che elabora gli input degli utenti, mantiene il contesto ed esegue azioni utilizzando le funzionalità di intelligenza artificiale. Quando crei un agente, ne definisci il comportamento, le funzionalità e gli strumenti a cui può accedere. Ad esempio, un agente dell'assistenza clienti potrebbe rispondere alle domande sui prodotti, elaborare i resi e inoltrare problemi complessi ai rappresentanti umani.

Puoi creare e distribuire agenti su AgentCore Runtime utilizzando la AgentCore CLI, l'SDK AgentCore Python o direttamente tramite gli SDK. AWS Con AgentCore Python SDK, puoi definire il tuo agente utilizzando framework Usa qualsiasi framework di agenti popolari come CrewAI o Strands Agents. LangGraph L'SDK gestisce le complessità dell'infrastruttura, consentendoti di concentrarti sulla logica e sulle capacità dell'agente.

Ogni runtime AgentCore :

  • Ha un'identità univoca

  • È dotato di una versione per supportare la distribuzione e gli aggiornamenti controllati

Versioni

Ogni AgentCore Runtime mantiene versioni immutabili che acquisiscono un'istantanea completa della configurazione in un momento specifico:

  • Quando si crea un AgentCore Runtime, viene creata automaticamente la versione 1 (V1)

  • Ogni aggiornamento della configurazione (immagine del contenitore, impostazioni del protocollo, impostazioni di rete) crea una nuova versione

  • Ogni versione contiene tutta la configurazione necessaria per l'esecuzione

Questo sistema di controllo delle versioni fornisce una cronologia di distribuzione affidabile e funzionalità di rollback.

Endpoints

Gli endpoint forniscono punti di accesso indirizzabili a versioni specifiche del Runtime. AgentCore Ogni endpoint:

  • Ha un ARN univoco per l'invocazione

  • Fa riferimento a una versione specifica dell'Agent Runtime

  • Fornisce un accesso stabile all'agente anche durante l'aggiornamento delle implementazioni

Dettagli chiave degli endpoint:

  • L'endpoint «DEFAULT» viene creato automaticamente quando si chiama CreateAgentRuntime e punta alla versione più recente

  • Quando aggiorni il tuo AgentCore Runtime, viene creata una nuova versione ma l'DEFAULTendpoint si aggiorna automaticamente per farvi riferimento

  • È possibile creare endpoint personalizzati con l'CreateAgentRuntimeEndpointoperazione per diversi ambienti (dev, test, prod)

  • Quando un utente effettua una richiesta a un endpoint, la richiesta viene risolta nella versione specifica dell'agente a cui fa riferimento quell'endpoint

Gli endpoint hanno stati del ciclo di vita distinti:

  • CREATING- Stato iniziale durante la creazione degli endpoint

  • CREATE_FAILED- Indica un errore di creazione dovuto a autorizzazioni o altri problemi

  • READY- L'endpoint è operativo e accetta richieste

  • UPDATING- L'endpoint è stato modificato per fare riferimento a una nuova versione

  • UPDATE_FAILED- Indica un errore nell'operazione di aggiornamento

È possibile aggiornare gli endpoint senza tempi di inattività, consentendo transizioni e rollback delle versioni senza interruzioni.

Sessioni

Le sessioni rappresentano contesti di interazione individuali tra gli utenti e il tuo Runtime. AgentCore Ogni sessione:

  • È identificato da un codice univoco runtimeSessionId fornito dall'applicazione o dal Runtime stesso nella prima chiamata se runtimeSessionId viene lasciato vuoto

  • Viene eseguito in una microVM dedicata con risorse di CPU, memoria e file system completamente isolate

  • Preserva il contesto tra più interazioni all'interno della stessa conversazione

  • Può durare fino a 8 ore di autonomia totale

Gli stati della sessione includono:

  • Attivo: sta elaborando una richiesta o eseguendo attività in background

  • Inattivo: non elabora alcuna richiesta ma mantiene il contesto in attesa della successiva interazione

  • Terminata: la sessione è terminata per inattività (15 minuti), per aver raggiunto la durata massima (8 ore) o per essere stata ritenuta non sana

Caratteristiche importanti della sessione:

  • Al termine della sessione, l'intera MicroVM viene terminata e la memoria viene disinfettata

  • Una richiesta successiva con la stessa runtimeSessionId dopo la conclusione creerà un nuovo ambiente di esecuzione

  • L'isolamento delle sessioni impedisce la contaminazione dei dati tra sessioni e garantisce la sicurezza

  • Lo stato della sessione è effimero e non deve essere utilizzato per una durata a lungo termine (usa la AgentCore memoria per la durata del contesto)

Questo completo isolamento tra le sessioni è fondamentale per la sicurezza aziendale, in particolare quando si tratta di processi di intelligenza artificiale non deterministici.

Versioni della piattaforma

Una versione della piattaforma controlla il modo in cui AgentCore Runtime avvia l'agente. Lo imposti con il platformVersion campo (V1oV2) sul runtime di ogni agente. V1 è l'impostazione predefinita. La versione della piattaforma si applica al runtime dell'agente stesso; è separata dalle versioni di runtime che registrano la cronologia delle configurazioni.

Amazon Bedrock AgentCore Runtime V2 avvia l'agente da un'istantanea, garantendo così avviamenti a freddo rapidi e coerenti indipendentemente dalla concorrenza o dalle dimensioni dell'immagine. AgentCore Runtime prepara l'ambiente una volta e ne scatta un'istantanea, quindi ripristina l'istantanea per ogni nuova istanza invece di inizializzare l'ambiente a ogni avvio.

Avviamenti a freddo costanti

La V2 mantiene costante la latenza di avvio a freddo indipendentemente dalla concorrenza o dalle dimensioni dell'immagine, poiché ogni istanza ripristina un'istantanea preparata anziché inizializzare l'ambiente. Ciò è particolarmente importante per le immagini di container di grandi dimensioni, che altrimenti si caricano lentamente ad ogni avvio a freddo.

Costo inferiore per agenti sempre attivi o in modalità burst

Le tariffe V2 si basano su ciò che l'agente utilizza attivamente. AgentCore Il runtime recupera la memoria non appena l'agente la rilascia e riduce il sovraccarico della piattaforma.

Nota

Il ripristino da un'istantanea modifica il modo in cui strutturate il codice dell'agente. Per scoprire come ottimizzare il tuo agente e ottenere il massimo dalla versione V2 della piattaforma, vedi Ottimizzare il tuo agente per AgentCore Runtime V2.

Regioni supportate

La V2 è disponibile nelle seguenti regioni: AWS

  • Stati Uniti orientali (Virginia settentrionale), us-east-1

  • Stati Uniti orientali (Ohio), us-east-2

  • Stati Uniti occidentali (Oregon), us-west-2

  • Europa (Irlanda), eu-west-1

  • Asia Pacifico (Tokyo), ap-northeast-1

Abilita V2

È possibile impostare la versione della piattaforma per ogni runtime dell'agente. La imposti quando crei un runtime o aggiorni un runtime esistente per spostarlo tra le versioni della piattaforma. Se si omette platformVersion quando si crea un runtime, il runtime utilizza V1. Se lo ometti quando aggiorni un runtime, il runtime mantiene la versione corrente della piattaforma.

Esempio
AWS Management Console

  1. Apri la AgentCore console Amazon Bedrock e scegli Runtime.

  2. Nella pagina Runtime, scegli Crea runtime.

  3. Inserisci un nome per l'agente o lo strumento.

  4. Per il tipo di elaborazione, scegli MicroVMS.

  5. In Agent/tool Source, scegli il tipo di sorgente e fornisci l'artefatto, ad esempio l'URI di un'immagine del contenitore o il tuo codice.

  6. Per la versione della piattaforma, scegli V2.

  7. (Facoltativo) Configura l'autenticazione in entrata, le configurazioni avanzate e le autorizzazioni , come il ruolo di esecuzione IAM e la chiave di crittografia KMS.

  8. Scegli Crea runtime. AgentCore crea la versione 1 del runtime dell'agente e un DEFAULT endpoint che punta ad essa.

AWS CLI

  1. Impostato --platform-version V2 sul create-agent-runtime comando.

    aws bedrock-agentcore-control create-agent-runtime \
  --agent-runtime-name "my-agent" \
  --role-arn "arn:aws:iam::111122223333:role/AgentExecutionRole" \
  --agent-runtime-artifact '{
    "containerConfiguration": {
      "containerUri": "111122223333.dkr.ecr.us-west-2.amazonaws.com/my-agent:latest"
    }
  }' \
  --network-configuration '{"networkMode": "PUBLIC"}' \
  --platform-version V2

  2. Per confermare la versione della piattaforma, chiamaget-agent-runtime.

    aws bedrock-agentcore-control get-agent-runtime \
  --agent-runtime-id my-agent-ABCDE12345 \
  --query platformVersion
AWS SDK

  1. L'esempio seguente utilizza boto3 per creare un runtime dell'agente su V2.

    import boto3

client = boto3.client("bedrock-agentcore-control", region_name="us-west-2")

client.create_agent_runtime(
    agentRuntimeName="my-agent",
    roleArn="arn:aws:iam::111122223333:role/AgentExecutionRole",
    agentRuntimeArtifact={
        "containerConfiguration": {
            "containerUri": "111122223333.dkr.ecr.us-west-2.amazonaws.com/my-agent:latest"
        }
    },
    networkConfiguration={"networkMode": "PUBLIC"},
    platformVersion="V2",
)

  2. La create_agent_runtime risposta non viene restituita. platformVersion Chiama get_agent_runtime per confermarlo.

Cosa aspettarsi

Un'operazione di creazione o aggiornamento della V2 prepara e crea istantanee dell'ambiente, quindi si comporta diversamente dalla V1.

La creazione e l'aggiornamento richiedono pochi minuti

Nella versione V1, il tempo di esecuzione si esaurisce READY in pochi secondi. In V2, la preparazione dell'istantanea comporta un costo una tantum e la creazione e l'aggiornamento vengono eseguiti per diversi minuti prima che il tempo di esecuzione raggiunga il termine del tempo di esecuzione. READY

Il container deve risultare integro entro 120 secondi

AgentCore Runtime scatta l'istantanea della prima /ping risposta integra. Segnala l'integrità /ping solo dopo il completamento dell'inizializzazione, in modo che l'istantanea acquisisca un agente completamente inizializzato. Se il runtime non riporta lo stato di integrità entro 120 secondi dall'avvio, la creazione non riesce e viene visualizzato un errore di controllo dello stato.

Esegui un sondaggio per verificare lo stato del terminale

Le update operazioni create and vengono restituite mentre il runtime è fermo CREATING oUPDATING. Se si chiama update o delete prima che il runtime raggiunga lo stato del terminale, l'operazione ritornaConflictException. Effettua il polling get_agent_runtime finché lo stato non scade READY o termina e attendi alcuni minuti per raggiungere il runtime V2. FAILED READY

import time

def wait_until_ready(client, agent_runtime_id):
    while True:
        status = client.get_agent_runtime(agentRuntimeId=agent_runtime_id)["status"]
        if status == "READY" or status.endswith("FAILED"):
            return status
        time.sleep(5)
Nota

La V2 attualmente limita la dimensione totale delle variabili di ambiente dell'agente a 1,5 KB per le distribuzioni dirette di codice e 2,5 KB per gli agenti container, rispetto ai 4 KB della V1. Se la configurazione supera questo limite, la richiesta ha esito negativo con un. ValidationException AgentCore Runtime aumenterà questo limite in modo che corrisponda a V1.

Ciclo di vita dell'istantanea

In V2, AgentCore Runtime gestisce un'istantanea per ogni versione di runtime a cui punta un endpoint. Non si creano o si eliminano istantanee direttamente. Seguono le modifiche apportate al runtime e agli endpoint.

Creato

AgentCore Runtime prepara un'istantanea quando un endpoint punta a una versione. Quando si crea un AgentCore runtime, Runtime ospita la versione sull'endpoint predefinito e ne prepara l'istantanea. Un runtime può avere più di un endpoint che punta a versioni diverse, quindi un runtime può avere più di un'istantanea alla volta.

Aggiornato

Quando si aggiorna un AgentCore runtime, Runtime ospita la nuova versione sull'endpoint predefinito e prepara una nuova istantanea. La versione ospitata in precedenza non è più referenziata, quindi AgentCore Runtime contrassegna la relativa istantanea per l'eliminazione e la rimuove al termine delle sessioni esistenti.

Eliminato

AgentCore Runtime elimina un'istantanea quando nessun endpoint punta ad essa. Ciò si verifica quando si aggiorna un runtime, si rimuove il riferimento di un endpoint a una versione o si elimina il runtime o un endpoint di runtime. L'eliminazione può richiedere fino a 8 ore, che è la durata massima della sessione, poiché le sessioni già in esecuzione sullo snapshot continuano fino alla fine.

Infrastructure as code (IaC)

AWS CloudFormation e il AWS CDK attualmente non supporta l'impostazione. platformVersion

Autenticazione e sicurezza

L'autenticazione in entrata controlla chi può accedere ai tuoi agenti tramite AWS Identity and Access Management o OAuth 2.0, convalidando i token al portatore dei provider di identità prima di consentire alle richieste di procedere. L'autenticazione in uscita consente agli agenti di accedere in modo sicuro a servizi di terze parti utilizzando chiavi OAuth o API, con AgentCore le credenziali di gestione delle identità in modalità delegata dall'utente o autonoma. Per ulteriori informazioni, consulta Autenticazione e autorizzazione con Inbound Auth e Outbound Auth.

Autenticazione in entrata

L'autenticazione in entrata, basata su AgentCore Identity, controlla chi può accedere e richiamare i tuoi agenti o strumenti in Runtime. AgentCore

Metodi di autenticazione

  • AWS IAM (SIGv4): utilizza le credenziali per la verifica dell'identità AWS

  • OAuth 2.0: si integra con provider di identità esterni

Opzioni di configurazione OAuth

  • URL di scoperta: l'endpoint di rilevamento OpenID Connect del tuo provider di identità

  • Destinatari consentiti: elenco dei valori di pubblico validi che i token devono contenere

  • Client consentiti: elenco degli identificativi dei clienti che possono accedere a questo agente

Flusso di autenticazione

  1. Gli utenti finali si autenticano con il tuo provider di identità (Amazon Cognito, Okta, Microsoft Entra ID)

  2. L'applicazione client riceve un token al portatore dopo l'avvenuta autenticazione

  3. Il client passa questo token nell'intestazione dell'autorizzazione quando richiama l'agente

  4. AgentCore Il runtime convalida il token con il server di autorizzazione

  5. Se valida, la richiesta viene elaborata; se non valida, viene rifiutata

Ciò garantisce che solo gli utenti autenticati con l'autorizzazione appropriata possano accedere ai tuoi agenti.

Autenticazione in uscita

Outbound Auth, con tecnologia Amazon Bedrock AgentCore Identity, consente ai tuoi agenti ospitati su AgentCore Runtime di accedere in modo sicuro ai servizi di terze parti:

Metodi di autenticazione

  • OAuth: per i servizi che supportano i flussi OAuth

  • Chiavi API: per i servizi che utilizzano l'autenticazione basata su chiavi

Modalità di autenticazione

  • User-delegated: Agire per conto dell'utente finale con le relative credenziali

  • Autonomo: agisce in modo indipendente con credenziali a livello di servizio

Servizi supportati

  • Sistemi aziendali come Slack, Zoom e GitHub

  • AWS servizi

  • API e fonti di dati personalizzate

AgentCore Identity gestisce queste credenziali in modo sicuro, impedendo l'esposizione delle credenziali nel codice o nei log dell'agente.

Funzionalità aggiuntive

Elaborazione asincrona

AgentCore Runtime supporta carichi di lavoro di lunga durata tramite:

  • Gestione delle attività in background per operazioni che superano i cicli request/response

  • Monitoraggio automatico dello stato tramite l'/pingendpoint

  • Supporto per operazioni di durata fino a 8 ore

Per ulteriori informazioni, consulta Gestire agenti asincroni e di lunga durata con Amazon Bedrock Runtime. AgentCore

Streaming delle risposte

Gli agenti possono trasmettere in streaming i risultati parziali non appena diventano disponibili anziché attendere l'elaborazione completa. Ciò consente di fornire un'esperienza utente più reattiva, in particolare per le operazioni che generano grandi quantità di contenuti o richiedono molto tempo per essere completate. Per ulteriori informazioni, consulta Stream agent response.

WebSocket API

Il AgentCore Runtime fornisce WebSocket supporto per connessioni di streaming bidirezionali in tempo reale per la comunicazione interattiva con gli agenti. Ciò consente esperienze con gli agenti più reattive e interattive. Per ulteriori informazioni, consulta Guida introduttiva all'utilizzo dello streaming bidirezionale. WebSocket

Supporto dei protocolli

AgentCore Runtime supporta diversi protocolli di comunicazione:

Panoramica dell'implementazione

Ecco come iniziare a usare AgentCore Runtime. Per l'esempio completo, consulta Get started with the AgentCore CLI.

Prepara il codice dell'agente o dello strumento

  • Definisci la logica del tuo agente utilizzando qualsiasi framework di intelligenza artificiale o codice personalizzato

  • Aggiungi gli endpoint HTTP richiesti utilizzando l' AgentCore SDK o l'implementazione personalizzata

  • Le dipendenze dei pacchetti in un file requirements.txt

Implementa il tuo agente o strumento

  • Crea e invia un'immagine del contenitore ad Amazon ECR direttamente o tramite l'SDK AgentCore

  • Crea un AgentCore runtime utilizzando l'immagine del contenitore

  • La versione iniziale (V1) e l'endpoint DEFAULT vengono creati automaticamente

Richiama il tuo agente o strumento

Gestisci e osserva le sessioni ed effettua aggiornamenti

  • Usa lo stesso ID di sessione per le interazioni di follow-up e per mantenere il contesto

  • Rivedi i registri, le tracce e le metriche di osservabilità

  • Distribuisci gli aggiornamenti modificando il tuo AgentCore Runtime (crea nuove versioni)

  • Controlla l'implementazione aggiornando gli endpoint in modo che puntino a nuove versioni