Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Optimice su agente para Amazon Bedrock AgentCore Runtime V2

Amazon Bedrock AgentCore Runtime V2 inicia su agente restaurando una instantánea. Esto cambia la forma de estructurar el código del agente. El trabajo que realiza el agente al inicio se captura en la instantánea y todas las instancias restauradas lo comparten. En su lugar, genere cualquier valor que deba diferir entre las solicitudes o que pueda caducar en su controlador de solicitudes. En este tema, se describe cómo estructurar el agente en función del trabajo inicial y el trabajo por solicitud para que se mantenga correcto después de cada restauración. Para obtener información general sobre la versión V2 de la plataforma, consulte Versiones de la plataforma.

Su agente tiene dos contextos de ejecución:

Usa una regla para decidir a dónde pertenece el código. Calcule un valor al inicio si permanece igual durante toda la vida de la instantánea. Cómplelo en su controlador si varía según la solicitud o si puede caducar. AgentCore Runtime toma una instantánea por versión del agente y la usa hasta que se crea o actualiza el agente, por lo que la duración de la instantánea es la vida de esa versión.

Inicialice una vez al inicio

Realice trabajos costosos y reutilizables cuando comience el proceso, antes de la instantánea. Por ejemplo, importe las dependencias, cargue los pesos del modelo o lea la configuración estática de su paquete de implementación. Con el AgentCore SDK, realice este trabajo en el ámbito del módulo, antes de llamar. app.run() El agente no escucha en el puerto 8080 hasta que app.run() se ejecuta, por lo que no se /ping puede ejecutar correctamente y no se puede tomar ninguna instantánea hasta que finalice el trabajo de inicio. La instantánea captura un agente completamente inicializado por construcción y no es necesario conectarlo. /ping Complete la inicialización a los 120 segundos del inicio. Si el agente no se recupera a tiempo, el motor de ejecución no pasa la comprobación de estado. Para obtener más información sobre los /invocations terminales /ping y los terminales, consulte Comprender el contrato AgentCore de servicio Runtime.

import json, pathlib

from bedrock_agentcore.runtime import BedrockAgentCoreApp

# Runs once at import, before app.run() starts the server and before the
# snapshot. Every restored instance inherits these objects.
MODEL = load_model_weights()
SETTINGS = json.loads((pathlib.Path(__file__).parent / "agent.json").read_text())

app = BedrockAgentCoreApp()

@app.entrypoint
def invoke(payload):
    # Per-request work runs here on every instance.
    ...

app.run()  # starts listening on 8080; the snapshot is taken after this

Si su agente ejecuta su propio servidor HTTP en lugar del AgentCore SDK, notifique que su estado es correcto /ping solo cuando se complete la inicialización, de modo que la instantánea capture un agente completamente inicializado.

Datos de solo lectura al inicio, que son los mismos para todas las instancias y no caducan. Gestione los valores urgentes, como las credenciales de corta duración, en su controlador.

Mantenga actualizado el estado de cada solicitud

La instantánea se captura una vez y cada instancia restaurada la comparte, por lo que cualquier valor que el agente genere al inicio es idéntico en todas las instancias y se fija en el momento de la instantánea. Gestiona los valores que la instantánea no puede incluir en tu /invocations controlador. En la siguiente tabla, se describen los valores que debes calcular en tu controlador en lugar de al inicio.

Crea clientes reutilizables desde el inicio y calcula los valores por solicitud en cada llamada.

import os, time

# Build reusable clients at startup, before the snapshot. Exercise them here too
# (for example, with a warm-up call) so the setup the client caches — endpoint and
# credential resolution, connection pool — is captured in the snapshot.
client = build_client()
warm_up(client)

@app.entrypoint
def invoke(payload):
    creds = get_credentials()          # refreshed when expired, not read at startup
    request_id = os.urandom(16).hex()  # unique per request
    now = time.time()                  # current time, not snapshot time
    # Handle the request.

Utilice bibliotecas criptográficas seguras para instantáneas

Cuando AgentCore Runtime restaura una instancia a partir de una instantánea, una biblioteca criptográfica que haya almacenado en caché un estado aleatorio al inicio puede reutilizar ese estado en varias instancias. Las bibliotecas criptográficas deben usar una compilación segura para instantáneas (snapsafe) que se vuelva a iniciar después de una restauración.

Red