기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

Amazon Bedrock AgentCore 런타임 V2에 맞게 에이전트 최적화

Amazon Bedrock AgentCore 런타임 V2는 스냅샷을 복원하여 에이전트를 시작합니다. 이렇게 하면 에이전트 코드의 구조가 변경됩니다. 시작 시 에이전트가 수행하는 작업은 스냅샷에 캡처되고 복원된 모든 인스턴스에서 공유됩니다. 대신 요청 핸들러에서 요청마다 달라야 하거나 만료될 수 있는 값을 생성합니다. 이 주제에서는 각 복원 후 올바르게 유지되도록 시작 작업 및 요청당 작업을 중심으로 에이전트를 구성하는 방법을 설명합니다. 플랫폼 버전 V2에 대한 개요는 플랫폼 버전을 참조하세요.

에이전트에는 두 가지 실행 컨텍스트가 있습니다.

하나의 규칙을 사용하여 코드가 속한 위치를 결정합니다. 스냅샷 수명 동안 동일하게 유지되는 경우 시작 시 값을 계산합니다. 요청에 따라 다르거나 만료될 수 있는 경우 핸들러에서 계산합니다. AgentCore 런타임은 에이전트 버전당 스냅샷 하나를 생성하여 에이전트를 생성하거나 업데이트할 때까지 사용합니다. 따라서 스냅샷 수명은 해당 버전의 수명입니다.

시작 시 한 번 초기화

스냅샷 전에 프로세스가 시작될 때 비용이 많이 들고 재사용 가능한 작업을 수행합니다. 예를 들어 배포 번들에서 종속성을 가져오거나, 모델 가중치를 로드하거나, 정적 구성을 읽습니다. AgentCore SDK를 사용하여를 호출하기 전에 모듈 범위에서이 작업을 수행합니다app.run(). 에이전트는가 app.run() 실행될 때까지 포트 8080에서 수신 대기하지 않으므로 시작 작업이 완료될 때까지 성공할 /ping 수 없고 스냅샷을 생성할 수 없습니다. 스냅샷은 완전히 초기화된 에이전트를 구성별로 캡처하므로를 게이트할 필요가 없습니다/ping. 시작 후 120초 이내에 초기화를 완료합니다. 에이전트가 제시간에 정상 상태가 되지 않으면 런타임은 상태 확인에 실패합니다. /ping 및 /invocations 엔드포인트에 대한 자세한 내용은 AgentCore 런타임 서비스 계약 이해를 참조하세요.

import json, pathlib

from bedrock_agentcore.runtime import BedrockAgentCoreApp

# Runs once at import, before app.run() starts the server and before the
# snapshot. Every restored instance inherits these objects.
MODEL = load_model_weights()
SETTINGS = json.loads((pathlib.Path(__file__).parent / "agent.json").read_text())

app = BedrockAgentCoreApp()

@app.entrypoint
def invoke(payload):
    # Per-request work runs here on every instance.
    ...

app.run()  # starts listening on 8080; the snapshot is taken after this

에이전트가 AgentCore SDK 대신 자체 HTTP 서버를 실행하는 경우 스냅샷이 완전히 초기화된 에이전트를 캡처하도록 초기화가 완료된 후에/ping만에서 정상 상태를 보고합니다.

시작 시 모든 인스턴스에 대해 동일하고 만료되지 않는 읽기 전용 데이터입니다. 핸들러에서 수명이 짧은 자격 증명과 같은 시간에 민감한 값을 처리합니다.

요청당 상태를 새로 유지

스냅샷은 한 번 캡처되고 복원된 모든 인스턴스에서 공유되므로 시작 시 에이전트가 생성하는 모든 값은 인스턴스 간에 동일하며 스냅샷 시점에 고정됩니다. 스냅샷이 핸들러에 포함할 수 없는 값을 /invocations 처리합니다. 다음 표에서는 시작 시 대신 핸들러에서 계산할 값을 설명합니다.

시작 시 재사용 가능한 클라이언트를 구축하고 각 호출에서 요청당 값을 계산합니다.

import os, time

# Build reusable clients at startup, before the snapshot. Exercise them here too
# (for example, with a warm-up call) so the setup the client caches — endpoint and
# credential resolution, connection pool — is captured in the snapshot.
client = build_client()
warm_up(client)

@app.entrypoint
def invoke(payload):
    creds = get_credentials()          # refreshed when expired, not read at startup
    request_id = os.urandom(16).hex()  # unique per request
    now = time.time()                  # current time, not snapshot time
    # Handle the request.

스냅샷 보호 암호화 라이브러리 사용

AgentCore 런타임이 스냅샷에서 인스턴스를 복원할 때 시작 시 임의 상태를 캐싱한 암호화 라이브러리는 인스턴스 간에 해당 상태를 재사용할 수 있습니다. 암호화 라이브러리는 복원 후 재시도되는 스냅샷 보호(스냅세이프) 빌드를 사용해야 합니다.

네트워킹