Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Optimalkan agen Anda untuk Amazon Bedrock AgentCore Runtime V2

Amazon Bedrock AgentCore Runtime V2 memulai agen Anda dengan memulihkan snapshot. Ini mengubah cara Anda menyusun kode agen Anda. Pekerjaan yang dilakukan agen Anda saat startup ditangkap dalam snapshot dan dibagikan oleh setiap instans yang dipulihkan. Hasilkan nilai apa pun yang harus berbeda antar permintaan, atau yang dapat kedaluwarsa, di handler permintaan Anda sebagai gantinya. Topik ini menjelaskan cara menyusun agen Anda di sekitar pekerjaan startup dan pekerjaan per permintaan sehingga tetap benar setelah setiap pemulihan. Untuk ikhtisar platform versi V2, lihat Versi platform.

Agen Anda memiliki dua konteks eksekusi:

Gunakan satu aturan untuk memutuskan di mana kode berada. Hitung nilai saat startup jika tetap sama selama masa pakai snapshot. Hitung di handler Anda jika bervariasi per permintaan atau dapat kedaluwarsa. AgentCore Runtime mengambil satu snapshot per versi agen dan menggunakannya sampai Anda membuat atau memperbarui agen, sehingga umur snapshot adalah masa pakai versi tersebut.

Inisialisasi sekali saat startup

Lakukan pekerjaan mahal dan dapat digunakan kembali saat proses Anda dimulai, sebelum snapshot. Misalnya, impor dependensi, beban model beban, atau baca konfigurasi statis dari bundel penerapan Anda. Dengan AgentCore SDK, lakukan pekerjaan ini di cakupan modul, sebelum Anda meneleponapp.run(). Agen Anda tidak mendengarkan pada port 8080 sampai app.run() berjalan, jadi tidak /ping dapat berhasil dan tidak ada snapshot yang dapat diambil sampai pekerjaan startup Anda selesai. Snapshot menangkap agen yang sepenuhnya diinisialisasi dengan konstruksi, dan Anda tidak perlu melakukan gerbang/ping. Selesaikan inisialisasi dalam 120 detik setelah startup. Jika agen Anda tidak menjadi sehat tepat waktu, runtime gagal dalam pemeriksaan kesehatannya. Untuk informasi selengkapnya tentang /invocations titik akhir /ping dan, lihat Mem ahami kontrak layanan AgentCore Runtime.

import json, pathlib

from bedrock_agentcore.runtime import BedrockAgentCoreApp

# Runs once at import, before app.run() starts the server and before the
# snapshot. Every restored instance inherits these objects.
MODEL = load_model_weights()
SETTINGS = json.loads((pathlib.Path(__file__).parent / "agent.json").read_text())

app = BedrockAgentCoreApp()

@app.entrypoint
def invoke(payload):
    # Per-request work runs here on every instance.
    ...

app.run()  # starts listening on 8080; the snapshot is taken after this

Jika agen menjalankan server HTTP-nya sendiri alih-alih AgentCore SDK, laporkan status sehat /ping hanya setelah inisialisasi selesai, sehingga snapshot menangkap agen yang diinisialisasi sepenuhnya.

Baca saja data saat startup yang sama untuk setiap instance dan tidak kedaluwarsa. Tangani nilai yang sensitif terhadap waktu, seperti kredenSIAL berumur pendek, di handler Anda.

Jaga agar status per permintaan tetap segar

Snapshot diambil sekali dan dibagikan oleh setiap instans yang dipulihkan, sehingga nilai apa pun yang dihasilkan agen Anda saat startup identik di seluruh instans dan diperbaiki pada saat snapshot. Tangani nilai yang tidak dapat dibawa oleh snapshot di /invocations handler Anda. Tabel berikut menjelaskan nilai yang harus dihitung di handler Anda alih-alih saat startup.

Bangun klien yang dapat digunakan kembali saat startup, dan hitung nilai per permintaan pada setiap panggilan.

import os, time

# Build reusable clients at startup, before the snapshot. Exercise them here too
# (for example, with a warm-up call) so the setup the client caches — endpoint and
# credential resolution, connection pool — is captured in the snapshot.
client = build_client()
warm_up(client)

@app.entrypoint
def invoke(payload):
    creds = get_credentials()          # refreshed when expired, not read at startup
    request_id = os.urandom(16).hex()  # unique per request
    now = time.time()                  # current time, not snapshot time
    # Handle the request.

Gunakan pustaka kriptografi yang aman untuk snapshot

Saat AgentCore Runtime memulihkan instance dari snapshot, pustaka kriptografi yang menyimpan status acak di cache saat startup dapat menggunakan kembali status tersebut di seluruh instance. Pustaka kriptografi Anda harus menggunakan build snapshot-safe (snapsafe) yang disemai kembali setelah pemulihan.

Jaringan