Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Prasyarat
Sebelum Anda dapat menjalankan evaluasi batch, pastikan yang berikut ini sudah ada.
Pengaturan
Siapkan yang berikut sebelum Anda menjalankan evaluasi batch:
-
Agen yang dibangun dengan kerangka kerja yang didukung dan pustaka instrumentasi. Untuk informasi selengkapnya tentang kerangka kerja dan pustaka instrumentasi yang didukung, lihat Kerangka kerja agen yang didukung.
-
Agen yang digunakan pada AgentCore Runtime dengan pengamatan diaktifkan, atau agen yang dibangun dengan kerangka kerja yang didukung dikonfigurasi dengan AgentCore Observability, termasuk Pencarian Transaksi. Untuk informasi selengkapnya tentang pengaturan telemetri, lihat Pengaturan dan pengiriman telemetri.
-
Agen dipanggil dengan data telemetri di CloudWatch Log. Tunggu 2-5 menit CloudWatch untuk menelan telemetri sebelum memulai evaluasi batch.
AWS kredensi dan izin
Evaluasi batch berjalan di bawah kredenSIAL pemanggil. Tidak seperti evaluasi online, evaluasi batch tidak memerlukan peran eksekusi layanan terpisah. Layanan menggunakan identitas IAM Anda untuk mengakses CloudWatch Log untuk penemuan sesi dan untuk menulis hasil evaluasi.
AWS kredenSIAL dikonfigurasi dengan izin untuk layanan berikut:
-
bedrock-agentcore— untuk memulai, mendapatkan, daftar, menghentikan, dan menghapus evaluasi batch -
logs(CloudWatch Logs) - untuk membaca rentang sesi dan menulis hasil evaluasi
Izin IAM yang diperlukan
Kebijakan IAM berikut memberikan izin minimum yang diperlukan untuk menjalankan evaluasi batch:
{ "Version": "2012-10-17", "Statement": [ { "Effect": "Allow", "Action": [ "bedrock-agentcore:StartBatchEvaluation", "bedrock-agentcore:GetBatchEvaluation", "bedrock-agentcore:ListBatchEvaluations", "bedrock-agentcore:StopBatchEvaluation", "bedrock-agentcore:DeleteBatchEvaluation" ], "Resource": "arn:aws:bedrock-agentcore:*:*:batch-evaluate/*" }, { "Sid": "ReadAgentLogs", "Effect": "Allow", "Action": [ "logs:GetLogEvents", "logs:FilterLogEvents", "logs:StartQuery", "logs:GetQueryResults" ], "Resource": [ "arn:aws:logs:*:*:log-group:/aws/bedrock-agentcore/runtimes/*", "arn:aws:logs:*:*:log-group:/aws/bedrock-agentcore/evaluations/*" ] }, { "Sid": "DescribeLogGroups", "Effect": "Allow", "Action": "logs:DescribeLogGroups", "Resource": "*" }, { "Sid": "WriteEvaluationLogs", "Effect": "Allow", "Action": [ "logs:CreateLogGroup", "logs:CreateLogStream", "logs:PutLogEvents", "logs:PutRetentionPolicy" ], "Resource": [ "arn:aws:logs:*:*:log-group:/aws/bedrock-agentcore/evaluations/*", "arn:aws:logs:*:*:log-group:/aws/bedrock-agentcore/evaluations/*:*" ] }, { "Sid": "BedrockInvokeForCustomEvaluators", "Effect": "Allow", "Action": [ "bedrock:InvokeModel", "bedrock:InvokeModelWithResponseStream" ], "Resource": [ "arn:aws:bedrock:*::foundation-model/*", "arn:aws:bedrock:*:*:inference-profile/*" ] } ] }
catatan
Per BedrockInvokeForCustomEvaluators nyataan ini hanya diperlukan jika Anda menggunakan evaluator khusus yang memanggil model Amazon Bedrock. Anda dapat menghilangkannya saat hanya menggunakan evaluator bawaan.
catatan
Per WriteEvaluationLogs nyataan ini memungkinkan layanan membuat grup log hasil evaluasi dan aliran log dan menulis hasil di bawah kredenSIAL Anda. Anda harus memberikan logs:DescribeLogGroups izin Resource * karena tindakan ini tidak mendukung izin tingkat sumber daya.
Persyaratan SDK dan CLI
-
AWS SDK (boto3): Python 3.10 atau yang lebih baru.
-
AgentCore CLI: J alankan
agentcore --versionuntuk memeriksa versi Anda.
catatan
Permukaan CLI evaluasi batch terdiri dari perintah berikut:
-
agentcore run batch-evaluation— mulai evaluasi batch -
agentcore stop batch-evaluation -i <id>— hentikan evaluasi batch yang sedang berjalan -
agentcore view batch-evaluation [id]danagentcore batch-evaluations history— melihat pekerjaan atau daftar pekerjaan -
agentcore archive batch-evaluation -i <id>— mengarsipkan catatan pekerjaan evaluasi batch pada layanan dan menghapus riwayat lokal
T bedrock-agentcore:DeleteBatchEvaluation indakan IAM didukung oleh archive batch-evaluation perintah CLI; tidak ada kata kerja delete CLI literal.