View a markdown version of this page

Memecahkan Masalah Saluran Inferensi - Amazon SageMaker AI

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Memecahkan Masalah Saluran Inferensi

Untuk memecahkan masalah saluran inferensi, gunakan CloudWatch log dan pesan kesalahan. Jika Anda menggunakan gambar Docker khusus dalam pipeline yang menyertakan algoritma bawaan Amazon SageMaker AI, Anda mungkin juga mengalami masalah izin. Untuk memberikan izin yang diperlukan, buat kebijakan Amazon Elastic Container Registry (Amazon ECR).

Memecahkan Masalah Izin Amazon ECR untuk Saluran Saluran Inferensi

Saat Anda menggunakan gambar Docker khusus dalam pipeline yang menyertakan algoritma bawaan SageMaker AI, Anda memerlukan kebijakan https://docs.aws.amazon.com/AmazonECR/latest/userguide/what-is-ecr.html Amazon ECR. Kebijakan ini memungkinkan repositori Amazon ECR Anda memberikan izin SageMaker kepada AI untuk menarik gambar. Kebijakan harus menambahkan izin berikut:

JSON
{ "Version":"2012-10-17", "Statement": [ { "Sid": "allowSageMakerToPull", "Effect": "Allow", "Principal": { "Service": "sagemaker.amazonaws.com" }, "Action": [ "ecr:GetDownloadUrlForLayer", "ecr:BatchGetImage", "ecr:BatchCheckLayerAvailability" ], "Resource": "*" } ] }

Gunakan CloudWatch Log untuk Memecahkan Masalah Sal SageMaker uran Inferensi AI

SageMaker AI menerbitkan log kontainer untuk titik akhir yang menerapkan pipeline inferensi ke Amazon CloudWatch di jalur berikut untuk setiap wadah.

/aws/sagemaker/Endpoints/{EndpointName}/{Variant}/{InstanceId}/{ContainerHostname}

Misalnya, log untuk titik akhir ini dipublikasikan ke grup log dan aliran berikut:

EndpointName: MyInferencePipelinesEndpoint Variant: MyInferencePipelinesVariant InstanceId: i-0179208609ff7e488 ContainerHostname: MyContainerName1 and MyContainerName2
logGroup: /aws/sagemaker/Endpoints/MyInferencePipelinesEndpoint logStream: MyInferencePipelinesVariant/i-0179208609ff7e488/MyContainerName1 logStream: MyInferencePipelinesVariant/i-0179208609ff7e488/MyContainerName2

Pengaliran log adalah urutan log acara yang berbagi sumber yang sama. Setiap sumber log yang terpisah CloudWatch membentuk aliran log terpisah. Grup log adalah grup log stream yang berbagi pengaturan retensi, pemantauan, dan kontrol akses yang sama.

Untuk melihat grup log dan aliran
  1. Buka CloudWatch konsol di https://console.aws.amazon.com/cloudwatch/.

  2. Di halaman navigasi, pilih Log.

  3. Di Grup Log. filter padaMyInferencePipelinesEndpoint:

    Grup CloudWatch log difilter untuk titik akhir pipeline inferensi.
  4. Untuk melihat aliran log, pada halaman Grup CloudWatch Log, pilihMyInferencePipelinesEndpoint, lalu Cari Grup Log.

    Ali CloudWatch ran log untuk pipeline inferensi.

Untuk daftar log yang diterbitkan SageMaker AI, lihatLog dan Metrik Pipeline Inferensi.

Gunakan Pesan Kesalahan untuk Memecahkan Masalah Saluran Inferensi

Pesan kesalahan pipeline inferensi menunjukkan wadah mana yang gagal.

Jika terjadi kesalahan saat SageMaker AI memanggil titik akhir, layanan mengembalikan ModelError (kode kesalahan 424), yang menunjukkan wadah mana yang gagal. Jika payload permintaan (respons dari wadah sebelumnya) melebihi batas 5 MB, SageMaker AI memberikan pesan kesalahan terperinci, seperti:

Menerima tanggapan dari MyContainerName1 dengan kode status 200. Namun, payload permintaan dari MyContainerName1 ke MyContainerName2 adalah 6000000 byte, yang telah melebihi batas maksimum 5 MB.

Jika wadah gagal dalam pemeriksaan kesehatan ping saat SageMaker AI membuat titik akhir, ia mengembalikan a ClientError dan menunjukkan semua wadah yang gagal dalam pemeriksaan ping dalam pemeriksaan kesehatan terakhir.