View a markdown version of this page

Memecahkan masalah kesalahan Inferensi Rekomendasi - Amazon SageMaker AI
Cara memecahkan masalahKesalahan umumPeriksa CloudWatchPeriksa tolok ukur

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Memecahkan masalah kesalahan Inferensi Rekomendasi

Bagian ini berisi informasi tentang cara memahami dan mencegah kesalahan umum, pesan kesalahan yang dihasilkannya, dan panduan tentang cara mengatasi kesalahan ini.

Cara memecahkan masalah

Anda dapat mencoba menyelesaikan kesalahan dengan melalui langkah-langkah berikut:

  • Periksa apakah Anda telah memenuhi semua prasyarat untuk menggunakan Inference Recommender. Lihat Prasyarat Rekomendasi Inferensi.

  • Periksa apakah Anda dapat menerapkan model Anda dari Model Registry ke titik akhir dan dapat memproses muatan Anda tanpa kesalahan. Lihat Menyebarkan Model dari Registry.

  • Saat memulai pekerjaan Rekomendasi Inferensi, Anda akan melihat titik akhir sedang dibuat di konsol dan Anda dapat meninjau log. CloudWatch

Kesalahan umum

Tinjau tabel berikut untuk kesalahan Inferensi Recommender umum dan solusinya.

Kesalahan Solusi

Tentukan Domain dalam Paket Model versi 1. Domainadalah parameter wajib untuk pekerjaan.

Pastikan Anda menyediakan domain ML atau OTHER jika tidak diketahui.

Peran yang disediakan ARN tidak dapat diasumsikan dan terjadi AWSSecurityTokenServiceException kesalahan.

Pastikan peran eksekusi yang disediakan memiliki izin yang diperlukan yang ditentukan dalam prasyarat.

Tentukan Framework dalam Paket Model versi 1. Frameworkadalah parameter wajib untuk pekerjaan.

Pastikan Anda menyediakan Kerangka ML atau OTHER jika tidak diketahui.

Pengguna pada akhir fase sebelumnya adalah 0 sedangkan pengguna awal fase saat ini adalah 1.

Pengguna di sini mengacu pada pengguna virtual atau thread yang digunakan untuk mengirim permintaan. Setiap fase dimulai dengan pengguna A dan diakhiri dengan pengguna B sedemikian rupa sehingga B > A. Antara fase berurutan, x_1 dan x_2, kita memerlukan abs (X_2.a - X_1.b) <= 3 dan >= 0.

Total durasi Lalu Lintas (lintas) tidak boleh lebih dari durasi Pekerjaan.

Total durasi semua Fase Anda tidak boleh melebihi durasi Pekerjaan.

Jenis instans meledak ml.t2.medium tidak diperbolehkan.

Inference Recommender tidak mendukung pengujian beban pada keluarga instans t2 karena instans burstable tidak memberikan kinerja yang konsisten.

ResourceLimitExceeded saat menelepon CreateEndpoint operasi

Anda telah melampaui batas sumber daya SageMaker AI. Misalnya, Inference Recommender mungkin tidak dapat menyediakan titik akhir untuk pembandingan jika akun telah mencapai kuota titik akhir. Untuk informasi selengkapnya tentang batas dan kuota SageMaker AI, lihat titik akhir dan kuota SageMaker AI Amazon.

ModelError saat menelepon InvokeEndpoint operasi

Kesalahan model dapat terjadi karena alasan berikut:

  • Waktu pemanggilan habis saat menunggu respons dari wadah model.

  • Model tidak dapat memproses muatan input.

PayloadError saat memanggil InvokeEndpoint operasi

Kesalahan payload dapat terjadi karena alasan berikut:

  • Sumber muatan tidak ada di bucket Amazon S3.

  • Payload dalam format objek non-file.

  • Payload dalam jenis file yang tidak valid. Misalnya, model mengharapkan payload jenis gambar tetapi diteruskan file teks.

  • Muatannya kosong.

Periksa CloudWatch

Saat memulai pekerjaan Rekomendasi Inferensi, Anda akan melihat titik akhir sedang dibuat di konsol. Pilih salah satu titik akhir dan lihat CloudWatch log untuk memantau 4xx/5xx kesalahan apa pun. Jika Anda memiliki pekerjaan Rekomendasi Inferensi yang berhasil, Anda akan dapat melihat nama titik akhir sebagai bagian dari hasil. Bahkan jika pekerjaan Inferensi Recommender Anda tidak berhasil, Anda masih dapat memeriksa CloudWatch log untuk titik akhir yang dihapus dengan mengikuti langkah-langkah di bawah ini:

  1. Buka CloudWatch konsol Amazon di https://console.aws.amazon.com/cloudwatch/.

  2. Pilih Wilayah tempat Anda membuat pekerjaan Inferensi Recommender dari daftar dropdown Region di kanan atas.

  3. Di panel navigasi CloudWatch, pilih Log, lalu pilih Grup log.

  4. Cari grup log yang dipanggil/aws/sagemaker/Endpoints/sm-epc-*. Pilih grup log berdasarkan pekerjaan Inferensi Recommender terbaru Anda.

Anda juga dapat memecahkan masalah pekerjaan Anda dengan memeriksa log Inference Recommender CloudWatch . Log Inference Recommender, yang diterbitkan dalam grup /aws/sagemaker/InferenceRecommendationsJobs CloudWatch log, memberikan tampilan tingkat tinggi tentang kemajuan pekerjaan di aliran <jobName>/execution log. Anda dapat menemukan informasi terperinci tentang setiap konfigurasi titik akhir yang diuji di aliran <jobName>/Endpoint/<endpointName> log.

Ikhtisar aliran log Inferensi Recommender

  • <jobName>/executionberisi informasi pekerjaan keseluruhan seperti konfigurasi titik akhir yang dijadwalkan untuk pembandingan, alasan lompatan pekerjaan kompilasi, dan alasan kegagalan validasi.

  • <jobName>/Endpoint/<endpointName>berisi informasi seperti kemajuan pembuatan sumber daya, konfigurasi pengujian, alasan penghentian uji beban, dan status pembersihan sumber daya.

  • <jobName>/CompilationJob/<compilationJobName>berisi informasi tentang pekerjaan kompilasi yang dibuat oleh Inference Recommender, seperti konfigurasi pekerjaan kompilasi dan status pekerjaan kompilasi.

Membuat alarm untuk pesan kesalahan Inference Recommender

Inference Recommender mengeluarkan pernyataan log untuk kesalahan yang mungkin membantu saat memecahkan masalah. Dengan grup CloudWatch log dan filter metrik, Anda dapat mencari istilah dan pola dalam data log ini saat data dikirim ke CloudWatch. Kemudian, Anda dapat membuat CloudWatch alarm berdasarkan filter metrik grup log. Untuk informasi selengkapnya, lihat Membuat CloudWatch alarm berdasarkan filter metrik grup log.

Periksa tolok ukur

Saat Anda memulai pekerjaan Rekomendasi Inferensi, Inference Recommender membuat beberapa tolok ukur untuk mengevaluasi kinerja model Anda pada jenis instans yang berbeda. Anda dapat menggunakan ListInferenceRecommendationsJobSteps API untuk melihat detail untuk semua tolok ukur. Jika Anda memiliki tolok ukur yang gagal, Anda dapat melihat alasan kegagalan sebagai bagian dari hasil.

Untuk menggunakan ListInferenceRecommendationsJobSteps API, berikan nilai-nilai berikut:

  • UntukJobName, berikan nama pekerjaan Rekomendasi Inferensi.

  • UntukStepType, gunakan BENCHMARK untuk mengembalikan detail tentang tolok ukur pekerjaan.

  • UntukStatus, gunakan FAILED untuk mengembalikan detail tentang hanya tolok ukur yang gagal. Untuk daftar jenis status lainnya, lihat Status bidang di ListInferenceRecommendationsJobSteps API.

# Create a low-level SageMaker service client.
import boto3
aws_region = '<region>'
sagemaker_client = boto3.client('sagemaker', region_name=aws_region) 

# Provide the job name for the SageMaker Inference Recommender job
job_name = '<job-name>'

# Filter for benchmarks
step_type = 'BENCHMARK' 

# Filter for benchmarks that have a FAILED status
status = 'FAILED'

response = sagemaker_client.list_inference_recommendations_job_steps(
    JobName = job_name,
    StepType = step_type,
    Status = status
)

Anda dapat mencetak objek respons untuk melihat hasilnya. Contoh kode sebelumnya menyimpan respons dalam variabel yang disebutresponse:

print(response)