View a markdown version of this page

Memanggil titik akhir - Amazon SageMaker AI
PermintaanRespons

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Memanggil titik akhir

Setelah titik akhir berjalan, gunakan InvokeEndpoint API SageMaker AI Runtime di layanan SageMaker AI Runtime untuk mengirim permintaan ke, atau memanggil titik akhir. Sebagai tanggapan, permintaan ditangani sebagai permintaan penjelasan oleh penjelasan Clarify SageMaker .

catatan

Untuk memanggil titik akhir, pilih salah satu opsi berikut:

Permintaan

InvokeEndpointAPI memiliki parameter opsionalEnableExplanations, yang dipetakan ke header X-Amzn-SageMaker-Enable-Explanations HTTP. Jika parameter ini disediakan, itu menggantikan EnableExplanations parameter dariClarifyExplainerConfig.

catatan

AcceptParameter ContentType dan parameter InvokeEndpoint API diperlukan. Format yang didukung termasuk jenis MIME text/csv danapplication/jsonlines.

Gunakan sagemaker_runtime_client untuk mengirim permintaan ke titik akhir, sebagai berikut:

response = sagemaker_runtime_client.invoke_endpoint(
    EndpointName='name-of-your-endpoint',
    EnableExplanations='`true`',
    ContentType='text/csv',
    Accept='text/csv',
    Body='1,2,3,4',  # single record (of four numerical features)
)

Untuk titik akhir multi-model, berikan TargetModel parameter tambahan dalam permintaan contoh sebelumnya untuk menentukan model mana yang akan ditargetkan di titik akhir. Titik akhir multi-model secara dinamis memuat model target sesuai kebutuhan. Untuk informasi selengkapnya tentang titik akhir multi-model, lihat. Multi-model titik akhir Lihat Clar SageMaker ify Online Explainability on Multi-Model Endpoint Sample Notebook untuk contoh cara mengatur dan memanggil beberapa model target dari satu titik akhir.

Respons

Jika titik akhir dibuat denganExplainerConfig, maka skema respons baru digunakan, Skema baru ini berbeda dari, dan tidak kompatibel dengan, titik akhir yang tidak memiliki ExplainerConfig parameter yang disediakan.

Jenis MIME dari respons adalahapplication/json, dan payload respons dapat diterjemahkan dari UTF-8 byte ke objek JSON. Berikut ini menunjukkan anggota objek JSON ini adalah sebagai berikut:

  • version: Versi skema respons dalam format string. Misalnya, 1.0.

  • predictions: Prediksi yang dibuat permintaan memiliki yang berikut:

    • content_type: Jenis prediksi MIME, mengacu pada ContentType respons wadah model.

    • data: String data prediksi dikirimkan sebagai muatan dari respons wadah model untuk permintaan.

  • label_headers: Header label dari LabelHeaders parameter. Ini disediakan baik dalam konfigurasi explainer atau output wadah model.

  • explanations: Penjelasan yang diberikan dalam payload permintaan. Jika tidak ada catatan yang dijelaskan, maka anggota ini mengembalikan objek kosong{}.

    • kernel_shap: Kunci yang mengacu pada array penjelasan Kernel SHAP untuk setiap catatan dalam permintaan. Jika catatan tidak dijelaskan, penjelasan yang sesuai adalahnull.

kernel_shapElemen ini memiliki anggota berikut:

  • feature_header: Nama header fitur yang disediakan oleh FeatureHeaders parameter dalam konfigurasi ExplainerConfig explainer.

  • feature_type: Jenis fitur yang disimpulkan oleh explainer atau disediakan dalam FeatureTypes parameter di. ExplainerConfig Elemen ini hanya tersedia untuk masalah penjelasan NLP.

  • attributions: Array objek atribusi. Fitur teks dapat memiliki beberapa objek atribusi, masing-masing untuk satu unit. Objek atribusi memiliki anggota berikut:

    • attribution: Daftar nilai probabilitas, diberikan untuk setiap kelas.

    • description: Deskripsi unit teks, hanya tersedia untuk masalah penjelasan NLP.

      • partial_text: Bagian teks yang dijelaskan oleh penjelasannya.

      • start_idx: Indeks berbasis nol untuk mengidentifikasi lokasi array dari awal fragmen teks parSIAL.