Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
# MLOps
Setelah membuat model di SageMaker Canvas yang Anda rasa percaya diri, Anda mungkin ingin mengintegrasikan model Anda dengan proses operasi pembelajaran mesin (MLOps) di organisasi Anda. MLOps mencakup tugas-tugas umum seperti menyebarkan model untuk digunakan dalam produksi atau menyiapkan pipeline integrasi berkelanjutan dan penyebaran berkelanjutan (CI/CD).
Topik berikut menjelaskan bagaimana Anda dapat menggunakan fitur dalam Canvas untuk menggunakan model buatan Canvas dalam produksi.
**Topics**
+ [Daftarkan versi model di SageMaker registri model AI](canvas-register-model.md)
+ [Menerapkan model Anda ke titik akhir](canvas-deploy-model.md)
+ [Melihat penerapan Anda](canvas-deploy-model-view.md)
+ [Perbarui konfigurasi penerapan](canvas-deploy-model-update.md)
+ [Uji penerapan Anda](canvas-deploy-model-test.md)
+ [Panggil titik akhir Anda](canvas-deploy-model-invoke.md)
+ [Hapus penerapan model](canvas-deploy-model-delete.md)
# Daftarkan versi model di SageMaker registri model AI
Dengan SageMaker Canvas, Anda dapat membuat beberapa iterasi, atau versi, model Anda untuk memperbaikinya dari waktu ke waktu. Anda mungkin ingin membuat versi baru model Anda jika Anda memperoleh data pelatihan yang lebih baik atau jika Anda ingin mencoba meningkatkan akurasi model. Untuk informasi selengkapnya tentang menambahkan versi ke model Anda, lihat [Memperbarui model](https://docs.aws.amazon.com/sagemaker/latest/dg/canvas-update-model.html).
Setelah Anda [membangun model yang](https://docs.aws.amazon.com/sagemaker/latest/dg/canvas-build-model.html) Anda rasa percaya diri, Anda mungkin ingin mengevaluasi kinerjanya dan meninjaunya oleh ilmuwan data atau MLOps insinyur di organisasi Anda sebelum menggunakannya dalam produksi. Untuk melakukan ini, Anda dapat mendaftarkan versi model Anda ke [Registri SageMaker Model](https://docs.aws.amazon.com/sagemaker/latest/dg/model-registry.html). SageMaker Model Registry adalah repositori yang dapat digunakan oleh ilmuwan atau insinyur data untuk membuat katalog model pembelajaran mesin (ML) dan mengelola versi model dan metadata terkait, seperti metrik pelatihan. Mereka juga dapat mengelola dan mencatat status persetujuan model.
Setelah Anda mendaftarkan versi model Anda ke Registri SageMaker Model, ilmuwan data atau MLOps tim Anda dapat mengakses Registri SageMaker Model melalui [SageMaker Studio Classic](https://docs.aws.amazon.com/sagemaker/latest/dg/studio.html), yang merupakan lingkungan pengembangan terintegrasi (IDE) berbasis web untuk bekerja dengan model pembelajaran mesin. Di antarmuka SageMaker Model Registry di Studio Classic, ilmuwan data atau MLOps tim dapat mengevaluasi model Anda dan memperbarui status persetujuannya. Jika model tidak sesuai dengan persyaratan mereka, ilmuwan data atau MLOps tim dapat memperbarui statusnya`Rejected`. Jika model melakukan sesuai dengan kebutuhan mereka, maka ilmuwan data atau MLOps tim dapat memperbarui status ke`Approved`. Kemudian, mereka dapat [menerapkan model Anda ke titik akhir](https://docs.aws.amazon.com/sagemaker/latest/dg/deploy-model.html#deploy-model-prereqs) atau [mengotomatiskan penerapan model dengan pipeline](https://aws.amazon.com/blogs/machine-learning/building-automating-managing-and-scaling-ml-workflows-using-amazon-sagemaker-pipelines/). CI/CD Anda dapat menggunakan fitur registri model SageMaker AI untuk mengintegrasikan model bawaan Canvas dengan MLOps proses di organisasi Anda dengan mulus.
Diagram berikut merangkum contoh mendaftarkan versi model yang dibangun di Canvas ke Registry SageMaker Model untuk diintegrasikan ke dalam MLOps alur kerja.
![\[Langkah-langkah mendaftarkan versi model yang dibangun di Canvas untuk diintegrasikan ke dalam MLOps alur kerja.\]](http://docs.aws.amazon.com/id_id/sagemaker/latest/dg/images/studio/canvas/canvas-model-registration-diagram.jpg)
Anda dapat mendaftarkan versi model tabel, gambar, dan teks ke Registri SageMaker Model. Ini termasuk model peramalan deret waktu dan model pondasi [fine-tuned JumpStart ](https://docs.aws.amazon.com/sagemaker/latest/dg/canvas-fm-chat-fine-tune.html) berbasis.
**catatan**
Saat ini, Anda tidak dapat mendaftarkan model foundation fine-tuned berbasis Amazon Bedrock yang dibangun di Canvas ke Registry Model. SageMaker
Bagian berikut menunjukkan cara mendaftarkan versi model ke SageMaker Model Registry dari Canvas.
## Manajemen izin
Secara default, Anda memiliki izin untuk mendaftarkan versi model ke Registri SageMaker Model. SageMaker AI memberikan izin ini untuk semua profil pengguna Canvas baru dan yang sudah ada melalui [AmazonSageMakerCanvasFullAccess](https://docs.aws.amazon.com/aws-managed-policy/latest/reference/AmazonSageMakerCanvasFullAccess.html)kebijakan, yang dilampirkan ke peran eksekusi AWS IAM untuk domain SageMaker AI yang menghosting aplikasi Canvas Anda.
Jika administrator Canvas Anda menyiapkan domain atau profil pengguna baru, saat mereka menyiapkan domain dan mengikuti petunjuk prasyarat di [panduan SageMaker Memulai](https://docs.aws.amazon.com/sagemaker/latest/dg/canvas-getting-started.html#canvas-prerequisites), AI mengaktifkan izin pendaftaran model melalui opsi **konfigurasi izin Ops**, yang diaktifkan secara default.
Administrator Canvas dapat mengelola izin pendaftaran model di tingkat profil pengguna juga. Misalnya, jika administrator ingin memberikan izin pendaftaran model ke beberapa profil pengguna tetapi menghapus izin untuk orang lain, mereka dapat mengedit izin untuk pengguna tertentu. Prosedur berikut menunjukkan cara mematikan izin pendaftaran model untuk profil pengguna tertentu:
1. Buka konsol SageMaker AI di [https://console.aws.amazon.com/sagemaker/](https://console.aws.amazon.com/sagemaker/).
1. Di panel navigasi kiri, pilih **Konfigurasi admin**.
1. Di bawah **konfigurasi Admin**, pilih **domain**.
1. Dari daftar domain, pilih domain profil pengguna.
1. Pada halaman **detail domain**, pilih **profil Pengguna** yang izinnya ingin Anda edit.
1. Pada halaman **Detail Pengguna**, pilih **Edit**.
1. Di panel navigasi kiri, pilih **Pengaturan kanvas**.
1. Di bagian **konfigurasi izin Ops ML**, matikan sakelar **Aktifkan izin pendaftaran Registrasi Model**.
1. Pilih **Kirim** untuk menyimpan perubahan pada pengaturan domain Anda.
Profil pengguna seharusnya tidak lagi memiliki izin pendaftaran model.
## Daftarkan versi model ke SageMaker registri model AI
SageMaker Model Registry melacak semua versi model yang Anda buat untuk memecahkan masalah tertentu dalam *grup model*. Ketika Anda membangun model SageMaker Canvas dan mendaftarkannya ke SageMaker Model Registry, itu akan ditambahkan ke grup model sebagai versi model baru. Misalnya, jika Anda membuat dan mendaftarkan empat versi model Anda, maka ilmuwan data atau MLOps tim yang bekerja di antarmuka SageMaker Model Registry dapat melihat grup model dan meninjau keempat versi model di satu tempat.
Saat mendaftarkan model Canvas ke Registry SageMaker Model, grup model secara otomatis dibuat dan dinamai sesuai model Canvas Anda. Secara opsional, Anda dapat mengganti namanya menjadi nama pilihan Anda, atau menggunakan grup model yang ada di Registri SageMaker Model. Untuk informasi selengkapnya tentang membuat grup model, lihat [Membuat Grup Model](https://docs.aws.amazon.com/sagemaker/latest/dg/model-registry-model-group.html).
**catatan**
Saat ini, Anda hanya dapat mendaftarkan model yang dibangun di Canvas ke Registry SageMaker Model di akun yang sama.
Untuk mendaftarkan versi model ke Registry SageMaker Model dari aplikasi Canvas, gunakan prosedur berikut:
1. Buka aplikasi SageMaker Canvas.
1. Di panel navigasi kiri, pilih **Model saya**.
1. Pada halaman **Model saya**, pilih model Anda. Anda dapat **Memfilter berdasarkan jenis masalah** untuk menemukan model Anda dengan lebih mudah.
1. Setelah memilih model Anda, halaman **Versi** terbuka, mencantumkan semua versi model Anda. Anda dapat mengaktifkan **sakelar Tampilkan metrik lanjutan** untuk melihat metrik lanjutan, seperti **Recall** dan **Precision**, untuk membandingkan versi model Anda dan menentukan mana yang ingin Anda daftarkan.
1. Dari daftar versi model, untuk versi yang ingin Anda daftarkan, pilih ikon **Opsi lainnya** (![\[Vertical ellipsis icon representing a menu or more options.\]](http://docs.aws.amazon.com/id_id/sagemaker/latest/dg/images/studio/canvas/more-options-icon.png)). Atau, Anda dapat mengklik dua kali pada versi yang perlu Anda daftarkan, dan kemudian pada halaman detail versi, pilih ikon **Opsi lainnya** (![\[Vertical ellipsis icon representing a menu or more options.\]](http://docs.aws.amazon.com/id_id/sagemaker/latest/dg/images/studio/canvas/more-options-icon.png)).
1. Dalam daftar dropdown, pilih **Tambahkan ke Registri Model**. Kotak dialog **Add to Model Registry** terbuka.
1. Dalam kotak dialog **Add to Model Registry**, lakukan hal berikut:
1. (Opsional) Di bagian **grup model SageMaker Studio Classic**, untuk bidang **Nama grup** model, masukkan nama grup model tempat Anda ingin mendaftarkan versi Anda. Anda dapat menentukan nama untuk grup model baru yang dibuat SageMaker AI untuk Anda, atau Anda dapat menentukan grup model yang ada. Jika Anda tidak menentukan bidang ini, Canvas mendaftarkan versi Anda ke grup model default dengan nama yang sama dengan model Anda.
1. Pilih **Tambahkan**.
Versi model Anda sekarang harus terdaftar ke grup model di SageMaker Model Registry. Saat Anda mendaftarkan versi model ke grup model di Registri SageMaker Model, semua versi berikutnya dari model Canvas terdaftar ke grup model yang sama (jika Anda memilih untuk mendaftarkannya). Jika Anda mendaftarkan versi Anda ke grup model yang berbeda, Anda harus pergi ke Registri SageMaker Model dan [menghapus grup model](https://docs.aws.amazon.com/sagemaker/latest/dg/model-registry-delete-model-group.html). Kemudian, Anda dapat mendaftarkan ulang versi model Anda ke grup model baru.
Untuk melihat status model Anda, Anda dapat kembali ke halaman **Versi** untuk model Anda di aplikasi Canvas. Halaman ini menunjukkan status **Registri Model** dari setiap versi. Jika statusnya`Registered`, maka model telah berhasil didaftarkan.
Jika Anda ingin melihat detail versi model terdaftar Anda, untuk status **Registri Model**, Anda dapat mengarahkan kursor ke bidang **Terdaftar** untuk melihat kotak pop-up **detail registri Model**. Detail ini berisi info lebih lanjut, seperti berikut ini:
+ **Nama grup paket Model** adalah grup model tempat versi Anda terdaftar di Registri SageMaker Model.
+ **Status Persetujuan**, yang dapat berupa `Pending Approval``Approved`, atau`Rejected`. Jika pengguna Studio Classic menyetujui atau menolak versi Anda di Registri SageMaker Model, status ini akan diperbarui pada halaman versi model saat Anda me-refresh halaman.
Tangkapan layar berikut menunjukkan kotak **Detail registri Model**, bersama dengan **status Persetujuan** `Approved` untuk versi model khusus ini.
![\[Screenshot dari kotak detail SageMaker Model Registry di aplikasi Canvas.\]](http://docs.aws.amazon.com/id_id/sagemaker/latest/dg/images/studio/canvas/approved-mr.png)
# Menerapkan model Anda ke titik akhir
Di Amazon SageMaker Canvas, Anda dapat menerapkan model Anda ke titik akhir untuk membuat prediksi. SageMaker AI menyediakan infrastruktur ML bagi Anda untuk meng-host model Anda pada titik akhir dengan instans komputasi yang Anda pilih. Kemudian, Anda dapat *memanggil* titik akhir (mengirim permintaan prediksi) dan mendapatkan prediksi waktu nyata dari model Anda. Dengan fungsi ini, Anda dapat menggunakan model Anda dalam produksi untuk menanggapi permintaan yang masuk, dan Anda dapat mengintegrasikan model Anda dengan aplikasi dan alur kerja yang ada.
Untuk memulai, Anda harus memiliki model yang ingin Anda terapkan. Anda dapat menerapkan versi model khusus yang telah Anda buat, model SageMaker JumpStart fondasi Amazon, dan model fondasi yang disetel JumpStart dengan baik. Untuk informasi selengkapnya tentang membuat model di Canvas, lihat[Cara kerja model khusus](canvas-build-model.md). Untuk informasi lebih lanjut tentang model JumpStart foundation di Canvas, lihat[Model fondasi AI generatif di Kanvas SageMaker](canvas-fm-chat.md).
Tinjau bagian **Manajemen izin** berikut, lalu mulailah membuat penerapan baru di bagian **Menerapkan model**.
## Manajemen izin
Secara default, Anda memiliki izin untuk menerapkan model ke titik akhir SageMaker AI Hosting. SageMaker AI memberikan izin ini untuk semua profil pengguna Canvas baru dan yang sudah ada melalui [AmazonSageMakerCanvasFullAccess](https://docs.aws.amazon.com/aws-managed-policy/latest/reference/AmazonSageMakerCanvasFullAccess.html)kebijakan, yang dilampirkan ke peran eksekusi AWS IAM untuk domain SageMaker AI yang menghosting aplikasi Canvas Anda.
Jika administrator Canvas Anda menyiapkan domain atau profil pengguna baru, saat mereka menyiapkan domain dan mengikuti petunjuk prasyarat di[Prasyarat untuk menyiapkan Amazon Canvas SageMaker](canvas-getting-started.md#canvas-prerequisites), SageMaker AI mengaktifkan izin penerapan model melalui opsi **Aktifkan penerapan langsung model Canvas**, yang diaktifkan secara default.
Administrator Canvas dapat mengelola izin penerapan model di tingkat profil pengguna juga. Misalnya, jika administrator tidak ingin memberikan izin penerapan model ke semua profil pengguna saat menyiapkan domain, mereka dapat memberikan izin kepada pengguna tertentu setelah membuat domain.
Prosedur berikut menunjukkan cara memodifikasi izin penerapan model untuk profil pengguna tertentu:
1. Buka konsol SageMaker AI di [https://console.aws.amazon.com/sagemaker/](https://console.aws.amazon.com/sagemaker/).
1. Di panel navigasi kiri, pilih **Konfigurasi admin**.
1. Di bawah **konfigurasi Admin**, pilih **Domain**.
1. Dari daftar domain, pilih domain profil pengguna.
1. Pada halaman **Detail domain**, pilih tab **Profil pengguna**.
1. Pilih **profil pengguna** Anda.
1. Pada halaman profil pengguna, pilih tab **Konfigurasi Aplikasi**.
1. Di bagian **Canvas**, pilih **Edit**.
1. Di bagian **konfigurasi Ops Ops**, aktifkan sakelar **Aktifkan penerapan langsung model Canvas** untuk mengaktifkan izin penerapan.
1. Pilih **Kirim** untuk menyimpan perubahan pada pengaturan domain Anda.
Profil pengguna sekarang harus memiliki izin penerapan model.
Setelah memberikan izin ke domain atau profil pengguna, pastikan pengguna keluar dari aplikasi Canvas mereka dan masuk kembali untuk menerapkan perubahan izin.
## Menyebarkan model
Untuk memulai penerapan model Anda, Anda membuat penerapan baru di Canvas dan menentukan versi model yang ingin Anda terapkan bersama dengan infrastruktur ML, seperti jenis dan jumlah instance komputasi yang ingin Anda gunakan untuk hosting model.
Canvas menyarankan jenis default dan jumlah instans berdasarkan jenis model Anda, atau Anda dapat mempelajari lebih lanjut tentang berbagai jenis instans SageMaker AI di [halaman SageMaker harga Amazon](https://aws.amazon.com/sagemaker/pricing/). Anda dikenakan biaya berdasarkan harga instans SageMaker AI saat titik akhir Anda aktif.
Saat menerapkan model JumpStart pondasi, Anda juga memiliki opsi untuk menentukan lamanya waktu penerapan. Anda dapat menerapkan model ke titik akhir tanpa batas waktu (artinya titik akhir aktif hingga Anda menghapus penerapan). Atau, jika Anda hanya memerlukan titik akhir untuk waktu yang singkat dan ingin mengurangi biaya, Anda dapat menerapkan model ke titik akhir untuk jangka waktu tertentu, setelah itu SageMaker AI mematikan titik akhir untuk Anda.
**catatan**
Jika Anda menerapkan model untuk jangka waktu tertentu, tetap login ke aplikasi Canvas selama durasi titik akhir. Jika Anda keluar dari atau menghapus aplikasi, maka Canvas tidak dapat mematikan titik akhir pada waktu yang ditentukan.
*Setelah model Anda diterapkan ke [titik akhir inferensi real-time Hosting SageMaker AI Hosting, Anda dapat mulai membuat prediksi dengan memanggil titik akhir](https://docs.aws.amazon.com/sagemaker/latest/dg/realtime-endpoints.html).*
Ada beberapa cara berbeda bagi Anda untuk menerapkan model dari aplikasi Canvas. Anda dapat mengakses opsi penerapan model melalui salah satu metode berikut:
+ Pada halaman **Model saya** dari aplikasi Canvas, pilih model yang ingin Anda terapkan. Kemudian, dari halaman **Versi** model, pilih ikon **Opsi lainnya** (![\[Vertical ellipsis icon representing a menu or more options.\]](http://docs.aws.amazon.com/id_id/sagemaker/latest/dg/images/studio/canvas/more-options-icon.png)) di sebelah versi model dan pilih **Deploy**.
+ Saat berada di halaman detail untuk versi model, pada tab **Analisis**, pilih opsi **Deploy**.
+ Saat berada di halaman detail untuk versi model, pada tab **Predict**, pilih ikon **More options** (![\[Vertical ellipsis icon representing a menu or more options.\]](http://docs.aws.amazon.com/id_id/sagemaker/latest/dg/images/studio/canvas/more-options-icon.png)) di bagian atas halaman dan pilih **Deploy**.
+ Pada halaman **Ops Ops** aplikasi Canvas, pilih tab **Deployments dan kemudian pilih **Create** deployment**.
+ Untuk model JumpStart pondasi dan model pondasi yang disetel dengan baik, buka halaman **Ready-to-use model aplikasi** Canvas. Pilih **Menghasilkan, mengekstrak, dan meringkas konten**. Kemudian, temukan model JumpStart pondasi atau model pondasi yang disetel dengan baik yang ingin Anda terapkan. Pilih model, dan pada halaman obrolan model, pilih tombol **Deploy**.
Semua metode ini membuka panel samping **model Deploy**, tempat Anda menentukan konfigurasi penerapan untuk model Anda. Untuk menerapkan model dari panel ini, lakukan hal berikut:
1. (Opsional) Jika Anda membuat penerapan dari halaman **Ops Ops**, Anda akan memiliki opsi untuk **Pilih model dan versi**. Gunakan menu tarik-turun untuk memilih model dan versi model yang ingin Anda terapkan.
1. Masukkan nama di bidang **Nama Deployment**.
1. **(Hanya untuk model JumpStart pondasi dan model pondasi yang disetel dengan baik) Pilih panjang Deployment.** Pilih **Tidak Terbatas** untuk membiarkan titik akhir aktif sampai Anda mematikannya, atau pilih **Tentukan panjang** dan kemudian masukkan periode waktu yang Anda inginkan titik akhir tetap aktif.
1. Untuk **tipe Instance**, SageMaker AI mendeteksi jenis dan nomor instans default yang sesuai untuk model Anda. Namun, Anda dapat mengubah jenis instance yang ingin Anda gunakan untuk menghosting model Anda.
**catatan**
Jika Anda kehabisan kuota instans untuk jenis instans yang dipilih di AWS akun Anda, Anda dapat meminta peningkatan kuota. Untuk informasi selengkapnya tentang kuota default dan cara meminta peningkatan, lihat [titik akhir dan kuota Amazon SageMaker AI di panduan Referensi AWS](https://docs.aws.amazon.com/general/latest/gr/sagemaker.html) *Umum*.
1. Untuk **hitungan Instance**, Anda dapat mengatur jumlah instance aktif yang digunakan untuk titik akhir Anda. SageMaker AI mendeteksi nomor default yang cocok untuk model Anda, tetapi Anda dapat mengubah nomor ini.
1. Saat Anda siap untuk menerapkan model Anda, pilih **Deploy**.
Model Anda sekarang harus diterapkan ke titik akhir.
# Melihat penerapan Anda
Anda mungkin ingin memeriksa status atau detail penerapan model di Amazon SageMaker Canvas. Misalnya, jika penerapan gagal, Anda mungkin ingin memeriksa detailnya untuk memecahkan masalah.
Anda dapat melihat penerapan model Canvas Anda dari aplikasi Canvas atau dari konsol Amazon SageMaker AI.
Untuk melihat detail penerapan dari Canvas, pilih salah satu prosedur berikut:
Untuk melihat detail penerapan Anda dari halaman **Ops Ops**, lakukan hal berikut:
1. Buka aplikasi SageMaker Canvas.
1. Di panel navigasi kiri, pilih **Ops Ops**.
1. Pilih tab **Deployment.**
1. Pilih penyebaran berdasarkan nama dari daftar.
Untuk melihat detail penerapan Anda dari halaman versi model, lakukan hal berikut:
1. Di aplikasi SageMaker Canvas, buka halaman detail versi model Anda.
1. Pilih tab **Deploy**.
1. Di bagian **Deployment** yang mencantumkan semua konfigurasi penerapan yang terkait dengan versi model tersebut, temukan penerapan Anda.
1. Pilih ikon **Opsi lainnya** (![\[More options icon for the output CSV file.\]](http://docs.aws.amazon.com/id_id/sagemaker/latest/dg/images/studio/canvas/more-options-icon.png)), lalu pilih **Lihat detail** untuk membuka halaman detail.
Halaman detail untuk penerapan Anda terbuka, dan Anda dapat melihat informasi seperti waktu prediksi terbaru, status dan konfigurasi titik akhir, dan versi model yang saat ini digunakan ke titik akhir.
[Anda juga dapat melihat instans ruang kerja Canvas yang saat ini aktif dan titik akhir aktif dari **dasbor SageMaker AI di konsol AI**. SageMaker ](https://console.aws.amazon.com/sagemaker/) Endpoint Canvas Anda terdaftar bersama titik akhir SageMaker AI Hosting lainnya yang telah Anda buat, dan Anda dapat memfilternya dengan mencari titik akhir dengan tag Canvas.
Tangkapan layar berikut menunjukkan dasbor SageMaker AI. Di bagian **Canvas**, Anda dapat melihat bahwa satu instance ruang kerja dalam layanan dan empat titik akhir aktif.
![\[Tangkapan layar dasbor SageMaker AI yang menunjukkan instance dan titik akhir ruang kerja Canvas yang aktif.\]](http://docs.aws.amazon.com/id_id/sagemaker/latest/dg/images/studio/canvas/canvas-sagemaker-dashboard.png)
# Perbarui konfigurasi penerapan
Anda dapat memperbarui konfigurasi penerapan untuk model yang telah diterapkan ke titik akhir di Amazon Canvas. SageMaker Misalnya, Anda dapat menerapkan versi model yang diperbarui ke titik akhir, atau Anda dapat memperbarui jenis instans atau jumlah instance di belakang titik akhir berdasarkan kebutuhan kapasitas Anda.
Ada beberapa cara berbeda bagi Anda untuk memperbarui penerapan Anda dari aplikasi Canvas. Anda dapat menggunakan salah satu metode berikut:
+ Pada halaman **Ops Ops** aplikasi Canvas, Anda dapat memilih tab **Deployments** dan memilih penyebaran yang ingin Anda perbarui. Kemudian, pilih **Perbarui konfigurasi**.
+ Saat berada di halaman detail untuk versi model, pada tab **Deploy**, Anda dapat melihat penerapan untuk versi tersebut. Di samping penerapan, pilih ikon **Opsi lainnya** (![\[More options icon for the output CSV file.\]](http://docs.aws.amazon.com/id_id/sagemaker/latest/dg/images/studio/canvas/more-options-icon.png)) dan kemudian pilih **Perbarui konfigurasi**.
Kedua metode sebelumnya membuka panel sisi **konfigurasi Perbarui**, tempat Anda dapat membuat perubahan pada konfigurasi penerapan Anda. Untuk memperbarui konfigurasi, lakukan hal berikut:
1. Untuk menu tarik-turun **Pilih versi**, Anda dapat memilih versi model yang berbeda untuk diterapkan ke titik akhir.
**catatan**
Saat memperbarui konfigurasi penerapan, Anda hanya dapat memilih versi model yang berbeda untuk diterapkan. Untuk menerapkan model yang berbeda, buat penerapan baru.
1. Untuk **tipe Instance**, Anda dapat memilih jenis instans yang berbeda untuk menghosting model Anda.
1. Untuk **jumlah Instance**, Anda dapat mengubah jumlah instans aktif yang digunakan untuk titik akhir Anda.
1. Pilih **Simpan**.
Konfigurasi penerapan Anda sekarang harus diperbarui.
# Uji penerapan Anda
Anda dapat menguji penerapan model dengan memanggil titik akhir, atau membuat permintaan prediksi tunggal, melalui aplikasi Amazon Canvas. SageMaker Anda dapat menggunakan fungsi ini untuk mengonfirmasi bahwa titik akhir Anda merespons permintaan sebelum menjalankan titik akhir Anda secara terprogram di lingkungan produksi.
## Uji penerapan model kustom
Anda dapat menguji penerapan model kustom dengan mengaksesnya melalui halaman **Ops Ops** dan membuat satu pemanggilan, yang mengembalikan prediksi bersama dengan probabilitas bahwa prediksi tersebut benar.
**catatan**
Panjang eksekusi adalah perkiraan waktu yang dibutuhkan untuk memanggil dan mendapatkan respons dari titik akhir di Canvas. Untuk metrik latensi mendetail, lihat Metrik [SageMaker Pemanggilan Titik Akhir AI](https://docs.aws.amazon.com/sagemaker/latest/dg/monitoring-cloudwatch.html#cloudwatch-metrics-endpoint-invocation).
Untuk menguji titik akhir Anda melalui aplikasi Canvas, lakukan hal berikut:
1. Buka aplikasi SageMaker Canvas.
1. Di panel navigasi kiri, pilih **Ops Ops**.
1. Pilih tab **Deployment.**
1. Dari daftar penerapan, pilih salah satu dengan titik akhir yang ingin Anda panggil.
1. Pada halaman detail penerapan, pilih tab **Test deployment**.
1. Pada halaman pengujian penerapan, Anda dapat memodifikasi bidang **Nilai** untuk menentukan titik data baru. Untuk model peramalan deret waktu, Anda menentukan **ID Item** yang ingin Anda buat ramalannya.
1. Setelah memodifikasi nilai, pilih **Perbarui** untuk mendapatkan hasil prediksi.
Prediksi dimuat, bersama dengan bidang **hasil Pemanggilan** yang menunjukkan apakah pemanggilan berhasil atau tidak dan berapa lama permintaan untuk diproses.
Screenshot berikut menunjukkan prediksi yang dilakukan dalam aplikasi Canvas pada tab **Test deployment**.
![\[Aplikasi Canvas menunjukkan prediksi pengujian untuk model yang diterapkan.\]](http://docs.aws.amazon.com/id_id/sagemaker/latest/dg/images/studio/canvas/canvas-test-deployments.png)
Untuk semua jenis model kecuali prediksi numerik dan peramalan deret waktu, prediksi mengembalikan bidang berikut:
+ **predicted\$1label** — output yang diprediksi
+ **probabilitas** — probabilitas bahwa label yang diprediksi benar
+ **label** — daftar semua label yang mungkin
+ **probabilitas** — probabilitas yang sesuai dengan setiap label (urutan daftar ini cocok dengan urutan label)
Untuk model prediksi numerik, prediksi hanya berisi bidang **skor**, yang merupakan output prediksi dari model, seperti harga prediksi sebuah rumah.
Untuk model peramalan deret waktu, prediksi adalah grafik yang menunjukkan prakiraan dengan kuantil. Anda dapat memilih tampilan **Skema untuk melihat** nilai numerik yang diperkirakan untuk setiap kuantil.
Anda dapat terus membuat prediksi tunggal melalui halaman pengujian penerapan, atau Anda dapat melihat bagian berikut [Panggil titik akhir Anda](canvas-deploy-model-invoke.md) untuk mempelajari cara memanggil titik akhir Anda secara terprogram dari aplikasi.
## Uji penerapan model JumpStart pondasi
Anda dapat mengobrol dengan model JumpStart foundation yang diterapkan melalui aplikasi Canvas untuk menguji fungsinya sebelum memanggilnya melalui kode.
Untuk mengobrol dengan model JumpStart foundation yang digunakan, lakukan hal berikut:
1. Buka aplikasi SageMaker Canvas.
1. Di panel navigasi kiri, pilih **Ops Ops**.
1. Pilih tab **Deployment.**
1. Dari daftar penerapan, temukan salah satu yang ingin Anda panggil dan pilih ikon **Opsi lainnya** (). ![\[More options icon for a model deployment.\]](http://docs.aws.amazon.com/id_id/sagemaker/latest/dg/images/studio/canvas/more-options-icon.png)
1. Dari menu konteks, pilih **Test deployment**.
1. **Menghasilkan, mengekstrak, dan meringkas obrolan konten** baru terbuka dengan model JumpStart foundation, dan Anda dapat mulai mengetik prompt. Perhatikan bahwa permintaan dari obrolan ini dikirim sebagai permintaan ke titik akhir SageMaker AI Hosting Anda.
# Panggil titik akhir Anda
**catatan**
Kami menyarankan Anda [menguji penerapan model Anda di Amazon SageMaker Canvas](canvas-deploy-model-test.md) sebelum menjalankan titik akhir SageMaker AI secara terprogram.
Anda dapat menggunakan model Amazon SageMaker Canvas yang telah Anda terapkan ke titik akhir SageMaker AI dalam produksi dengan aplikasi Anda. [Panggil titik akhir secara terprogram dengan cara yang sama seperti Anda memanggil titik akhir real-time AI lainnya. SageMaker ](https://docs.aws.amazon.com/sagemaker/latest/dg/realtime-endpoints.html) Memanggil titik akhir secara terprogram mengembalikan objek respons yang berisi bidang yang sama yang dijelaskan dalam. [Uji penerapan Anda](canvas-deploy-model-test.md)
Untuk informasi lebih rinci tentang cara memanggil titik akhir secara terprogram, lihat. [Memanggil model untuk inferensi waktu nyata](realtime-endpoints-test-endpoints.md)
Contoh Python berikut menunjukkan cara memanggil endpoint Anda berdasarkan jenis model.
## JumpStart model pondasi
Contoh berikut menunjukkan kepada Anda cara memanggil model JumpStart foundation yang telah Anda terapkan ke titik akhir.
```
import boto3
import pandas as pd
client = boto3.client("runtime.sagemaker")
body = pd.DataFrame(
[['feature_column1', 'feature_column2'],
['feature_column1', 'feature_column2']]
).to_csv(header=False, index=False).encode("utf-8")
response = client.invoke_endpoint(
EndpointName="endpoint_name",
ContentType="text/csv",
Body=body,
Accept="application/json"
)
```
## Model prediksi numerik dan kategoris
Contoh berikut menunjukkan cara memanggil model prediksi numerik atau kategoris.
```
import boto3
import pandas as pd
client = boto3.client("runtime.sagemaker")
body = pd.DataFrame(['feature_column1', 'feature_column2'], ['feature_column1', 'feature_column2']).to_csv(header=False, index=False).encode("utf-8")
response = client.invoke_endpoint(
EndpointName="endpoint_name",
ContentType="text/csv",
Body=body,
Accept="application/json"
)
```
## Model peramalan deret waktu
Contoh berikut menunjukkan kepada Anda cara memanggil model peramalan deret waktu. Untuk contoh lengkap tentang cara menguji pemanggilan model peramalan deret waktu, lihat [Peramalan Seri Waktu dengan](https://github.com/aws/amazon-sagemaker-examples/blob/eef13dae197a6e588a8bc111aba3244f99ee0fbb/autopilot/autopilot_time_series.ipynb) Amazon Autopilot. SageMaker
```
import boto3
import pandas as pd
csv_path = './real-time-payload.csv'
data = pd.read_csv(csv_path)
client = boto3.client("runtime.sagemaker")
body = data.to_csv(index=False).encode("utf-8")
response = client.invoke_endpoint(
EndpointName="endpoint_name",
ContentType="text/csv",
Body=body,
Accept="application/json"
)
```
## Model prediksi gambar
Contoh berikut menunjukkan cara memanggil model prediksi gambar.
```
import boto3
client = boto3.client("runtime.sagemaker")
with open("example_image.jpg", "rb") as file:
body = file.read()
response = client.invoke_endpoint(
EndpointName="endpoint_name",
ContentType="application/x-image",
Body=body,
Accept="application/json"
)
```
## Model prediksi teks
Contoh berikut menunjukkan cara memanggil model prediksi teks.
```
import boto3
import pandas as pd
client = boto3.client("runtime.sagemaker")
body = pd.DataFrame([["Example text 1"], ["Example text 2"]]).to_csv(header=False, index=False).encode("utf-8")
response = client.invoke_endpoint(
EndpointName="endpoint_name",
ContentType="text/csv",
Body=body,
Accept="application/json"
)
```
# Hapus penerapan model
Anda dapat menghapus penerapan model Anda dari aplikasi Amazon SageMaker Canvas. Tindakan ini juga menghapus titik akhir dari konsol SageMaker AI dan mematikan sumber daya terkait titik akhir apa pun.
**catatan**
Secara opsional, Anda dapat menghapus titik akhir Anda melalui [konsol SageMaker AI](https://console.aws.amazon.com/sagemaker/) atau menggunakan SageMaker AI `DeleteEndpoint` API. Untuk informasi selengkapnya, lihat [Hapus Titik Akhir dan Sumber Daya](realtime-endpoints-delete-resources.md). Namun, saat Anda menghapus titik akhir melalui konsol SageMaker AI atau APIs bukan aplikasi Canvas, daftar penerapan di Canvas tidak diperbarui secara otomatis. Anda juga harus menghapus penyebaran dari aplikasi Canvas untuk menghapusnya dari daftar.
Untuk menghapus penerapan di Canvas, lakukan hal berikut:
1. Buka aplikasi SageMaker Canvas.
1. Di panel navigasi kiri, pilih **Ops Ops**.
1. Pilih tab **Deployment.**
1. Dari daftar penerapan, pilih salah satu yang ingin Anda hapus.
1. Di bagian atas halaman detail penyebaran, pilih ikon **Opsi lainnya** (![\[More options icon for the output CSV file.\]](http://docs.aws.amazon.com/id_id/sagemaker/latest/dg/images/studio/canvas/more-options-icon.png)).
1. Pilih **Hapus penerapan**.
1. Di kotak dialog **Hapus penyebaran**, pilih **Hapus**.
Penerapan Anda dan titik akhir SageMaker AI Hosting sekarang harus dihapus dari Canvas dan konsol SageMaker AI.