Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
# JumpStart penggunaan model pondasi
Pilih, latih, atau terapkan model foundation melalui Amazon SageMaker Studio atau Amazon SageMaker Studio Classic, gunakan model JumpStart foundation secara terprogram dengan SageMaker Python SDK, atau temukan model JumpStart foundation langsung melalui konsol AI. SageMaker
**Topics**
+ [Gunakan model pondasi di Studio](jumpstart-foundation-models-use-studio-updated.md)
+ [Gunakan model foundation di Amazon SageMaker Studio Classic](jumpstart-foundation-models-use-studio.md)
+ [Gunakan model foundation dengan SageMaker Python SDK](jumpstart-foundation-models-use-python-sdk.md)
+ [Temukan model foundation di Konsol SageMaker AI](jumpstart-foundation-models-use-console.md)
# Gunakan model pondasi di Studio
Amazon SageMaker Studio memungkinkan Anda menyempurnakan, menerapkan, dan mengevaluasi model JumpStart foundation yang tersedia untuk umum dan eksklusif secara langsung melalui UI Studio.
**penting**
Per 30 November 2023, pengalaman Amazon SageMaker Studio sebelumnya sekarang bernama Amazon SageMaker Studio Classic. Bagian berikut khusus untuk menggunakan pengalaman Studio yang diperbarui. Untuk informasi tentang menggunakan aplikasi Studio Classic, lihat[Amazon SageMaker Studio Klasik](studio.md).
Untuk memulai, navigasikan ke halaman JumpStart arahan di Amazon SageMaker Studio. Anda dapat mengaksesnya dari halaman **Beranda** atau menu panel sisi kiri. Di halaman **JumpStart**arahan, Anda dapat menjelajahi hub model dari penyedia model yang tersedia untuk umum dan berpemilik, dan mencari model.
Dalam setiap hub model, Anda dapat mengurutkan model berdasarkan **Kebanyakan suka**, **Paling banyak unduhan**, **Baru diperbarui**, atau memfilternya berdasarkan tugas. Pilih model untuk melihat kartu detailnya. Pada kartu detail model, Anda dapat memilih untuk **menyempurnakan**, **menyebarkan**, atau **mengevaluasi** model, tergantung pada opsi yang tersedia. Perhatikan bahwa tidak semua model tersedia untuk fine-tuning atau evaluasi.
Untuk informasi selengkapnya tentang memulai Amazon SageMaker Studio, lihat[SageMaker Studio Amazon](studio-updated.md).
**Topics**
+ [Sempurnakan model di Studio](jumpstart-foundation-models-use-studio-updated-fine-tune.md)
+ [Menyebarkan model di Studio](jumpstart-foundation-models-use-studio-updated-deploy.md)
+ [Mengevaluasi model di Studio](jumpstart-foundation-models-use-studio-updated-evaluate.md)
+ [Gunakan SageMaker JumpStart Model Anda di Amazon Bedrock](jumpstart-foundation-models-use-studio-updated-register-bedrock.md)
# Sempurnakan model di Studio
Fine-tuning melatih model yang telah dilatih sebelumnya pada dataset baru tanpa pelatihan dari awal. Proses ini, juga dikenal sebagai pembelajaran transfer, dapat menghasilkan model yang akurat dengan kumpulan data yang lebih kecil dan waktu pelatihan yang lebih sedikit. Untuk menyempurnakan model JumpStart foundation, navigasikan ke kartu detail model di UI Studio. Untuk informasi selengkapnya tentang cara membuka JumpStart di Studio, lihat[Buka JumpStart di Studio](studio-jumpstart.md#jumpstart-open-studio). Setelah menavigasi ke kartu detail model pilihan Anda, pilih **Kereta** di sudut kanan atas. Perhatikan bahwa tidak semua model memiliki fine-tuning yang tersedia.
**penting**
Beberapa model foundation memerlukan penerimaan eksplisit dari perjanjian lisensi pengguna akhir (EULA) sebelum fine-tuning. Untuk informasi selengkapnya, lihat [Penerimaan EULA di Amazon Studio SageMaker](jumpstart-foundation-models-choose.md#jumpstart-foundation-models-choose-eula-studio).
## Pengaturan model
Saat menggunakan model JumpStart pondasi yang telah dilatih sebelumnya di Amazon SageMaker Studio, **lokasi artefak Model (URI Amazon S3) diisi** secara default. Untuk mengedit URI Amazon S3 default, pilih **Masukkan lokasi artefak model**. Tidak semua model mendukung perubahan lokasi artefak model.
## Pengaturan data
Di bidang **Data**, berikan titik URI Amazon S3 ke lokasi kumpulan data pelatihan Anda. URI Amazon S3 default menunjuk ke contoh kumpulan data pelatihan. Untuk mengedit URI Amazon S3 default, pilih **Masukkan kumpulan data pelatihan** dan ubah URI. Pastikan untuk meninjau kartu detail model di Amazon SageMaker Studio untuk informasi tentang memformat data pelatihan.
## Hyperparameter
Anda dapat menyesuaikan hyperparameters dari pekerjaan pelatihan yang digunakan untuk menyempurnakan model. Hiperparameter yang tersedia untuk setiap model yang dapat disetel berbeda tergantung pada modelnya.
Hyperparameter berikut umum di antara model:
+ **Epoch** — Satu epoch adalah satu siklus melalui seluruh dataset. Beberapa interval menyelesaikan batch, dan beberapa batch akhirnya menyelesaikan sebuah epoch. Beberapa zaman dijalankan hingga keakuratan model mencapai tingkat yang dapat diterima, atau ketika tingkat kesalahan turun di bawah tingkat yang dapat diterima.
+ **Laju belajar** — Jumlah nilai yang harus diubah antar zaman. Saat model disempurnakan, bobot internalnya didorong dan tingkat kesalahan diperiksa untuk melihat apakah model membaik. Tingkat pembelajaran tipikal adalah 0,1 atau 0,01, di mana 0,01 adalah penyesuaian yang jauh lebih kecil dan dapat menyebabkan pelatihan memakan waktu lama untuk bertemu, sedangkan 0,1 jauh lebih besar dan dapat menyebabkan pelatihan melampaui batas. Ini adalah salah satu hiperparameter utama yang mungkin Anda sesuaikan untuk melatih model Anda. Perhatikan bahwa untuk model teks, tingkat pembelajaran yang jauh lebih kecil (5e-5 untuk BERT) dapat menghasilkan model yang lebih akurat.
+ **Ukuran Batch** — Jumlah catatan dari kumpulan data yang akan dipilih untuk setiap interval untuk dikirim ke GPUs pelatihan.
Tinjau petunjuk tip alat dan informasi tambahan dalam kartu detail model di UI Studio untuk mempelajari lebih lanjut tentang hiperparameter khusus untuk model pilihan Anda.
Untuk informasi lebih lanjut tentang hiperparameter yang tersedia, lihat[Hiperparameter fine-tuning yang umumnya didukung](jumpstart-foundation-models-fine-tuning.md#jumpstart-foundation-models-fine-tuning-hyperparameters).
## Deployment
Tentukan jenis instans pelatihan dan lokasi artefak keluaran untuk pekerjaan pelatihan Anda. Anda hanya dapat memilih dari instance yang kompatibel dengan model pilihan Anda dalam menyempurnakan UI Studio. Lokasi artefak keluaran default adalah bucket default SageMaker AI. Untuk mengubah lokasi artefak keluaran, pilih **Masukkan lokasi artefak keluaran** dan ubah URI Amazon S3.
## Keamanan
Tentukan pengaturan keamanan yang akan digunakan untuk pekerjaan pelatihan Anda, termasuk peran IAM yang digunakan SageMaker AI untuk melatih model Anda, apakah pekerjaan pelatihan Anda harus terhubung ke cloud pribadi virtual (VPC), dan kunci enkripsi apa pun untuk mengamankan data Anda.
## Informasi tambahan
Di bidang **Informasi Tambahan**, Anda dapat mengedit nama pekerjaan pelatihan. Anda juga dapat menambah dan menghapus tag dalam bentuk pasangan nilai kunci untuk membantu mengatur dan mengkategorikan pekerjaan pelatihan fine-tuning Anda.
**Setelah memberikan informasi untuk konfigurasi fine-tuning Anda, pilih Kirim.** Jika model yayasan pra-terlatih yang Anda pilih untuk disempurnakan memerlukan persetujuan eksplisit dari perjanjian lisensi pengguna akhir (EULA) sebelum pelatihan, EULA disediakan di jendela pop-up. Untuk menerima ketentuan EULA, pilih **Terima**. Anda bertanggung jawab untuk meninjau dan mematuhi persyaratan lisensi yang berlaku dan memastikannya dapat diterima untuk kasus penggunaan Anda sebelum mengunduh atau menggunakan model.
# Menyebarkan model di Studio
Untuk menerapkan model JumpStart foundation, navigasikan ke kartu detail model di UI Studio. Untuk informasi selengkapnya tentang cara membuka JumpStart di Studio, lihat[Buka JumpStart di Studio](studio-jumpstart.md#jumpstart-open-studio). Setelah menavigasi ke halaman detail model pilihan Anda, pilih **Deploy** di sudut kanan atas UI Studio. Kemudian, ikuti langkah-langkah di [Deploy model dengan SageMaker Studio](https://docs.aws.amazon.com/sagemaker/latest/dg/realtime-endpoints-deploy-models.html#deploy-models-studio).
**penting**
Beberapa model dasar memerlukan penerimaan eksplisit dari perjanjian lisensi pengguna akhir (EULA) sebelum penerapan. Untuk informasi selengkapnya, lihat [Penerimaan EULA di Amazon Studio SageMaker](jumpstart-foundation-models-choose.md#jumpstart-foundation-models-choose-eula-studio).
# Mengevaluasi model di Studio
Amazon SageMaker JumpStart memiliki integrasi dengan SageMaker Clarify foundation model evaluations (FME) di Studio. Jika JumpStart model memiliki kemampuan evaluasi bawaan yang tersedia, Anda dapat memilih **Evaluasi** di sudut kanan atas halaman detail model di UI JumpStart Studio. Untuk informasi lebih lanjut, lihat [Mengevaluasi model pondasi](https://docs.aws.amazon.com/sagemaker/latest/dg/jumpstart-foundation-models-evaluate.html).
# Gunakan SageMaker JumpStart Model Anda di Amazon Bedrock
Anda dapat mendaftarkan model yang telah Anda terapkan dari Amazon SageMaker JumpStart ke Amazon Bedrock. Dengan Amazon Bedrock, Anda dapat meng-host model Anda di belakang beberapa titik akhir. Anda juga dapat menggunakan fitur Amazon Bedrock, seperti Agen dan Pangkalan Pengetahuan. Untuk informasi selengkapnya tentang menggunakan model Amazon Bedrock, lihat[https://docs.aws.amazon.com/bedrock/latest/userguide/amazon-bedrock-marketplace.html](https://docs.aws.amazon.com/bedrock/latest/userguide/amazon-bedrock-marketplace.html).
**penting**
Untuk memigrasikan model Anda ke Amazon Bedrock, sebaiknya lampirkan [AmazonBedrockFullAccess](https://docs.aws.amazon.com/aws-managed-policy/latest/reference/AmazonBedrockFullAccess.html)kebijakan ke peran IAM Anda. Jika Anda tidak dapat melampirkan kebijakan terkelola, pastikan peran IAM Anda memiliki izin berikut:
****
```
{
"Version":"2012-10-17",
"Statement": [
{
"Sid": "BedrockAll",
"Effect": "Allow",
"Action": [
"bedrock:*"
],
"Resource": "*"
},
{
"Sid": "DescribeKey",
"Effect": "Allow",
"Action": [
"kms:DescribeKey"
],
"Resource": "arn:*:kms:*:::*"
},
{
"Sid": "APIsWithAllResourceAccess",
"Effect": "Allow",
"Action": [
"iam:ListRoles",
"ec2:DescribeVpcs",
"ec2:DescribeSubnets",
"ec2:DescribeSecurityGroups"
],
"Resource": "*"
},
{
"Sid": "MarketplaceModelEndpointMutatingAPIs",
"Effect": "Allow",
"Action": [
"sagemaker:CreateEndpoint",
"sagemaker:CreateEndpointConfig",
"sagemaker:CreateModel",
"sagemaker:CreateInferenceComponent",
"sagemaker:DeleteInferenceComponent",
"sagemaker:DeleteEndpoint",
"sagemaker:UpdateEndpoint"
],
"Resource": [
"arn:aws:sagemaker:*:*:endpoint/*",
"arn:aws:sagemaker:*:*:endpoint-config/*",
"arn:aws:sagemaker:*:*:model/*"
],
"Condition": {
"StringEquals": {
"aws:CalledViaLast": "bedrock.amazonaws.com"
}
}
},
{
"Sid": "BedrockEndpointTaggingOperations",
"Effect": "Allow",
"Action": [
"sagemaker:AddTags",
"sagemaker:DeleteTags"
],
"Resource": [
"arn:aws:sagemaker:*:*:endpoint/*",
"arn:aws:sagemaker:*:*:endpoint-config/*",
"arn:aws:sagemaker:*:*:model/*"
]
},
{
"Sid": "MarketplaceModelEndpointNonMutatingAPIs",
"Effect": "Allow",
"Action": [
"sagemaker:DescribeEndpoint",
"sagemaker:DescribeEndpointConfig",
"sagemaker:DescribeModel",
"sagemaker:DescribeInferenceComponent",
"sagemaker:ListEndpoints",
"sagemaker:ListTags"
],
"Resource": [
"arn:aws:sagemaker:*:*:endpoint/*",
"arn:aws:sagemaker:*:*:endpoint-config/*",
"arn:aws:sagemaker:*:*:model/*"
],
"Condition": {
"StringEquals": {
"aws:CalledViaLast": "bedrock.amazonaws.com"
}
}
},
{
"Sid": "BedrockEndpointInvokingOperations",
"Effect": "Allow",
"Action": [
"sagemaker:InvokeEndpoint",
"sagemaker:InvokeEndpointWithResponseStream"
],
"Resource": [
"arn:aws:sagemaker:*:*:endpoint/*"
],
"Condition": {
"StringEquals": {
"aws:CalledViaLast": "bedrock.amazonaws.com"
}
}
},
{
"Sid": "DiscoveringMarketplaceModel",
"Effect": "Allow",
"Action": [
"sagemaker:DescribeHubContent"
],
"Resource": [
"arn:aws:sagemaker:*:aws:hub-content/SageMakerPublicHub/Model/*",
"arn:aws:sagemaker:*:aws:hub/SageMakerPublicHub"
]
},
{
"Sid": "AllowMarketplaceModelsListing",
"Effect": "Allow",
"Action": [
"sagemaker:ListHubContents"
],
"Resource": "arn:aws:sagemaker:*:aws:hub/SageMakerPublicHub"
},
{
"Sid": "RetrieveSubscribedMarketplaceLicenses",
"Effect": "Allow",
"Action": [
"license-manager:ListReceivedLicenses"
],
"Resource": [
"*"
]
},
{
"Sid": "PassRoleToSageMaker",
"Effect": "Allow",
"Action": [
"iam:PassRole"
],
"Resource": [
"arn:aws:iam::*:role/*Sagemaker*ForBedrock*"
],
"Condition": {
"StringEquals": {
"iam:PassedToService": [
"sagemaker.amazonaws.com",
"bedrock.amazonaws.com"
]
}
}
},
{
"Sid": "PassRoleToBedrock",
"Effect": "Allow",
"Action": [
"iam:PassRole"
],
"Resource": "arn:aws:iam::*:role/*AmazonBedrock*",
"Condition": {
"StringEquals": {
"iam:PassedToService": [
"bedrock.amazonaws.com"
]
}
}
}
]
}
```
Kebijakan Amazon Bedrock Full Access hanya menyediakan izin ke Amazon Bedrock API. Untuk menggunakan Amazon Bedrock di Konsol Manajemen AWS, peran IAM Anda juga harus memiliki izin berikut:
```
{
"Sid": "AllowConsoleS3AccessForBedrockMarketplace",
"Effect": "Allow",
"Action": [
"s3:GetObject",
"s3:GetBucketCORS",
"s3:ListBucket",
"s3:ListBucketVersions",
"s3:GetBucketLocation"
],
"Resource": "*"
}
```
Jika Anda menulis kebijakan Anda sendiri, Anda harus menyertakan pernyataan kebijakan yang memungkinkan tindakan Amazon Bedrock Marketplace untuk sumber daya. Misalnya, kebijakan berikut memungkinkan Amazon Bedrock menggunakan `InvokeModel` operasi untuk model yang telah Anda terapkan ke titik akhir.
****
```
{
"Version":"2012-10-17",
"Statement": [
{
"Sid": "BedrockAll",
"Effect": "Allow",
"Action": [
"bedrock:InvokeModel"
],
"Resource": [
"arn:aws:bedrock:us-east-1:111122223333:marketplace/model-endpoint/all-access"
]
},
{
"Sid": "VisualEditor1",
"Effect": "Allow",
"Action": ["sagemaker:InvokeEndpoint"],
"Resource": "arn:aws:sagemaker:us-east-1:111122223333:endpoint/*",
"Condition": {
"StringEquals": {
"aws:ResourceTag/project": "example-project-id",
"aws:CalledViaLast": "bedrock.amazonaws.com"
}
}
}
]
}
```
Setelah menerapkan model, Anda mungkin dapat menggunakannya di Amazon Bedrock. Untuk melihat apakah Anda dapat menggunakannya di Amazon Bedrock, navigasikan ke kartu detail model di UI Studio. Jika kartu model mengatakan bahwa itu **Bedrock Ready**, Anda dapat mendaftarkan model dengan Amazon Bedrock.
**penting**
Secara default Amazon SageMaker JumpStart menonaktifkan akses jaringan untuk model yang Anda terapkan. Jika Anda telah mengaktifkan akses jaringan, Anda tidak akan dapat menggunakan model dengan Amazon Bedrock. Jika Anda ingin menggunakan model dengan Amazon Bedrock, Anda harus menerapkannya kembali dengan akses jaringan dinonaktifkan.
Untuk menggunakannya dengan Amazon Bedrock, navigasikan ke halaman **detail Endpoint** dan pilih **Use with Bedrock** di sudut kanan atas UI Studio. Setelah Anda melihat pop-up, pilih **Register to Bedrock**.
# Gunakan model foundation di Amazon SageMaker Studio Classic
Anda dapat menyempurnakan dan menerapkan model JumpStart foundation yang tersedia untuk umum dan eksklusif melalui UI Studio Classic.
**penting**
Per 30 November 2023, pengalaman Amazon SageMaker Studio sebelumnya sekarang bernama Amazon SageMaker Studio Classic. Bagian berikut khusus untuk menggunakan aplikasi Studio Classic. Untuk informasi tentang menggunakan pengalaman Studio yang diperbarui, lihat[SageMaker Studio Amazon](studio-updated.md).
Studio Classic masih dipertahankan untuk beban kerja yang ada tetapi tidak lagi tersedia untuk orientasi. Anda hanya dapat menghentikan atau menghapus aplikasi Studio Classic yang ada dan tidak dapat membuat yang baru. Kami menyarankan Anda [memigrasikan beban kerja Anda ke pengalaman Studio yang baru](studio-updated-migrate.md).
Untuk memulai dengan Studio Classic, lihat[Luncurkan Amazon SageMaker Studio Classic](studio-launch.md).
![\[JumpStart foundation models available in Amazon SageMaker Studio Classic.\]](http://docs.aws.amazon.com/id_id/sagemaker/latest/dg/images/jumpstart/jumpstart-fm-studio.png)
Setelah membuka Amazon SageMaker Studio Classic**, pilih Model, notebook, solusi** di SageMaker JumpStart bagian panel navigasi. Kemudian, gulir ke bawah untuk menemukan bagian **Foundation Models: Text Generation** **atau Foundation Models: Image Generation** tergantung pada kasus penggunaan Anda.
Anda dapat memilih **Lihat model** pada kartu model foundation yang disarankan, atau pilih **Jelajahi Semua Model** untuk melihat semua model dasar yang tersedia baik untuk pembuatan teks atau pembuatan gambar. Jika Anda memilih untuk melihat semua model yang tersedia, Anda dapat memfilter model yang tersedia lebih lanjut berdasarkan tugas, tipe data, jenis konten, atau kerangka kerja. Anda juga dapat mencari nama model langsung di bilah **Pencarian**. Jika Anda membutuhkan panduan dalam memilih model, lihat[Model pondasi yang tersedia](jumpstart-foundation-models-latest.md).
**penting**
Beberapa model dasar memerlukan penerimaan eksplisit dari perjanjian lisensi pengguna akhir (EULA). Untuk informasi selengkapnya, lihat [Penerimaan EULA di Amazon Studio SageMaker](jumpstart-foundation-models-choose.md#jumpstart-foundation-models-choose-eula-studio).
Setelah Anda memilih **model View** untuk model dasar pilihan Anda di Studio Classic, Anda dapat menerapkan model. Untuk informasi selengkapnya, lihat [Menyebarkan Model](jumpstart-deploy.md).
Anda juga dapat memilih **Buka notebook** di bagian **Run in notebook** untuk menjalankan contoh notebook untuk model foundation langsung di Studio Classic.
**catatan**
Untuk menerapkan model pondasi berpemilik di Studio Classic, Anda harus terlebih dahulu berlangganan model di. AWS Marketplace AWS Marketplace Tautan disediakan di notebook contoh terkait dalam Studio Classic.
Jika modelnya dapat disetel dengan baik, Anda juga dapat menyempurnakan modelnya. Untuk informasi selengkapnya, lihat [Sempurnakan Model](jumpstart-fine-tune.md). Untuk daftar model JumpStart pondasi mana yang dapat disetel dengan baik, lihat. [Model pondasi dan hiperparameter untuk fine-tuning](jumpstart-foundation-models-fine-tuning.md)
# Gunakan model foundation dengan SageMaker Python SDK
Semua model JumpStart foundation tersedia untuk penerapan terprogram menggunakan SDK SageMaker Python.
Untuk menerapkan model foundation yang tersedia untuk umum, Anda dapat menggunakan ID model mereka. Anda dapat menemukan model IDs untuk semua model fondasi yang tersedia untuk umum di [Algoritma Bawaan dengan Tabel Model yang telah dilatih sebelumnya](https://sagemaker.readthedocs.io/en/stable/doc_utils/pretrainedmodels.html). Cari nama model pondasi di bilah **Pencarian**. Gunakan menu tarik-turun **Tampilkan entri** atau kontrol pagination untuk menavigasi model yang tersedia.
Model berpemilik harus digunakan menggunakan informasi paket model setelah berlangganan model di. AWS Marketplace
Anda dapat menemukan daftar model yang JumpStart tersedia di[Model pondasi yang tersedia](jumpstart-foundation-models-latest.md).
**penting**
Beberapa model dasar memerlukan penerimaan eksplisit dari perjanjian lisensi pengguna akhir (EULA). Untuk informasi selengkapnya, lihat [Penerimaan EULA dengan SDK SageMaker Python](jumpstart-foundation-models-choose.md#jumpstart-foundation-models-choose-eula-python-sdk).
Bagian berikut menunjukkan cara menyempurnakan model fondasi yang tersedia untuk umum menggunakan `JumpStartEstimator` kelas, menyebarkan model fondasi yang tersedia untuk umum menggunakan `JumpStartModel` kelas, dan menerapkan model fondasi berpemilik menggunakan kelas. `ModelPackage`
**Topics**
+ [Sempurnakan model foundation yang tersedia untuk umum dengan kelasnya `JumpStartEstimator`](jumpstart-foundation-models-use-python-sdk-estimator-class.md)
+ [Menyebarkan model pondasi yang tersedia untuk umum dengan kelas `JumpStartModel`](jumpstart-foundation-models-use-python-sdk-model-class.md)
+ [Menyebarkan model pondasi berpemilik dengan kelas `ModelPackage`](jumpstart-foundation-models-use-python-sdk-proprietary.md)
# Sempurnakan model foundation yang tersedia untuk umum dengan kelasnya `JumpStartEstimator`
**catatan**
Untuk petunjuk tentang model foundation fine-tuning di hub yang dikuratori pribadi, lihat. [Menyesuaikan model hub yang dikuratori](jumpstart-curated-hubs-fine-tune.md)
Anda dapat menyempurnakan algoritma bawaan atau model yang telah dilatih sebelumnya hanya dalam beberapa baris kode menggunakan SDK. SageMaker Python
1. Pertama, temukan ID model untuk model pilihan Anda di [Algoritma Bawaan dengan Tabel Model yang telah dilatih sebelumnya](https://sagemaker.readthedocs.io/en/stable/doc_utils/pretrainedmodels.html).
1. Dengan menggunakan ID model, tentukan pekerjaan pelatihan Anda sebagai JumpStart penaksir.
```
from sagemaker.jumpstart.estimator import JumpStartEstimator
model_id = "huggingface-textgeneration1-gpt-j-6b"
estimator = JumpStartEstimator(model_id=model_id)
```
1. Jalankan `estimator.fit()` pada model Anda, arahkan ke data pelatihan yang akan digunakan untuk fine-tuning.
```
estimator.fit(
{"train": training_dataset_s3_path, "validation": validation_dataset_s3_path}
)
```
1. Kemudian, gunakan `deploy` metode ini untuk secara otomatis menerapkan model Anda untuk inferensi. Dalam contoh ini, kami menggunakan model GPT-J 6B dari. Hugging Face
```
predictor = estimator.deploy()
```
1. Anda kemudian dapat menjalankan inferensi dengan model yang diterapkan menggunakan metode ini`predict`.
```
question = "What is Southern California often abbreviated as?"
response = predictor.predict(question)
print(response)
```
**catatan**
Contoh ini menggunakan model dasar GPT-J 6B, yang cocok untuk berbagai kasus penggunaan pembuatan teks termasuk menjawab pertanyaan, pengenalan entitas bernama, ringkasan, dan banyak lagi. Untuk informasi selengkapnya tentang kasus penggunaan model, lihat[Model pondasi yang tersedia](jumpstart-foundation-models-latest.md).
Anda dapat secara opsional menentukan versi model atau jenis instans saat membuat`JumpStartEstimator`. Untuk informasi lebih lanjut tentang `JumpStartEstimator ` kelas dan parameternya, lihat [JumpStartEstimator](https://sagemaker.readthedocs.io/en/stable/api/inference/model.html#sagemaker.jumpstart.estimator.JumpStartEstimator).
## Periksa jenis contoh default
Anda dapat secara opsional menyertakan versi model atau jenis instance tertentu saat menyempurnakan model yang telah dilatih sebelumnya menggunakan kelas. `JumpStartEstimator` Semua JumpStart model memiliki tipe instance default. Ambil jenis instans pelatihan default menggunakan kode berikut:
```
from sagemaker import instance_types
instance_type = instance_types.retrieve_default(
model_id=model_id,
model_version=model_version,
scope="training")
print(instance_type)
```
Anda dapat melihat semua jenis instance yang didukung untuk JumpStart model tertentu dengan `instance_types.retrieve()` metode ini.
## Periksa hiperparameter default
Untuk memeriksa hyperparameters default yang digunakan untuk pelatihan, Anda dapat menggunakan `retrieve_default()` metode dari `hyperparameters` kelas.
```
from sagemaker import hyperparameters
my_hyperparameters = hyperparameters.retrieve_default(model_id=model_id, model_version=model_version)
print(my_hyperparameters)
# Optionally override default hyperparameters for fine-tuning
my_hyperparameters["epoch"] = "3"
my_hyperparameters["per_device_train_batch_size"] = "4"
# Optionally validate hyperparameters for the model
hyperparameters.validate(model_id=model_id, model_version=model_version, hyperparameters=my_hyperparameters)
```
Untuk informasi lebih lanjut tentang hiperparameter yang tersedia, lihat[Hiperparameter fine-tuning yang umumnya didukung](jumpstart-foundation-models-fine-tuning.md#jumpstart-foundation-models-fine-tuning-hyperparameters).
## Periksa definisi metrik default
Anda juga dapat memeriksa definisi metrik default:
```
print(metric_definitions.retrieve_default(model_id=model_id, model_version=model_version))
```
# Menyebarkan model pondasi yang tersedia untuk umum dengan kelas `JumpStartModel`
Anda dapat menerapkan algoritma bawaan atau model pra-terlatih ke titik akhir SageMaker AI hanya dalam beberapa baris kode menggunakan SDK. SageMaker Python
1. Pertama, temukan ID model untuk model pilihan Anda di [Algoritma Bawaan dengan Tabel Model yang telah dilatih sebelumnya](https://sagemaker.readthedocs.io/en/stable/doc_utils/pretrainedmodels.html).
1. Dengan menggunakan ID model, tentukan model Anda sebagai JumpStart model.
```
from sagemaker.jumpstart.model import JumpStartModel
model_id = "huggingface-text2text-flan-t5-xl"
my_model = JumpStartModel(model_id=model_id)
```
1. Gunakan `deploy` metode ini untuk menerapkan model Anda secara otomatis untuk inferensi. Dalam contoh ini, kami menggunakan model FLAN-T5 XL dari. Hugging Face
```
predictor = my_model.deploy()
```
1. Anda kemudian dapat menjalankan inferensi dengan model yang diterapkan menggunakan metode ini`predict`.
```
question = "What is Southern California often abbreviated as?"
response = predictor.predict(question)
print(response)
```
**catatan**
Contoh ini menggunakan model dasar FLAN-T5 XL, yang cocok untuk berbagai kasus penggunaan pembuatan teks termasuk menjawab pertanyaan, ringkasan, pembuatan chatbot, dan banyak lagi. Untuk informasi selengkapnya tentang kasus penggunaan model, lihat[Model pondasi yang tersedia](jumpstart-foundation-models-latest.md).
Untuk informasi lebih lanjut tentang `JumpStartModel ` kelas dan parameternya, lihat [JumpStartModel](https://sagemaker.readthedocs.io/en/stable/api/inference/model.html#sagemaker.jumpstart.model.JumpStartModel).
## Periksa jenis contoh default
Anda dapat secara opsional menyertakan versi model atau jenis instance tertentu saat menerapkan model yang telah dilatih sebelumnya menggunakan kelas. `JumpStartModel` Semua JumpStart model memiliki tipe instance default. Ambil jenis instance penerapan default menggunakan kode berikut:
```
from sagemaker import instance_types
instance_type = instance_types.retrieve_default(
model_id=model_id,
model_version=model_version,
scope="inference")
print(instance_type)
```
Lihat semua tipe instans yang didukung untuk JumpStart model tertentu dengan `instance_types.retrieve()` metode.
## Gunakan komponen inferensi untuk menerapkan beberapa model ke titik akhir bersama
Komponen inferensi adalah objek hosting SageMaker AI yang dapat Anda gunakan untuk menerapkan satu atau lebih model ke titik akhir untuk meningkatkan fleksibilitas dan skalabilitas. Anda harus mengubah `endpoint_type` JumpStart model Anda menjadi inference-component-based bukan titik akhir berbasis model default.
```
predictor = my_model.deploy(
endpoint_name = 'jumpstart-model-id-123456789012',
endpoint_type = EndpointType.INFERENCE_COMPONENT_BASED
)
```
Untuk informasi lebih lanjut tentang membuat titik akhir dengan komponen inferensi dan penerapan model SageMaker AI, lihat. [Pemanfaatan sumber daya bersama dengan beberapa model](realtime-endpoints-deploy-models.md#deployed-shared-utilization)
## Periksa format inferensi input dan output yang valid
Untuk memeriksa format input dan output data yang valid untuk inferensi, Anda dapat menggunakan `retrieve_options()` metode dari `Serializers` dan `Deserializers` kelas.
```
print(sagemaker.serializers.retrieve_options(model_id=model_id, model_version=model_version))
print(sagemaker.deserializers.retrieve_options(model_id=model_id, model_version=model_version))
```
## Periksa konten yang didukung dan terima jenis
Demikian pula, Anda dapat menggunakan `retrieve_options()` metode ini untuk memeriksa konten yang didukung dan menerima jenis untuk model.
```
print(sagemaker.content_types.retrieve_options(model_id=model_id, model_version=model_version))
print(sagemaker.accept_types.retrieve_options(model_id=model_id, model_version=model_version))
```
Untuk informasi selengkapnya tentang utilitas, lihat [Utilitas APIs](https://sagemaker.readthedocs.io/en/stable/api/utility/index.html).
# Menyebarkan model pondasi berpemilik dengan kelas `ModelPackage`
Model berpemilik harus digunakan menggunakan informasi paket model setelah berlangganan model di. AWS Marketplace Untuk informasi selengkapnya tentang SageMaker AI dan AWS Marketplace, lihat [Beli dan Jual Algoritma dan Model SageMaker AI Amazon di AWS Marketplace](https://docs.aws.amazon.com/sagemaker/latest/dg/sagemaker-marketplace.html). Untuk menemukan AWS Marketplace tautan untuk model kepemilikan terbaru, lihat [Memulai Amazon SageMaker JumpStart](https://aws.amazon.com/sagemaker/jumpstart/getting-started/?sagemaker-jumpstart-cards.sort-by=item.additionalFields.priority&sagemaker-jumpstart-cards.sort-order=asc&awsf.sagemaker-jumpstart-filter-product-type=product-type%23foundation-model&awsf.sagemaker-jumpstart-filter-text=*all&awsf.sagemaker-jumpstart-filter-vision=*all&awsf.sagemaker-jumpstart-filter-tabular=*all&awsf.sagemaker-jumpstart-filter-audio-tasks=*all&awsf.sagemaker-jumpstart-filter-multimodal=*all&awsf.sagemaker-jumpstart-filter-RL=*all&sagemaker-jumpstart-cards.q=proprietary&sagemaker-jumpstart-cards.q_operator=AND).
Setelah berlangganan model pilihan Anda AWS Marketplace, Anda dapat menerapkan model foundation menggunakan SageMaker Python SDK dan SDK yang terkait dengan penyedia model. Misalnya, AI21 Labs, Cohere, dan LightOn menggunakan`"ai21[SM]"`,`cohere-sagemaker`, dan `lightonsage` paket, masing-masing.
Misalnya, untuk mendefinisikan JumpStart model menggunakan Jurassic-2 Jumbo Instruct dari AI21 Labs, gunakan kode berikut:
```
import sagemaker
import ai21
role = get_execution_role()
sagemaker_session = sagemaker.Session()
model_package_arn = "arn:aws:sagemaker:us-east-1:865070037744:model-package/j2-jumbo-instruct-v1-1-43-4e47c49e61743066b9d95efed6882f35"
my_model = ModelPackage(
role=role, model_package_arn=model_package_arn, sagemaker_session=sagemaker_session
)
```
Misalnya step-by-step, temukan dan jalankan notebook yang terkait dengan model pondasi berpemilik pilihan Anda di SageMaker Studio Classic. Untuk informasi selengkapnya, lihat [Gunakan model foundation di Amazon SageMaker Studio Classic](jumpstart-foundation-models-use-studio.md). Untuk informasi selengkapnya tentang SageMaker Python SDK, lihat [https://sagemaker.readthedocs.io/en/stable/api/inference/model.html#sagemaker.model.ModelPackage](https://sagemaker.readthedocs.io/en/stable/api/inference/model.html#sagemaker.model.ModelPackage).
# Temukan model foundation di Konsol SageMaker AI
Anda dapat menjelajahi model JumpStart foundation langsung melalui Amazon SageMaker AI Console.
1. Buka konsol Amazon SageMaker AI di [https://console.aws.amazon.com/sagemaker/](https://console.aws.amazon.com/sagemaker/).
1. Temukan **JumpStart**di panel navigasi kiri dan pilih **model Foundation**.
1. Jelajahi model atau cari model tertentu. Jika Anda membutuhkan panduan untuk pemilihan model, lihat[Model pondasi yang tersedia](jumpstart-foundation-models-latest.md). Pilih **Lihat model** untuk melihat halaman detail model untuk model dasar pilihan Anda.
1. Jika model adalah model berpemilik, pilih **Berlangganan** di sudut kanan atas halaman detail model untuk berlangganan model di AWS Marketplace. Anda harus menerima email yang mengonfirmasi langganan Anda ke model pilihan Anda. Untuk informasi selengkapnya tentang SageMaker AI dan AWS Marketplace, lihat [Beli dan Jual Algoritma dan Model SageMaker AI Amazon di AWS Marketplace](https://docs.aws.amazon.com/sagemaker/latest/dg/sagemaker-marketplace.html). Model foundation yang tersedia untuk umum tidak memerlukan langganan.
1. Untuk melihat contoh buku catatan GitHub, pilih **Lihat kode** di sudut kanan atas halaman detail model.
1. Untuk melihat dan menjalankan contoh notebook secara langsung di Amazon SageMaker Studio Classic, pilih **Buka notebook di Studio** di sudut kanan atas halaman detail model.