Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
# Gunakan model foundation dengan SageMaker Python SDK
Semua model JumpStart foundation tersedia untuk penerapan terprogram menggunakan SDK SageMaker Python.
Untuk menerapkan model foundation yang tersedia untuk umum, Anda dapat menggunakan ID model mereka. Anda dapat menemukan model IDs untuk semua model fondasi yang tersedia untuk umum di [Algoritma Bawaan dengan Tabel Model yang telah dilatih sebelumnya](https://sagemaker.readthedocs.io/en/stable/doc_utils/pretrainedmodels.html). Cari nama model pondasi di bilah **Pencarian**. Gunakan menu tarik-turun **Tampilkan entri** atau kontrol pagination untuk menavigasi model yang tersedia.
Model berpemilik harus digunakan menggunakan informasi paket model setelah berlangganan model di. AWS Marketplace
Anda dapat menemukan daftar model yang JumpStart tersedia di[Model pondasi yang tersedia](jumpstart-foundation-models-latest.md).
**penting**
Beberapa model dasar memerlukan penerimaan eksplisit dari perjanjian lisensi pengguna akhir (EULA). Untuk informasi selengkapnya, lihat [Penerimaan EULA dengan SDK SageMaker Python](jumpstart-foundation-models-choose.md#jumpstart-foundation-models-choose-eula-python-sdk).
Bagian berikut menunjukkan cara menyempurnakan model fondasi yang tersedia untuk umum menggunakan `JumpStartEstimator` kelas, menyebarkan model fondasi yang tersedia untuk umum menggunakan `JumpStartModel` kelas, dan menerapkan model fondasi berpemilik menggunakan kelas. `ModelPackage`
**Topics**
+ [Sempurnakan model foundation yang tersedia untuk umum dengan kelasnya `JumpStartEstimator`](jumpstart-foundation-models-use-python-sdk-estimator-class.md)
+ [Menyebarkan model pondasi yang tersedia untuk umum dengan kelas `JumpStartModel`](jumpstart-foundation-models-use-python-sdk-model-class.md)
+ [Menyebarkan model pondasi berpemilik dengan kelas `ModelPackage`](jumpstart-foundation-models-use-python-sdk-proprietary.md)
# Sempurnakan model foundation yang tersedia untuk umum dengan kelasnya `JumpStartEstimator`
**catatan**
Untuk petunjuk tentang model foundation fine-tuning di hub yang dikuratori pribadi, lihat. [Menyesuaikan model hub yang dikuratori](jumpstart-curated-hubs-fine-tune.md)
Anda dapat menyempurnakan algoritma bawaan atau model yang telah dilatih sebelumnya hanya dalam beberapa baris kode menggunakan SDK. SageMaker Python
1. Pertama, temukan ID model untuk model pilihan Anda di [Algoritma Bawaan dengan Tabel Model yang telah dilatih sebelumnya](https://sagemaker.readthedocs.io/en/stable/doc_utils/pretrainedmodels.html).
1. Dengan menggunakan ID model, tentukan pekerjaan pelatihan Anda sebagai JumpStart penaksir.
```
from sagemaker.jumpstart.estimator import JumpStartEstimator
model_id = "huggingface-textgeneration1-gpt-j-6b"
estimator = JumpStartEstimator(model_id=model_id)
```
1. Jalankan `estimator.fit()` pada model Anda, arahkan ke data pelatihan yang akan digunakan untuk fine-tuning.
```
estimator.fit(
{"train": training_dataset_s3_path, "validation": validation_dataset_s3_path}
)
```
1. Kemudian, gunakan `deploy` metode ini untuk secara otomatis menerapkan model Anda untuk inferensi. Dalam contoh ini, kami menggunakan model GPT-J 6B dari. Hugging Face
```
predictor = estimator.deploy()
```
1. Anda kemudian dapat menjalankan inferensi dengan model yang diterapkan menggunakan metode ini`predict`.
```
question = "What is Southern California often abbreviated as?"
response = predictor.predict(question)
print(response)
```
**catatan**
Contoh ini menggunakan model dasar GPT-J 6B, yang cocok untuk berbagai kasus penggunaan pembuatan teks termasuk menjawab pertanyaan, pengenalan entitas bernama, ringkasan, dan banyak lagi. Untuk informasi selengkapnya tentang kasus penggunaan model, lihat[Model pondasi yang tersedia](jumpstart-foundation-models-latest.md).
Anda dapat secara opsional menentukan versi model atau jenis instans saat membuat`JumpStartEstimator`. Untuk informasi lebih lanjut tentang `JumpStartEstimator ` kelas dan parameternya, lihat [JumpStartEstimator](https://sagemaker.readthedocs.io/en/stable/api/inference/model.html#sagemaker.jumpstart.estimator.JumpStartEstimator).
## Periksa jenis contoh default
Anda dapat secara opsional menyertakan versi model atau jenis instance tertentu saat menyempurnakan model yang telah dilatih sebelumnya menggunakan kelas. `JumpStartEstimator` Semua JumpStart model memiliki tipe instance default. Ambil jenis instans pelatihan default menggunakan kode berikut:
```
from sagemaker import instance_types
instance_type = instance_types.retrieve_default(
model_id=model_id,
model_version=model_version,
scope="training")
print(instance_type)
```
Anda dapat melihat semua jenis instance yang didukung untuk JumpStart model tertentu dengan `instance_types.retrieve()` metode ini.
## Periksa hiperparameter default
Untuk memeriksa hyperparameters default yang digunakan untuk pelatihan, Anda dapat menggunakan `retrieve_default()` metode dari `hyperparameters` kelas.
```
from sagemaker import hyperparameters
my_hyperparameters = hyperparameters.retrieve_default(model_id=model_id, model_version=model_version)
print(my_hyperparameters)
# Optionally override default hyperparameters for fine-tuning
my_hyperparameters["epoch"] = "3"
my_hyperparameters["per_device_train_batch_size"] = "4"
# Optionally validate hyperparameters for the model
hyperparameters.validate(model_id=model_id, model_version=model_version, hyperparameters=my_hyperparameters)
```
Untuk informasi lebih lanjut tentang hiperparameter yang tersedia, lihat[Hiperparameter fine-tuning yang umumnya didukung](jumpstart-foundation-models-fine-tuning.md#jumpstart-foundation-models-fine-tuning-hyperparameters).
## Periksa definisi metrik default
Anda juga dapat memeriksa definisi metrik default:
```
print(metric_definitions.retrieve_default(model_id=model_id, model_version=model_version))
```
# Menyebarkan model pondasi yang tersedia untuk umum dengan kelas `JumpStartModel`
Anda dapat menerapkan algoritma bawaan atau model pra-terlatih ke titik akhir SageMaker AI hanya dalam beberapa baris kode menggunakan SDK. SageMaker Python
1. Pertama, temukan ID model untuk model pilihan Anda di [Algoritma Bawaan dengan Tabel Model yang telah dilatih sebelumnya](https://sagemaker.readthedocs.io/en/stable/doc_utils/pretrainedmodels.html).
1. Dengan menggunakan ID model, tentukan model Anda sebagai JumpStart model.
```
from sagemaker.jumpstart.model import JumpStartModel
model_id = "huggingface-text2text-flan-t5-xl"
my_model = JumpStartModel(model_id=model_id)
```
1. Gunakan `deploy` metode ini untuk menerapkan model Anda secara otomatis untuk inferensi. Dalam contoh ini, kami menggunakan model FLAN-T5 XL dari. Hugging Face
```
predictor = my_model.deploy()
```
1. Anda kemudian dapat menjalankan inferensi dengan model yang diterapkan menggunakan metode ini`predict`.
```
question = "What is Southern California often abbreviated as?"
response = predictor.predict(question)
print(response)
```
**catatan**
Contoh ini menggunakan model dasar FLAN-T5 XL, yang cocok untuk berbagai kasus penggunaan pembuatan teks termasuk menjawab pertanyaan, ringkasan, pembuatan chatbot, dan banyak lagi. Untuk informasi selengkapnya tentang kasus penggunaan model, lihat[Model pondasi yang tersedia](jumpstart-foundation-models-latest.md).
Untuk informasi lebih lanjut tentang `JumpStartModel ` kelas dan parameternya, lihat [JumpStartModel](https://sagemaker.readthedocs.io/en/stable/api/inference/model.html#sagemaker.jumpstart.model.JumpStartModel).
## Periksa jenis contoh default
Anda dapat secara opsional menyertakan versi model atau jenis instance tertentu saat menerapkan model yang telah dilatih sebelumnya menggunakan kelas. `JumpStartModel` Semua JumpStart model memiliki tipe instance default. Ambil jenis instance penerapan default menggunakan kode berikut:
```
from sagemaker import instance_types
instance_type = instance_types.retrieve_default(
model_id=model_id,
model_version=model_version,
scope="inference")
print(instance_type)
```
Lihat semua tipe instans yang didukung untuk JumpStart model tertentu dengan `instance_types.retrieve()` metode.
## Gunakan komponen inferensi untuk menerapkan beberapa model ke titik akhir bersama
Komponen inferensi adalah objek hosting SageMaker AI yang dapat Anda gunakan untuk menerapkan satu atau lebih model ke titik akhir untuk meningkatkan fleksibilitas dan skalabilitas. Anda harus mengubah `endpoint_type` JumpStart model Anda menjadi inference-component-based bukan titik akhir berbasis model default.
```
predictor = my_model.deploy(
endpoint_name = 'jumpstart-model-id-123456789012',
endpoint_type = EndpointType.INFERENCE_COMPONENT_BASED
)
```
Untuk informasi lebih lanjut tentang membuat titik akhir dengan komponen inferensi dan penerapan model SageMaker AI, lihat. [Pemanfaatan sumber daya bersama dengan beberapa model](realtime-endpoints-deploy-models.md#deployed-shared-utilization)
## Periksa format inferensi input dan output yang valid
Untuk memeriksa format input dan output data yang valid untuk inferensi, Anda dapat menggunakan `retrieve_options()` metode dari `Serializers` dan `Deserializers` kelas.
```
print(sagemaker.serializers.retrieve_options(model_id=model_id, model_version=model_version))
print(sagemaker.deserializers.retrieve_options(model_id=model_id, model_version=model_version))
```
## Periksa konten yang didukung dan terima jenis
Demikian pula, Anda dapat menggunakan `retrieve_options()` metode ini untuk memeriksa konten yang didukung dan menerima jenis untuk model.
```
print(sagemaker.content_types.retrieve_options(model_id=model_id, model_version=model_version))
print(sagemaker.accept_types.retrieve_options(model_id=model_id, model_version=model_version))
```
Untuk informasi selengkapnya tentang utilitas, lihat [Utilitas APIs](https://sagemaker.readthedocs.io/en/stable/api/utility/index.html).
# Menyebarkan model pondasi berpemilik dengan kelas `ModelPackage`
Model berpemilik harus digunakan menggunakan informasi paket model setelah berlangganan model di. AWS Marketplace Untuk informasi selengkapnya tentang SageMaker AI dan AWS Marketplace, lihat [Beli dan Jual Algoritma dan Model SageMaker AI Amazon di AWS Marketplace](https://docs.aws.amazon.com/sagemaker/latest/dg/sagemaker-marketplace.html). Untuk menemukan AWS Marketplace tautan untuk model kepemilikan terbaru, lihat [Memulai Amazon SageMaker JumpStart](https://aws.amazon.com/sagemaker/jumpstart/getting-started/?sagemaker-jumpstart-cards.sort-by=item.additionalFields.priority&sagemaker-jumpstart-cards.sort-order=asc&awsf.sagemaker-jumpstart-filter-product-type=product-type%23foundation-model&awsf.sagemaker-jumpstart-filter-text=*all&awsf.sagemaker-jumpstart-filter-vision=*all&awsf.sagemaker-jumpstart-filter-tabular=*all&awsf.sagemaker-jumpstart-filter-audio-tasks=*all&awsf.sagemaker-jumpstart-filter-multimodal=*all&awsf.sagemaker-jumpstart-filter-RL=*all&sagemaker-jumpstart-cards.q=proprietary&sagemaker-jumpstart-cards.q_operator=AND).
Setelah berlangganan model pilihan Anda AWS Marketplace, Anda dapat menerapkan model foundation menggunakan SageMaker Python SDK dan SDK yang terkait dengan penyedia model. Misalnya, AI21 Labs, Cohere, dan LightOn menggunakan`"ai21[SM]"`,`cohere-sagemaker`, dan `lightonsage` paket, masing-masing.
Misalnya, untuk mendefinisikan JumpStart model menggunakan Jurassic-2 Jumbo Instruct dari AI21 Labs, gunakan kode berikut:
```
import sagemaker
import ai21
role = get_execution_role()
sagemaker_session = sagemaker.Session()
model_package_arn = "arn:aws:sagemaker:us-east-1:865070037744:model-package/j2-jumbo-instruct-v1-1-43-4e47c49e61743066b9d95efed6882f35"
my_model = ModelPackage(
role=role, model_package_arn=model_package_arn, sagemaker_session=sagemaker_session
)
```
Misalnya step-by-step, temukan dan jalankan notebook yang terkait dengan model pondasi berpemilik pilihan Anda di SageMaker Studio Classic. Untuk informasi selengkapnya, lihat [Gunakan model foundation di Amazon SageMaker Studio Classic](jumpstart-foundation-models-use-studio.md). Untuk informasi selengkapnya tentang SageMaker Python SDK, lihat [https://sagemaker.readthedocs.io/en/stable/api/inference/model.html#sagemaker.model.ModelPackage](https://sagemaker.readthedocs.io/en/stable/api/inference/model.html#sagemaker.model.ModelPackage).