Beli Throughput yang Disediakan untuk model kustom - Amazon Bedrock

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Beli Throughput yang Disediakan untuk model kustom

Untuk menggunakan model kustom dengan kapasitas komputasi khusus dan throughput terjamin, Anda dapat membeli Provisioned Throughput untuknya. Anda kemudian dapat menggunakan model yang disediakan yang dihasilkan untuk inferensi. Untuk informasi selengkapnya tentang Provisioned Throughput, lihat. Throughput yang Disediakan

Console
Untuk membeli Provisioned Throughput untuk model kustom.

  1. Masuk ke AWS Management Console dengan identitas IAM yang memiliki izin untuk menggunakan konsol Amazon Bedrock. Kemudian, buka konsol Amazon Bedrock di https://console.aws.amazon.com/bedrock.

  2. Dari panel navigasi kiri, pilih Model kustom di bawah model Foundation.

  3. Di tab Model, pilih tombol radio di sebelah model yang ingin Anda beli Throughput Tertentu atau pilih nama model untuk menavigasi ke halaman detail.

  4. Pilih Throughput yang Disediakan Pembelian.

  5. Untuk detail selengkapnya, ikuti langkah-langkah dalam dokumentasi throughput yang disediakan.

  6. Setelah membeli Provisioned Throughput untuk model kustom Anda, ikuti langkah-langkah dalam dokumentasi penggunaan throughput yang disediakan.

Saat Anda melakukan operasi apa pun yang mendukung penggunaan model khusus, Anda akan melihat model kustom Anda sebagai opsi di menu pemilihan model.

API

Untuk membeli Throughput Tertentu untuk model kustom, ikuti langkah-langkah dalam dokumentasi throughput yang disediakan untuk mengirim permintaan CreateProvisionedModelThroughput(lihat tautan untuk format permintaan dan respons serta detail bidang) dengan titik akhir bidang kontrol Amazon Bedrock. Gunakan nama atau ARN model kustom Anda sebagai. modelId Respons mengembalikan provisionedModelArn yang dapat Anda gunakan sebagai modelId saat membuat InvokeModelatau InvokeModelWithResponseStreampermintaan.

Lihat contoh kode