

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

# Gunakan profil inferensi dalam pemanggilan model
<a name="inference-profiles-use"></a>

Anda dapat menggunakan profil inferensi lintas Wilayah sebagai pengganti model dasar untuk merutekan permintaan ke beberapa Wilayah. Untuk melacak biaya dan penggunaan model, di satu atau beberapa Wilayah, Anda dapat menggunakan profil inferensi aplikasi. Untuk mempelajari cara menggunakan profil inferensi saat menjalankan inferensi model, pilih tab untuk metode pilihan Anda, lalu ikuti langkah-langkahnya:

------
#### [ Console ]

Untuk menggunakan profil inferensi dengan fitur yang mendukungnya, lakukan hal berikut:

1. Masuk ke Konsol Manajemen AWS dengan identitas IAM yang memiliki izin untuk menggunakan konsol Amazon Bedrock. Kemudian, buka konsol Amazon Bedrock di [https://console.aws.amazon.com/bedrock](https://console.aws.amazon.com/bedrock).

1. Arahkan ke halaman untuk fitur yang ingin Anda gunakan untuk profil inferensi. Misalnya, pilih **Taman bermain Obrolan/Teks** dari panel navigasi kiri.

1. Pilih **Pilih model** dan kemudian pilih model. Misalnya, pilih **Amazon** dan kemudian **Nova Premier**.

1. Di bawah **Inferensi**, pilih **Profil inferensi** dari menu tarik-turun.

1. Pilih profil inferensi yang akan digunakan (misalnya, **US Nova Premier**) dan kemudian pilih **Terapkan**.

------
#### [ API ]

Anda dapat menggunakan profil inferensi saat menjalankan inferensi dari Wilayah mana pun yang disertakan di dalamnya dengan operasi API berikut:
+ [InvokeModel](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModel.html)atau [InvokeModelWithResponseStream](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModelWithResponseStream.html)— Untuk menggunakan profil inferensi dalam pemanggilan model, ikuti langkah-langkah di [Kirim satu prompt dengan InvokeModelKirim satu prompt dengan InvokeModel (dipindahkan)](inference-invoke.md) dan tentukan Nama Sumber Daya Amazon (ARN) dari profil inferensi di bidang. `modelId` Sebagai contoh, lihat [Menggunakan profil inferensi dalam pemanggilan model](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModel.html#API_runtime_InvokeModel_Example_5).
+ [Converse](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_Converse.html) atau [ConverseStream](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_ConverseStream.html)— Untuk menggunakan profil inferensi dalam pemanggilan model dengan Converse API, ikuti langkah-langkah di dan [Inferensi menggunakan Converse API](conversation-inference.md) tentukan ARN profil inferensi di bidang. `modelId` Sebagai contoh, lihat [Menggunakan profil inferensi dalam percakapan](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_Converse.html#API_runtime_Converse_Example_5).
+ [https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent-runtime_RetrieveAndGenerate.html](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent-runtime_RetrieveAndGenerate.html)— Untuk menggunakan profil inferensi saat menghasilkan respons dari hasil kueri basis pengetahuan, ikuti langkah-langkah di tab API [Uji basis pengetahuan Anda dengan pertanyaan dan tanggapan](knowledge-base-test.md) dan tentukan ARN profil inferensi di lapangan. `modelArn` Untuk informasi selengkapnya, lihat [Menggunakan proflie inferensi untuk menghasilkan respons](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent-runtime_RetrieveAndGenerate.html#API_agent-runtime_RetrieveAndGenerate_Example_3).
+ [CreateEvaluationJob](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_CreateEvaluationJob.html)— Untuk mengirimkan profil inferensi untuk evaluasi model, ikuti langkah-langkah di tab API di [Memulai pekerjaan evaluasi model otomatis di Amazon Bedrock](model-evaluation-jobs-management-create.md) dan tentukan ARN profil inferensi di bidang. `modelIdentifier`
+ [CreatePrompt](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent_CreatePrompt.html)— Untuk menggunakan profil inferensi saat membuat respons untuk prompt yang Anda buat di Manajemen Prompt, ikuti langkah-langkah di tab API [Buat prompt menggunakan manajemen Prompt](prompt-management-create.md) dan tentukan ARN profil inferensi di bidang. `modelId`
+ [CreateFlow](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent_CreateFlow.html)— Untuk menggunakan profil inferensi saat membuat respons untuk prompt sebaris yang Anda tentukan dalam node prompt dalam alur, ikuti langkah-langkah di tab API di. [Buat dan rancang alur di Amazon Bedrock](flows-create.md) Dalam mendefinisikan [simpul prompt](flows-nodes.md#flows-nodes-prompt), tentukan ARN dari profil inferensi di lapangan. `modelId`
+ [CreateDataSource](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent_CreateDataSource.html)— Untuk menggunakan profil inferensi saat mengurai informasi non-tekstual dalam sumber data, ikuti langkah-langkah di bagian API di dan [Opsi penguraian untuk sumber data Anda](kb-advanced-parsing.md) tentukan ARN profil inferensi di bidang. `modelArn`

**catatan**  
Jika Anda menggunakan profil inferensi lintas wilayah (ditentukan sistem), Anda dapat menggunakan ARN atau ID profil inferensi.

------