View a markdown version of this page

Wilayah dan model yang Didukung untuk profil inferensi - Amazon Bedrock
Profil inferensi lintas wilayah yang didukungWilayah dan model yang Didukung untuk profil inferensi aplikasi

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Wilayah dan model yang Didukung untuk profil inferensi

Untuk daftar kode Wilayah dan titik akhir yang didukung di Amazon Bedrock, lihat titik akhir dan kuota Amazon Bedrock. Topik ini menjelaskan profil inferensi yang telah ditentukan sebelumnya yang dapat Anda gunakan dan Wilayah serta model yang mendukung profil inferensi aplikasi.

Profil inferensi lintas wilayah yang didukung

Anda dapat melakukan inferensi lintas wilayah dengan profil inferensi lintas wilayah (ditentukan sistem). Inferensi Lintas Wilayah memungkinkan Anda mengelola semburan lalu lintas yang tidak direncanakan dengan mulus dengan memanfaatkan komputasi di berbagai tempat. Wilayah AWS Dengan inferensi lintas wilayah, Anda dapat mendistribusikan lalu lintas di beberapa. Wilayah AWS

Profil inferensi lintas wilayah (ditentukan sistem) dinamai menurut model yang mereka dukung dan didefinisikan oleh Wilayah yang mereka dukung. Untuk memahami cara profil inferensi lintas wilayah menangani permintaan Anda, tinjau definisi berikut:

  • Wilayah Sumber — Wilayah tempat Anda membuat permintaan API yang menentukan profil inferensi.

  • Wilayah Tujuan — Wilayah tempat layanan Amazon Bedrock dapat merutekan permintaan dari Wilayah sumber Anda.

Saat Anda memanggil profil inferensi lintas wilayah di Amazon Bedrock, permintaan Anda berasal dari Wilayah sumber dan secara otomatis dirutekan ke salah satu Wilayah tujuan yang ditentukan dalam profil tersebut, mengoptimalkan kinerja. Wilayah tujuan untuk profil inferensi Lintas Wilayah Global mencakup semua Wilayah komersial.

catatan

Wilayah tujuan dalam profil inferensi Lintas wilayah dapat menyertakan Wilayah keikutsertaan, yang merupakan Wilayah yang harus Anda aktifkan secara eksplisit di atau tingkat Organisasi. Akun AWS Untuk mempelajari lebih lanjut, lihat Mengaktifkan atau menonaktifkan Wilayah AWS di akun Anda. Saat menggunakan profil inferensi lintas wilayah, permintaan inferensi Anda dapat diarahkan ke salah satu Wilayah tujuan di profil, bahkan jika Anda tidak ikut serta dalam Wilayah tersebut di akun Anda.

Kebijakan Kontrol Layanan (SCPs) dan AWS Identity and Access Management (IAM) bekerja sama untuk mengontrol di mana inferensi lintas wilayah diperbolehkan. Dengan menggunakan SCPs, Anda dapat mengontrol Wilayah Amazon Bedrock mana yang dapat digunakan untuk inferensi, dan menggunakan kebijakan IAM, Anda dapat menentukan pengguna atau peran mana yang memiliki izin untuk menjalankan inferensi. Jika ada Wilayah tujuan dalam profil inferensi Lintas wilayah yang diblokir di Anda SCPs, permintaan akan gagal meskipun Wilayah lain tetap diizinkan. Untuk memastikan pengoperasian yang efisien dengan inferensi lintas wilayah, Anda dapat memperbarui kebijakan Anda SCPs dan IAM untuk mengizinkan semua tindakan inferensi Amazon Bedrock yang diperlukan (misalnya, bedrock:InvokeModel* ataubedrock:CreateModelInvocationJob) di semua Wilayah tujuan yang disertakan dalam profil inferensi pilihan Anda. Untuk mempelajari lebih lanjut, lihat Mengaktifkan inferensi Amazon Bedrock Lintas wilayah di lingkungan multi-akun.

catatan

Beberapa profil inferensi merutekan ke daerah tujuan yang berbeda tergantung pada sumber Wilayah dari mana Anda menyebutnya. Misalnya, jika Anda menelepon us.anthropic.claude-3-haiku-20240307-v1:0 dari US East (Ohio), itu dapat merutekan permintaan keus-east-1,, atau us-east-2us-west-2, tetapi jika Anda memanggilnya dari US West (Oregon), itu hanya us-east-1 dapat merutekan permintaan ke dan. us-west-2

Untuk memeriksa Wilayah sumber dan tujuan untuk profil inferensi, Anda dapat melakukan salah satu hal berikut:

catatan

Profil inferensi lintas wilayah global untuk model tertentu dapat berubah seiring waktu karena AWS menambahkan lebih banyak Wilayah komersial tempat permintaan Anda dapat diproses. Namun, jika profil inferensi terkait dengan geografi (seperti AS, UE, atau APAC), daftar Wilayah tujuannya tidak akan pernah berubah. AWS mungkin membuat profil inferensi baru yang menggabungkan Wilayah baru. Anda dapat memperbarui sistem Anda untuk menggunakan profil inferensi ini dengan mengubah pengaturan Anda ke yang baru. IDs

Profil inferensi lintas wilayah Global saat ini hanya didukung pada Anthropic Claude Sonnet 4 model untuk sumber berikut Wilayah: AS Barat (Oregon), AS Timur (Virginia N.), AS Timur (Ohio), Eropa (Irlandia), dan Asia Pasifik (Tokyo). Wilayah tujuan untuk profil inferensi Global mencakup semua iklan Wilayah AWS.

Untuk melihat model mana yang mendukung profil inferensi Geo dan Global, silakan kunjungi model sekilas dan pilih model yang Anda minati.

Wilayah dan model yang Didukung untuk profil inferensi aplikasi

Profil inferensi aplikasi dapat dibuat untuk semua model sebagai berikut: Wilayah AWS

  • ap-northeast-1

  • ap-northeast-2

  • ap-south-1

  • ap-southeast-1

  • ap-southeast-2

  • ca-sentral-1

  • eu-central-1

  • eu-west-1

  • eu-west-2

  • eu-west-3

  • sa-east-1

  • us-east-1

  • us-east-2

  • us-gov-east-1

  • us-west-2

Profil inferensi aplikasi dapat dibuat dari sebagian besar model yang didukung di Amazon Bedrock. Beberapa model, seperti model embedding, tidak mendukung profil inferensi. Untuk memeriksa apakah model tertentu mendukung profil inferensi, lihat sekilas model.