Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
# Tingkatkan throughput dengan inferensi lintas wilayah
Dengan inferensi lintas wilayah, Anda dapat memilih profil inferensi lintas wilayah yang terkait dengan geografi tertentu (seperti AS atau UE), atau Anda dapat memilih profil inferensi global. Saat Anda memilih profil inferensi yang terkait dengan geografi tertentu, Amazon Bedrock secara otomatis memilih iklan optimal Wilayah AWS dalam geografi tersebut untuk memproses permintaan inferensi Anda. Dengan profil inferensi global, Amazon Bedrock secara otomatis memilih iklan optimal Wilayah AWS untuk memproses permintaan, yang mengoptimalkan sumber daya yang tersedia dan meningkatkan throughput model.
Kedua jenis inferensi lintas wilayah bekerja melalui [profil inferensi](inference-profiles.md), yang mendefinisikan model fondasi (FM) dan Wilayah AWS ke mana permintaan dapat diarahkan. Saat menjalankan inferensi model dalam mode sesuai permintaan, permintaan Anda mungkin dibatasi oleh kuota layanan atau selama waktu penggunaan puncak. Inferensi Lintas Wilayah memungkinkan Anda mengelola semburan lalu lintas yang tidak direncanakan dengan mulus dengan memanfaatkan komputasi di berbagai tempat. Wilayah AWS
Anda juga dapat meningkatkan throughput untuk model dengan membeli [Provisioned](prov-throughput.md) Throughput. Profil inferensi saat ini tidak mendukung Provisioned Throughput.
Untuk melihat Wilayah dan model yang dapat digunakan untuk menggunakan profil inferensi untuk menjalankan inferensi lintas wilayah, lihat. [Wilayah dan model yang Didukung untuk profil inferensi](inference-profiles-support.md)
**Topics**
+ [
## Memilih antara inferensi Lintas Wilayah Geografis dan Global
](#cross-region-inference-comparison)
+ [
## Pertimbangan umum
](#cross-region-inference-general-considerations)
+ [
# Inferensi lintas wilayah geografis
](geographic-cross-region-inference.md)
+ [
# Inferensi lintas wilayah global
](global-cross-region-inference.md)
## Memilih antara inferensi Lintas Wilayah Geografis dan Global
Amazon Bedrock menyediakan dua jenis profil inferensi lintas wilayah, masing-masing dirancang untuk kasus penggunaan dan persyaratan kepatuhan yang berbeda:
| Fitur | Inferensi Lintas Wilayah Geografis | Inferensi Lintas Wilayah Global | Rekomendasi |
| --- | --- | --- | --- |
| Data residensi | Dalam batas-batas geografis (AS, UE, APAC, dll.) | Wilayah AWS komersial yang didukung di seluruh dunia | Pilih Geografis untuk persyaratan kepatuhan |
| Throughput | Lebih tinggi dari wilayah tunggal | Tertinggi tersedia | Pilih Global untuk performa maksimal |
| Biaya | Harga standar | Penghematan sekitar 10% | Pilih Global untuk optimasi biaya |
| Persyaratan SCP | Izinkan semua Wilayah tujuan di profil | Izinkan "aws:RequestedRegion": "unspecified" | Konfigurasikan berdasarkan kebijakan organisasi |
| Paling cocok untuk | Organizations dengan peraturan residensi data | Organizations memprioritaskan biaya dan kinerja | Menilai kepatuhan dan kebutuhan kinerja Anda |
Pilih inferensi Lintas wilayah Geografis ketika Anda memiliki persyaratan residensi data dan perlu memastikan pemrosesan data tetap dalam batas geografis tertentu. Pilih inferensi Lintas Wilayah Global saat Anda menginginkan throughput maksimum dan penghematan biaya tanpa batasan geografis.
## Pertimbangan umum
Perhatikan informasi berikut tentang inferensi lintas wilayah:
+ Tidak ada biaya perutean tambahan untuk menggunakan inferensi lintas wilayah. Harga dihitung berdasarkan Wilayah tempat Anda memanggil profil inferensi. Untuk informasi tentang harga, lihat [harga Amazon Bedrock](https://aws.amazon.com/bedrock/pricing/).
+ Inferensi Lintas Wilayah dapat merutekan permintaan ke permintaan Wilayah AWS yang tidak diaktifkan secara manual di Anda. Akun AWS Pengaktifan Wilayah Manual tidak diperlukan agar inferensi lintas wilayah berfungsi.
+ Semua data yang dikirimkan selama operasi lintas wilayah tetap berada di AWS jaringan dan tidak melintasi internet publik. Data dienkripsi dalam transit antara. Wilayah AWS
+ Semua permintaan inferensi lintas wilayah dicatat CloudTrail di Wilayah sumber Anda. Cari `additionalEventData.inferenceRegion` bidang untuk mengidentifikasi di mana permintaan diproses.
+ AWS Layanan yang didukung oleh Amazon Bedrock juga dapat menggunakan CRIS. Lihat dokumentasi khusus layanan untuk detail selengkapnya.
# Inferensi lintas wilayah geografis
Inferensi lintas wilayah geografis menjaga pemrosesan data dalam batas geografis tertentu (AS, UE, APAC, dll.) sambil memberikan throughput yang lebih tinggi daripada inferensi wilayah tunggal. Opsi ini sangat ideal untuk organisasi dengan persyaratan residensi data dan peraturan kepatuhan.
## Pertimbangan inferensi lintas wilayah geografis
Perhatikan informasi berikut tentang inferensi Lintas wilayah Geografis:
+ Permintaan inferensi Lintas Wilayah ke profil inferensi yang terkait dengan geografi (misalnya AS, UE, dan APAC) disimpan di dalam Wilayah AWS yang merupakan bagian dari geografi tempat data awalnya berada. Misalnya, permintaan yang dibuat di AS disimpan Wilayah AWS di AS. Meskipun data tetap disimpan hanya di Wilayah sumber, permintaan input dan hasil keluaran Anda mungkin bergerak di luar Wilayah sumber Anda selama inferensi Lintas wilayah. Semua data akan dikirimkan dienkripsi di seluruh jaringan aman Amazon.
+ [https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock)
## Persyaratan kebijakan IAM untuk inferensi Lintas wilayah Geografis
Untuk mengizinkan pengguna atau peran IAM memanggil profil inferensi Lintas wilayah Geografis, Anda harus mengizinkan akses ke sumber daya berikut:
1. Profil inferensi lintas wilayah spesifik geografi (profil ini memiliki awalan geografis seperti,,) `us` `eu` `apac`
1. Model pondasi di Wilayah sumber
1. Model pondasi di semua daerah tujuan tercantum dalam profil geografis
Contoh kebijakan berikut memberikan izin yang diperlukan untuk menggunakan model dasar Claude Sonnet 4.5 dengan profil inferensi Lintas wilayah Geografis untuk AS, di mana Wilayah sumber dan Wilayah tujuan berada, `us-east-1` dan: `us-east-1` `us-east-2` `us-west-2`
```
{
"Version": "2012-10-17" ,
"Statement": [
{
"Sid": "GrantGeoCrisInferenceProfileAccess",
"Effect": "Allow",
"Action": "bedrock:InvokeModel",
"Resource": [
"arn:aws:bedrock:us-east-1::inference-profile/us.anthropic.claude-sonnet-4-5-20250929-v1:0"
]
},
{
"Sid": "GrantGeoCrisModelAccess",
"Effect": "Allow",
"Action": "bedrock:InvokeModel",
"Resource": [
"arn:aws:bedrock:us-east-1::foundation-model/anthropic.claude-sonnet-4-5-20250929-v1:0",
"arn:aws:bedrock:us-east-2::foundation-model/anthropic.claude-sonnet-4-5-20250929-v1:0",
"arn:aws:bedrock:us-west-2::foundation-model/anthropic.claude-sonnet-4-5-20250929-v1:0"
],
"Condition": {
"StringEquals": {
"bedrock:InferenceProfileArn": "arn:aws:bedrock:us-east-1::inference-profile/us.anthropic.claude-sonnet-4-5-20250929-v1:0"
}
}
}
]
}
```
Pernyataan pertama memberikan akses `bedrock:InvokeModel` API ke profil inferensi Geographic Cross-region untuk permintaan yang berasal dari Region yang meminta. Pernyataan kedua memberikan akses `bedrock:InvokeModel` API ke model dasar di Wilayah yang meminta dan semua Wilayah tujuan yang tercantum dalam profil inferensi.
## Persyaratan Kebijakan Kontrol Layanan untuk inferensi Lintas wilayah Geografis
Banyak organisasi menerapkan kontrol akses Regional melalui Service Control Policies in AWS Organizations untuk keamanan dan kepatuhan. Jika kebijakan keamanan organisasi Anda digunakan SCPs untuk memblokir Wilayah yang tidak digunakan, Anda harus memastikan bahwa kondisi SCP khusus Wilayah memungkinkan akses ke semua Wilayah tujuan yang tercantum dalam profil inferensi Lintas Wilayah Geografis untuk Wilayah sumber Anda.
Untuk inferensi Lintas wilayah Geografis, Anda perlu memahami hubungan antara Wilayah sumber (tempat Anda melakukan panggilan API) dan Wilayah tujuan (tempat permintaan dapat dirutekan). Periksa dokumentasi profil inferensi untuk mengidentifikasi semua Wilayah tujuan untuk Wilayah sumber Anda, lalu pastikan Anda SCPs mengizinkan akses ke semua Wilayah tujuan tersebut.
Misalnya, jika Anda menelepon dari us-east-1 (Wilayah sumber) menggunakan profil Geografis Anthropic Claude Sonnet 4.5 AS, permintaan dapat dialihkan ke us-east-1, us-east-2, dan us-west-2 (Wilayah tujuan). Jika SCP membatasi akses hanya ke us-east-1, inferensi lintas wilayah akan gagal saat mencoba merutekan ke us-east-2 atau us-west-2. Oleh karena itu, Anda harus mengizinkan ketiga wilayah tujuan di SCP Anda, terlepas dari Wilayah mana Anda menelepon.
Saat mengonfigurasi SCPs pengecualian Wilayah, ingatlah bahwa memblokir Wilayah tujuan apa pun di profil inferensi akan mencegah inferensi lintas wilayah berfungsi dengan baik, bahkan jika Wilayah sumber Anda tetap dapat diakses. Untuk persyaratan SCP untuk inferensi Lintas wilayah Global, lihat. [Persyaratan Kebijakan Kontrol Layanan untuk inferensi Lintas wilayah Global](global-cross-region-inference.md#global-cris-scp-setup)
Untuk meningkatkan keamanan, pertimbangkan untuk menggunakan `bedrock:InferenceProfileArn` kondisi untuk membatasi akses ke profil inferensi tertentu. Ini memungkinkan Anda untuk memberikan akses ke Wilayah yang diperlukan sambil membatasi profil inferensi mana yang dapat digunakan.
## Gunakan inferensi Lintas wilayah Geografis
Untuk menggunakan inferensi Lintas wilayah Geografis, Anda menyertakan [profil inferensi saat menjalankan inferensi](inference-profiles.md) model dengan cara berikut:
+ **Inferensi model sesuai permintaan** — Tentukan ID profil inferensi sebagai `modelId` saat mengirim,, [Converse [InvokeModel[InvokeModelWithResponseStream](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModelWithResponseStream.html)](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModel.html)](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_Converse.html), atau permintaan. [ConverseStream](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_ConverseStream.html) Profil inferensi mendefinisikan satu atau beberapa Wilayah tempat ia dapat merutekan permintaan inferensi yang berasal dari Wilayah sumber Anda. Penggunaan inferensi lintas wilayah meningkatkan throughput dan kinerja dengan merutekan permintaan pemanggilan model secara dinamis di seluruh Wilayah yang ditentukan dalam profil inferensi. Faktor routing dalam lalu lintas pengguna, permintaan dan pemanfaatan sumber daya. Untuk informasi selengkapnya, lihat [Kirim petunjuk dan hasilkan tanggapan dengan inferensi model](inference.md)
+ **Inferensi Batch** — Kirim permintaan secara asinkron dengan inferensi batch dengan menentukan ID profil inferensi sebagai saat mengirim permintaan. `modelId` [CreateModelInvocationJob](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_CreateModelInvocationJob.html) Menggunakan profil inferensi memungkinkan Anda memanfaatkan komputasi di beberapa Wilayah AWS dan mencapai waktu pemrosesan yang lebih cepat untuk pekerjaan batch Anda. Setelah pekerjaan selesai, Anda dapat mengambil file output dari bucket Amazon S3 di Wilayah sumber.
+ **Agen** — Tentukan ID profil inferensi di `foundationModel` bidang dalam [https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent_CreateAgent.html](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent_CreateAgent.html)permintaan. Untuk informasi selengkapnya, lihat [Buat dan konfigurasikan agen secara manual](agents-create.md).
+ **Pembuatan respons basis pengetahuan** — Anda dapat menggunakan inferensi lintas wilayah saat menghasilkan respons setelah menanyakan basis pengetahuan. Untuk informasi selengkapnya, lihat [Uji basis pengetahuan Anda dengan pertanyaan dan tanggapan](knowledge-base-test.md).
+ **Evaluasi model** — Anda dapat mengirimkan profil inferensi sebagai model untuk mengevaluasi saat mengirimkan pekerjaan evaluasi model. Untuk informasi selengkapnya, lihat [Evaluasi kinerja sumber daya Amazon Bedrock](evaluation.md).
+ **Manajemen cepat** - Anda dapat menggunakan inferensi lintas wilayah saat menghasilkan respons untuk prompt yang Anda buat di Manajemen Prompt. Untuk informasi selengkapnya, lihat [Buat dan simpan petunjuk yang dapat digunakan kembali dengan manajemen Prompt di Amazon Bedrock](prompt-management.md)
+ **Alur prompt** - Anda dapat menggunakan inferensi lintas wilayah saat menghasilkan respons untuk prompt yang Anda tentukan sebaris dalam simpul prompt dalam alur prompt. Untuk informasi selengkapnya, lihat [Bangun alur kerja AI end-to-end generatif dengan Amazon Bedrock Flows](flows.md).
Untuk mempelajari cara menggunakan profil inferensi untuk mengirim permintaan pemanggilan model di seluruh Wilayah, lihat. [Gunakan profil inferensi dalam pemanggilan model](inference-profiles-use.md)
Untuk mempelajari lebih lanjut tentang inferensi lintas wilayah, lihat [Memulai inferensi lintas wilayah di Amazon Bedrock](https://aws.amazon.com/blogs/machine-learning/getting-started-with-cross-region-inference-in-amazon-bedrock/).
Untuk informasi rinci tentang inferensi lintas wilayah global, termasuk pengaturan IAM dan manajemen kuota layanan, lihat. [Inferensi lintas wilayah global](global-cross-region-inference.md)
# Inferensi lintas wilayah global
Inferensi lintas wilayah global memperluas inferensi lintas wilayah di luar batas geografis, memungkinkan perutean permintaan inferensi untuk mendukung komersial di Wilayah AWS seluruh dunia, mengoptimalkan sumber daya yang tersedia dan memungkinkan throughput model yang lebih tinggi.
## Manfaat inferensi lintas wilayah global
Inferensi lintas wilayah global untuk Claude Sonnet 4.5 Anthropic memberikan beberapa keunggulan dibandingkan profil inferensi lintas wilayah geografis tradisional:
+ **Peningkatan throughput selama permintaan puncak** — Inferensi lintas wilayah global memberikan peningkatan ketahanan selama periode permintaan puncak dengan secara otomatis merutekan permintaan dengan kapasitas yang tersedia. Wilayah AWS Perutean dinamis ini terjadi dengan mulus tanpa konfigurasi atau intervensi tambahan dari pengembang. Tidak seperti pendekatan tradisional yang mungkin memerlukan penyeimbangan beban sisi klien yang kompleks Wilayah AWS, inferensi lintas wilayah global menangani lonjakan lalu lintas secara otomatis. Hal ini sangat penting untuk aplikasi bisnis kritis di mana downtime atau kinerja yang menurun dapat memiliki dampak keuangan atau reputasi yang signifikan.
+ **Efisiensi biaya** — Inferensi Lintas wilayah Global untuk Claude Sonnet 4.5 Anthropic menawarkan penghematan sekitar 10% untuk harga token input dan output dibandingkan dengan inferensi lintas wilayah geografis. Harga dihitung berdasarkan Wilayah AWS dari mana permintaan dibuat (sumber Wilayah AWS). Ini berarti organisasi dapat memperoleh manfaat dari peningkatan ketahanan dengan biaya yang lebih rendah. Model penetapan harga ini menjadikan inferensi lintas wilayah global sebagai solusi hemat biaya bagi organisasi yang ingin mengoptimalkan penerapan AI generatif mereka. Dengan meningkatkan pemanfaatan sumber daya dan memungkinkan throughput yang lebih tinggi tanpa biaya tambahan, ini membantu organisasi memaksimalkan nilai investasi mereka di Amazon Bedrock.
+ **Pemantauan yang efisien** — Saat menggunakan inferensi lintas wilayah global, CloudWatch dan CloudTrail terus merekam entri log di sumber Anda Wilayah AWS, menyederhanakan pengamatan dan pengelolaan. Meskipun permintaan Anda diproses di berbagai Wilayah AWS dunia, Anda mempertahankan tampilan terpusat dari kinerja dan pola penggunaan aplikasi Anda melalui alat AWS pemantauan yang Anda kenal.
+ **Fleksibilitas kuota sesuai permintaan** — Dengan inferensi lintas wilayah global, beban kerja Anda tidak lagi dibatasi oleh kapasitas Regional individu. Alih-alih dibatasi pada kapasitas yang tersedia secara spesifik Wilayah AWS, permintaan Anda dapat diarahkan secara dinamis di seluruh infrastruktur AWS global. Ini menyediakan akses ke kumpulan sumber daya yang jauh lebih besar, membuatnya lebih mudah untuk menangani beban kerja volume tinggi dan lonjakan lalu lintas yang tiba-tiba.
## Pertimbangan inferensi lintas wilayah global
Perhatikan informasi berikut tentang inferensi Global Cross-region:
+ Profil inferensi Lintas Wilayah Global memberikan throughput yang lebih tinggi daripada profil inferensi yang terkait dengan geografi tertentu. Profil inferensi yang terkait dengan geografi tertentu menawarkan throughput yang lebih tinggi daripada inferensi wilayah tunggal.
+ *Untuk melihat kuota default untuk throughput Lintas wilayah saat menggunakan profil inferensi Global, lihat **permintaan inferensi model Lintas wilayah Global per menit untuk \$1 \$1Model\$1 dan token inferensi model** **Lintas wilayah Global per menit untuk nilai \$1 \$1Model\$1** dalam kuota layanan [Amazon](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) Bedrock di Referensi Umum.AWS *
**Anda dapat meminta, melihat, dan mengelola kuota untuk Profil Inferensi Lintas Wilayah Global dari konsol [Service Quotas atau](https://console.aws.amazon.com/servicequotas/home/services/bedrock/quotas) dengan menggunakan perintah AWS CLI di wilayah sumber Anda.**
## Persyaratan kebijakan IAM untuk inferensi lintas wilayah global
Untuk mengaktifkan inferensi lintas wilayah global bagi pengguna Anda, Anda harus menerapkan kebijakan IAM tiga bagian ke peran tersebut. Berikut ini adalah contoh kebijakan IAM untuk memberikan kontrol granular. Anda dapat mengganti `` dalam contoh kebijakan dengan tempat Wilayah AWS Anda beroperasi.
```
{
"Version": "2012-10-17" ,
"Statement": [
{
"Sid": "GrantGlobalCrisInferenceProfileRegionAccess",
"Effect": "Allow",
"Action": "bedrock:InvokeModel",
"Resource": [
"arn:aws:bedrock:::inference-profile/global."
],
"Condition": {
"StringEquals": {
"aws:RequestedRegion": ""
}
}
},
{
"Sid": "GrantGlobalCrisInferenceProfileInRegionModelAccess",
"Effect": "Allow",
"Action": "bedrock:InvokeModel",
"Resource": [
"arn:aws:bedrock:::foundation-model/"
],
"Condition": {
"StringEquals": {
"aws:RequestedRegion": "",
"bedrock:InferenceProfileArn": "arn:aws:bedrock:::inference-profile/global."
}
}
},
{
"Sid": "GrantGlobalCrisInferenceProfileGlobalModelAccess",
"Effect": "Allow",
"Action": "bedrock:InvokeModel",
"Resource": [
"arn:aws:bedrock:::foundation-model/"
],
"Condition": {
"StringEquals": {
"aws:RequestedRegion": "unspecified",
"bedrock:InferenceProfileArn": "arn:aws:bedrock:::inference-profile/global."
}
}
}
]
}
```
Bagian pertama dari kebijakan memberikan akses ke profil inferensi Regional dalam permintaan Anda. Wilayah AWS Bagian kedua menyediakan akses ke sumber daya FM Regional. Bagian ketiga memberikan akses ke sumber daya FM global, yang memungkinkan kemampuan perutean lintas wilayah.
Saat menerapkan kebijakan ini, pastikan ketiga sumber daya Amazon Resource Names (ARNs) disertakan dalam pernyataan IAM Anda:
+ Profil inferensi Regional ARN mengikuti pola. `arn:aws:bedrock:REGION:ACCOUNT:inference-profile/global.MODEL-NAME` Ini digunakan untuk memberikan akses ke profil inferensi global di sumbernya Wilayah AWS.
+ FM Regional menggunakan`arn:aws:bedrock:REGION::foundation-model/MODEL-NAME`. Ini digunakan untuk memberikan akses ke FM di sumbernya Wilayah AWS.
+ FM global membutuhkan`arn:aws:bedrock:::foundation-model/MODEL-NAME`. Ini digunakan untuk memberikan akses ke FM di berbagai global Wilayah AWS.
FM ARN global tidak memiliki Wilayah AWS atau akun yang ditentukan, yang disengaja dan diperlukan untuk fungsionalitas Lintas wilayah.
### Nonaktifkan inferensi lintas wilayah global
Anda dapat memilih dari dua pendekatan utama untuk menerapkan kebijakan penolakan ke CRIS global untuk peran IAM tertentu, masing-masing dengan kasus penggunaan dan implikasi yang berbeda:
+ **Menghapus kebijakan IAM** — Metode pertama melibatkan penghapusan satu atau lebih dari tiga kebijakan IAM yang diperlukan dari izin pengguna. Karena CRIS global mengharuskan ketiga kebijakan berfungsi, menghapus kebijakan akan mengakibatkan akses ditolak.
+ **Menerapkan kebijakan penolakan** — Pendekatan kedua adalah menerapkan kebijakan penolakan eksplisit yang secara khusus menargetkan profil inferensi CRIS global. Metode ini memberikan dokumentasi yang jelas tentang maksud keamanan Anda dan memastikan bahwa meskipun seseorang secara tidak sengaja menambahkan kebijakan izin yang diperlukan nanti, penolakan eksplisit akan diutamakan. Kebijakan penolakan harus menggunakan `StringEquals` kondisi yang cocok dengan pola`"aws:RequestedRegion": "unspecified"`. Pola ini secara khusus menargetkan profil inferensi dengan `global` awalan.
Saat menerapkan kebijakan penolakan, penting untuk memahami bahwa CRIS global mengubah cara `aws:RequestedRegion` lapangan berperilaku. Kebijakan Wilayah AWS penolakan berbasis tradisional yang menggunakan `StringEquals` kondisi dengan Wilayah AWS nama tertentu seperti tidak `"aws:RequestedRegion": "us-west-2"` akan berfungsi seperti yang diharapkan dengan CRIS global karena layanan menetapkan bidang ini `global` daripada tujuan Wilayah AWS sebenarnya. Namun, seperti yang disebutkan sebelumnya, `"aws:RequestedRegion": "unspecified"` akan menghasilkan efek penolakan.
## Persyaratan Kebijakan Kontrol Layanan untuk inferensi Lintas wilayah Global
Untuk inferensi Global Lintas wilayah, jika kebijakan keamanan organisasi Anda digunakan SCPs untuk memblokir Wilayah yang tidak digunakan, Anda harus memperbarui kondisi SCP khusus wilayah Anda untuk mengizinkan akses. `"aws:RequestedRegion": "unspecified"` Kondisi ini khusus untuk inferensi Amazon Bedrock Global Cross-region dan memastikan bahwa permintaan dapat dialihkan ke semua Wilayah komersial yang didukung. AWS
Contoh SCP berikut memblokir semua panggilan AWS API di luar Wilayah yang disetujui sambil mengizinkan panggilan inferensi Amazon Bedrock Global Cross-region yang digunakan `"unspecified"` sebagai Region untuk perutean global:
```
{
"Version": "2012-10-17" ,
"Statement": [
{
"Sid": "DenyAllOutsideApprovedRegions",
"Effect": "Deny",
"Action": "*",
"Resource": "*",
"Condition": {
"StringNotEquals": {
"aws:RequestedRegion": [
"us-east-1",
"us-east-2",
"us-west-2",
"unspecified"
]
}
}
}
]
}
```
### Nonaktifkan inferensi lintas wilayah global
Organizations dengan residensi data atau persyaratan kepatuhan harus menilai apakah inferensi Lintas Wilayah Global sesuai dengan kerangka kepatuhan mereka, karena permintaan dapat diproses di Wilayah komersial lain yang didukung AWS . Untuk menonaktifkan inferensi Global Cross-region secara eksplisit, terapkan kebijakan SCP berikut:
```
{
"Effect": "Deny",
"Action": "bedrock:*",
"Resource": "*",
"Condition": {
"StringEquals": {
"aws:RequestedRegion": "unspecified"
},
"ArnLike": {
"bedrock:InferenceProfileArn": "arn:aws:bedrock:*:*:inference-profile/global.*"
}
}
}
```
SCP ini secara eksplisit menyangkal inferensi Lintas wilayah Global karena `"aws:RequestedRegion"` is `"unspecified"` dan `"ArnLike"` kondisi menargetkan profil inferensi dengan awalan di ARN. `global`
### AWS Implementasi Control Tower
Pengeditan manual yang SCPs dikelola oleh AWS Control Tower sangat tidak disarankan karena dapat menyebabkan penyimpangan. Sebaliknya, gunakan mekanisme yang disediakan oleh Control Tower untuk mengelola pengecualian ini. Prinsip-prinsip inti melibatkan perluasan kontrol penolakan wilayah yang ada atau mengaktifkan wilayah dan kemudian menerapkan kebijakan pemblokiran bersyarat khusus.
Untuk step-by-step panduan terperinci tentang penerapan inferensi Lintas wilayah dengan Control Tower, lihat posting blog Aktifkan [inferensi Amazon Bedrock Cross-region di lingkungan multi-akun](https://aws.amazon.com/blogs/machine-learning/enable-amazon-bedrock-cross-region-inference-in-multi-account-environments/). Ini mencakup perluasan penolakan Wilayah yang ada SCPs, mengaktifkan wilayah yang ditolak dengan kustom SCPs, dan menggunakan Kustomisasi untuk AWS Control Tower (CFCT) untuk menerapkan kustom sebagai infrastruktur sebagai kode. SCPs
## Batas permintaan meningkat untuk inferensi lintas wilayah global
Saat menggunakan profil inferensi CRIS global, Anda dapat menggunakan CRIS global dari lebih dari 20 sumber yang didukung. Wilayah AWS Karena ini akan menjadi batas global, permintaan untuk melihat, mengelola, atau meningkatkan kuota untuk profil inferensi lintas wilayah global harus dilakukan melalui konsol Service Quotas atau Command AWS Line Interface (AWS CLI) di sumber yang diminta. Wilayah AWS
Selesaikan langkah-langkah berikut untuk meminta kenaikan batas:
1. Masuk ke konsol Service Quotas di akun Anda AWS .
1. Di panel navigasi, pilih **Layanan AWS **.
1. Dari daftar layanan, temukan dan pilih **Amazon Bedrock**.
1. Dalam daftar kuota untuk Amazon Bedrock, gunakan filter pencarian untuk menemukan kuota CRIS global tertentu. Contoh:
+ Token inferensi model lintas wilayah global per menit untuk Anthropic Claude Sonnet 4.5 V1
1. Pilih kuota yang ingin Anda tingkatkan.
1. Pilih **Permintaan peningkatan di tingkat akun**.
1. Masukkan nilai kuota baru yang Anda inginkan.
1. Pilih **Permintaan** untuk mengirimkan permintaan Anda.
Saat menghitung kenaikan kuota yang diperlukan, ingatlah untuk memperhitungkan tingkat burndown, yang didefinisikan sebagai tingkat di mana token input dan output diubah menjadi penggunaan kuota token untuk sistem throttling. Model berikut memiliki **tingkat pembakaran 5x untuk token keluaran (1 token keluaran mengkonsumsi 5 token dari kuota Anda**):
+ Antropik Claude Opus 4
+ Antropik Claude Soneta 4.5
+ Antropik Claude Soneta 4
+ Antropik Claude 3.7 Soneta
Untuk semua model lainnya, tingkat burndown adalah **1:1 (1** token keluaran mengkonsumsi 1 token dari kuota Anda). Untuk token masukan, rasio token terhadap kuota adalah 1:1. Perhitungan jumlah token per permintaan adalah sebagai berikut:
`Input token count + Cache write input tokens + (Output token count x Burndown rate)`
## Gunakan inferensi Lintas Wilayah Global
Untuk menggunakan inferensi lintas wilayah global dengan Claude Sonnet 4.5 dari Anthropic, pengembang harus menyelesaikan langkah-langkah kunci berikut:
+ **Gunakan ID profil inferensi global** — Saat melakukan panggilan API ke Amazon Bedrock, tentukan ID profil inferensi Claude Sonnet 4.5 Anthropic global (`global.anthropic.claude-sonnet-4-5-20250929-v1:0`) alih-alih ID model khusus. Wilayah AWS
+ **Konfigurasikan izin IAM** — Berikan izin IAM yang sesuai untuk mengakses profil inferensi dan di tujuan potensial. FMs Wilayah AWS
Inferensi lintas wilayah global didukung untuk:
+ Inferensi model sesuai permintaan
+ Inferensi Batch
+ Agen
+ Evaluasi model
+ Manajemen yang cepat
+ Alur cepat
**catatan**
Profil inferensi global didukung untuk inferensi model sesuai permintaan, inferensi Batch, Agen, evaluasi Model, manajemen Prompt, dan aliran Prompt.
## Menerapkan inferensi lintas wilayah global
Menerapkan inferensi Lintas wilayah global dengan Claude Sonnet 4.5 Anthropic sangat mudah, hanya memerlukan beberapa perubahan pada kode aplikasi Anda yang ada. Berikut ini adalah contoh cara memperbarui kode Anda dengan Python:
```
import boto3
import json
bedrock = boto3.client('bedrock-runtime', region_name='us-east-1')
model_id = "global.anthropic.claude-sonnet-4-5-20250929-v1:0"
response = bedrock.converse(
messages=[{"role": "user", "content": [{"text": "Explain cloud computing in 2 sentences."}]}],
modelId=model_id,
)
print("Response:", response['output']['message']['content'][0]['text'])
print("Token usage:", response['usage'])
print("Total tokens:", response['usage']['totalTokens'])
```