View a markdown version of this page

Inferensi lintas wilayah geografis - Amazon Bedrock
Pertimbangan inferensi lintas wilayah geografisPersyaratan kebijakan IAM untuk inferensi lintas wilayah geografisPersyaratan Kebijakan Kontrol Layanan untuk inferensi Lintas Wilayah GeografisGunakan inferensi lintas wilayah geografis

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Inferensi lintas wilayah geografis

Inferensi lintas wilayah geografis menjaga pemrosesan data dalam batas-batas geografis tertentu (seperti AS, UE, dan APAC). Opsi ini sangat ideal untuk organisasi dengan persyaratan residensi data dan peraturan kepatuhan.

Pertimbangan inferensi lintas wilayah geografis

Perhatikan informasi berikut tentang inferensi lintas wilayah Geografis:

  • Cross-Region permintaan inferensi ke profil inferensi yang terkait dengan geografi (seperti AS, UE, dan APAC) tetap berada dalam geografi itu. Data Anda tetap di Wilayah AWS tempat asalnya berada. Misalnya, permintaan yang dibuat di AS disimpan Wilayah AWS di AS. Secara default, data tetap disimpan hanya di Wilayah sumber. Namun, permintaan input dan hasil keluaran Anda mungkin bergerak di luar Wilayah sumber Anda selama inferensi Lintas wilayah. Sejauh kami menyimpan data untuk deteksi penyalahgunaan, permintaan input dan hasil keluaran Anda akan disimpan di wilayah tujuan. Lihat Deteksi penyalahgunaan Amazon Bedrock untuk informasi lebih lanjut tentang model mana yang membutuhkan penyimpanan. Semua data akan dikirim terenkripsi di seluruh jaringan aman Amazon.

  • Untuk kuota throughput lintas wilayah default saat menggunakan profil inferensi yang terkait dengan geografi (seperti AS, UE, dan APAC), lihat permintaan inferensi Cross-region model per menit untuk $ {Model} dan Cross-region token inferensi model per menit untuk nilai $ {Model} di kuota layanan Amazon Bedrock di Referensi Umum. AWS

Persyaratan kebijakan IAM untuk inferensi lintas wilayah geografis

Untuk mengizinkan pengguna atau peran IAM memanggil profil inferensi lintas wilayah Geografis, Anda harus mengizinkan akses ke sumber daya berikut:

  1. Profil inferensi lintas wilayah spesifik geografis (profil ini memiliki awalan geografis seperti,,) us eu apac

  2. Model pondasi di Wilayah sumber

  3. Model dasar di semua Wilayah tujuan yang tercantum dalam profil geografis

Kebijakan contoh berikut memberikan izin yang diperlukan untuk menggunakan model dasar Claude Sonnet 4.5 dengan profil inferensi lintas wilayah Geografis untuk AS, di mana Wilayah sumber berada us-east-1 dan Wilayah tujuan beradaus-east-1,, us-east-2 dan: us-west-2

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Sid": "GrantGeoCrisInferenceProfileAccess",
            "Effect": "Allow",
            "Action": "bedrock:InvokeModel",
            "Resource": [
                "arn:aws:bedrock:us-east-1:<ACCOUNT_ID>:inference-profile/us.anthropic.claude-sonnet-4-5-20250929-v1:0"
            ]
        },
        {
            "Sid": "GrantGeoCrisModelAccess",
            "Effect": "Allow",
            "Action": "bedrock:InvokeModel",
            "Resource": [
                "arn:aws:bedrock:us-east-1::foundation-model/anthropic.claude-sonnet-4-5-20250929-v1:0",
                "arn:aws:bedrock:us-east-2::foundation-model/anthropic.claude-sonnet-4-5-20250929-v1:0",
                "arn:aws:bedrock:us-west-2::foundation-model/anthropic.claude-sonnet-4-5-20250929-v1:0"
            ],
            "Condition": {
                "StringEquals": {
                    "bedrock:InferenceProfileArn": "arn:aws:bedrock:us-east-1:<ACCOUNT_ID>:inference-profile/us.anthropic.claude-sonnet-4-5-20250929-v1:0"
                }
            }
        }
    ]
}

Pernyataan pertama memberikan akses bedrock:InvokeModel API ke profil inferensi lintas wilayah Geografis untuk permintaan yang berasal dari Wilayah yang meminta. Pernyataan kedua memberikan akses bedrock:InvokeModel API ke model dasar di Wilayah yang meminta dan semua Wilayah tujuan yang tercantum dalam profil inferensi.

Persyaratan Kebijakan Kontrol Layanan untuk inferensi Lintas Wilayah Geografis

Banyak organisasi menerapkan kontrol akses Regional melalui Kebijakan Kontrol Layanan di AWS Organisasi untuk keamanan dan kepatuhan. Jika kebijakan keamanan organisasi Anda menggunakan SCP untuk memblokir Wilayah yang tidak digunakan, Anda harus mengizinkan akses ke semua Wilayah tujuan yang tercantum dalam profil inferensi lintas wilayah Geografis untuk Wilayah sumber Anda atau menambahkan pengecualian profil kesimpulan seperti yang dijelaskan dalam catatan berikut.

Jika Anda menggunakan Regional allowlist tanpa pengecualian profil inferensi, Anda perlu memahami hubungan antara Wilayah sumber Anda (tempat Anda melakukan panggilan API) dan Wilayah tujuan (tempat permintaan dapat dirutekan). Periksa dokumentasi profil inferensi untuk mengidentifikasi semua Wilayah tujuan untuk Wilayah sumber Anda, lalu pastikan SCP Anda mengizinkan akses ke semua Wilayah tujuan tersebut.

Misalnya, jika Anda menelepon dari us-east-1 (Wilayah sumber) menggunakan profil Geografis Claude Sonnet 4.5 AS, permintaan dapat dialihkan ke us-east-1, us-east-2, dan us-west-2 (Wilayah tujuan). Jika SCP membatasi akses hanya ke us-east-1 dan tidak menyertakan pengecualian profil inferensi, inferensi lintas wilayah akan gagal saat mencoba merutekan ke us-east-2 atau us-west-2. Untuk menggunakan profil, izinkan ketiga Wilayah tujuan di SCP Anda atau tambahkan pengecualian profil inferensi.

Saat mengonfigurasi SCP untuk pengecualian Wilayah, ingatlah bahwa memblokir Wilayah tujuan tanpa pengecualian profil kesimpulan akan mencegah inferensi lintas wilayah berfungsi dengan baik, bahkan jika Wilayah sumber Anda tetap dapat diakses. Untuk persyaratan SCP untuk inferensi Lintas wilayah Global, lihat. Persyaratan Kebijakan Pengendalian Layanan untuk inferensi Lintas Wilayah Global

catatan

Saat permintaan menggunakan profil inferensi lintas wilayah Geografis, Amazon Bedrock mengevaluasi otorisasi untuk sumber daya profil inferensi, model dasar di Wilayah sumber, dan model dasar di setiap Region tujuan kandidat. K bedrock:InferenceProfileArn unci kondisi diisi untuk evaluasi sumber daya model dasar, tetapi tidak untuk evaluasi sumber daya profil inferensi.

Karena evaluasi sumber daya model dasar membawa Wilayah tujuan, Anda dapat menggunakan bedrock:InferenceProfileArn dalam Region-deny SCP untuk mengecualikan perutean lintas wilayah tanpa menambahkan Wilayah tujuan tersebut ke daftar izin Wilayah untuk layanan dan tindakan lain. Pengecualian ini tidak dapat melewati batasan Wilayah pada panggilan asal. Evaluasi sumber daya profil inferensi membawa Region sumber dan tidak termasukbedrock:InferenceProfileArn.

Untuk meningkatkan keamanan, pertimbangkan untuk menggunakan bedrock:InferenceProfileArn kondisi untuk membatasi pengecualian pada profil inferensi tertentu.

Gunakan inferensi lintas wilayah geografis

Untuk menggunakan inferensi lintas wilayah geografis, Anda menyertakan profil inferensi saat menjalankan inferensi model dengan cara berikut:

Untuk mempelajari cara menggunakan profil inferensi untuk mengirim permintaan pemanggilan model di seluruh Wilayah, lihat. Gunakan profil inferensi dalam pemanggilan model

Untuk mempelajari lebih lanjut tentang inferensi lintas wilayah, lihat Mem ulai inferensi lintas wilayah di Amazon Bedrock.

Untuk informasi terperinci tentang inferensi lintas wilayah global, termasuk pengaturan IAM dan manajemen kuota layanan, lihat. Inferensi Lintas wilayah global