Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Inferensi Lintas wilayah global

Inferensi lintas wilayah global memperluas inferensi lintas wilayah di luar batas geografis, memungkinkan routing permintaan inferensi ke komersial yang didukung di seluruh dunia. Wilayah AWS

Manfaat inferensi lintas wilayah global

Dengan inferensi lintas wilayah global untuk model Anthropic Claude Sonnet 4.5, Anda mendapatkan keuntungan berikut dibandingkan profil inferensi lintas wilayah geografis:

Pertimbangan inferensi lintas wilayah global

Perhatikan informasi berikut tentang inferensi lintas wilayah global:

Persyaratan kebijakan IAM untuk inferensi lintas wilayah global

Untuk mengaktifkan inferensi lintas wilayah global untuk pengguna Anda, Anda harus menerapkan kebijakan IAM tiga bagian ke peran tersebut. Berikut ini adalah contoh kebijakan IAM untuk menyediakan kontrol terperinci. Anda dapat mengganti <REQUESTING REGION> dalam kebijakan contoh dengan yang Wilayah AWS Anda operasikan.

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Sid": "GrantGlobalCrisInferenceProfileRegionAccess",
            "Effect": "Allow",
            "Action": "bedrock:InvokeModel",
            "Resource": [
                "arn:aws:bedrock:<REQUESTING REGION>:<ACCOUNT>:inference-profile/global.<MODEL NAME>"
            ],
            "Condition": {
                "StringEquals": {
                    "aws:RequestedRegion": "<REQUESTING REGION>"
                }
            }
        },
        {
            "Sid": "GrantGlobalCrisInferenceProfileInRegionModelAccess",
            "Effect": "Allow",
            "Action": "bedrock:InvokeModel",
            "Resource": [
                "arn:aws:bedrock:<REQUESTING REGION>::foundation-model/<MODEL NAME>"
            ],
            "Condition": {
                "StringEquals": {
                    "aws:RequestedRegion": "<REQUESTING REGION>",
                    "bedrock:InferenceProfileArn": "arn:aws:bedrock:<REQUESTING REGION>:<ACCOUNT>:inference-profile/global.<MODEL NAME>"
                }
            }
        },
        {
            "Sid": "GrantGlobalCrisInferenceProfileGlobalModelAccess",
            "Effect": "Allow",
            "Action": "bedrock:InvokeModel",
            "Resource": [
                "arn:aws:bedrock:::foundation-model/<MODEL NAME>"
            ],
            "Condition": {
                "StringEquals": {
                    "aws:RequestedRegion": "unspecified",
                    "bedrock:InferenceProfileArn": "arn:aws:bedrock:<REQUESTING REGION>:<ACCOUNT>:inference-profile/global.<MODEL NAME>"
                }
            }
        }
    ]
}

Bagian pertama kebijakan memberikan akses ke profil inferensi Regional dalam permintaan Anda. Wilayah AWS Bagian kedua menyediakan akses ke sumber FM Regional. Bagian ketiga memberikan akses ke sumber daya FM global, yang memungkinkan kemampuan routing lintas wilayah.

Saat menerapkan kebijakan ini, sertakan ketiga sumber daya Amazon Resource Names (ARN) dalam pernyataan IAM Anda:

ARN FM global tidak memiliki Wilayah AWS atau akun yang ditentukan, yang disengaja dan diperlukan untuk fungsionalitas Lintas wilayah.

Nonaktifkan inferensi lintas wilayah global

Anda dapat memilih dari dua pendekatan utama untuk menerapkan kebijakan penolakan ke CRIS global untuk peran IAM tertentu, masing-masing dengan kasus penggunaan dan implikasi yang berbeda:

Saat menerapkan kebijakan penolakan, penting untuk memahami bahwa CRIS global mengubah perilaku aws:RequestedRegion lapangan. Kebijakan Wilayah AWS penolakan berbasis tradisional yang menggunakan StringEquals kondisi dengan Wilayah AWS nama tertentu seperti tidak "aws:RequestedRegion": "us-west-2" akan berfungsi seperti yang diharapkan dengan CRIS global. Layanan menetapkan bidang ini ke global bukan tujuan sebenarnya Wilayah AWS. Namun, seperti yang disebutkan sebelumnya, "aws:RequestedRegion": "unspecified" akan menghasilkan efek penolakan.

Persyaratan Kebijakan Pengendalian Layanan untuk inferensi Lintas Wilayah Global

Untuk inferensi Lintas wilayah Global, jika kebijakan keamanan organisasi Anda menggunakan SCP untuk memblokir Wilayah yang tidak digunakan, Anda harus memperbarui kondisi SCP khusus wilayah Anda untuk mengizinkan akses dengan. "aws:RequestedRegion": "unspecified" Kondisi ini khusus untuk inferensi lintas wilayah Amazon Bedrock Global dan memastikan bahwa permintaan dapat dialihkan ke semua Wilayah komersial yang didukung. AWS

Contoh berikut SCP memblokir semua panggilan AWS API di luar Wilayah yang disetujui sambil mengizinkan panggilan inferensi lintas wilayah Global Amazon Bedrock yang digunakan "unspecified" sebagai Wilayah untuk perutean global:

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Sid": "DenyAllOutsideApprovedRegions",
            "Effect": "Deny",
            "Action": "*",
            "Resource": "*",
            "Condition": {
                "StringNotEquals": {
                    "aws:RequestedRegion": [
                        "us-east-1",
                        "us-east-2",
                        "us-west-2",
                        "unspecified"
                    ]
                }
            }
        }
    ]
}

Nonaktifkan inferensi lintas wilayah global

Organisasi dengan persyaratan residensi data atau kepatuhan harus menilai apakah inferensi Lintas wilayah Global sesuai dengan kerangka kepatuhan mereka, karena permintaan dapat diproses di Wilayah AWS komersial lain yang didukung. Untuk menonaktifkan inferensi lintas wilayah global secara eksplisit, terapkan kebijakan SCP berikut:

{
    "Effect": "Deny",
    "Action": "bedrock:*",
    "Resource": "*",
    "Condition": {
        "StringEquals": {
            "aws:RequestedRegion": "unspecified"
        },
        "ArnLike": {
            "bedrock:InferenceProfileArn": "arn:aws:bedrock:*:*:inference-profile/global.*"
        }
    }
}

SCP ini secara eksplisit menyangkal inferensi Lintas wilayah Global karena "aws:RequestedRegion" is "unspecified" dan "ArnLike" kondisi menargetkan profil inferensi dengan global awalan di ARN.

AWS Implementasi Menara Kontrol

Mengedit SCP secara manual yang dikelola oleh AWS Control Tower sangat tidak disarankan karena dapat menyebabkan penyimpangan. Sebagai gantinya, gunakan mekanisme yang disediakan oleh Control Tower untuk mengelola pengecualian ini. Prinsip-prinsip inti melibatkan perluasan kontrol penolakan wilayah yang ada atau mengaktifkan wilayah dan kemudian menerapkan kebijakan pemblokiran khusus dan bersyarat.

Untuk panduan langkah demi langkah terperinci tentang penerapan inferensi lintas wilayah dengan Control Tower, lihat posting blog Aktifkan inferensi lintas wilayah Amazon Bedrock di lingkungan multi-akun. Ini mencakup perluasan SCP penolakan Wilayah yang ada, mengaktifkan wilayah yang ditolak dengan SCP khusus, dan menggunakan Kustomisasi untuk Menara AWS Kontrol (cFCT) untuk menyebarkan SCP khusus sebagai infrastruktur sebagai kode.

Peningkatan batas permintaan untuk inferensi lintas wilayah global

Saat menggunakan profil inferensi CRIS global, Anda dapat menggunakan CRIS global dari lebih dari 20 sumber Wilayah AWS yang didukung. Ini adalah batas global. Untuk melihat, mengelola, atau meningkatkan kuota untuk profil inferensi lintas wilayah global, gunakan konsol Kuota Layanan atau AWS CLI di sumber yang diminta. Wilayah AWS

Selesaikan langkah-langkah berikut untuk meminta kenaikan batas:

Saat menghitung kenaikan kuota yang Anda butuhkan, perhitungkan tingkat pembakaran. Tingkat pembakaran adalah tingkat di mana token input dan output diubah menjadi penggunaan kuota token untuk sistem throttling. Model berikut memiliki tingkat pem bakaran 5x untuk token keluaran (1 token keluaran mengkonsumsi 5 token dari kuota Anda):

Untuk semua model lainnya, tingkat pembakaran adalah 1:1 (1 token keluaran mengkonsumsi 1 token dari kuota Anda). Untuk token input, rasio token terhadap kuota adalah 1:1. Perhitungan untuk jumlah total token per permintaan adalah sebagai berikut:

Input token count + Cache write input tokens + (Output token count x Burndown rate)

Gunakan inferensi lintas wilayah global

Untuk menggunakan inferensi lintas wilayah global dengan Claude Sonnet 4.5 Anthropic, pengembang harus menyelesaikan langkah-langkah kunci berikut:

Inferensi lintas wilayah global didukung untuk:

Menerapkan inferensi lintas wilayah global

Menerapkan inferensi lintas wilayah global dengan Claude Sonnet 4.5 Anthropic sangat mudah, hanya memerlukan beberapa perubahan pada kode aplikasi Anda yang ada. Berikut ini adalah contoh cara memperbarui kode Anda di Python:

import boto3
import json
bedrock = boto3.client('bedrock-runtime', region_name='us-east-1')
model_id = "global.anthropic.claude-sonnet-4-5-20250929-v1:0"  
response = bedrock.converse(
    messages=[{"role": "user", "content": [{"text": "Explain cloud computing in 2 sentences."}]}],
    modelId=model_id,
)

print("Response:", response['output']['message']['content'][0]['text'])
print("Token usage:", response['usage'])
print("Total tokens:", response['usage']['totalTokens'])