Akses model fondasi Amazon Bedrock - Amazon Bedrock

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Akses model fondasi Amazon Bedrock

Akses ke semua model foundation Amazon Bedrock diaktifkan secara default dengan izin AWS Marketplace yang benar. Untuk memulai, cukup pilih model dari katalog model di konsol Amazon Bedrock dan buka di taman bermain atau panggil model menggunakan operasi API InvokeModelatau Converse. Untuk informasi tentang berbagai model yang didukung di Amazon Bedrock, lihat informasi model dasar Amazon Bedrock. Untuk informasi tentang harga model, lihat Harga Amazon Bedrock.

Akses ke semua model foundation Amazon Bedrock diaktifkan secara default dengan izin AWS Marketplace yang benar di semua wilayah AWS komersial. Untuk akses program ke model pihak ketiga, lihatKelola akses model menggunakan SDK dan CLI.

catatan

Anthropicmengharuskan pelanggan pertama kali untuk mengirimkan rincian kasus penggunaan sebelum memanggil model sekali per akun atau sekali di akun manajemen organisasi. Anda dapat mengirimkan detail kasus penggunaan dengan memilih Anthropic model dari katalog model di konsol Amazon Bedrock atau memanggil perintah PutUseCaseForModelAccess API. Akses ke model diberikan segera setelah rincian kasus penggunaan berhasil dikirimkan. Pengajuan formulir di akun root akan diwarisi oleh akun lain di Organisasi yang sama AWS .

catatan

Untuk model 3P, menurut invoking/using model untuk pertama kalinya Anda menyetujui Perjanjian Lisensi Pengguna Akhir yang berlaku. Untuk informasi selengkapnya, lihat Ketentuan AWS Layanan dan Perjanjian Lisensi Model Pihak Ketiga Tanpa Server.

Organizations yang perlu meninjau dan menyetujui EULA sebelum mengizinkan penggunaan model harus:

  1. Awalnya memblokir akses model menggunakan Kebijakan Kontrol Layanan (SCP) atau kebijakan IAM

  2. Tinjau persyaratan EULA

  3. Aktifkan akses model melalui SCP/IAM kebijakan hanya jika Anda menyetujui persyaratan EULA

Berikan izin IAM untuk meminta akses ke model foundation Amazon Bedrock dengan ID produk

Anda dapat mengelola izin akses model dengan membuat kebijakan IAM kustom. Untuk mengubah akses ke model foundation Amazon Bedrock, Anda harus terlebih dahulu melampirkan kebijakan IAM berbasis identitas dengan AWS Marketplace tindakan berikut ke peran IAM yang memungkinkan akses ke Amazon Bedrock.

Saat pertama kali memanggil model tanpa server Amazon Bedrock yang disajikan dari AWS Marketplace akun, Bedrock mencoba mengaktifkan model untuk akun Anda secara otomatis. Agar pengaktifan otomatis ini berfungsi, AWS Marketplace izin diperlukan.

Jika Anda tidak dapat menerima AWS Marketplace izin, seseorang dengan AWS Marketplace izin harus mengaktifkan model untuk akun sebagai langkah satu kali (baik secara manual atau melalui pengaktifan otomatis). Setelah diaktifkan, semua pengguna di akun dapat memanggil model tanpa memerlukan izin AWS Marketplace . Pengguna tidak memerlukan izin AWS Marketplace berlangganan untuk memanggil model setelah diaktifkan. Izin ini hanya diperlukan saat pertama kali model digunakan di akun.

Akses ke model foundation tanpa server Amazon Bedrock dengan ID produk dikendalikan oleh tindakan IAM berikut:

Tindakan IAM Deskripsi Berlaku untuk model mana
AWS-MarketPlace: Berlangganan

Memungkinkan entitas IAM untuk berlangganan AWS Marketplace produk, termasuk model yayasan Amazon Bedrock.

Hanya model tanpa server Amazon Bedrock yang memiliki ID produk di. AWS Marketplace
AWS-MarketPlace: berhenti berlangganan Memungkinkan identitas IAM untuk berhenti berlangganan dari AWS Marketplace produk, termasuk model yayasan Amazon Bedrock. Hanya model tanpa server Amazon Bedrock yang memiliki ID produk di. AWS Marketplace
aws-pasar: ViewSubscriptions Memungkinkan identitas IAM mengembalikan daftar AWS Marketplace produk, termasuk model fondasi Amazon Bedrock. Hanya model tanpa server Amazon Bedrock yang memiliki ID produk di. AWS Marketplace
catatan

Hanya untuk aws-marketplace:Subscribe tindakan, Anda dapat menggunakan tombol aws-marketplace:ProductId kondisi untuk membatasi langganan ke model tertentu.

Untuk identitas IAM untuk meminta akses ke model dengan ID produk

Identitas harus memiliki kebijakan terlampir yang memungkinkanaws-marketplace:Subscribe.

catatan

Jika identitas telah berlangganan model di satu AWS Wilayah, model menjadi tersedia untuk identitas untuk meminta akses di semua AWS Wilayah di mana model tersedia, bahkan jika aws-marketplace:Subscribe ditolak untuk Wilayah lain.

Untuk informasi tentang membuat kebijakan, lihat Saya sudah memiliki Akun AWS.

Hanya untuk aws-marketplace:Subscribe tindakan, Anda dapat menggunakan tombol aws-marketplace:ProductId kondisi untuk membatasi langganan ke model tertentu.

catatan

Model dari penyedia berikut tidak dijual AWS Marketplace dan tidak memiliki kunci produk, sehingga Anda tidak dapat mencakup aws-marketplace tindakan kepada mereka:

  • Amazon

  • DeepSeek

  • Mistral AI

  • Meta

  • Qwen

  • OpenAI

Namun, Anda dapat mencegah penggunaan model ini dengan menolak tindakan Amazon Bedrock dan menentukan model ini IDs di lapangan. Resource Sebagai contoh, lihat Mencegah identitas menggunakan model setelah akses telah diberikan.

Pilih bagian untuk melihat contoh kebijakan IAM untuk kasus penggunaan tertentu:

Mencegah identitas meminta akses ke model dengan ID produk

Untuk mencegah entitas IAM meminta akses ke model tertentu yang memiliki ID produk, lampirkan kebijakan IAM kepada pengguna yang menolak aws-marketplace:Subscribe tindakan dan cakupan Condition bidang ke ID produk model.

Misalnya, Anda dapat melampirkan kebijakan berikut ke identitas untuk mencegahnya berlangganan Anthropic Claude 3.5 Sonnet model:

JSON
{ "Version":"2012-10-17", "Statement": [ { "Effect": "Deny", "Action": [ "aws-marketplace:Subscribe" ], "Resource": "*", "Condition": { "ForAnyValue:StringEquals": { "aws-marketplace:ProductId": [ "prod-m5ilt4siql27k" ] } } } ] }
catatan

Dengan kebijakan ini, entitas IAM akan memiliki akses ke model yang baru ditambahkan secara default.

Jika identitas telah berlangganan model di setidaknya satu Wilayah, kebijakan ini tidak mencegah akses di Wilayah lain. Sebagai gantinya, Anda dapat mencegah penggunaannya dengan melihat contoh diMencegah identitas menggunakan model setelah akses telah diberikan.

Mencegah identitas menggunakan model setelah akses telah diberikan

Jika identitas IAM telah diberikan akses ke model, Anda dapat mencegah penggunaan model dengan menolak semua tindakan Amazon Bedrock dan melingkupi bidang Resource ke ARN model pondasi.

Misalnya, Anda dapat melampirkan kebijakan berikut ke identitas untuk mencegahnya menggunakan Anthropic Claude 3.5 Sonnet model di semua AWS Wilayah:

JSON
{ "Version":"2012-10-17", "Statement": [ { "Effect": "Deny", "Action": [ "bedrock:*" ], "Resource": [ "arn:aws:bedrock:*::foundation-model/anthropic.claude-3-5-sonnet-20240620-v1:0" ] } ] }

Kelola akses model menggunakan SDK dan CLI

Akses model dapat dikelola menggunakan SDK selain memanggil model. Langkah-langkah di bawah ini dapat digunakan untuk create/delete memodelkan akses serta memeriksa apakah akses sudah ada atau tidak. Catatan ini hanya berlaku untuk model pihak ketiga.

Ikuti langkah-langkah ini untuk mengelola akses model secara terprogram:

Prasyarat

  • Lampirkan AmazonBedrockFullAccesskebijakan ke IAM yang user/role digunakan untuk SDK/CLI.

  • Pengaturan SDK Batuan Dasar: Siapkan AWS SDK untuk Amazon Bedrock

    Catatan: Petunjuk di bawah ini gunakan python3 untuk contoh

  • Perhatikan modelID model yang aksesnya perlu dikelola.

Langkah 1: Daftar penawaran perjanjian model pondasi

Gunakan API ini untuk mendapatkan penawaran perjanjian untuk model tertentu. Ini akan memberikan OfferToken yang digunakan untuk membuat akses model pada langkah selanjutnya.

Dokumentasi

AWS CLI
aws bedrock list-foundation-model-agreement-offers --model-id <ModelId>
Python
# Placeholder for modelId model_id = "<enter model id here>" # Placeholder for offerId offer_id = "<enter offer id here>" try: # offerType= "ALL" means both public and private offers, if offerType isn't defined, the default would be "PUBLIC" model_agreement_offers_response = bedrock_client.list_foundation_model_agreement_offers(modelId=model_id,offerType="ALL") print(model_agreement_offers_response) except ClientError as e: print(f"Failed to list foundation model offers for modelId: {model_id} due to the following error: {e}")

Langkah 2: [Diperlukan satu kali hanya untuk model Antropik] Letakkan kasus penggunaan untuk pengguna pertama kali

Digunakan untuk menempatkan formulir kasus penggunaan pengguna pertama kali yang diperlukan hanya untuk model Antropik. Ini adalah prasyarat untuk mendapatkan akses ke model Antropik di akun. API ini hanya diperlukan satu kali per akun atau per organisasi AWS di semua wilayah komersial, kecuali wilayah keikutsertaan di mana formulir ini perlu diisi kembali.

Dokumentasi

AWS CLI
aws bedrock put-use-case-for-model-access \ --form-data <Base64EncodedFormData>
Python
# Placeholder for form data, replace the names COMPANY_NAME = "<enter company name here>" COMPANY_WEBSITE = "<enter company website here>" INTENDED_USERS = "1" #for external users INDUSTRY_OPTION = "<enter industry option here>" OTHER_INDUSTRY_OPTION = "<enter other industry option here>" USE_CASES = "<enter use cases here>" form_data = { "companyName": COMPANY_NAME, "companyWebsite": COMPANY_WEBSITE, "intendedUsers": INTENDED_USERS, "industryOption": INDUSTRY_OPTION, "otherIndustryOption": OTHER_INDUSTRY_OPTION, "useCases": USE_CASES } form_data_json = json.dumps(form_data) model_access_response = bedrock_client.put_use_case_for_model_access(formData=form_data_json)

Untuk CLI, data formulir adalah json yang dikodekan base64 dari formulir di bawah ini.

{ "companyName": COMPANY_NAME, "companyWebsite": COMPANY_WEBSITE, "intendedUsers": INTENDED_USERS, "industryOption": INDUSTRY_OPTION, "otherIndustryOption": OTHER_INDUSTRY_OPTION, "useCases": USE_CASES }
  • COMPANY_NAME: String dengan panjang maksimum 128

  • COMPANY_WEBSITE: String dengan panjang maksimum 128

  • PENGGUNA YANG DIMAKSUDKAN: Baik 0, 1 atau 2. 0: Internal, 1: Eksternal, 2: Internal_dan_External

  • INDUSTRY_OPTION: String dengan panjang maksimum 128

  • OTHER_INDUSTRY_OPTION: String dengan panjang maksimum 128

  • USE_CASES: String dengan panjang maksimum 8192

Langkah 3: Buat perjanjian model pondasi

Digunakan untuk membuat perjanjian (akses) untuk model pondasi. Gunakan token penawaran dan modelID dari atas.

Dokumentasi

AWS CLI
aws bedrock create-foundation-model-agreement \ --model-id <ModelId> \ --offer-token <OfferToken>
Python
offer_token= '' for agreement_offer in model_agreement_offers_response['offers']: if agreement_offer['offerId'] == offer_id: offer_token = agreement_offer['offerToken'] print(f"offer token found. Offer token is {offer_token}") break if(not offer_token): print(f"Offer token for modelId: {model_id} is not found") foundation_model_agreement_reponse = bedrock_client.create_foundation_model_agreement(offerToken= offer_token , modelId= model_id)

Langkah 4: Dapatkan ketersediaan model pondasi

Digunakan untuk memeriksa apakah model pondasi saat ini memiliki akses atau tidak. Gunakan modelID dari atas.

Dokumentasi

AWS CLI
aws bedrock get-foundation-model-availability \ --model-id <ModelId>
Python
model_availability_response = bedrock_client.get_foundation_model_availability(modelId=model_id)
Respon yang diharapkan

agreementAvailability- AVAILABLE jika akses ada, NOT_AVAILABLE apakah akses tidak ada.

{ "modelId": "anthropic.claude-sonnet-4-20250514-v1:0", "agreementAvailability": { "status": "AVAILABLE" }, "authorizationStatus": "AUTHORIZED", "entitlementAvailability": "AVAILABLE", "regionAvailability": "AVAILABLE" }

[Opsional] Langkah 5: Hapus perjanjian model pondasi

Digunakan untuk menghapus perjanjian model dasar (akses). Gunakan modelID dari atas.

catatan

Menghapus akses model tidak cukup untuk memblokir akses di masa depan karena menjalankan model akan membuat akses lagi. Untuk memastikan akses tidak dibuat lagi, terapkan kebijakan IAM penolakan restriktif untuk model tersebut.

Dokumentasi

AWS CLI
aws bedrock delete-foundation-model-agreement \ --model-id <ModelId>
Python
delete_foundation_model_agreement_reponse = bedrock_client.delete_foundation_model_agreement(modelId= model_id)

Akses model foundation Amazon Bedrock di AWS GovCloud (AS)

Akun AWS GovCloud (AS) ditautkan one-to-one berdasarkan akun komersial AWS standar. Akun komersial tertaut ini digunakan untuk penagihan, akses layanan, tujuan dukungan, dan akses ke Amazon Bedrock Model Marketplace. Untuk informasi selengkapnya tentang hubungan antara GovCloud dan akun komersial, lihat Penautan akun standar di AWS GovCloud (AS).

Untuk model pihak ketiga, akses model harus diaktifkan di kedua akun komersial AWS yang ditautkan selain GovCloud akun AWS. Untuk model yang disediakan oleh Amazon Bedrock, akses model hanya perlu diaktifkan di GovCloud akun. Ini adalah proses manual.

Mengaktifkan akses model untuk AWS GovCloud di akun komersial AWS tertaut (hanya untuk model pihak ketiga)

Akses model dapat diaktifkan di akun komersial AWS menggunakan 2 cara:

  1. Memanggil model yang diperlukan untuk akun komersial AWS di us-east-1 atau us-west-2 wilayah.

  2. Aktifkan akses ke model yang digunakan untuk akun komersial SDK/CLI AWS di us-east-1 atau us-west-2 wilayah secara terprogram. Ini dapat dilakukan dengan mengikuti langkah-langkah yang dijelaskan di bagian sebelumnya.

Mengaktifkan akses model untuk akun AWS GovCloud

Di AWS GovCloud (AS), Anda menggunakan halaman akses Model di konsol Amazon Bedrock di us-gov-west-1 wilayah tersebut untuk mengaktifkan model foundation seperti yang dijelaskan di bawah ini:

  1. Pastikan Anda memiliki izin untuk meminta akses model untuk meminta akses, atau memodifikasi akses, ke model dasar Amazon Bedrock. Disarankan untuk melampirkan AmazonBedrockFullAccesskebijakan pada yang user/role digunakan.

  2. Masuk ke konsol Amazon Bedrock di us-gov-west-1 wilayah di https://console.aws.amazon.com/bedrock/.

  3. Di panel navigasi kiri, di bawah konfigurasi Batuan Dasar, pilih Akses model.

  4. Pada halaman akses Model, pilih Modify model access.

  5. Pilih model yang Anda inginkan agar akun dapat diakses dan batalkan pilihan model yang tidak ingin Anda akses ke akun tersebut. Anda memiliki opsi berikut:

    1. Pastikan untuk meninjau Perjanjian Lisensi Pengguna Akhir (EULA) untuk syarat dan ketentuan penggunaan model sebelum meminta akses ke sana.

    2. Pilih kotak centang di sebelah model individual untuk mencentang atau hapus centang.

    3. Pilih kotak centang atas untuk mencentang atau hapus centang pada semua model.

    4. Pilih bagaimana model dikelompokkan dan kemudian centang atau hapus centang semua model dalam grup dengan memilih kotak centang di sebelah grup. Misalnya, Anda dapat memilih untuk mengelompokkan menurut penyedia dan kemudian memilih kotak centang di sebelah Cohere untuk mencentang atau menghapus centang pada semua model Cohere.

  6. Pilih Berikutnya.

  7. Jika Anda menambahkan akses ke model Antropik, Anda harus menjelaskan detail kasus penggunaan Anda. Pilih Kirim detail kasus penggunaan, isi formulir, lalu pilih Kirim formulir. Pemberitahuan akses diberikan atau ditolak berdasarkan jawaban Anda saat mengisi formulir untuk penyedia.

  8. Tinjau perubahan akses yang Anda buat, lalu baca Persyaratan.

  9. Jika Anda setuju dengan persyaratan, pilih Kirim. Perubahan dapat memakan waktu beberapa menit untuk tercermin di konsol.

  10. Jika permintaan Anda berhasil, status Akses berubah menjadi Akses yang diberikan atau Tersedia untuk diminta.