View a markdown version of this page

Permata 4 E2B - Amazon Bedrock

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Permata 4 E2B

Logo Google dengan ikon huruf G warna-warni. Google — Gemma 4 E2B

Rincian Model

Gemma 4 E2B adalah model ringkas Google dengan total 5,1 miliar parameter dan 2,3 miliar parameter efektif menggunakan Per-Layer Embeddings (PLE), dirancang untuk beban kerja latensi rendah dengan penalaran bawaan, panggilan fungsi asli, dan input multimodal di seluruh teks dan gambar, mendukung jendela konteks token 128K. Untuk informasi lebih lanjut tentang pengembangan model dan kinerja, lihat model/service kartu.

  • Tanggal peluncuran model: 10 Juni 2025

  • Tanggal model EOL: N/A

  • Perjanjian Lisensi Pengguna Akhir dan Ketentuan Penggunaan: Lihat

  • Siklus hidup model: Aktif

  • Jendela konteks: 128K token

Modalitas Input Modalitas Output API didukung Titik akhir didukung
Green circle with white checkmark icon.AudioRed circle with white X icon indicating error, cancel, or close action.MenanamkanGreen circle with white checkmark icon. ResponsesRed circle with white X icon indicating error, cancel, or close action. bedrock-runtime
Green circle with white checkmark icon.GambarRed circle with white X icon indicating error, cancel, or close action.GambarGreen circle with white checkmark icon. Chat CompletionsGreen circle with white checkmark icon. bedrock-mantle
Red circle with white X icon indicating error, cancel, or close action.PidatoRed circle with white X icon indicating error, cancel, or close action.PidatoRed circle with white X icon indicating error, cancel, or close action. Invoke
Green circle with white checkmark icon.TeksGreen circle with white checkmark icon.TeksRed circle with white X icon indicating error, cancel, or close action. Converse
Green circle with white checkmark icon.VideoRed circle with white X icon indicating error, cancel, or close action.VideoRed circle with white X icon indicating error, cancel, or close action. Messages
catatan

Model Gemma 4 hanya tersedia di bedrock-mantle titik akhir.

Padabedrock-mantle, model ini disajikan di/openai/v1/responses, bukan default/v1/responses.

Kemampuan dan Fitur

Fitur Bedrock

Fitur yang didukung menggunakan bedrock-mantle titik akhir

Harga

Untuk informasi harga, lihat halaman Harga Amazon Bedrock.

Akses Terprogram

Gunakan ID model dan URL titik akhir berikut untuk mengakses model ini secara terprogram. Untuk informasi selengkapnya tentang API dan titik akhir yang tersedia, lihat API yang didukung dan T itik Akhir didukung.

Titik akhir Model ID In-Region URL titik akhir ID inferensi geografis ID inferensi global
bedrock-mantle google.gemma-4-e2b https://bedrock-mantle.{region}.api.aws/openai/v1 Tidak didukung Tidak didukung

Misalnya, jika wilayah adalah us-east-1 (Virginia Utara), maka URL titik akhir landrock-mantle akan menjadi "”. https://bedrock-mantle.us-east-1.api.aws/openai/v1

Tingkat Layanan

Amazon Bedrock menawarkan beberapa tingkatan layanan untuk memenuhi persyaratan beban kerja Anda. Standar menyediakan akses bayar per token tanpa komitmen (atur "service_tier": "default" atau hilangkan bidang). Priority memberikan waktu respons tercepat untuk premi harga (set"service_tier": "priority"). Flex menyediakan akses berbiaya lebih rendah untuk beban kerja yang fleksibel dan tidak peka waktu (set). "service_tier": "flex" Reserved menyediakan throughput khusus dengan komitmen jangka untuk beban kerja yang dapat diprediksi; ini ditetapkan pada tingkat akun, bukan per permintaan (hubungi tim akun AWS Anda untuk mengaktifkan). Untuk informasi selengkapnya, lihat tingkatan layanan.

Standar Prioritas Fleksibel Dicadangkan
Green circle with white checkmark icon. Green circle with white checkmark icon. Green circle with white checkmark icon. Red circle with white X icon indicating error, cancel, or close action.

Ketersediaan Wilayah

Sekilas tentang ketersediaan regional

Amazon Bedrock menawarkan tiga opsi inferensi: In-Region menyimpan permintaan dalam satu Wilayah untuk kepatuhan yang ketat, Cross-Region rute Geo melintasi Wilayah dalam geografi (seperti AS, UE, dan APAC) sambil menghormati residensi data, dan Cross-Region rute Global di mana pun di seluruh dunia ketika tidak ada batasan residensi. Lihat Ketersediaan regional berdasarkan model halaman untuk lebih jelasnya.

Wilayah In-Region Geo Global
us-east-1(Virginia Utara)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
us-east-2(Ohio)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
us-west-2(Oregon)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
eu-central-1(Frankfurt)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.

Kuota dan Batas

AWS Akun Anda memiliki kuota default untuk mempertahankan kinerja layanan dan untuk memastikan penggunaan Amazon Bedrock yang tepat. Kuota default yang ditetapkan ke akun mungkin diperbarui tergantung pada faktor regional, riwayat pembayaran, penggunaan penipuan, and/or persetujuan permintaan peningkatan kuota. Untuk informasi selengkapnya, lihat Kuota untuk Amazon Bedrock dokumentasi dan lihat batasan untuk model.

Saat menggunakan throughput sesuai permintaan pada bedrock-mantle titik akhir, throughput yang tersedia akan berskala dari waktu ke waktu. Tidak semua permintaan dalam kuota Anda dijamin berhasil selama periode permintaan tinggi, jadi meningkatkan secara bertahap adalah penting. Untuk model ini, batas default tidak muncul secara langsung melalui Kuota Layanan, jadi sebaiknya ikuti ramp sebagai panduan Anda.

Kode Sampel

Langkah 1 - AWS Akun: Jika Anda sudah memiliki AWS akun, lewati langkah ini. Jika Anda baru mengenal AWS, daftar untuk akun AWS.

Langkah 2 - Kunci API: Buka konsol Amazon Bedrock dan buat kunci API jangka panjang.

Langkah 3 - Dapatkan SDK: Untuk menggunakan panduan memulai ini, Anda harus sudah menginstal Python. Kemudian instal perangkat lunak yang relevan tergantung pada API yang Anda gunakan.

pip install openai

Langkah 4 - Mengatur variabel lingkungan: Konfigurasikan lingkungan Anda untuk menggunakan kunci API untuk otentikasi.

OPENAI_API_KEY="<provide your Bedrock API key>" OPENAI_BASE_URL="https://bedrock-mantle.<your-region>.api.aws/openai/v1"

Langkah 5 - Jalankan permintaan inferensi pertama Anda: Simpan file sebagai bedrock-first-request.py

Chat Completions API
from openai import OpenAI client = OpenAI() response = client.chat.completions.create( model="google.gemma-4-e2b", messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}] ) print(response)
Responses API
from openai import OpenAI client = OpenAI() response = client.responses.create( model="google.gemma-4-e2b", input="Explain the benefits of mixture-of-experts architectures for production inference.", max_output_tokens=512, ) print(response.output_text)

Pertimbangan dan Batasan Penggunaan

  • Mode penalaran — Upaya penalaran dihormati pada API Penyelesaian Obrolan dan Tanggapan, dan model melakukan penalaran yang diperluas dalam kedua kasus. Namun, konten penalaran hanya dikembalikan oleh Responses API. API Penyelesaian Obrolan tidak mengembalikan token penalaran, karena spesifikasi OpenAI Chat Completions tidak mendukung pengembaliannya.

  • Upaya penalaran - Untuk Gemma 4 E2B, kami sarankan pengaturan reasoning_effort kehigh, yang memungkinkan mode berpikir. Varian ini cenderung bernalar secara ekstensif secara default, dan upaya penalaran yang tinggi menjaga penalaran itu di saluran penalaran khusus, yang meningkatkan kualitas keluaran dan mencegah teks penalaran muncul dalam respons akhir.

  • Panggilan alat paralel — Meminta lebih dari satu panggilan alat dalam satu putaran saat ini tidak didukung. Minta panggilan alat satu per satu.

  • Ukuran payload permintaan — Total payload badan permintaan untuk Gemma 4 E2B, termasuk gambar dan video, mendukung ukuran maksimum 3,5 MB.