View a markdown version of this page

Kompatibilitas API - Amazon Bedrock

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Kompatibilitas API

Amazon Bedrock mendukung empat rangkaian API runtime, masing-masing dirancang untuk pola integrasi dan kasus penggunaan yang berbeda.

Memanggil keluarga: InvokeModel menangani panggilan sinkron, respons tunggal. InvokeModelWithResponseStreammengembalikan respons sebagai aliran waktu nyata. InvokeModelWithBidirectionalStreammemungkinkan streaming dupleks penuh untuk aplikasi interaktif. AsyncInvokemengirimkan permintaan yang berjalan lama secara asinkron, menyimpan output ke Amazon S3.

Keluarga Converse: Converse menyediakan antarmuka model agnostik terpadu untuk percakapan multi-putaran sinkron. ConverseStreammemberikan pengalaman yang sama dengan output streaming.

OpenAI-compatible keluarga: ChatCompletions mengimplementasikan antarmuka Penyelesaian Obrolan OpenAI, memungkinkan OpenAI-based integrasi yang ada untuk berjalan di Bedrock dengan perubahan minimal. Responses API mengimplementasikan antarmuka OpenAI Responses, mendukung interaksi stateful dan agentic dengan penggunaan alat bawaan dan manajemen riwayat percakapan.

Keluarga pesan: Messages mengimplementasikan antarmuka Pesan Anthropic pada bedrock-mantle titik akhir, memungkinkan SDK-based integrasi Anthropic yang ada untuk berjalan di Bedrock dengan sedikit perubahan.

Sekarang kita akan melihat daftar API yang didukung oleh masing-masing model.

AI21

Nama model Panggil Converse Penyelesaian Obrolan Respons Pesan
Jamba 1.5 Besar* supported supported not-supported not-supported not-supported
Jamba 1.5 Mini* supported supported not-supported not-supported not-supported

Amazon

Antropik

Cohere

Nama model Panggil Converse Penyelesaian Obrolan Respons Pesan
Perintah R* supported supported not-supported not-supported not-supported
Perintah R +* supported supported not-supported not-supported not-supported
Sematkan Bahasa Inggris supported not-supported not-supported not-supported not-supported
Sematkan Multibahasa supported not-supported not-supported not-supported not-supported
Menanamkan v4 supported not-supported not-supported not-supported not-supported
Peringkat ulang 3.5 supported not-supported not-supported not-supported not-supported

DeepSeek

Nama model Panggil Converse Penyelesaian Obrolan Respons Pesan
DeepSeek V3.2* supported supported supported not-supported not-supported
DeepSeek-R1* supported supported not-supported not-supported not-supported
DeepSeek-V3.1* supported supported supported not-supported not-supported

Google

Nama model Panggil Converse Penyelesaian Obrolan Respons Pesan
Gemma 3 12B IT* supported supported supported not-supported not-supported
Gemma 3 27B PT* supported supported supported not-supported not-supported
Gemma 3 4B IT* supported supported supported not-supported not-supported

Meta

MiniMax

Nama model Panggil Converse Penyelesaian Obrolan Respons Pesan
MiniMax M2* supported supported supported not-supported not-supported
MiniMax M2.1* supported supported supported not-supported not-supported
MiniMax M2.5* supported supported supported not-supported

Mistral

Tembakan bulan

Nama model Panggil Converse Penyelesaian Obrolan Respons Pesan
Kimi K2 Berpikir* supported supported not-supported not-supported not-supported
Kimi K2.5* supported supported supported not-supported not-supported

NVIDIA

Nama model Panggil Converse Penyelesaian Obrolan Respons Pesan
NVIDIA Nemotron Nano 9B v2* supported supported supported not-supported not-supported
NVIDIA Nemotron Nano 12B v2 VL BF16* supported supported supported not-supported not-supported
Nemotron Nano 3 30B* supported supported supported not-supported not-supported
NVIDIA Nemotron 3 Super 120B* supported supported supported not-supported

OpenAI

Anda dapat menggunakan semua model di halaman ini dengan Responses API dan Chat Completions API aktif. bedrock-mantle Lihat setiap kartu model untuk detailnya.

Qwen

Stabilitas

TwelveLabs

Nama model Panggil Converse Penyelesaian Obrolan Respons Pesan
Marengo Embed 3.0 supported not-supported not-supported not-supported not-supported
Marengo Embed v2.7 not-supported not-supported not-supported not-supported not-supported
Pegasus v1.2 supported not-supported not-supported not-supported not-supported

Penulis

Nama model Panggil Converse Penyelesaian Obrolan Respons Pesan
Visi Palmyra 7B supported supported supported not-supported
Palmira X4* supported supported not-supported not-supported not-supported
Palmira X5* supported supported not-supported not-supported not-supported

XaI

Nama model Panggil Converse Penyelesaian Obrolan Respons Pesan
Grok 4.3 not-supported not-supported supported supported not-supported
Hebat 4.6 supported supported supported supported not-supported

Z.AI

Nama model Panggil Converse Penyelesaian Obrolan Respons Pesan
GLM 4.7* supported supported supported not-supported not-supported
GLM 4.7 Flash* supported supported supported not-supported not-supported
GLM5* supported supported supported not-supported not-supported
catatan

* Dukungan Streaming: Model yang ditandai dengan tanda bintang (*) juga mendukungInvokeModelWithResponseStream, yang mengembalikan respons sebagai aliran waktu nyata.

Model yang mendukung StartAsyncInvoke

StartAsyncInvoke adalah Amazon Bedrock Runtime API yang memungkinkan pemanggil mengirimkan permintaan pemanggilan model dan segera menerima kembali InvocationArn tanpa menunggu model selesai diproses. Pekerjaan berjalan di latar belakang, dan output ditulis ke bucket S3 yang ditentukan pemanggil setelah selesai. Penelepon kemudian dapat melakukan polling status pekerjaan menggunakan pendamping GetAsyncInvoke dan ListAsyncInvokes API. Pola ini dibuat khusus untuk beban kerja yang melibatkan input besar atau tidak sensitif latensi, terutama pembuatan video, audio, dan penyematan massal, di mana memegang koneksi sinkron terbuka tidak praktis.

Dalam hal model mana yang mendukungnya, model berikut mendukung StartAsyncInvoke:

  • TwelveLabs Marengo Embed 2.7 (twevelabs.marengo-embed-2-7-v 1:0) - diperlukan untuk input video dan audio; hanya menangani teks dan gambar InvokeModel

  • TwelveLabs Marengo Embed 3.0 (twevelabs.marengo-embed-3-0-v 1:0) — pola yang sama; asinkron diperlukan untuk skala besar video/audio

  • Amazon Nova Reel (amazon.nova-reel-v 1:0 dan v 1:1) - pembuatan video secara eksklusif asinkron; output mendarat di S3

  • Amazon Nova Multimodal Embeddings (amazon.nova-2-multimodal-embeddings-v 1:0) — async diperlukan untuk input video yang lebih besar dari 25MB base64-encoding; sinkronisasi tersedia untuk input teks, gambar, dan dokumen

InvokeModelWithBidirectionalStream

InvokeModelWithBidirectionalStreamadalah Amazon Bedrock Runtime API yang membentuk saluran dupleks penuh yang persisten antara pemanggil dan model, memungkinkan data audio mengalir di kedua arah secara bersamaan dan terus menerus. Tidak seperti API standar InvokeModel atau bahkan InvokeModelWithResponseStream API, yang mengikuti pola request-then-response, API ini menjaga koneksi tetap terbuka selama sesi sehingga model dapat memproses audio yang masuk saat tiba dan mengalirkan ucapan yang dihasilkan kembali hampir secara real-time, tanpa menunggu ucapan lengkap selesai. Interaksi disusun sekitar tiga fase: inisialisasi sesi (di mana klien mengirimkan peristiwa konfigurasi untuk mengatur aliran), streaming audio (di mana audio yang ditangkap dikodekan dan dikirim sebagai aliran peristiwa berkelanjutan), dan streaming respons (di mana model secara bersamaan mengembalikan transkripsi teks ucapan pengguna dan output audio yang disintesis). InvokeModelWithBidirectionalStreamtidak dapat digunakan dengan kunci API Amazon Bedrock dan memerlukan otentikasi berbasis kredensi AWS standar, yang mencerminkan siklus hidup sesi yang lebih kompleks dibandingkan dengan operasi Bedrock Runtime lainnya.

Model berikut mendukung API ini:

  • Keluarga Amazon Nova Sonic: Baik amazon.nova-sonic-v 1:0 dan amazon.nova-2-sonic-v 1:0 menggunakannya sebagai satu-satunya jalur pemanggilan mereka, karena arsitektur ucapan-ke-ucapan pada dasarnya membutuhkan saluran dua arah langsung yang tidak dapat disediakan oleh Converse maupun Converse. InvokeModel