本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
模型相容性
所有模型都可以使用 InvokeModel
操作。有些模型可以使用 Converse
操作。
對於 Amazon Bedrock 市集模型,請使用 ApplyGuardrail API 來使用 Amazon Bedrock Guardrail。
下表顯示可用的模型,以及它們是否可以使用 Converse
操作:
名稱 | Converse 支援的 API | 支援的串流 |
---|---|---|
Arcee Lite |
是 |
是 |
Arcee Nova |
是 |
是 |
Arcee SuperNova |
是 |
是 |
Arcee Virtuoso 小型 |
是 |
是 |
Aya 101 |
否 |
是 |
Bart Large CNN samsum |
否 |
否 |
Bloom 1b1 |
否 |
是 |
Bloom 1b7 |
否 |
是 |
Bloom 3B |
否 |
是 |
Bloom 560 公尺 |
否 |
是 |
Bloom 7B1 |
否 |
是 |
Bloomz 1b1 |
否 |
是 |
Bloomz 1b7 |
否 |
是 |
BloomZ 3B FP16 |
否 |
是 |
BloomZ 7B1 FP16 |
否 |
是 |
Bria 2.2HD 商業 |
否 |
否 |
Bria 2.3 商業 |
否 |
否 |
Bria 2.3 Fast Commercial |
否 |
否 |
CyberAgentLM3-22B-Chat (CALM3-22B-Chat) |
是 |
是 |
DBRX 基礎 |
否 |
是 |
DBRX 指示 |
是 |
是 |
DeepSeek-R1-Distill-Llama-70B |
否 |
是 |
DeepSeek-R1-Distill-Llama-8B |
否 |
是 |
DeepSeek-R1-Distill-Qwen-32B |
否 |
是 |
DeepSeek-R1-Distill-Qwen-14B |
否 |
是 |
DeepSeek-R1-Distill-Qwen-7B |
否 |
是 |
DeepSeek-R1-Distill-Qwen-1.5B |
否 |
是 |
DeepSeek-R1 |
否 |
是 |
Distilbart CNN 12-6 |
否 |
否 |
Distilbart CNN 6-6 |
否 |
否 |
Distilbart xsum 12-3 |
否 |
否 |
DistilGPT 2 |
否 |
是 |
Dolly V2 12b BF16 |
否 |
是 |
Dolly V2 3b BF16 |
否 |
是 |
Dolly V2 7b BF16 |
否 |
是 |
Dolphin 2.2.1 Mistral 7B |
是 |
是 |
Dolphin 2.5 Mixtral 8 7B |
是 |
是 |
EleutherAI GPT Neo 1.3B |
否 |
是 |
EleutherAI GPT Neo 2.7B |
否 |
是 |
ESM3-open |
否 |
否 |
EXAONE_v3.0 7.8B 指示 |
是 |
否 |
Falcon 40B BF16 |
否 |
是 |
Falcon Lite |
否 |
是 |
Falcon Lite 2 |
否 |
是 |
Falcon RW 1B |
否 |
是 |
Falcon3 1B 指示 |
是 |
是 |
Falcon3 3B 基礎 |
否 |
是 |
Falcon3 3B 指示 |
是 |
是 |
Falcon3 7B 基礎 |
否 |
是 |
Falcon3 7B 指示 |
是 |
是 |
Falcon3 10B 基礎 |
否 |
是 |
Falcon3 10B 指示 |
是 |
是 |
Flan-T5 基礎 |
否 |
是 |
在 Samsum 資料集上微調 Flan-T5 基礎模型 |
否 |
是 |
Flan-T5 大型 |
否 |
是 |
Flan-T5 小型 |
否 |
是 |
Gemma 2 27B |
否 |
是 |
Gemma 2 27B 指示 |
是 |
是 |
Gemma 2 2B |
否 |
是 |
Gemma 2 2B 指示 |
是 |
是 |
Gemma 2 9B |
否 |
是 |
Gemma 2 9B 指示 |
是 |
是 |
Gemma 2B |
否 |
是 |
Gemma 2B 指示 |
是 |
是 |
Gemma 7B |
否 |
是 |
Gemma 7B 指示 |
是 |
是 |
GPT 2 |
否 |
是 |
GPT NeoX 20B FP16 |
否 |
是 |
GPT-2 XL |
否 |
是 |
GPT-J 6B |
否 |
是 |
GPT-Neo 1.3B |
否 |
是 |
GPT-Neo 125M |
否 |
是 |
GPT-NEO 2.7B |
否 |
是 |
Granite 3.0 2B 指示 |
是 |
是 |
Granite 3.0 8B 指示 |
是 |
是 |
Gretel Navigator 表格式 |
是 |
是 |
IBM Granite 20B 程式碼指示 - 8K |
是 |
是 |
IBM Granite 34B 程式碼指示 - 8K |
是 |
是 |
IBM Granite 3B 程式碼指示 - 128K |
是 |
是 |
IBM Granite 8B 程式碼指示 - 128K |
是 |
是 |
KARAKURI LM 8x7b 指示 |
否 |
是 |
液體 |
是 |
是 |
Llama 3.1 SuperNova Lite |
是 |
是 |
Llama Spark |
是 |
是 |
Llama-3-Varco-Offsetbias-8B |
否 |
是 |
Llama3 8B SEA-Lion 2.1 版指示 |
是 |
是 |
MARS6 |
否 |
否 |
Medical LLM - 中 |
否 |
否 |
Medical LLM - 小型 |
否 |
否 |
醫學文字翻譯 (EN-ES) |
否 |
否 |
Mistral 7B OpenOrca AWQ |
是 |
是 |
Mistral 7B OpenOrca GPTQ |
是 |
是 |
Mistral 7B SFT Alpha |
是 |
是 |
Mistral 7B SFT Beta |
是 |
是 |
Mistral Lite |
是 |
是 |
Mistral Nemo Base 2407 |
否 |
是 |
Mistral Nemo 指令 2407 |
是 |
是 |
Mistral Trix V1 |
否 |
是 |
MPT 7B BF16 |
否 |
是 |
MPT 7B 指示 BF16 |
否 |
是 |
MPT 7B StoryWriter-65k+ BF16 |
否 |
是 |
多語言 GPT |
否 |
是 |
NVIDIA Nemotron-4 15B NIM 微服務 |
是 |
否 |
開啟 Hermes 2 Mistral 7B |
是 |
是 |
Phi-2 |
否 |
是 |
Phi-3-Mini-128K-Instruct |
是 |
是 |
Phi-3-Mini-4K-Instruct |
是 |
是 |
Phi-3.5-mini-instruct |
是 |
是 |
Pixtral 12B 2409 |
是 |
是 |
PLaMo API |
否 |
是 |
Snowflake 北極指示 Vllm |
是 |
是 |
Solar 迷你聊天 |
是 |
是 |
Solar Mini Chat - 量化 |
是 |
是 |
Solar Mini Chat ja |
是 |
是 |
Solar Mini Chat ja - 量化 |
是 |
是 |
Solar Pro |
是 |
是 |
Solar Pro (量化) |
是 |
是 |
穩定擴散 3.5 大型 |
否 |
否 |
Stockmark-LLM-13b |
否 |
否 |
文字摘要 |
否 |
否 |
VARCO LLM KO/EN-13B-IST |
是 |
否 |
低語大型 V3 Turbo |
否 |
是 |
Widn Llama3-Tower Vesuvius |
是 |
是 |
Widn Tower Anthill |
是 |
是 |
Widn Tower Sugarloaf |
是 |
是 |
小型寫入器 Palmyra |
否 |
是 |
寫入器 Palmyra-Fin-70B-32K |
是 |
是 |
寫入器 Palmyra-Med-70B-32K |
是 |
是 |
YARN istral 7B 128k |
否 |
是 |
Yi-1.5-34B |
否 |
是 |
Yi-1.5-34B-Chat |
是 |
是 |
Yi-1.5-6B |
否 |
是 |
Yi-1.5-6B-Chat |
是 |
是 |
Yi-1.5-9B |
否 |
是 |
Yi-1.5-9B-Chat |
是 |
是 |
Zephyr 7B Alpha |
否 |
是 |
Zephyr 7B Beta |
否 |
是 |
Zephyr 7B Gemma |
否 |
是 |