Compatibilidade do modelo - Amazon Bedrock

Compatibilidade do modelo

Todos os modelos podem usar a operação InvokeModel. Alguns modelos podem usar a operação Converse.

Para modelos do Amazon Bedrock Marketplace, use a API ApplyGuardrail para usar as Barreiras de Proteção do Amazon Bedrock.

A seguinte tabela mostra os modelos disponíveis e se eles podem usar a operação Converse:

Nome API Converse compatível Suporte a streaming

Arcee Lite

Sim

Sim

Arcee Nova

Sim

Sim

Arcee SuperNova

Sim

Sim

Arcee Virtuoso Small

Sim

Sim

Aya 101

Não

Sim

Bart Large CNN samsum

Não

Não

Bloom 1b1

Não

Sim

Bloom 1b7

Não

Sim

Bloom 3B

Não

Sim

Bloom 560m

Não

Sim

Bloom 7B1

Não

Sim

Bloomz 1b1

Não

Sim

Bloomz 1b7

Não

Sim

BloomZ 3B FP16

Não

Sim

BloomZ 7B1 FP16

Não

Sim

Bria 2.2HD Commercial

Não

Não

Bria 2.3 Commercial

Não

Não

Bria 2.3 Fast Commercial

Não

Não

CyberAgentLM3-22B-Chat (CALM3-22B-Chat)

Sim

Sim

DBRX Base

Não

Sim

DBRX Instruct

Sim

Sim

DeepSeek-R1-Distill-Llama-70B

Não

Sim

DeepSeek-R1-Distill-Llama-8B

Não

Sim

DeepSeek-R1-Distill-Qwen-32B

Não

Sim

DeepSeek-R1-Distill-Qwen-14B

Não

Sim

DeepSeek-R1-Distill-Qwen-7B

Não

Sim

DeepSeek-R1-Distill-Qwen-1.5B

Não

Sim

DeepSeek-R1

Não

Sim

Distilbart CNN 12-6

Não

Não

Distilbart CNN 6-6

Não

Não

Distilbart xsum 12-3

Não

Não

DistilGPT 2

Não

Sim

Dolly V2 12b BF16

Não

Sim

Dolly V2 3b BF16

Não

Sim

Dolly V2 7b BF16

Não

Sim

Dolphin 2.2.1 Mistral 7B

Sim

Sim

Dolphin 2.5 Mixtral 8 7B

Sim

Sim

EleutherAI GPT Neo 1.3B

Não

Sim

EleutherAI GPT Neo 2.7B

Não

Sim

ESM3-open

Não

Não

EXAONE_v3.0 7.8B Instruct

Sim

Não

Falcon 40B BF16

Não

Sim

Falcon Lite

Não

Sim

Falcon Lite 2

Não

Sim

Falcon RW 1B

Não

Sim

Falcon3 1B Instruct

Sim

Sim

Falcon3 3B Base

Não

Sim

Falcon3 3B Instruct

Sim

Sim

Falcon3 7B Base

Não

Sim

Falcon3 7B Instruct

Sim

Sim

Falcon3 10B Base

Não

Sim

Falcon3 10B Instruct

Sim

Sim

Flan-T5 Base

Não

Sim

Modelo de base Flan-T5 ajustado no conjunto de dados Samsum

Não

Sim

Flan-T5 Large

Não

Sim

Flan-T5 Small

Não

Sim

Gemma 2 27B

Não

Sim

Gemma 2 27B Instruct

Sim

Sim

Gemma 2 2B

Não

Sim

Gemma 2 2B Instruct

Sim

Sim

Gemma 2 9B

Não

Sim

Gemma 2 9B Instruct

Sim

Sim

Gemma 2B

Não

Sim

Gemma 2B Instruct

Sim

Sim

Gemma 7B

Não

Sim

Gemma 7B Instruct

Sim

Sim

GPT 2

Não

Sim

GPT NeoX 20B FP16

Não

Sim

GPT-2 XL

Não

Sim

GPT-J 6B

Não

Sim

GPT-Neo 1.3B

Não

Sim

GPT-Neo 125M

Não

Sim

GPT-NEO 2.7B

Não

Sim

Granite 3.0 2B Instruct

Sim

Sim

Granite 3.0 8B Instruct

Sim

Sim

Gretel Navigator Tabular

Sim

Sim

IBM Granite 20B Code Instruct – 8K

Sim

Sim

IBM Granite 34B Code Instruct – 8K

Sim

Sim

IBM Granite 3B Code Instruct – 128K

Sim

Sim

IBM Granite 8B Code Instruct – 128K

Sim

Sim

KARAKURI LM 8x7b instruct

Não

Sim

Liquid

Sim

Sim

Llama 3.1 SuperNova Lite

Sim

Sim

Llama Spark

Sim

Sim

Llama-3-Varco-Offsetbias-8B

Não

Sim

Llama3 8B SEA-Lion v2.1 Instruct

Sim

Sim

MARS6

Não

Não

Medical LLM – Medium

Não

Não

Medical LLM – Small

Não

Não

Medical Text Translation (EN-ES)

Não

Não

Mistral 7B OpenOrca AWQ

Sim

Sim

Mistral 7B OpenOrca GPTQ

Sim

Sim

Mistral 7B SFT Alpha

Sim

Sim

Mistral 7B SFT Beta

Sim

Sim

Mistral Lite

Sim

Sim

Mistral Nemo Base 2407

Não

Sim

Mistral Nemo Instruct 2407

Sim

Sim

Mistral Trix V1

Não

Sim

MPT 7B BF16

Não

Sim

MPT 7B Instruct BF16

Não

Sim

MPT 7B StoryWriter-65k+ BF16

Não

Sim

Multilingual GPT

Não

Sim

NVIDIA Nemotron-4 15B NIM Microservice

Sim

Não

Open Hermes 2 Mistral 7B

Sim

Sim

Phi-2

Não

Sim

Phi-3-Mini-128K-Instruct

Sim

Sim

Phi-3-Mini-4K-Instruct

Sim

Sim

Phi-3.5-mini-instruct

Sim

Sim

Pixtral 12B 2409

Sim

Sim

PLaMo API

Não

Sim

Snowflake Arctic Instruct Vllm

Sim

Sim

Solar Mini Chat

Sim

Sim

Solar Mini Chat – Quant

Sim

Sim

Solar Mini Chat ja

Sim

Sim

Solar Mini Chat ja – Quant

Sim

Sim

Solar Pro

Sim

Sim

Solar Pro (Quantized)

Sim

Sim

Stable Diffusion 3.5 Large

Não

Não

Stockmark-LLM-13b

Não

Não

Resumo de texto

Não

Não

VARCO LLM KO/EN-13B-IST

Sim

Não

Whisper Large V3 Turbo

Não

Sim

Widn Llama3-Tower Vesuvius

Sim

Sim

Widn Tower Anthill

Sim

Sim

Widn Tower Sugarloaf

Sim

Sim

Writer Palmyra Small

Não

Sim

Writer Palmyra-Fin-70B-32K

Sim

Sim

Writer Palmyra-Med-70B-32K

Sim

Sim

YARN Mistral 7B 128k

Não

Sim

Yi-1.5-34B

Não

Sim

Yi-1.5-34B-Chat

Sim

Sim

Yi-1.5-6B

Não

Sim

Yi-1.5-6B-Chat

Sim

Sim

Yi-1.5-9B

Não

Sim

Yi-1.5-9B-Chat

Sim

Sim

Zephyr 7B Alpha

Não

Sim

Zephyr 7B Beta

Não

Sim

Zephyr 7B Gemma

Não

Sim