Amazon Bedrock ou Amazon SageMaker AI?

O Amazon Bedrock foi projetado para casos de uso em que você deseja criar aplicativos e agentes de IA sem investir muito no desenvolvimento de modelos personalizados. Por exemplo, um sistema de moderação de conteúdo para uma plataforma de mídia social pode usar os modelos pré-treinados da Amazon Bedrock para identificar e sinalizar automaticamente textos ou imagens impróprios. Da mesma forma, um chatbot de suporte ao cliente poderia usar os recursos de processamento de linguagem natural do Amazon Bedrock para entender e responder às perguntas dos usuários. O Amazon Bedrock é particularmente útil se você tiver conhecimentos ou recursos limitados em aprendizado de máquina (ML), pois ajuda você a se beneficiar da IA sem a necessidade de um amplo desenvolvimento interno.

SageMaker A IA é uma boa opção para treinar, personalizar e implantar modelos de IA, ML preditivo e ML clássico com controle máximo. Escolha a SageMaker IA quando precisar acessar o contêiner ou a camada de orquestração para gerenciar diretamente o custo, a latência, o rendimento e outras vantagens e desvantagens. Os exemplos incluem uma empresa de saúde desenvolvendo um modelo para prever os resultados dos pacientes com base em biomarcadores específicos. Outro exemplo é uma instituição financeira criando um sistema de detecção de fraudes adaptado aos seus dados e fatores de risco exclusivos. Outro cenário é uma implantação de LLM em grande escala, na qual você deseja maximizar a utilização da GPU e, ao mesmo tempo, equilibrar os custos com as métricas de taxa de transferência e latência desejadas.

Escolha o Amazon Bedrock se quiser criar aplicativos e agentes de IA usando modelos pré-treinados, engenharia imediata e RAG, sem precisar de uma profunda experiência em ML.

SageMaker A IA atende a dois públicos. Se você precisar alterar o comportamento do modelo por meio da personalização sem servidor, a interface de usuário guiada e o fluxo de trabalho assistido por agentes de IA não exigem experiência em ML. Se você precisar de controle total sobre fluxos de trabalho de treinamento, implantação de modelos, estruturas e infraestrutura, use trabalhos de treinamento, endpoints dedicados e. HyperPod

O Amazon Bedrock fornece acesso a FMs, incluindo modelos proprietários, como Anthropic Claude e Amazon Nova, modelos abertos de Meta (Llama),Mistral AI, e OpenAI (GPT-OSS)Qwen, Stability AI modelos para geração de imagens e muitos outros. Veja a lista de FMs disponíveis, que é atualizada com frequência.

Use o Amazon Bedrock Marketplace para testar e incorporar rapidamente mais de 100 FMs proprietários e disponíveis publicamente.

O Amazon Bedrock fornece acesso a determinados modelos proprietários, incluindo Claude, que não estão disponíveis na Amazon. SageMaker JumpStart

SageMaker JumpStartA Amazon oferece modelos básicos proprietários e disponíveis publicamente para personalizar e integrar seus fluxos de trabalho generativos de IA, ML clássico e ML preditivo, com quase 1.000 modelos disponíveis, incluindo modelos otimizados para casos de uso específicos.

JumpStart oferece FMs disponíveis publicamente, incluindo modelos daHugging Face,Stability AI, Meta e Amazon, e FMs proprietários da Amazon (modelos Nova para personalização e inferência),, e. AI21 Labs Cohere LightOn Veja a lista de FMs proprietários e disponíveis publicamente, que é atualizada com frequência.

O Amazon Bedrock oferece um conjunto de modelos dos principais fornecedores que você pode usar para criar aplicativos de IA generativos com opções de personalização automatizada. Você tem acesso a um conjunto de chamadas de API que você usa para inserir dados e receber previsões desses modelos pré-treinados. Essa abordagem simplifica o processo de incorporação de recursos de IA aos aplicativos. O Amazon Bedrock oferece suporte ao ajuste fino, à destilação de modelos, ao ajuste fino de reforços e à importação de modelos personalizados, com gerenciamento mínimo de infraestrutura.

O Amazon SageMaker AI fornece personalização de modelos sem servidor com uma interface guiada e um fluxo de trabalho assistido por agentes de IA, oferecendo controle com grades de proteção e eliminando o gerenciamento da infraestrutura. O agente de IA lida com todo o ciclo de vida da personalização — seleção de técnicas, preparação de dados, treinamento, avaliação e implantação — por meio de linguagem natural, para que os desenvolvedores possam concluir fluxos de trabalho sem conhecimento especializado de ML. SageMaker A IA também oferece suporte à portabilidade de IDE com VS CodeKiro, e outros ambientes de desenvolvimento. SageMaker A IA oferece suporte a um amplo conjunto de técnicas de personalização sem servidor disponíveis para modelos abertos, incluindo ajuste fino supervisionado (SFT), otimização de preferência direta (DPO), aprendizado por reforço com recompensas verificáveis (RLVR), aprendizado por reforço com feedback de IA (RLAIF) e aprendizado gerenciado por reforço em vários turnos. Para controle total da infraestrutura, a SageMaker IA gerenciou trabalhos de treinamento, gerenciou a inferência e HyperPod fornece flexibilidade total sobre os fluxos de trabalho, estruturas e recursos de computação de treinamento e inferência.

Use SageMaker JumpStart a Amazon para avaliar, comparar e selecionar modelos com base em qualidade e responsabilidade predefinidas.

Use as receitas de personalização do Amazon Nova em SageMaker IA para uma personalização abrangente de modelos, incluindo o ajuste fino e o treinamento de modelos Nova que podem ser importados para o Amazon Bedrock. Com o Amazon Nova Forge, você pode criar seus próprios modelos de fronteira usando o Nova partindo dos primeiros pontos de verificação de modelos, combinando dados proprietários com dados de Nova-curated treinamento da Amazon e hospedando modelos personalizados com segurança. AWS

O Amazon Bedrock usa preços por token para inferência de modelo, com base nos tokens de entrada e saída processados. Recursos adicionais, como bases de conhecimento, guardrails e automação de dados, têm preços separados com base no uso. Essa estrutura de preços torna eficiente estimar e controlar os custos. O Amazon Bedrock também oferece níveis de serviço para inferência: Priority para cargas de trabalho sensíveis à latência, Flex para processamento em lote com custo otimizado e Reserved para capacidade comprometida com preços previsíveis. A inferência em lote oferece até 50% de economia para cargas de trabalho que não são em tempo real, e a taxa de transferência provisionada fornece capacidade comprometida a taxas reduzidas. O modelo de preços do Amazon Bedrock é particularmente adequado para aplicativos com cargas de trabalho previsíveis ou para casos em que você deseja mais transparência em suas despesas. AI-related

SageMaker A IA oferece preços por token para personalização de modelos sem servidor, oferecendo a mesma simplicidade de preços do Amazon Bedrock. Para trabalhos gerenciados de treinamento, inferência e SageMaker inteligência artificial HyperPod, a IA segue os preços baseados no uso para recursos de computação, armazenamento e outros serviços consumidos durante o processo de desenvolvimento de IA, com preços variando de acordo com o tipo e o tamanho da instância. SageMaker Os planos de economia de IA podem reduzir os custos em até 64% com compromissos de 1 ou 3 anos. SageMaker A IA também oferece suporte a hardware com custo otimizado, incluindo AWS Trainium para treinamento e AWS Inferentia para inferência.

O Amazon Bedrock simplifica o processo de integração fornecendo modelos pré-treinados que você pode acessar diretamente por meio de chamadas de API. Use o Amazon Bedrock SDK, a API REST ou os endpoints OpenAI de API compatíveis para enviar dados de entrada e receber previsões dos modelos sem precisar gerenciar a infraestrutura subjacente. Os endpoints OpenAI compatíveis oferecem suporte à API de respostas e à API de conclusão de bate-papo. Com esses endpoints, você pode migrar OpenAI aplicativos existentes atualizando a URL base e a chave da API. Essa abordagem reduz significativamente a complexidade e o tempo necessários para integrar os recursos de IA aos aplicativos, tornando-os acessíveis a uma ampla variedade de desenvolvedores.

SageMaker A IA fornece uma plataforma abrangente para criar, treinar e implantar modelos de IA personalizados. Para inferência gerenciada em endpoints de SageMaker IA, você usa o SDK ou a API de SageMaker IA para acessar os modelos implantados. SageMaker A IA fornece ferramentas como recomendações de inferência e benchmarking do GenAI para simplificar a seleção do tipo de instância. Para personalização sem servidor, modelos personalizados também podem ser implantados no Amazon Bedrock para inferência sem servidor sem nenhuma configuração adicional de infraestrutura.

O Amazon Bedrock está mais acessível a uma variedade maior de usuários, incluindo desenvolvedores e empresas com experiência limitada em ML. Ao fornecer modelos pré-treinados que podem ser facilmente integrados aos aplicativos por meio de chamadas de API, o Amazon Bedrock elimina grande parte da complexidade associada à criação e implantação de modelos de IA. Para o caminho sem servidor, tanto o Amazon Bedrock quanto a personalização sem servidor da SageMaker IA lidam com o pré-processamento de dados, a seleção de modelos e o gerenciamento da infraestrutura. Você pode se concentrar na integração dos recursos de IA em seus aplicativos sem ter uma profunda experiência em ML.

SageMaker A IA fornece experiências guiadas que simplificam a personalização do modelo para uma ampla variedade de usuários. A interface de usuário guiada e o fluxo de trabalho assistido por agente de IA (em versão prévia) permitem que os desenvolvedores concluam fluxos de trabalho de personalização com apenas alguns cliques ou por meio de linguagem natural, incluindo seleção de técnicas, preparação de dados e avaliação de modelos. Para casos de uso avançados, como trabalhos de treinamento personalizados e HyperPod clusters, uma experiência mais profunda em ML é útil para otimizar fluxos de trabalho de treinamento, estruturas e configurações de infraestrutura.

O Amazon Bedrock oferece um conjunto de recursos para ajudar você a criar e escalar aplicativos e agentes de IA, incluindo recursos de escolha de modelo (avaliação), recursos de otimização de custo e latência (cache imediato, roteamento inteligente de solicitações, níveis de serviço), recursos de personalização (bases de conhecimento, destilação de modelos, ajuste fino de reforço), proteções (barreiras de proteção com verificações de raciocínio automatizadas), proteções organizacionais, filtros de conteúdo de imagem e suporte multiplataforma para pessoas que não são da Amazon Modelos Bedrock), recursos agentes (Amazon Bedrock) para criar, implantar e AgentCore operação de agentes de IA em grande escala, colaboração de vários AWS agentes, registro de agentes e compatibilidade independente de estrutura com LangGraphCrewAI, eLlamaIndex) e recursos de processamento de dados (Amazon Bedrock Data Automation para documentos, imagens, áudio e vídeo). O Amazon Bedrock também oferece importação de modelos personalizados, endpoints OpenAI de API compatíveis e uma API unificada e sem servidor para acessar modelos básicos. O cache imediato pode reduzir os custos em até 90% e a latência em até 85% nos modelos compatíveis. O roteamento rápido inteligente pode reduzir os custos em até 30% sem comprometer a precisão. Os modelos destilados são até 500% mais rápidos e até 75% mais baratos do que os modelos originais, com menos de 2% de perda de precisão em casos de uso como o RAG. As grades de proteção com verificações automatizadas de raciocínio ajudam a reduzir os erros factuais causados por alucinações para quase zero.

SageMaker A IA oferece uma plataforma abrangente para todo o ciclo de vida do desenvolvimento da IA. Os principais recursos incluem: personalização de modelos sem servidor com SFT, DPO, RLVR e RLAIF por meio de uma interface de usuário guiada e um fluxo de trabalho assistido por agentes de IA; a Amazon SageMaker JumpStart como um hub de modelos com quase 1.000 modelos disponíveis, incluindo modelos de código aberto, proprietários e personalizados; suporte para ML preditivo e ML clássico, além de IA generativa; e portabilidade de IDE com suporte para, e outros ambientes de desenvolvimento. VS Code Kiro SageMaker HyperPod A Amazon oferece uma experiência de ponta a ponta para o desenvolvimento de IA em grande escala, apoiando o treinamento e a inferência em clusters gerenciados com treinamento ininterrupto, treinamento elástico e governança de tarefas. HyperPod reduz o tempo de treinamento em até 40%, a governança de tarefas reduz os custos em até 40% e o treinamento sem ponto de verificação permite mais de 95% de desempenho no treinamento. HyperPod escala em milhares de aceleradores de IA. SageMaker Os endpoints de IA suportam o escalonamento para zero instâncias para reduzir custos quando ociosos, sessões com estado para manter o contexto em todas as solicitações de inferência e técnicas de otimização de inferência, como decodificação EAGLE-based especulativa, para uma melhoria de até 2,5 vezes na taxa de transferência. SageMaker A IA oferece suporte a opções avançadas de implantação, incluindo clusters de instâncias heterogêneas e inferência entre regiões para maior disponibilidade, A/B testes, implantações canárias, blue/green implantações e testes paralelos. Os componentes de inferência reduzem os custos de implantação do modelo hospedando vários modelos em um único endpoint.

SageMaker HyperPod A Amazon fornece uma infraestrutura resiliente e escalável para treinar e implantar modelos de IA em grande escala com acesso à camada de orquestração: Kubernetes (EKS) para treinamento e inferência, ou para treinamento. Slurm Para inferência, HyperPod também oferece recursos integrados, como cache KV distribuído, inferência com reconhecimento de capacidade e roteamento inteligente, reduzindo a latência em 40%.

O que é Amazon Bedrock?

Use essa plataforma totalmente gerenciada e sem servidor para criar, executar e operar aplicativos e agentes de IA em escala de produção.

Explore o guia

Perguntas frequentes sobre o Amazon Bedrock

Obtenha respostas para as perguntas mais comuns sobre o Amazon Bedrock. Isso inclui como usar agentes, considerações de segurança, detalhes sobre os kits de desenvolvimento de software (SDKs) Amazon Bedrock, geração aumentada de recuperação, como usar a avaliação de modelos e o faturamento.

Leia as perguntas frequentes

Orientação para gerar descrições de produtos com o Amazon Bedrock

Use o Amazon Bedrock em sua solução para automatizar o processo de análise e aprovação de produtos em um mercado de comércio eletrônico ou site de varejo.

Explore a solução

O que é o Amazon Bedrock IDE?

Use o Amazon Bedrock IDE para descobrir modelos do Amazon Bedrock e criar aplicativos de IA generativos que usam modelos e recursos do Amazon Bedrock.

Explore o guia

Crie aplicativos de IA generativos com o Amazon Bedrock IDE

Esta postagem do blog descreve como você pode criar aplicativos usando uma grande variedade de modelos de alto desempenho. Em seguida, explica como avaliar e compartilhar seus aplicativos de IA generativos com o Amazon Bedrock IDE.

Leia o blog

Criação de um aplicativo de bate-papo com o Amazon Bedrock IDE

Crie um aplicativo de agente de bate-papo do Amazon Bedrock IDE que permite que os usuários conversem com um modelo do Amazon Bedrock por meio de uma interface conversacional.

Explore o guia

O que é Amazon SageMaker AI?

Use esse serviço de IA totalmente gerenciado para criar, treinar e implantar modelos de IA em um ambiente hospedado pronto para produção.

Explore o guia

Comece a usar o Amazon SageMaker AI

Configure o acesso à Amazon SageMaker AI, incluindo etapas de configuração rápidas ou personalizadas.

Explore o guia

Comece a usar a Amazon SageMaker JumpStart

Explore os modelos de SageMaker JumpStart soluções da Amazon que configuram a infraestrutura para casos de uso comuns e exemplos de notebooks executáveis para IA com SageMaker IA.

Explore o guia

Personalização de modelos com Amazon AI SageMaker

Acelere a personalização do modelo de IA com aprendizado por reforço sem servidor e um fluxo de trabalho guiado por agentes de IA.

Explore a personalização do modelo