View a markdown version of this page

亚马逊 Bedrock 还是亚马逊 SageMaker AI? - AWS 决策指南

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

亚马逊 Bedrock 还是亚马逊 SageMaker AI?

了解差异并选择最适合您的差异

目的

了解亚马逊 Bedrock 和 SageMaker Amazon AI 之间的区别,并确定哪种服务最适合您的需求。

上次更新

2026 年 7 月 23 日

承保服务

简介

亚马逊网络服务 (AWS) 提供托管服务,帮助您构建 AI 应用程序和代理。有关这些服务如何在生成式 AI 堆栈(从自定义芯片到代理解决方案)中协同工作的概述,请参阅生成式 AI 决策指南。

下图显示了从硅到代理解决方案 AWS 的人工智能堆栈。

该图显示了从硅到代理解决方案 AWS 的人工智能堆栈。自下而上:全球基础设施(39 个区域)、人工智能芯片(Trainium、Graviton、NVIDIA GPU)、数据基础、模型训练和推理(,基石)SageMaker、代理开发和编排(基石)以及代理解决方案(Kiro、Quick、Connect、Marketplace AgentCore)。安全、监管和代理存储涵盖整个堆栈。

在选择使用哪种生成式 AI 服务时,通常会比较两种服务:

Amazon Bedrock

亚马逊 SageMaker AI

  • SageMaker Amazon AI(前身为亚马逊 SageMaker)是一项完全托管的服务,旨在帮助您大规模构建、训练和部署人工智能、预测性机器学习和传统机器学习模型。这包括使用笔记本、管道和 ModelOps 解决方案等工具从头开始构建模型。无服务器 MLFlow 支持跟踪实验和跟踪代理。当你的用例可以从开放、专有和自定义模型的广泛训练、微调、定制和推断中受益时,可以考虑使用 SageMaker AI。当你需要管理成本、吞吐量和延迟权衡时,还可以考虑使用 SageMaker 人工智能来部署模型。 SageMaker AI 为托管基础设施提供原生优化,以实现工作负载优化的推理。它还可以帮助您完成可能具有挑战性的任务,即评估哪种模型最适合您的用例。在 SageMaker AI 上训练的自定义模型可以部署到 A SageMaker I 终端节点进行托管推理,部署到亚马逊 SageMaker HyperPod 进行大规模推理,或部署到 Amazon Bedrock 进行无服务器推理。

  • 除了 SageMaker 人工智能训练和 SageMaker 人工智能推理提供的托管基础设施外,亚马逊还 SageMaker HyperPod 提供弹性、可扩展的基础设施,用于大规模训练和部署人工智能模型,并可访问编排层:Kubernetes(EKS) 用于训练和推理或Slurm训练。

本指南侧重于了解亚马逊 SageMaker 人工智能和亚马逊基岩之间的区别。有关亚马逊基岩和 SageMaker 人工智能如何融入亚马逊的生成式人工智能服务和解决方案的更多信息,请参阅生成式 AI 决策指南。

虽然亚马逊 Bedrock 和亚马逊 SageMaker AI 都支持人工智能应用程序和代理的开发,但它们的用途不同。本指南可帮助您了解哪些服务最适合您的需求,包括两种服务可以一起使用来构建生成式 AI 应用程序的场景。

以下是这些服务之间的主要区别的概述,可帮助您入门。

类别 Amazon Bedrock service icon.

Amazon Bedrock

Brain icon with interconnected nodes representing artificial intelligence or machine learning.

亚马逊 SageMaker AI

应用场景 完全托管的无服务器平台,用于在生产规模上构建、运行和操作 AI 应用程序和代理 经过优化,便于训练、自定义和部署 AI 模型,在生产规模上最大限度地实现用户对 AI 应用程序、预测性机器学习和传统机器学习的控制
目标用户 针对构建 AI 应用程序和代理的技术决策者、开发人员和团队进行了优化 针对机器学习从业者、机器学习工程师、数据科学家、AI 平台团队和开发人员进行了优化
自定义 通过微调、提炼和自定义模型导入实现自动定制;最低限度的基础设施管理 使用 SFT、DPO、RLVR 和 RLAIF 进行无服务器自定义;使用培训任务进行管理培训;完全控制 HyperPod
定价 Pay-as-you-go 每个代币的定价基于处理的输入和输出代币,提供优先、灵活和预留服务等级 Per-token 无服务器定制的定价;计算资源的基于使用量的定价,包括训练作业、推理和 HyperPod
集成 通过 API 调用将预训练的模型集成到应用程序中,包括端点 OpenAI-compatible 将自定义模型集成到应用程序中,提供更多自定义选项
所需的专业知识 使用预训练模型所需的基本机器学习专业知识水平 引导式用户界面和 AI 代理辅助工作流程可简化自定义;更深入的 ML 专业知识有助于高级培训工作
管理 Amazon Bedrock 提供了一 API-based 种简化的方法,仅需最低限度的基础设施管理。 无服务器模型定制不需要基础架构管理。推断、训练作业,并 HyperPod 提供全面的基础设施控制以及广泛的监控和控制功能。
部署和托管 Amazon Bedrock 是无服务器的,这意味着您不必管理基础设施。 无服务器用于模型定制;自定义模型部署到 SageMaker AI 专用终端节点以进行托管推理,或部署到 Amazon Bedrock 进行无服务器推理。通过精细的节点级资源控制,培训作业并 HyperPod 支持从培训到服务的连续性。通过内置的可观察性和操作简便性(包括无服务器 MLFlow),终端可以扩展到零。

亚马逊 Bedrock 和 SageMaker AI 之间的区别

以下各节研究和比较了亚马逊 Bedrock 和亚马逊 SageMaker AI 的能力。

Use cases

亚马逊 Bedrock 和 SageMaker Amazon AI 根据您的特定要求和资源处理不同的用例。

Amazon Bedrock

  • Amazon Bedrock 专为想要构建 AI 应用程序和代理而无需在自定义模型开发上投入大量资金的用例而设计。例如,社交媒体平台的内容审核系统可以使用 Amazon Bedrock 的预训练模型来自动识别和举报不当文本或图像。同样,客户支持聊天机器人可以使用 Amazon Bedrock 的自然语言处理功能来理解和回复用户的询问。如果您的机器学习 (ML) 专业知识或资源有限,Amazon Bedrock 特别有用,因为它可以帮助您从人工智能中受益,而无需进行大量的内部开发。

亚马逊 SageMaker AI

  • SageMaker 人工智能是便捷训练、自定义和部署 AI、预测性机器学习和具有最大控制权的传统机器学习模型的不错选择。当您需要访问容器或编排层以直接管理成本延迟吞吐量和其他权衡时,请选择 SageMaker AI。例子包括一家医疗保健公司开发了基于特定生物标志物预测患者预后的模型。另一个例子是金融机构创建了针对其独特数据和风险因素量身定制的欺诈检测系统。另一种情况是大规模的 LLM 部署,您希望最大限度地提高 GPU 利用率,同时平衡成本与所需的吞吐量和延迟指标。

Target users

与其选择一项服务而不是另一项服务,不如考虑所需的自定义级别。一条常见的途径是从 Amazon Bedrock 开始,随着您的自定义要求的增长逐步转向 SageMaker AI。

Amazon Bedrock

  • 如果您想使用预训练的模型、即时工程和 RAG 构建 AI 应用程序和代理,而无需深入的 ML 专业知识,请选择 Amazon Bedrock。

亚马逊 SageMaker AI

  • SageMaker AI 为两个受众提供服务。如果您需要通过无服务器自定义来改变模型行为,则引导式用户界面和人工智能代理辅助工作流程不需要机器学习专业知识。如果您需要完全控制训练工作流程、模型部署、框架和基础架构,请使用训练作业、专用端点和 HyperPod。

Choice of FMs

尽管亚马逊 Bedrock 和 SageMaker Amazon AI 都为您的应用程序提供了一系列广泛的 FM,但每种服务提供的 FM 集合有所不同。

Amazon Bedrock

  • 亚马逊 Bedrock 提供对 FM 的访问权限,包括 Anthropic Claude 和 Amazon Nova 等专有模型、来自 Meta (Llama) Mistral AI、Qwen、和 OpenAI (GPT-OSS) 的开放Stability AI模型、用于图像生成的模型等。查看可用 FM 列表,该列表经常更新。

  • 使用亚马逊 Bedrock 商城快速测试并整合超过 100 个公开可用的专有 FM。

  • 亚马逊 Bedrock 提供某些专有模型(包括 Claude)的访问权限,这些模型在亚马逊上不可用。 SageMaker JumpStart

亚马逊 SageMaker AI

  • 亚马逊 SageMaker JumpStart提供内置的公开和专有基础模型,用于自定义并集成到您的生成式 AI、传统机器学习和预测性机器学习工作流程中,有近 1,000 个模型可用,包括针对特定用例进行了优化的模型。

  • JumpStart 提供公开可用的 FM,包括来自Hugging Face、Stability AI、Meta 和亚马逊的模型,以及亚马逊的专有 FM(用于定制和推理的 Nova 模型)、AI21 Labs、Cohere和。LightOn查看公开和专有的 FM 列表,该列表经常更新。

Customization

Amazon Bedrock 和 SageMaker Amazon AI 提供不同级别的自定义功能,您可以根据自己的特定需求和专业知识进行定制。

Amazon Bedrock

  • Amazon Bedrock 提供了一组来自领先提供商的模型,您可以使用这些模型来构建具有自动自定义选项的生成式 AI 应用程序。您可以访问一组 API 调用,用于输入数据和接收来自这些预训练模型的预测。这种方法简化了将 AI 功能整合到应用程序中的过程。Amazon Bedrock 支持微调、模型提炼、强化微调和自定义模型导入,只需最低限度的基础设施管理即可。

亚马逊 SageMaker AI

  • SageMaker Amazon AI 通过引导式界面和 AI 代理辅助工作流程提供无服务器模型定制,通过护栏提供控制,同时消除基础设施管理。AI 代理通过自然语言处理完整的定制生命周期,包括技术选择、数据准备、培训、评估和部署,因此开发人员无需专门的机器学习知识即可完成工作流程。 SageMaker AI 还支持 IDE 与VS CodeKiro、和其他开发环境之间的可移植性。 SageMaker AI 支持大量可用于开放权重模型的无服务器定制技术,包括监督微调 (SFT)、直接偏好优化 (DPO)、带可验证奖励的强化学习 (RLVR)、带人工智能反馈的强化学习 (RLAIF) 和托管多回合强化学习。为了实现全面的基础设施控制, SageMaker AI 管理训练作业、管理推理, HyperPod 并为训练和推理工作流程、框架和计算资源提供完全的灵活性。

  • 使用亚马逊 SageMaker JumpStart根据预定义的质量和责任来评估、比较和选择模型。

  • 在 SageMaker 人工智能上使用亚马逊 Nova 自定义配方进行全面的模型定制,包括微调和训练可导入亚马逊 Bedrock 的 Nova 模型。借助 Amazon Nova Forge,您可以使用 Nova 构建自己的边境模型,方法是从早期的模型检查点开始,将专有数据与亚马逊 Nova-curated 训练数据混合在一起,然后安全地托管自定义模型 AWS。

Pricing

亚马逊 Bedrock 和 SageMaker Amazon AI 有不同的定价模式,以反映其目标用户和他们提供的服务。

Amazon Bedrock

  • Amazon Bedrock 根据处理的输入和输出令牌使用按代币定价进行模型推断。知识库、护栏和数据自动化等其他功能根据使用情况单独定价。这种定价结构可以有效地估算和控制成本。Amazon Bedrock 还提供推理服务等级:优先考虑延迟敏感型工作负载,Flex 用于成本优化的批处理,为承诺容量预留,价格可预测。批量推理可为非实时工作负载节省多达 50%,而预置吞吐量则以较低的费率提供承诺容量。Amazon Bedrock 的定价模式特别适合工作负载可预测的应用程序,或者您希望提高支出透明度的情况。 AI-related

亚马逊 SageMaker AI

  • SageMaker AI 为无服务器模型定制提供按代币定价,提供与 Amazon Bedrock 相同的定价简便性。对于托管训练任务、推理和 HyperPod, SageMaker AI 对在 AI 开发过程中使用的计算资源、存储和其他服务遵循基于使用量的定价,价格因实例类型和大小而异。 SageMaker 通过1年或3年的承诺,人工智能储蓄计划可以将成本降低多达64%。 SageMaker 人工智能还支持成本优化的硬件,包括用于 AWS 训练的 Trainium 和用于 AWS 推理的 Inferentia。

Integration

Amazon Bedrock 和 SageMaker Amazon AI 提供不同的方法来将 AI 模型集成到应用程序中,以满足您的特定需求和专业知识。

Amazon Bedrock

  • Amazon Bedrock 通过提供可通过 API 调用直接访问的预训练模型来简化集成过程。使用亚马逊 Bedrock SDK、REST API 或OpenAI兼容的 API 终端节点发送输入数据并接收来自模型的预测,而无需管理底层基础设施。OpenAI兼容的终端节点支持响应 API 和聊天完成 API。使用这些终端节点,您可以通过更新基本 URL 和 API 密钥来迁移现有OpenAI应用程序。这种方法显著降低了将 AI 功能集成到应用程序中的复杂性和所需的时间,使其可供广大开发人员使用。

亚马逊 SageMaker AI

  • SageMaker AI 为构建、训练和部署自定义 AI 模型提供了一个全面的平台。要在 SageMaker AI 终端节点上进行托管推理,您可以使用 SageMaker AI SDK 或 API 来访问已部署的模型。 SageMaker AI 提供 GenAI 推理建议和基准测试等工具,以简化实例类型选择。对于无服务器自定义,自定义模型也可以部署到 Amazon Bedrock 进行无服务器推理,无需额外的基础设施设置。

Expertise required

Amazon Bedrock 和 SageMaker Amazon AI 根据您的专业水平和所需的控制程度提供不同的路径。

Amazon Bedrock

  • Amazon Bedrock 更适合更广泛的用户,包括机器学习专业知识有限的开发人员和企业。通过提供可通过 API 调用轻松集成到应用程序中的预训练模型,Amazon Bedrock 消除了与构建和部署 AI 模型相关的许多复杂性。对于无服务器路径,Amazon Bedrock 和 SageMaker AI 无服务器定制都处理数据预处理、模型选择和基础设施管理。无需深入的 ML 专业知识,您就可以专注于将 AI 功能集成到您的应用程序中。

亚马逊 SageMaker AI

  • SageMaker AI 提供引导式体验,可简化广大用户的模型定制。引导式用户界面和人工智能代理辅助工作流程(预览版)使开发人员能够通过点击几下或通过自然语言完成自定义工作流程,包括技术选择、数据准备和模型评估。对于自定义训练任务和 HyperPod 集群等高级用例,更深入的机器学习专业知识有助于优化训练工作流程、框架和基础架构配置。

Features

亚马逊 Bedrock 和亚马逊 SageMaker AI 为构建 AI 应用程序和代理提供了互补的功能。

Amazon Bedrock

  • Amazon Bedrock 提供了一套功能来帮助您构建和扩展 AI 应用程序和代理,包括模型选择功能(评估)、成本和延迟优化功能(提示缓存、智能提示路由、服务层)、自定义功能(知识库、模型提取、强化微调)、安全保障(具有自动推理检查的护栏、组织安全措施、图像内容过滤器以及对非亚马逊 Bedrock 模型的跨平台支持)、代理功能(Amazon Bedrock 模型的跨平台支持)、代理功能(Amazon Bedrock)用于构建、部署和 AgentCore 大规模运营 AI 代理、多代理协作、 AWS 代理注册表、与、和LlamaIndex) 的框架无关的兼容性LangGraph,CrewAI以及数据处理功能(文档、图像、音频和视频的 Amazon Bedrock 数据自动化)。Amazon Bedrock 还提供自定义模型导入、OpenAI兼容的 API 终端节点以及用于访问基础模型的无服务器统一 API。对于支持的型号,即时缓存最多可降低 90% 的成本和高达 85% 的延迟。智能提示路由可以在不影响准确性的情况下将成本降低多达30%。与原始模型相比,蒸馏后的模型最多可快 500%,成本最多可降低 75%,RAG 等用例的精度损失不到 2%。带有自动推理检查功能的护栏有助于将幻觉导致的事实错误减少到接近于零。

亚马逊 SageMaker AI

  • SageMaker AI 为整个 AI 开发生命周期提供了一个全面的平台。关键功能包括:通过引导式用户界面和人工智能代理辅助工作流程,使用SFT、DPO、RLVR和RLAIF进行无服务器模型定制;亚马逊 SageMaker JumpStart 作为模型中心,提供近1,000种模型,包括开源、专有和自定义模型;除了生成式人工智能外,还支持预测性机器学习和传统机器学习;以及支持、和其他开发环境的 IDE 可移植性。VS Code KiroAmazon SageMaker HyperPod 为大规模 AI 开发提供端到端体验,通过无检查点训练、弹性训练和任务监管支持托管集群的训练和推理。 HyperPod 将训练时间缩短多达 40%,任务治理最多可降低 40% 的成本,无检查点训练可实现高达 95% 的训练成效。 HyperPod 可在数千个 AI 加速器上扩展。 SageMaker AI 终端支持将实例扩展到零以降低空闲时的成本,支持将状态会话扩展到用于维护推理请求上下文的状态,以及推理优化技术,例如 EAGLE-based 推理解码以将吞吐量提高多达 2.5 倍。 SageMaker AI 支持高级部署选项,包括异构实例集群和跨区域推理,以实现更高的可用性、 A/B 测试、金丝雀部署、 blue/green 部署和影子测试。推理组件通过在单个端点后面托管多个模型来降低模型部署成本。

  • Amazon SageMaker HyperPod 为大规模训练和部署 AI 模型提供弹性、可扩展的基础设施,可访问编排层:Kubernetes(EKS) 用于训练和推理或Slurm训练。在推理方面, HyperPod 还提供分布式 KV 缓存、容量感知推理和智能路由等内置功能,将延迟降低 40%。

同时使用亚马逊 Bedrock 和亚马逊 SageMaker AI

亚马逊基岩和亚马逊 SageMaker 人工智能之间的选择并不总是相互排斥的。在渐进式定制管道中同时使用这两种服务可能会使您受益:

  • 从 Amazon Bedrock 开始:首先使用亚马逊基岩知识库进行即时工程和检索增强生成 (RAG),快速构建和迭代您的生成式 AI 应用程序。

  • 转向 SageMaker AI 无服务器定制:当您需要更改模型行为超出提示所能实现的范围时,可使用 SageMaker AI 无服务器定制和 SFT 和 DPO 等技术来微调数据模型。

  • 推进强化学习:为了优化奖励信号,在 SageMaker AI 上使用 RLVR 和 RLAIF,进一步使模型输出与您的特定质量和精度要求保持一致。

  • 跨两种服务进行部署:在 SageMaker AI 上训练的自定义模型可以部署在 A SageMaker I 推理中,也可以通过自定义模型导入导入到 Amazon Bedrock 进行无服务器推理,或者导入到 SageMaker AI 终端节点进行托管推理,对成本、吞吐量和延迟进行精细控制。您还可以在 Amazon Bedrock 无服务器推理上进行原型设计并迁移到 SageMaker AI 终端节点,或者 HyperPod 当您需要对基础设施进行生产级控制以管理成本延迟-吞吐量权衡时。

下表将常见用例模式映射到推荐的服务方法。

用例模式 推荐的方法
使用即时工程和 RAG 进行快速 FM 原型设计 Amazon Bedrock
具有安全性和可观察性的企业 AI 代理 使用亚马逊 Bedrock A and/or SageMaker I AgentCore 进行推理的亚马逊 Bedrock
无服务器模型定制(SFT、DPO、RL) SageMaker AI 无服务器定制
大规模自定义模型训练 SageMaker AI 培训工作或 HyperPod
Large-scale GenAI 推断 Amazon Bedrock and/or SageMaker AI 视直接管理成本-延迟-吞吐量的需要而定
具有治理功能的完整机器学习生命周期 SageMaker 人工智能
具有成本优化的生产 GenAI 应用程序 两项服务合二为一

归根结底,亚马逊 Bedrock 和 SageMaker Amazon AI 之间的决定取决于您的特定要求。评估这些因素可以帮助您选择最适合您需求的服务。

有关亚马逊生成式 AI 服务和解决方案的更多信息,请参阅生成式 AI 决策指南。

使用

一种常见的方法是循序渐进的旅程:从 Amazon Bedrock 开始进行即时工程和 RAG,然后在需要更改模型行为时转向 SageMaker AI 无服务器定制,然后转向训练任务或需要全面基础设施控制 HyperPod 时。使用以下资源在这段旅程中的任何时候开始吧。

Amazon Bedrock
  • 什么是亚马逊 Bedrock?

    使用这个完全托管的无服务器平台在生产规模上构建、运行和运行 AI 应用程序和代理。

    浏览该指南

  • 关于亚马逊 Bedrock 的常见问题

    获取有关亚马逊 Bedrock 的最常见问题的答案。其中包括如何使用代理、安全注意事项、Amazon Bedrock 软件开发套件 (SDK) 的详细信息、检索增强生成、如何使用模型评估以及计费。

    阅读常见问题解答

  • 使用亚马逊 Bedrock 生成产品描述的指南

    在您的解决方案中使用 Amazon Bedrock 来自动执行电子商务市场或零售网站的产品审查和批准流程。

    探索解决方案

Amazon Bedrock IDE
注意

亚马逊 Bedrock Studio 已重命名为亚马逊 Bedrock IDE,可在亚马逊 SageMaker 统一工作室中使用

  • 什么是亚马逊 Bedrock IDE?

    使用亚马逊 Bedrock IDE 来发现亚马逊 Bedrock 模型,并使用亚马逊 Bedrock 模型和功能构建生成式 AI 应用程序。

    浏览该指南

  • 使用 Amazon Bedrock IDE 构建生成式 AI 应用程序

    这篇博客文章描述了如何使用各种性能最佳的模型来构建应用程序。然后,它解释了如何使用亚马逊 Bedrock IDE 评估和共享您的生成式 AI 应用程序。

    阅读博客

  • 使用亚马逊 Bedrock IDE 构建聊天应用程序

    构建一个亚马逊 Bedrock IDE 聊天代理应用程序,允许用户通过对话界面与亚马逊 Bedrock 模型聊天。

    浏览该指南

Amazon SageMaker AI
  • 什么是亚马逊 SageMaker AI?

    使用这种完全托管的 AI 服务在生产就绪的托管环境中构建、训练和部署 AI 模型。

    浏览该指南

  • 开始使用亚马逊 SageMaker AI

    设置对 SageMaker Amazon AI 的访问权限,包括快速或自定义设置步骤。

    浏览该指南

  • 开始使用亚马逊 SageMaker JumpStart

    探索为常见用例设置基础设施的亚马逊 SageMaker JumpStart 解决方案模板,以及用于人工智能的人工智能的可 SageMaker 执行示例笔记本。

    浏览指南

  • 使用亚马逊 A SageMaker I 自定义模型

    通过无服务器强化学习和 AI 代理指导的工作流程,加速 AI 模型定制。

    探索模型定制