Amazon Bedrock 或 Amazon SageMaker AI？

Amazon Bedrock 是專為您想要建置生成式 AI 應用程式而不大量投資於自訂模型開發的使用案例而設計。例如，社交媒體平台的內容管制系統可以使用 Amazon Bedrock 的預先訓練模型，自動識別和標記不適當的文字或影像。同樣地，客戶支援聊天機器人可以使用 Amazon Bedrock 的自然語言處理功能來了解和回應使用者查詢。如果您的機器學習專業知識或資源有限，Amazon Bedrock 特別有用，因為它可協助您從 AI 中受益，而無需大量內部開發。

SageMaker AI 是需要自訂模型的獨特或專業 AI/ML 需求的理想選擇。它非常適合off-the-shelf解決方案不足，而且您需要精細控制模型架構、訓練程序和部署的情況。受益於使用 SageMaker AI 的案例之一是醫療保健公司，開發模型以根據特定指標預測患者結果。另一個範例是金融機構建立專為其獨特資料和風險因素量身打造的詐騙偵測系統。此外，SageMaker AI 適用於研究和開發目的，其中資料科學家和機器學習工程師可以實驗不同的演算法、超參數和模型架構。

Amazon Bedrock 提供更易於存取且直接的方式，將 AI 功能整合到您的專案中。它適用於包括開發人員和企業在內的廣泛受眾，他們在建置和訓練機器學習模型方面擁有有限經驗，但想要使用 AI 來增強其應用程式或工作流程。

SageMaker AI 主要適用於具備建置、訓練和部署自訂機器學習模型所需技能和知識的資料科學家、機器學習工程師和開發人員。如果您精通資料科學和機器學習概念，請使用 SageMaker AI，並需要一個平台，為您提供工具和靈活性來建立專為您的特定需求量身打造的模型。

Amazon Bedrock 提供 FMs 的存取權，例如 Anthropic 的 Claude、Meta 的 Llama 3、Amazon 的 Nova 和 Titan 模型、用於產生影像的穩定性 AI 模型等。請參閱經常更新的可用 FMs清單。

使用 Amazon Bedrock Marketplace 快速測試和整合超過 100 個公開可用的專屬 FMs。

Amazon Bedrock 可讓您存取 Amazon SageMaker JumpStart 中無法使用的特定專屬模型，包括 Claude 和 Jurassic。

Amazon SageMaker JumpStart 提供內建的公開可用和專屬基礎模型，可自訂和整合到您的生成式 AI 工作流程中，與 Amazon Bedrock 相比，FMs 的選擇更廣泛，包括針對特定使用案例最佳化的模型。

JumpStart 提供公開可用的 FMs，包括 Hugging Face、StabilityAI、Meta 和 Amazon 的模型，以及 AI21 實驗室、Cohere 和 LightOn 的專屬 FMs。請參閱公開可用和專屬 FMs的清單，此清單會經常更新。

Amazon Bedrock 提供一組來自領導供應商的模型，您可以使用這些模型來建置生成式 AI 應用程式，並具有有限的自訂功能。您可以存取一組 API 呼叫，用於輸入資料並從這些預先訓練的模型接收預測。雖然此方法可大幅簡化將 AI 功能整合到應用程式的程序，但也表示除非您自訂模型或匯入自訂模型，否則對基礎模型的控制較低。Amazon Bedrock 的預先訓練模型已針對常見的 AI 任務進行最佳化，旨在適用於各種使用案例，但可能不適合高度專業化或利基需求。

Amazon Bedrock 支援對基礎模型 (FMs) 進行微調，例如 Amazon Nova Micro、Lite 和 Pro、Cohere Command R、Meta Llama 2、Anthropic Claude 3 Haiku、Amazon Titan Text Lite、Amazon Titan Text Express、Amazon Titan Multimodal Embeddings 和 Amazon Titan Image Generator。支援的 FMs 清單會持續更新。

針對特定任務和使用案例自訂模型，包括 FM 微調和預先訓練。使用自訂模型匯入自有的自訂模型。

Amazon SageMaker AI 提供廣泛的自訂選項，可讓您完全控制整個機器學習工作流程。使用 SageMaker AI，您可以微調模型的每個層面，從資料預先處理和功能工程到模型架構和超參數最佳化。透過使用此層級的自訂，您可以建立專為您獨特業務需求量身打造的高度專業化模型。SageMaker AI 支援各種熱門的機器學習架構，例如 TensorFlow、PyTorch 和 Apache MXNet，可讓您使用偏好的工具和程式庫來建置和訓練模型。

使用 Amazon SageMaker JumpStart 根據預先定義的品質和責任來評估、比較和選取 FMs。

選擇要與 Amazon SageMaker AI Clarify 搭配使用的 FM。使用 SageMaker AI Clarify 建立模型評估任務，用於評估和比較 JumpStart 中文字基礎模型的模型品質和責任指標。

使用 Amazon SageMaker AI Canvas 產生預測，而不需要撰寫任何程式碼。與 Amazon Bedrock 合作使用 SageMaker AI Canvas 來微調和部署語言模型。此部落格文章說明如何在 Amazon Bedrock 和 Amazon SageMaker JumpStart 中使用您自己的資料集來最佳化客戶互動，例如您的產品FAQs。

Amazon Bedrock 會根據對服務的 API 呼叫數目，採用簡單的定價模型。您為每個 API 呼叫支付固定價格，其中包括執行預先訓練模型和任何相關聯資料處理的成本。這種直接的定價結構可讓您更有效率地預估和控制成本，因為您只需支付服務的實際用量。Amazon Bedrock 的定價模型特別適合具有可預測工作負載的應用程式，或您想要在 AI 相關費用中提高透明度的情況。

SageMaker AI 根據機器學習程序期間使用的運算資源、儲存體和其他服務的用量，遵循pay-as-you-go定價模型。您需要為用來建置、訓練和部署模型的執行個體付費，價格會根據執行個體類型和大小而有所不同。此外，您需要支付資料儲存、資料傳輸和其他相關服務的成本，例如資料標記和模型監控。此定價模型提供彈性，並可讓您根據特定需求來最佳化成本。不過，這也表示成本可能有所不同，可能需要謹慎的管理，尤其是資源密集型專案。

Amazon Bedrock 透過提供您可以透過 API 呼叫直接存取的預先訓練模型，簡化整合程序。使用 Amazon Bedrock SDK 或 REST API 傳送輸入資料並從模型接收預測，而不需要管理基礎基礎設施。這種方法可大幅降低將 AI 功能整合至應用程式所需的複雜性和時間，讓機器學習專業知識有限的開發人員更容易存取。不過，這種易於整合的成本是有限的自訂選項，因為您僅限於 Amazon Bedrock 提供的預先訓練模型和 APIs。

SageMaker AI 提供建置、訓練和部署自訂機器學習模型的全方位平台。不過，將這些模型整合到應用程式中需要比 Amazon Bedrock 更多的精力和技術專業知識。您需要使用 SageMaker AI SDK 或 API 來存取訓練過的模型，並建置必要的基礎設施，以將其公開為端點。此程序涉及建立和設定 API Gateway、Lambda 函數和其他 AWS 服務 ，以啟用應用程式與部署模型之間的通訊。雖然 SageMaker AI 提供工具和範本來簡化此程序，但仍需要更深入了解 AWS 服務 和機器學習模型部署。

Amazon Bedrock 可供更廣泛的使用者存取，包括開發人員和機器學習專業知識有限的企業。透過提供可透過 API 呼叫輕鬆整合至應用程式的預先訓練模型，Amazon Bedrock 可消除與建置和部署機器學習模型相關的許多複雜性。您不需要擔心資料預先處理、模型選擇或基礎設施管理，因為這些層面是由 Amazon Bedrock 服務處理。這可讓您專注於將 AI 功能整合到您的應用程式中，而不需要投入大量時間和資源來取得深度學習知識。

如果您對資料科學和機器學習有更深入的專業知識，SageMaker AI 提供強大且靈活的平台，用於建置、訓練和部署自訂模型。雖然 SageMaker AI 旨在簡化機器學習工作流程，但仍需要大量的技術專業知識，才能充分利用其功能。您將受益於精通程式設計語言，例如 Python，以及深入了解機器學習概念，例如資料預先處理、模型選擇和超參數調校。此外，您應該可以放心地使用各種 AWS 服務 和管理部署和整合其模型所需的基礎設施。因此，如果您剛接觸機器學習或擁有有限的經驗，SageMaker AI 可能會有更陡峭的學習曲線 AWS。

Amazon Bedrock 提供一組功能，協助客戶建置和擴展生成式 AI 應用程式，包括模型選擇功能 （評估）、成本和延遲最佳化功能 （提示快取、智慧型提示路由）、自訂功能 （知識基礎、模型分割）、防護 （護欄） 和代理功能 （代理程式）。Amazon Bedrock 也提供自訂模型匯入，可讓您透過單一、無伺服器、統一的 API，透過現有的 FMs 匯入和使用自訂模型。

使用 SageMaker AI，您可以儲存和共用資料，而無需建置和管理您自己的伺服器。這可讓您有更多時間合作建置和開發 ML 工作流程，並更快完成。SageMaker AI 提供受管 ML 演算法，可有效針對分散式環境中的極大型資料執行。透過內建的bring-your-own-algorithms和架構支援，SageMaker AI 提供靈活的分散式訓練選項，可根據特定工作流程進行調整。只需幾個步驟，您就可以從 SageMaker AI 主控台將模型部署到安全且可擴展的環境中。

什麼是 Amazon Bedrock？

使用此全受管服務，讓來自 Amazon 和第三方的基礎模型 (FMs) 透過統一 API 供您使用。

探索指南

關於 Amazon Bedrock 的常見問題

取得有關 Amazon Bedrock 最常見問題的解答。這些包括如何使用代理程式、安全考量、Amazon Bedrock 軟體開發套件 (SDKs) 的詳細資訊、擷取擴增產生、如何使用模型評估和計費。

閱讀FAQs

使用 Amazon Bedrock 產生產品描述的指引

在您的解決方案中使用 Amazon Bedrock，自動化電子商務市場或零售網站的產品審核和核准程序。

探索解決方案

什麼是 Amazon Bedrock IDE？

使用 Amazon Bedrock IDE 來探索 Amazon Bedrock 模型，並建置使用 Amazon Bedrock 模型和功能的生成式 AI 應用程式。

探索指南

使用 Amazon Bedrock IDE 建置生成式 AI 應用程式

此部落格文章說明如何使用各種效能最佳的模型來建置應用程式。接著說明如何評估生成式 AI 應用程式，並與 Amazon Bedrock IDE 共用。

閱讀部落格

使用 Amazon Bedrock IDE 建置聊天應用程式

建置 Amazon Bedrock IDE 聊天代理程式應用程式，允許使用者透過對話界面與 Amazon Bedrock 模型聊天。

探索指南

什麼是 Amazon SageMaker AI？

使用此全受管機器學習 (ML) 服務，在生產就緒的託管環境中建置、訓練和部署 ML 模型。

探索指南

開始使用 Amazon SageMaker AI

設定 Amazon SageMaker AI 的存取權，包括快速或自訂設定步驟。

探索指南

開始使用 Amazon SageMaker JumpStart

探索為常見使用案例設定基礎設施的 Amazon SageMaker JumpStart 解決方案範本，以及使用 SageMaker AI 進行機器學習的可執行範例筆記本。

探索指南