什麼是 Amazon Bedrock?
Amazon Bedrock 是一項全受管服務,可透過統一的 API 提供來自一流的 AI 公司和 Amazon 的高效能基礎模型 (FM) 供您使用。您可以從各種基礎模型中做選擇,找出最適合您使用案例的模型。Amazon Bedrock 還提供了一系列廣泛的功能,以建置具有安全性、隱私性和負責任之 AI 的生成式 AI 應用程式。使用 Amazon Bedrock 時,您可以輕鬆地為您的使用案例進行試驗,並評估最佳基礎模型,利用微調和檢索增強生成 (RAG) 等技術私下自訂資料,以及建置使用企業系統和資料來源執行任務的代理程式。
透過 Amazon Bedrock 的無伺服器體驗,您可以快速入門、使用自己的資料私下自訂基礎模型,並使用 AWS 工具輕鬆且安全地將基礎模型整合並部署到您的應用程式中,無需管理任何基礎設施。
我可以使用 Amazon Bedrock 做什麼?
您可以使用 Amazon Bedrock 執行下列動作:
-
試驗提示詞和組態 – 提交提示並使用模型推論產生回應 透過使用不同的組態和基礎模型傳送提示詞以產生回應。您可以使用 API 或主控台的文字、影像和聊天遊樂場,在圖形介面中進行實驗。準備就緒後,設定應用程式以向
InvokeModelAPI 發出請求。 -
利用資料來源的資訊來增強回應生成 – 透過上傳要查詢的資料來源建立知識庫,以增強基礎模型的回應生成。
-
建立能夠推論如何協助客戶的應用程式 — 建置代理程式,其使用基礎模型、進行 API 呼叫,以及 (選用) 查詢知識庫,以便為客戶推論及執行任務。
-
使用訓練資料將模型調整為特定任務和領域 — 透過提供用於微調或繼續預先訓練的訓練資料來自訂 Amazon Bedrock 基礎模型,以調整模型的參數,並改善其在特定任務或特定領域的效能。
-
改善 FM 型應用程式效率和輸出 — 為基礎模型購買佈建的輸送量,以便更有效率地以折扣價格在模型上執行推論。
-
確定最適合您使用案例的模型 — 使用內建或自訂提示資料集評估不同模型的輸出,以確定最適合您應用程式的模型。
-
預防不適當或不想要的內容 – 使用防護機制為您的生成式 AI 應用程式實作安全措施。
-
最佳化 FM 的延遲 – 透過基礎模型的延遲最佳化推論,加速 AI 應用程式回應並改善回應能力。
注意
延遲最佳化推論功能目前在 Amazon Bedrock 為預覽版本,可能有所變更。
若要了解支援 Amazon Bedrock 的區域,以及 Amazon Bedrock 支援的基礎模型和功能,請參閱 Amazon Bedrock 中支援的基礎模型 和 Amazon Bedrock 中的 AWS 區域 功能支援。
如何開始使用 Amazon Bedrock?
建議您從執行下列動開始使用 Amazon Bedrock:
-
熟悉 Amazon Bedrock 所使用的術語和概念。
了解 AWS 的 Amazon Bedrock 使用費用。
-
嘗試看看開始使用 Amazon Bedrock教學課程。在教學課程中,您將了解如何在 Amazon Bedrock 主控台中使用遊樂場。您也可以了解如何使用 AWS SDK 呼叫 Amazon Bedrock API 操作。
-
閱讀文件以了解您要在應用程式中包含的功能。