View a markdown version of this page

部署解決方案 - AWS 上的生成式 AI 應用程式建置器
部署程序概觀提供 DynamoDB 聊天組態

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

部署解決方案

此解決方案使用 AWS CloudFormation 範本和堆疊來自動化其部署。CloudFormation 範本會指定此解決方案中包含的 AWS 資源及其屬性。CloudFormation 堆疊會佈建範本中所述的資源。

部署程序概觀

啟動解決方案之前，請檢閱本指南中討論的成本、架構、安全性和其他考量事項。

重要

如果您計劃使用 Amazon Bedrock，您必須在模型可供使用之前請求存取模型。如需詳細資訊，請參閱《Amazon Bedrock 使用者指南》中的模型存取。

部署時間：約 10 分鐘

步驟 1：啟動部署儀表板堆疊

步驟 2：部署使用案例

步驟 3：使用部署儀表板精靈部署使用案例

步驟 4：部署後組態

或者，如果您不想使用部署儀表板 UI 或 APIs，則可以與解決方案分開部署使用案例。

您也可以提供 DynamoDB 聊天組態。

重要

此解決方案會將有關使用此解決方案的操作指標傳送給 AWS (「資料」)。我們使用此資料來更好地了解客戶如何使用此解決方案和相關的服務和產品。AWS 收集此資料受 AWS 隱私權政策約束。

提供 DynamoDB 聊天組態

部署使用案例時，UseCaseConfigRecordKey 和 UseCaseConfigTableName 是通常由部署儀表板填入的必要 CloudFormation 參數。部署儀表板堆疊會處理此資料表的建立和組態，而呼叫部署 API 觸發參數的人口。

執行獨立部署時，您必須執行下列動作：

  1. 建立具有金鑰雜湊索引鍵的 DynamoDB 資料表。

  2. 在包含使用案例組態的資料表中建立記錄，做為格式的記錄： {key: some_use_case_key, config: {your_configuration}.

  3. 在部署時，將選擇的 UseCaseConfigTableName 和 UseCaseConfigRecordKey (some_use_case_key在此範例中為 ) 參數傳遞至使用案例堆疊。

若要為獨立部署建立適當的組態，您可以從部署儀表板建立必要的使用案例，並從組態資料表複製記錄。否則，您可以根據下列 Bedrock 部署範例來製作自己的組態：

{
 "UseCaseName": "SampleUseCase",
 "ConversationMemoryParams": {
 "ConversationMemoryType": "DynamoDB",
 "HumanPrefix": "H",
 "AiPrefix": "A",
 "ChatHistoryLength": 20
 },
 "KnowledgeBaseParams": {
 "KnowledgeBaseType": "Bedrock",
 "NumberOfDocs": 2,
 "ScoreThreshold": 0,
 "ReturnSourceDocs": false,
 "BedrockKnowledgeBaseParams": {
 "BedrockKnowledgeBaseId": "SOME_ID",
 "OverrideSearchType": null
 }
 },
 "LlmParams": {
 "ModelProvider": "Bedrock",
 "BedrockLlmParams": { "ModelId": "anthropic.claude-v2" },
 "PromptParams": {
 "PromptTemplate": "some prompt",
 "MaxPromptTemplateLength": 187500,
 "MaxInputTextLength": 187500,
 "UserPromptEditingEnabled": true,
 "DisambiguationEnabled": true,
 "DisambiguationPromptTemplate": "some prompt"
 },
 "ModelParams": {},
 "Temperature": 1,
 "RAGEnabled": true,
 "Streaming": true,
 "Verbose": false
 }
}