View a markdown version of this page

Implementazione della soluzione - Generative AI Application Builder su AWS
Panoramica del processo di distribuzioneFornire una configurazione di chat DynamoDB

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Implementazione della soluzione

Questa soluzione utilizza CloudFormation modelli e stack AWS per automatizzarne l'implementazione. Il CloudFormation modello specifica le risorse AWS incluse in questa soluzione e le relative proprietà. Lo CloudFormation stack fornisce le risorse descritte nel modello.

Panoramica del processo di distribuzione

Prima di lanciare la soluzione, esaminate i costi, l'architettura, la sicurezza e altre considerazioni discusse in questa guida.

Importante

Se prevedi di utilizzare Amazon Bedrock, devi richiedere l'accesso ai modelli prima che siano disponibili per l'uso. Per ulteriori dettagli, consulta Model access nella Amazon Bedrock User Guide.

Tempo di implementazione: circa 10 minuti

Fase 1: Avviare lo stack di dashboard di distribuzione

Fase 2: Implementazione di un caso d'uso

Fase 3: Implementazione di un caso d'uso utilizzando la procedura guidata del dashboard di distribuzione

Fase 4: Configurazione post-implementazione

Facoltativamente, puoi distribuire i casi d'uso separatamente dalla soluzione, se preferisci non avere l'interfaccia utente del dashboard di Deployment o. APIs

Puoi anche fornire una configurazione di chat DynamoDB.

Importante

Questa soluzione invia metriche operative ad AWS (i «Dati») sull'utilizzo di questa soluzione. Utilizziamo questi dati per comprendere meglio come i clienti utilizzano questa soluzione e i servizi e i prodotti correlati. La raccolta di questi dati da parte di AWS è soggetta alla politica sulla privacy di AWS.

Fornire una configurazione di chat DynamoDB

Quando si implementa un caso d'uso, UseCaseConfigRecordKeysono CloudFormation parametri obbligatori che normalmente UseCaseConfigTableNamevengono compilati dal pannello di controllo Deployment. Lo stack dei dashboard di distribuzione gestisce la creazione e la configurazione di questa tabella, mentre le chiamate all'API di distribuzione attivano la compilazione dei parametri.

Quando si esegue una distribuzione autonoma, è necessario effettuare le seguenti operazioni:

  1. Crea una tabella DynamoDB con una chiave hash o chiave.

  2. Crea un record nella tabella contenente la configurazione per lo use case come record del formato: {key: some_use_case_key, config: {your_configuration}.

  3. Passa i parametri scelti UseCaseConfigTableNamee UseCaseConfigRecordKey(some_use_case_keyin questo esempio) allo stack di use case durante la distribuzione.

Per creare una configurazione adatta per una distribuzione autonoma, puoi creare uno use case richiesto dalla dashboard di Deployment e copiare il record dalla tabella di configurazione. Altrimenti, puoi creare la tua configurazione sulla base del seguente esempio per una distribuzione di Bedrock:

{
 "UseCaseName": "SampleUseCase",
 "ConversationMemoryParams": {
 "ConversationMemoryType": "DynamoDB",
 "HumanPrefix": "H",
 "AiPrefix": "A",
 "ChatHistoryLength": 20
 },
 "KnowledgeBaseParams": {
 "KnowledgeBaseType": "Bedrock",
 "NumberOfDocs": 2,
 "ScoreThreshold": 0,
 "ReturnSourceDocs": false,
 "BedrockKnowledgeBaseParams": {
 "BedrockKnowledgeBaseId": "SOME_ID",
 "OverrideSearchType": null
 }
 },
 "LlmParams": {
 "ModelProvider": "Bedrock",
 "BedrockLlmParams": { "ModelId": "anthropic.claude-v2" },
 "PromptParams": {
 "PromptTemplate": "some prompt",
 "MaxPromptTemplateLength": 187500,
 "MaxInputTextLength": 187500,
 "UserPromptEditingEnabled": true,
 "DisambiguationEnabled": true,
 "DisambiguationPromptTemplate": "some prompt"
 },
 "ModelParams": {},
 "Temperature": 1,
 "RAGEnabled": true,
 "Streaming": true,
 "Verbose": false
 }
}