View a markdown version of this page

Implementación de la solución - Creador de aplicaciones de IA generativa en AWS

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Implementación de la solución

Esta solución utiliza CloudFormation plantillas y pilas de AWS para automatizar su implementación. La CloudFormation plantilla especifica los recursos de AWS incluidos en esta solución y sus propiedades. La CloudFormation pila aprovisiona los recursos que se describen en la plantilla.

Información general del proceso de implementación

Antes de lanzar la solución, revise el costo, la arquitectura, la seguridad y otras consideraciones que se describen en esta guía.

importante

Si planea usar Amazon Bedrock, debe solicitar acceso a los modelos antes de que estén disponibles para su uso. Consulte Model access en la Guía del usuario de Amazon Bedrock para obtener más información.

Tiempo de implementación: aproximadamente 10 minutos

Paso 1: Inicie la pila de paneles de implementación

Paso 2: Implementar un caso de uso

Paso 3: Implemente un caso de uso mediante el asistente del panel de implementación

Paso 4: Configuración posterior a la implementación

Opcionalmente, puede implementar los casos de uso por separado de la solución, si prefiere no tener la interfaz de usuario del panel de implementación o APIs.

También puede proporcionar una configuración de chat de DynamoDB.

importante

Esta solución envía métricas operativas a AWS (los «datos») sobre el uso de esta solución. Utilizamos estos datos para comprender mejor cómo utilizan los clientes esta solución y los servicios y productos relacionados. La recopilación de estos datos por parte de AWS está sujeta a la Política de privacidad de AWS.

Suministro de una configuración de chat de DynamoDB

Al implementar un caso de uso, UseCaseConfigRecordKeyUseCaseConfigTableNameson CloudFormation parámetros obligatorios que normalmente se rellenan en el panel de implementación. La pila de paneles de despliegue se encarga de la creación y configuración de esta tabla, mientras que las llamadas a la API de despliegue activan el rellenado de los parámetros.

Al realizar una implementación independiente, debe hacer lo siguiente:

  1. Cree una tabla de DynamoDB con una clave hash de clave.

  2. Cree un registro en la tabla que contenga la configuración del caso de uso como registro del formato: {key: some_use_case_key, config: {your_configuration}.

  3. Transfiera los parámetros elegidos UseCaseConfigTableNamey UseCaseConfigRecordKey(some_use_case_keyen este ejemplo) a la pila de casos de uso al realizar la implementación.

Para crear una configuración adecuada para una implementación independiente, puede crear un caso de uso obligatorio desde el panel de implementación y copiar el registro de la tabla de configuración. De lo contrario, puede crear su propia configuración basándose en el siguiente ejemplo para una implementación de Bedrock:

{ "UseCaseName": "SampleUseCase", "ConversationMemoryParams": { "ConversationMemoryType": "DynamoDB", "HumanPrefix": "H", "AiPrefix": "A", "ChatHistoryLength": 20 }, "KnowledgeBaseParams": { "KnowledgeBaseType": "Bedrock", "NumberOfDocs": 2, "ScoreThreshold": 0, "ReturnSourceDocs": false, "BedrockKnowledgeBaseParams": { "BedrockKnowledgeBaseId": "SOME_ID", "OverrideSearchType": null } }, "LlmParams": { "ModelProvider": "Bedrock", "BedrockLlmParams": { "ModelId": "anthropic.claude-v2" }, "PromptParams": { "PromptTemplate": "some prompt", "MaxPromptTemplateLength": 187500, "MaxInputTextLength": 187500, "UserPromptEditingEnabled": true, "DisambiguationEnabled": true, "DisambiguationPromptTemplate": "some prompt" }, "ModelParams": {}, "Temperature": 1, "RAGEnabled": true, "Streaming": true, "Verbose": false } }