Envíe un trabajo de destilación modelo en Amazon Bedrock

Inicie sesión en el rol de AWS Management Console uso de IAM con los permisos de Amazon Bedrock y abra la consola de Amazon Bedrock en. https://console.aws.amazon.com/bedrock/

En el panel de navegación de la izquierda, seleccione Modelos personalizados en Modelos fundacionales.

Seleccione Crear trabajo de destilación.

Para ver los detalles del modelo Distilled, haga lo siguiente:

1. En el campo Nombre del modelo destilado, introduzca un nombre para el modelo destilado.

2. (Opcional) Para el cifrado de modelos, seleccione la casilla de verificación si desea proporcionar una clave KMS para cifrar su trabajo y sus artefactos relacionados.

   Para obtener más información, consulte Cifrado de los trabajos de personalización de modelos y los artefactos.

3. (Opcional) Aplique etiquetas a su modelo destilado.

Para configurar Job, haga lo siguiente:

1. En Nombre del trabajo, introduzca un nombre para su trabajo de destilación.

2. (Opcional) Para el cifrado de modelos, seleccione la casilla de verificación si desea proporcionar una clave KMS para cifrar su trabajo y sus artefactos relacionados.

   Para obtener más información, consulte Cifrado de los trabajos de personalización de modelos y los artefactos.

3. (Opcional) Aplica etiquetas a tu trabajo.

En el caso de los detalles del modelo profesor: modelo alumno, elija los modelos profesor y alumno para crear su modelo resumido.

Para obtener más información, consulte Elija modelos de destilación para profesores y alumnos.

Para la generación de datos sintéticos, haga lo siguiente:

1. En Longitud máxima de respuesta, especifique la longitud máxima de las respuestas sintéticas generadas por el modelo docente.

2. Para el conjunto de datos de entrada de Distillation, elija una de las siguientes opciones:

   • Cargue directamente a la ubicación de S3: especifique la ubicación de S3 en la que va a almacenar el conjunto de datos de entrada (indicaciones) que se utilizará para la destilación. Para obtener más información, consulte Opción 1: Proporcione sus propias indicaciones para la preparación de los datos.

   • Proporcione acceso a los registros de invocación: especifique la ubicación de S3 en la que va a almacenar los registros de invocación con el conjunto de datos de entrada (solicitudes) que se utilizará para la síntesis. Para obtener más información, consulte Opción 2: usar registros de invocación para la preparación de datos.

     • (Opcional) Para solicitar filtros de metadatos, especifique los filtros si desea que Amazon Bedrock solo utilice determinadas indicaciones en sus registros para la destilación.

     • Elija Leer mensajes o Leer pares de mensajes y respuestas en función de a qué desee que Amazon Bedrock acceda desde sus registros. Tenga en cuenta que las respuestas solo se leen si el modelo de su profesor coincide con el modelo de sus registros.

Para el resultado de la destilación, especifique la ubicación S3 en la que desea cargar las métricas y los informes sobre su trabajo de destilación.

Para obtener más información, consulte Análisis de los resultados de un trabajo de personalización de modelos.

Para la configuración de VPC, elige una configuración de VPC para acceder al bucket de S3 con tus datos de entrenamiento.

Para obtener más información, consulte (Opcional) Proteja sus trabajos de personalización de modelos mediante una VPC.

Para el acceso al servicio, especifica la función de IAM para acceder al depósito de S3 con tus datos de entrenamiento. A menos que utilice un perfil de inferencia entre regiones o configuraciones de VPC, puede crear el rol en la consola de Amazon Bedrock con los permisos correctos configurados automáticamente. O bien, puede utilizar un rol de servicio existente.

Para un trabajo que tenga configuraciones de Amazon VPC o utilice un perfil de inferencia entre regiones, debe crear un nuevo rol de servicio en IAM que tenga los permisos necesarios.

Para obtener más información, consulte Cree un rol de servicio de IAM para la personalización del modelo.

Seleccione Crear trabajo de destilación para iniciar el trabajo de destilación. Después de personalizar un modelo, puede compartirlo o copiarlo en una región diferente. Para realizar una inferencia con un modelo personalizado (incluidos los modelos copiados), debe adquirir Provisioned Throughput para dicho modelo. Consulte Aumento de la capacidad de invocación de modelos con el rendimiento aprovisionado en Amazon Bedrock.