Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Requisitos previos para la destilación modelo

Antes de comenzar, asegúrese de que entiende cómo funcionan los controles de acceso y seguridad de Destilación de modelos. También debe elegir un modelo de profesor y alumno para su trabajo de destilación.

Permisos

Antes de comenzar, asegúrese de que entiende cómo funcionan los controles de acceso y seguridad de Destilación de modelos. Debe tener un rol de servicio de IAM que pueda acceder al bucket de Amazon S3 donde desea almacenar sus datos de entrenamiento y validación de Destilación de modelos. Amazon Bedrock también tiene opciones para cifrar y proteger aún más sus trabajos y artefactos de destilación. Para obtener más información, consulte Personalización, acceso y seguridad de los modelos.

Para utilizar un perfil de inferencia interregional para un modelo de profesor en un trabajo de destilación, su rol de servicio debe tener permisos para invocar el perfil de inferencia en un perfil de inferencia Región de AWS, además del modelo de cada región del perfil de inferencia. Para ver una política de ejemplo, consulte (Opcional) Permisos para crear un trabajo de destilación con un perfil de inferencia entre regiones. Para obtener más información sobre la inferencia entre regiones, consulte Aumento del rendimiento con la inferencia entre regiones.

Selección de los modelos instructor y aprendiz para la destilación

En la siguiente sección se muestran los modelos y regiones compatibles con Destilación de modelos de Amazon Bedrock. Tras elegir los modelos instructor y aprendiz, debe preparar y optimizar los conjuntos de datos de entrenamiento para la destilación. Para obtener más información, consulte Preparación de los conjuntos de datos de entrenamiento para destilación.

Modelos y regiones compatibles con Destilación de modelos de Amazon Bedrock.

En la siguiente tabla se muestran los modelos y modelos de Regiones de AWS Amazon Bedrock Model Distillation compatibles con los modelos de profesores y alumnos. Si utiliza un perfil de inferencia entre regiones, solo se admiten los perfiles de inferencia del sistema para la destilación de modelos. Para obtener más información, consulte Aumento del rendimiento con la inferencia entre regiones.