IA responsable
Configuración de moderación de contenido: los clientes de Amazon Nova Forge tienen acceso a la configuración de moderación de contenido personalizable (CCMS) para los modelos de Amazon Nova Lite 1.0 y Pro 1.0. La CCMS le permite ajustar los controles de moderación de contenido para adaptarlos a sus requisitos empresariales específicos y, al mismo tiempo, mantener las medidas de protección esenciales y específicas de la IA responsable. Para determinar si su caso de uso empresarial cumple los requisitos de la CCMS, póngase en contacto con su administrador de cuentas de Amazon Web Services.
Amazon Nova Forge proporciona un kit de herramientas de IA responsable que incluye datos de entrenamiento, pruebas comparativas de evaluación y controles de tiempo de ejecución para que sus modelos se adhieran a las directrices de IA responsable de Amazon Nova.
Datos de entrenamiento: la categoría “RAI” de mezcla de datos incluye casos y escenarios que hacen hincapié en los principios de la IA responsable, los aspectos importantes en materia de seguridad y la implementación responsable de tecnología. Úselos para adaptar sus modelos de forma responsable durante el entrenamiento previo continuo.
Evaluaciones: las tareas de prueba comparativa sirven para probar la capacidad de su modelo para detectar y rechazar contenido inapropiado, dañino o incorrecto. Utilice estas evaluaciones para medir la diferencia entre el rendimiento del modelo base y el rendimiento del modelo personalizado.
Controles de tiempo de ejecución: de forma predeterminada, el tiempo de ejecución de Amazon Nova controla las respuestas moderadas del modelo durante la inferencia. Para modificar estos controles y así adaptarlos a su modelo empresarial específico, solicite una configuración de moderación de contenido personalizable (CCMS) poniéndose en contacto con su administrador de cuentas de Amazon Web Services.
Responsabilidad compartida en materia de seguridad
La seguridad es una responsabilidad compartida entre Amazon Web Services y nuestros clientes. Cambiar el modelo base o utilizar el entrenamiento previo continuo para mejorar el rendimiento en un caso de uso específico puede repercutir en la seguridad, la imparcialidad y otras propiedades del nuevo modelo.
Usamos un método de adaptación sólido para minimizar los cambios en la seguridad, la equidad y otras protecciones integradas en nuestros modelos base, minimizando además el impacto en el rendimiento del modelo en tareas fuera del ámbito de personalización.
Su responsabilidad incluye:
La realización de pruebas integrales de sus aplicaciones con conjuntos de datos representativos de sus casos de uso.
La evaluación de si los resultados de las pruebas cumplen las expectativas específicas de seguridad, equidad y demás propiedades, además de la eficacia global.
Para obtener más información, consulte la Guía de uso responsable de la IA de Amazon Web Services, la Política de IA responsable de Amazon Web Services, la Política de uso aceptable de AWS y los Términos de servicio de AWS de los servicios que planea utilizar.
Configuración de moderación de contenido personalizable (CCMS)
La CCMS le permite ajustar los controles en función de los requisitos empresariales y, al mismo tiempo, mantener los controles esenciales y no configurables que garantizan un uso responsable de la IA.
Estos ajustes permiten la generación de contenido por medio de tres configuraciones disponibles:
Solo seguridad
Combinación de seguridad, contenido confidencial y equidad
Todas las categorías combinadas
Las cuatro categorías de moderación de contenido son las siguientes:
Seguridad: abarca las actividades peligrosas, las armas y las sustancias controladas.
Contenido confidencial: incluye blasfemias, desnudos e intimidación.
Equidad: aborda los sesgos y los factores culturales.
Seguridad: implica ciberdelincuencia, malware y contenido malicioso.
Independientemente de la configuración de CCMS, Amazon Nova aplica controles esenciales y no configurables para garantizar el uso responsable de la IA, como los controles para evitar daños a los niños y preservar la privacidad.
Recomendaciones para el uso de la CCMS
Con la CCMS, recomendamos utilizar el entrenamiento previo continuo (CPT) y partir de un punto de control de adaptación previo a la RAI (PRE-TRAINING-Early, PRE-TRAINING-Mid o PRE-TRAINING-Final) en lugar del punto de control GA/FINAL. Estos puntos de control no han pasado por procesos de entrenamiento en materia de seguridad ni han sido ajustados para adoptar comportamientos específicos de RAI, lo que le permite personalizarlos de forma más eficaz para adaptarlos a sus requisitos de moderación de contenido.
Consejo: Cuando utilice la CCMS para mezclar datos, considere la posibilidad de ajustar el porcentaje de la categoría “rai” en la configuración de nova_data para adaptarlo a sus requisitos específicos de moderación de contenido.
Disponibilidad
Actualmente, la CCMS está disponible para clientes aprobados que usan:
Modelos Nova Lite 1.0 y Pro 1.0
Inferencia bajo demanda de Amazon Bedrock
La región us-east-1 (Norte de Virginia).
Para habilitar la CCMS para sus modelos de Forge, póngase en contacto con su administrador de cuentas de Amazon Web Services.
