Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
9. Gobernanza
La gobernanza del ML abarca un conjunto de procesos y marcos que ayudan a implementar los modelos de ML. Incluye la explicabilidad del modelo, la auditabilidad, la trazabilidad y otros requisitos más abstractos pero esenciales para un ciclo de vida exitoso del aprendizaje automático. end-to-end
9.1 Calidad y cumplimiento de los datos |
El sistema de ML tiene en cuenta los aspectos de la información de identificación personal (PII), lo que incluye la anonimización. Ha documentado y revisado el linaje a nivel de columna para comprender el origen, la calidad y la idoneidad de los datos. También cuenta con controles automatizados de calidad de los datos para detectar anomalías. |
9.2 Auditoría y documentación |
El sistema de ML tiene un registro completo de todos los cambios durante el desarrollo, lo que incluye los experimentos hechos y los motivos por los que se tomaron decisiones para cumplir con la normativa. |
9.3 Reproducibilidad y seguimiento |
El sistema de ML incluye una instantánea completa de los datos para una reinstanciación rápida y precisa del modelo, o bien puede volver a crear el entorno y volver a entrenarlo con una muestra de datos. |
9.4 de aprobación Human-in-the-loop |
El sistema de ML cuenta con verificación y autorización manuales para garantizar el cumplimiento de la normativa. El sistema requiere la aprobación de cada cambio de entorno (por ejemplo, desarrollo, control de calidad, preproducción y producción). |
9.5 Pruebas de sesgo y ataques adversarios |
El sistema de ML cuenta con pruebas contradictorias de Red Team que utilizan varias herramientas y vectores de ataque, y una verificación automatizada del sesgo en subpoblaciones específicas. Este componente está relacionado con la sección de observabilidad y administración de modelos. |
