Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés. # 9. Gobernanza La gobernanza del ML abarca un conjunto de procesos y marcos que ayudan a implementar los modelos de ML. Incluye la explicabilidad del modelo, la auditabilidad, la trazabilidad y otros requisitos más abstractos pero esenciales para un ciclo de vida exitoso del aprendizaje automático. end-to-end | | | | --- |--- | | **9.1 Calidad y cumplimiento de los datos** | El sistema de ML tiene en cuenta los aspectos de la información de identificación personal (PII), lo que incluye la anonimización. Ha documentado y revisado el linaje a nivel de columna para comprender el origen, la calidad y la idoneidad de los datos. También cuenta con controles automatizados de calidad de los datos para detectar anomalías. | | **9.2 Auditoría y documentación** | El sistema de ML tiene un registro completo de todos los cambios durante el desarrollo, lo que incluye los experimentos hechos y los motivos por los que se tomaron decisiones para cumplir con la normativa. | | **9.3 Reproducibilidad y seguimiento** | El sistema de ML incluye una instantánea completa de los datos para una reinstanciación rápida y precisa del modelo, o bien puede volver a crear el entorno y volver a entrenarlo con una muestra de datos. | | **9.4 de aprobación Human-in-the-loop** | El sistema de ML cuenta con verificación y autorización manuales para garantizar el cumplimiento de la normativa. El sistema requiere la aprobación de cada cambio de entorno (por ejemplo, desarrollo, control de calidad, preproducción y producción). | | **9.5 Pruebas de sesgo y ataques adversarios** | El sistema de ML cuenta con pruebas contradictorias de *Red Team* que utilizan varias herramientas y vectores de ataque, y una verificación automatizada del sesgo en subpoblaciones específicas. Este componente está relacionado con la sección de observabilidad y administración de modelos. |