As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
9. Governança
A governança de ML abrange um conjunto de processos e frameworks que ajudam na implantação de modelos de ML. Ele inclui explicabilidade do modelo, auditabilidade, rastreabilidade e outros requisitos mais abstratos, mas essenciais, de um ciclo de vida de ML bem-sucedido. end-to-end
9.1 Qualidade e conformidade dos dados |
O sistema de ML leva em conta as considerações de informações de identificação pessoal (PII), incluindo a anonimização. Ele documentou e revisou a linhagem em nível de coluna para entender a fonte, a qualidade e a adequação dos dados. Ele também tem verificações automatizadas de qualidade de dados para detectar anomalias. |
9.2 Auditoria e documentação |
O sistema de ML tem um registro em log completo de todas as mudanças durante o desenvolvimento, incluindo experimentos realizados e os motivos para escolhas feitas para conformidade regulatória. |
9.3 Reprodutibilidade e rastreabilidade |
O sistema de ML inclui um snapshot completo dos dados para uma reinstanciação precisa e rápida do modelo, ou tem a capacidade de recriar o ambiente e treinar novamente com uma amostra de dados. |
9.4 aprovação Human-in-the-loop |
O sistema de ML tem verificação e autorização manuais para fins de conformidade regulatória. O sistema exige aprovações para cada mudança de ambiente (por exemplo, Dev, QA, pre-Prod e Prod). |
9.5 Teste de vieses e ataques adversariais |
O sistema de ML tem testes adversariais do Red Team usando várias ferramentas e vetores de ataque e verificação automatizada de viés em subpopulações específicas. Esse componente está relacionado à seção Observabilidade e gerenciamento de modelos. |
