Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
9. Governance
ML-Governance umfasst eine Reihe von Prozessen und Frameworks, die bei der Implementierung von ML-Modellen helfen. Dazu gehören die Erklärbarkeit, Überprüfbarkeit, Rückverfolgbarkeit und andere abstraktere, aber grundlegende Anforderungen für einen erfolgreichen ML-Lebenszyklus. end-to-end
9.1 Datenqualität und Konformität |
Das ML-System berücksichtigt Aspekte personenbezogener Daten (PII), einschließlich Anonymisierung. Es hat die Herkunft auf Spaltenebene dokumentiert und überprüft, um die Quelle, Qualität und Angemessenheit der Daten zu verstehen. Es verfügt auch über automatisierte Datenqualitätsprüfungen auf Anomalien. |
9.2 Prüfung und Dokumentation |
Das ML-System verfügt über ein vollständiges Protokoll aller Änderungen während der Entwicklung, einschließlich der durchgeführten Experimente und der Gründe für Entscheidungen, die zur Einhaltung gesetzlicher Vorschriften getroffen wurden. |
9.3 Reproduzierbarkeit und Rückverfolgbarkeit |
Das ML-System beinhaltet einen vollständigen Daten-Snapshot für eine präzise und schnelle Neuinstanziierung des Modells, oder es ist in der Lage, die Umgebung nachzubilden und anhand einer Datenprobe erneut zu trainieren. |
9.4 Abmeldung Human-in-the-loop |
Das ML-System verfügt über eine manuelle Überprüfung und Autorisierung zur Einhaltung gesetzlicher Vorschriften. Das System erfordert Genehmigungen für jede Änderung der Umgebung (z. B. Dev, QA, Pre-Prod und Prod). |
9.5 Testen von Vorurteilen und gegnerischen Angriffen |
Das ML-System verfügt über gegnerische Tests von Red Team, bei denen mehrere Tools und Angriffsvektoren zum Einsatz kommen, sowie automatisierte Biaschecks für bestimmte Subpopulationen. Diese Komponente knüpft an den Abschnitt Beobachtbarkeit und Modellmanagement an. |
