Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Verantwortliches KI-Toolkit und Moderation von Inhalten

Toolkit für verantwortungsvolle KI

Nova Forge bietet ein Toolkit für verantwortungsvolle KI, das Schulungs- und Bewertungsdaten enthält, um Modelle während des Trainingsprozesses an die Richtlinien für verantwortungsvolle KI von Amazon Nova anzupassen, sowie Laufzeitkontrollen zur Moderation der Modellreaktionen während der Inferenz.

Trainingsdaten — Fälle und Szenarien, in denen verantwortungsvolle KI-Prinzipien, Sicherheitsüberlegungen und verantwortungsvoller Technologieeinsatz im Vordergrund stehen, stehen für die Mischung von Daten zur Verfügung, um die Modelle während der weiteren Trainingsvorbereitung verantwortungsbewusst aufeinander abzustimmen.

Evaluationen — Evaluationen, in denen die Fähigkeit des Modells getestet wird, unangemessene, schädliche oder falsche Inhalte zu erkennen und abzulehnen, stehen als Benchmark-Aufgabe zur Verfügung, um den Unterschied zwischen der Leistung des Basismodells und der Leistung kundenspezifischer Modelle zu ermitteln.

Laufzeitkontrollen — Standardmäßig steuert die Laufzeit von Amazon Nova moderate Modellreaktionen während der Inferenz. Um diese Laufzeitsteuerungen zu ändern, fordern Sie die anpassbaren Einstellungen für die Inhaltsmoderation von Amazon Nova an, indem Sie sich an einen AWS Kundenbetreuer wenden.

Sicherheit liegt in der gemeinsamen Verantwortung der Benutzer AWS und der Benutzer. Eine Änderung des Basismodells oder die kontinuierliche Durchführung von Vorschulungen zur Verbesserung der Leistung in einem bestimmten Anwendungsfall kann sich auf die Sicherheit, Fairness und andere Eigenschaften des neuen Modells auswirken. Eine robuste Anpassungsmethode minimiert Änderungen an den in Basismodellen integrierten Sicherheits-, Fairness- und anderen Schutzmaßnahmen und minimiert gleichzeitig die Auswirkungen auf die Modellleistung bei Aufgaben, für die das Modell nicht maßgeschneidert wurde. End-to-endDas Testen von Anwendungen anhand von Datensätzen, die für Anwendungsfälle repräsentativ sind, ist erforderlich, um festzustellen, ob die Testergebnisse den spezifischen Erwartungen in Bezug auf Sicherheit, Fairness und andere Eigenschaften sowie die Gesamteffektivität entsprechen. Weitere Informationen finden Sie unter Leitfaden zum AWS verantwortungsvollen Umgang mit KI, Richtlinie AWS für verantwortungsvolle KI, Richtlinie zur AWS akzeptablen Nutzung und AWS Nutzungsbedingungen.

Individuell anpassbare Moderation von Inhalten

Die anpassbaren Einstellungen für die Inhaltsmoderation (CCMS) ermöglichen die Anpassung der Kontrollen an die Geschäftsanforderungen und ermöglichen gleichzeitig die Beibehaltung grundlegender, nicht konfigurierbarer Kontrollen, um einen verantwortungsvollen Umgang mit KI sicherzustellen.

Diese Einstellungen ermöglichen die Generierung von Inhalten über drei verfügbare Kombinationen: Sicherheit, eine kombinierte Einstellung für Sicherheit, sensible Inhalte und Fairness oder alle Kombinationen zusammen.

Unabhängig von der CCMS-Konfiguration setzt Amazon Nova grundlegende, nicht konfigurierbare Kontrollen durch, um einen verantwortungsvollen Umgang mit KI sicherzustellen, z. B. Kontrollen zur Vermeidung von Schäden für Kinder und zum Schutz der Privatsphäre.

Wenn Sie CCMS verwenden, verwenden Sie Continued Pre-Training (CPT) und beginnen Sie mit einem Kontrollpunkt für die Ausrichtung vor dem RAI (nur teilweise oder vollständig vortrainierter Text) und nicht mit dem vollständig ausgerichteten Produktions-Checkpoint. Diese Checkpoints wurden weder einer Sicherheitsschulung unterzogen noch wurden sie auf bestimmte RAI-Verhaltensweisen ausgerichtet, was eine effizientere Anpassung an die Anforderungen an die Moderation von Inhalten ermöglicht.

CCMS ist derzeit für Amazon Nova Lite 1.0 und Pro 1.0 mit Amazon Bedrock On Demand-Inferenz in der Region US-East-1 (Nord-Virginia) verfügbar. Wenden Sie sich an einen Kundenbetreuer, um CCMS für Forge-Modelle zu aktivieren. AWS