Verantwortungsvolle Verwendung - Amazon Nova
RichtlinienEmpfehlungen

Verantwortungsvolle Verwendung

Der Aufbau von Sicherheits- und Vertrauensmaßnahmen mit KI-Modellen liegt in der gemeinsamen Verantwortung zwischen AWS und unseren Kunden. Unser Ziel ist es, unsere Modelle an die AWS-Richtlinien für die akzeptable Verwendung anzupassen und unerwünschte Ergebnisse zu minimieren, während wir gleichzeitig ein angenehmes Kundenerlebnis bieten. Unser Ansatz für verantwortungsvolle KI (RAI) basiert auf unseren Kerndimensionen verantwortungsvoller KI, welche in der folgenden Liste behandelt werden. Für jede dieser Dimensionen haben wir Richtlinien entwickelt, die unsere Entscheidungsfindung während des gesamten Lebenszyklus der Modellentwicklung bestimmen. Dieser Lebenszyklus umfasst alle Phasen, von der ersten Datenerfassung über die Vortraining bis hin zur Implementierung von Maßnahmen zur Minimierung der Laufzeit nach der Bereitstellung.

  • Fairness – Berücksichtigung der Auswirkungen auf verschiedene Interessengruppen

  • Erklärbarkeit – Systemausgaben verstehen und bewerten

  • Datenschutz und Sicherheit – Angemessene Beschaffung, Nutzung und Schutz von Daten und Modellen

  • Sicherheit – Verhinderung schädlicher Daten und missbräuchlicher Nutzung

  • Steuerbarkeit – Bereitstellung von Mechanismen zur Überwachung und Steuerung des Verhaltens von KI-Systemen

  • Genauigkeit und Robustheit – Erzielung korrekter Systemergebnisse, auch bei unerwarteten oder widersprüchlichen Eingaben

  • Governance – Einbindung von bewährten Methoden in die KI-Lieferkette, einschließlich Anbietern und Entwicklern

  • Transparenz – Interessenvertreter in die Lage versetzen, fundierte Entscheidungen über ihre Interaktion mit einem KI-System zu treffen

Themen

Richtlinien

Zu den Richtlinien, die wir bei der Entwicklung unseres Modells verwenden, gehören unter anderem die Moderation von Inhalten, die Folgendes verherrlichen, erleichtern oder fördern:

  • Teilnahme an gefährlichen Aktivitäten, Selbstverletzung oder Verwendung gefährlicher Substanzen.

  • Konsum, Missbrauch oder Handel mit kontrollierten Substanzen, Tabak oder Alkohol.

  • Körperliche Gewalt oder Blut.

  • Material über Kindesmissbrauch oder sexuellen Kindesmissbrauch.

  • Tiermissbrauch oder illegaler Tierhandel.

  • Fehlinformationen, die Einzelpersonen oder Gruppen als verantwortlich für vorsätzliche Täuschung, die Untergrabung der Glaubwürdigkeit einer Institution in der Öffentlichkeit oder die Gefährdung der menschlichen Gesundheit oder Lebensgrundlage darstellen.

  • Malware, bösartige Inhalte oder Inhalte, die Cyberkriminalität fördern.

  • Respektlosigkeit, Diskriminierung oder Stereotyp gegenüber einer Einzelperson oder Gruppe.

  • Beleidigungen, Obszönitäten, obszöne Gesten, sexuell explizite Sprache, Pornografie, Hasssymbole oder Hassgruppen.

  • Vollständige Nacktheit, die außerhalb eines wissenschaftlichen, pädagogischen oder Referenzkontextes liegt.

  • Voreingenommenheit gegenüber einer Gruppe aufgrund eines demografischen Merkmals.

Empfehlungen

Eignung für die Verwendung: Da die Ausgaben von KI-Modellen wahrscheinlichkeitsbasiert sind, kann es vorkommen, dass Amazon Nova ungenaue oder unangemessene Inhalte generiert. Kunden sollten die Ergebnisse im Hinblick auf Genauigkeit und Angemessenheit für ihren Anwendungsfall bewerten, insbesondere, wenn sie Endbenutzern direkt zur Verfügung gestellt werden. Außerdem, wenn Amazon Nova in Kunden-Workflows eingesetzt wird, die folgenreiche Entscheidungen hervorrufen, müssen Kunden die potenziellen Risiken ihres Anwendungsfalls bewerten und angemessene menschliche Aufsicht, Tests und andere anwendungsspezifische Sicherheitsvorkehrungen implementieren, um solche Risiken zu mindern.

Prompt-Optimierungen: Falls Sie auf eine Moderation durch Amazon Nova stoßen, sollten Sie die verwendeten Prompts im Hinblick auf die oben genannten Richtlinien überprüfen. Die Optimierung der Prompts zur Verringerung der Wahrscheinlichkeit unerwünschter Resultate ist die empfohlene Strategie, um mit Amazon-Nova-Modellen die erwarteten Ergebnisse zu erzielen. Achten Sie darauf, wo die Eingabe von den Benutzern gesteuert wird, einschließlich Pixelinhalten, die sich auf die Leistung des Modells auswirken könnten. Weitere Informationen finden Sie im Abschnitt mit den Richtlinien für Prompts in diesem Benutzerhandbuch.

Datenschutz: Amazon Nova ist in Amazon Bedrock verfügbar. Amazon Bedrock ist ein verwalteter Service und speichert oder überprüft keine Kunden-Prompts oder Kunden-Prompt-Ergänzungen. Prompts und Ergänzungen werden niemals zwischen Kunden oder mit Amazon Bedrock-Partnern geteilt. AWS verwendet keine durch den Amazon Bedrock-Service generierten Eingaben oder Ausgaben, um Amazon Bedrock-Modelle zu trainieren, einschließlich Amazon Nova. Weitere Informationen finden Sie in Abschnitt 50.3 der AWS-Servicebedingungen und in den häufig gestellten Fragen zum Datenschutz in AWS. Servicespezifische Informationen zum Datenschutz finden Sie im Abschnitt „Datenschutz und Sicherheit“ der Dokumentation der häufig gestellten Fragen zu Amazon Bedrock. Amazon Nova ergreift Maßnahmen, um das Ausfüllen von Prompts zu vermeiden, die als Anforderung privater Informationen ausgelegt werden könnten. Wenn ein Benutzer befürchtet, dass seine privaten Daten in eine Amazon-Nova-Vervollständigung aufgenommen wurden, sollte er uns hier kontaktieren.

Sicherheit: Alle Amazon Bedrock-Modelle, einschließlich Amazon Nova, sind mit Unternehmenssicherheit ausgestattet, die es Kunden ermöglicht, Generative-KI-Anwendungen zu entwickeln, die gemeinsame Datensicherheits- und Compliance-Standards wie GDPR und HIPAA unterstützen. Kunden können AWS PrivateLink verwenden, um private Verbindungen zwischen benutzerdefinierten Amazon-Nova- und On-Premises-Netzwerken herzustellen, ohne dass der Kundenverkehr dem Internet ausgesetzt wird. Kundendaten werden bei der Übertragung und im Speicher immer verschlüsselt, und Kunden können ihre eigenen Schlüssel verwenden, um die Daten zu verschlüsseln, z. B. mithilfe von AWS Key Management Service. Kunden können AWS Identity and Access Management nutzen, um den Zugriff auf Amazon Bedrock-Ressourcen, einschließlich angepassten Amazon-Nova-Ressourcen, sicher zu kontrollieren. Darüber hinaus bietet Amazon Bedrock umfassende Überwachungs- und Protokollierungsfunktionen, welche die Governance- und Audit-Anforderungen der Kunden unterstützen können. Amazon CloudWatch kann beispielsweise dabei helfen, Nutzungsmetriken zu verfolgen, die für Audit-Zwecke erforderlich sind, und AWS CloudTrail kann dabei helfen, API-Aktivitäten zu überwachen und Probleme zu beheben, da Amazon Nova in andere AWS-Systeme integriert ist. Kunden können die Metadaten, Prompts und Vervollständigungen auch in ihrem eigenen verschlüsselten Bucket von Amazon Simple Storage Service (Amazon S3) speichern.

Geistiges Eigentum: AWS bietet eine nicht gedeckelte Haftungsfreistellung für geistiges Eigentum (IP) für die Ergebnisse allgemein verfügbarer Amazon Nova-Modelle (siehe Abschnitt 50.10 der Nutzungsbedingungen). Dies bedeutet, dass Kunden vor Ansprüchen Dritter geschützt sind, die eine Verletzung oder widerrechtliche Aneignung von geistigem Eigentum (einschließlich Urheberrechtsansprüchen) durch die von diesen Amazon-Nova-Modellen generierten Ergebnisse geltend machen. Zusätzlich schützt unsere standardmäßige IP-Haftungsfreistellung für die Nutzung von Services Kunden vor Ansprüchen Dritter wegen vermeintlicher IP-Verletzungen (einschließlich Urheberrechtsansprüchen) durch die Services (einschließlich Amazon-Nova-Modelle) und die zu deren Training verwendeten Daten.