Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Schicht 3: Sicherheit und Governance für generative KI-Plattformen auf AWS
Ein robustes Sicherheits- und Governance-Framework ist für die skalierbare Einführung generativer KI im gesamten Unternehmen unerlässlich. Wir empfehlen einen plattformzentrierten Ansatz. Dieser Ansatz stellt sicher, dass alle generativen KI-gestützten Anwendungen, unabhängig davon, welches Team sie entwickelt, von einem Standardsatz an Sicherheit und verantwortungsvollen KI-Leitplanken profitieren.
In diesem Abschnitt werden folgende Themen behandelt:
Zentrale Sicherheitsdisziplinen
Die OWASP Top 10 für LLM-Anwendungen
-
Unternehmensführung und Compliance — Erstellen Sie die erforderlichen Richtlinien, Verfahren und Berichte, um das Unternehmen zu stärken und gleichzeitig Risiken zu minimieren. Für generative KI-Anwendungen umfasst dies Richtlinien für die Modellauswahl, die Datennutzung und die Validierung der Ergebnisse.
-
Rechtliches und Datenschutz — Erfüllen Sie die spezifischen regulatorischen, rechtlichen und datenschutzrechtlichen Anforderungen für die Verwendung oder Entwicklung generativer KI-Lösungen. Organizations müssen bei der Implementierung generativer KI-Lösungen Datenschutzgesetze, Rechte an geistigem Eigentum und branchenspezifische Vorschriften sorgfältig berücksichtigen.
-
Risikomanagement — Identifizieren Sie potenzielle Bedrohungen für generative KI-Lösungen und empfehlen Gegenmaßnahmen. Dazu gehört die Bekämpfung von Risiken wie Datenvergiftung, Prompt-Injection-Angriffen oder unbeabsichtigten Verzerrungen bei Modellergebnissen.
-
Kontrollen — Implementieren Sie Sicherheitskontrollen, um Risiken zu minimieren. Bei generativen KI-Anwendungen umfasst dies die Bereinigung von Eingaben, die Filterung der Ausgabe und Zugriffskontrollen für die Modellnutzung. Weitere Informationen finden Sie unter Empfohlene Sicherheitskontrollen in diesem Handbuch.
-
Resilienz — Entwickeln Sie generative KI-Lösungen, um die Verfügbarkeit aufrechtzuerhalten und Business Service Level Agreements (SLAs) einzuhalten. Dazu gehören Überlegungen zur Modellredundanz, zu Ausweichmechanismen und zur Skalierbarkeit unter unterschiedlichen Lastbedingungen.
Empfohlene Sicherheitskontrollen
Defense-in-depth ist ein Cybersicherheitsansatz, der mehrere Ebenen von Sicherheitskontrollen verwendet, um ein System, ein Netzwerk oder eine Workload zu schützen. Verschiedene Ebenen helfen dabei, Angriffe zu erkennen und zu stoppen, falls eine Ebene ausfällt. Wir empfehlen mindestens die folgenden Kontrollen, um einen umfassenden Verteidigungsansatz für generative KI-Workloads und deren Umgebungen zu verfolgen:
-
Identitäts- und Zugriffsmanagement — AWS-Services einschließlich Amazon Bedrock und Amazon SageMaker AI — lassen sich nativ in AWS Identity and Access Management (IAM) integrieren. IAM bietet eine detaillierte Kontrolle darüber, wer Aktionen für Sie AWS-Konten und Ihre Ressourcen ausführen kann, z. B. das Abonnieren von Foundation-Modellen oder das Ausführen von Inferenzen für ein Modell. Wir empfehlen, dass Sie mehrere IAM-Rollen mit detaillierten Berechtigungen erstellen. Sie könnten beispielsweise die folgenden Rollen erstellen:
-
Bewertungsrolle — Benutzer mit dieser Rolle können Foundation-Modelle in einer Sandbox-Umgebung evaluieren, wenn neue Modelle zu Amazon Bedrock hinzugefügt werden. Diese Benutzer sollten sich mit Ihren Rechts- und Beschaffungsteams abstimmen, bevor sie Abonnements aktivieren, die einen breiteren Zugriff ermöglichen.
-
Allgemeine Zugriffsrolle — Benutzer mit dieser Rolle können auf grundlegende Modelle für die Standardnutzung zugreifen.
-
Fine-tuned Modellzugriffsrolle — Benutzer mit dieser Rolle können auf Modelle zugreifen, die auf Ihre firmeneigenen Daten abgestimmt sind.
-
Spezialisierte Modellzugriffsrolle — Benutzer mit dieser Rolle können auf hochmoderne, kostenintensive Modelle für bestimmte Anwendungsfälle zugreifen.
-
-
Privater Netzwerkzugriff über AWS PrivateLink — Verwenden Sie es AWS PrivateLinkmit Amazon Bedrock und Amazon SageMaker AI, um Modelle von Ihrer VPC und Ihrem lokalen Netzwerk aus aufzurufen. Dies trägt dazu bei, vertrauliche Daten in Ihrem privaten Netzwerk zu speichern.
-
Guardrails für Amazon Bedrock — Implementieren Sie Leitplanken, um die Anfragen und Antworten an und von Foundation-Modellen zu verwalten und zu filtern. Dies fügt eine zusätzliche Kontrollebene hinzu.
-
Sicheres Speichern von Aufruf-Logs — Um sicherzustellen, dass die Nutzung Ihren Compliance-Anforderungen entspricht, können Sie alle Anfragen und Antworten in einem Amazon S3 S3-Bucket oder in Amazon CloudWatch Logs speichern. Weitere Informationen finden Sie unter Überwachen des Modellaufrufs mithilfe von CloudWatch Logs und Amazon S3 in der Amazon Bedrock-Dokumentation.
-
Überprüfen und verfolgen Sie den Zugriff auf Basismodelle — Verwenden Sie Amazon CloudWatch, einen Service, der Aktionen eines Benutzers, einer Rolle oder eines aufzeichnet AWS-Service. CloudTrail erfasst alle API-Aufrufe für Amazon Bedrock als Ereignisse. Weitere Informationen finden Sie unter Überwachen von Amazon Bedrock-API-Aufrufen mithilfe CloudTrail und Protokollieren von Amazon SageMaker AI-API-Aufrufen mithilfe von AWS CloudTrail.
-
Folgen Sie den OWASP Top 10 für LLM-Sicherheit — Halten Sie sich an die 10 wichtigsten Sicherheitsrisiken von OWASP für LLM-Anwendungen und stellen Sie sicher, dass Sie über klar definierte Strategien und Sicherheitskontrollen für den Aufbau mehrschichtiger Schutzmaßnahmen verfügen. Weitere Informationen finden Sie unter Architect Defense-in-Depth-Security für generative KI-Anwendungen mithilfe der OWASP Top 10 für LLMs (Blogbeitrag
).AWS
Matrix zur Festlegung des Sicherheitsbereichs
Welche spezifischen Sicherheitskontrollen Sie benötigen, hängt von der Art Ihrer generativen KI-Anwendung ab. Die AWS Generative AI Security Scoping Matrix
Die Matrix hilft Unternehmen dabei, die geeigneten Sicherheitskontrollen auf der Grundlage von Faktoren wie den folgenden zu identifizieren:
-
Ob es sich bei der Anwendung um eine verbraucherorientierte oder eine unternehmensinterne Anwendung handelt
-
Die Verwendung vortrainierter Modelle im Vergleich zur Feinabstimmung
-
Die Sensitivität der verarbeiteten Daten
-
Die Wichtigkeit der Anwendung für den Geschäftsbetrieb
Empfehlungen zur Umsetzung
Beachten Sie bei der Implementierung eines umfassenden Sicherheits- und Governance-Frameworks für Ihre generativen KI-Workloads die folgenden Empfehlungen:
-
Legen Sie klare Richtlinien und Verfahren für den Zugriff und die Nutzung von Modellen fest.
-
Implementieren Sie Sicherheitskontrollen auf mehreren Ebenen, z. B. auf Netzwerk-, Anwendungs- und Datenebene.
-
Führen Sie regelmäßige Sicherheitsbewertungen und Compliance-Audits durch.
-
Pflegen Sie eine detaillierte Dokumentation der Sicherheitsmaßnahmen und -kontrollen.
-
Bieten Sie Schulungen zum Sicherheitsbewusstsein für Teams an, die mit generativer KI arbeiten.
-
Überprüfen und aktualisieren Sie die Sicherheitskontrollen regelmäßig, wenn sich die Bedrohungen weiterentwickeln.
