Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
FAQ
F: Welche zusätzlichen Sicherheitsebenen sollte ich in Betracht ziehen, um Prompt-Injection-Angriffe zu verhindern?
Antwort: Das folgende Diagramm zeigt die drei wichtigsten Sicherheitsebenen: LLM Eingabe, LLM integrierte Schutzplanken und vom Benutzer eingeführte Schutzplanken.
Ihr Unternehmen sollte die Implementierung von Sicherheitsprotokollen auf allen Ebenen in Betracht ziehen. Für die erste Ebene (LLMEingabe) sollten Sie Maßnahmen zur Risikominderung in Betracht ziehen, um die Anwendung durch die Implementierung von Mechanismen wie der Schwärzung, Authentifizierung, Autorisierung und Verschlüsselung personenbezogener Daten (PII) oder vertraulicher Informationen zu schützen. Bei der zweiten Ebene (LLMintegrierte Schutzplanken) handelt es sich um Modell- oder Anwendungssicherungen, die von der bereitgestellt werden. LLM Obwohl die meisten von LLMs ihnen mit Sicherheitsprotokollen vertraut sind, um eine unangemessene Nutzung zu verhindern, sollte Ihr Unternehmen dennoch erwägen, zusätzliche Sicherheitskontrollen mithilfe von Guardrails for Amazon Bedrock
F: Wie können sich Unternehmen im Rahmen von Prompt Engineering vor Prompt-Injection-Angriffen schützen?
A. Organizations können sich vor Prompt-Injection-Angriffen schützen, indem sie die besten Prompt-Engineering-Praktiken anwenden, die im Abschnitt Best Practices beschrieben werden. Ihr Unternehmen kann auch erwägen, Schutzmaßnahmen wie Eingabevalidierung, sofortige Bereinigung und sichere Kommunikationskanäle hinzuzufügen.
F: Sind Prompt-Sicherheitselemente modellunabhängig?
Antwort: Im Allgemeinen sind Prompt-Sicherheitselemente für bestimmte Zwecke konzipiert. LLMs Jedes Element LLM ist in Bezug auf Datenqualität, Diversität, Repräsentation, Voreingenommenheit und Feinabstimmung unterschiedlich trainiert, sodass ein für das eine Element eingeführtes Sicherheitselement LLM nicht direkt auf ein anderes übertragbar ist. LLM Die in diesem Leitfaden erörterten Sicherheitselemente können jedoch einen Rahmen und eine Anleitung für die Entwicklung maßgeschneiderter Sicherheitselemente für Sofortmaßnahmen für andere bieten. LLMs
F: Wie sollte ich diese Elemente in ein MLOps Unternehmens-Framework integrieren?
Antwort: Je nach den Einschränkungen und der Datenlandschaft Ihres Unternehmens können die Sicherheitselemente von Prompt dem Datenwissenschaftler oder Entwickler gehören, der an einem bestimmten generativen KI-Anwendungsfall arbeitet, oder einem zentralen generativen KI-Governance-Team gehören. Wenn Sie das MLOps Framework für eine generative KI-Lösung entwerfen und die Lösung für die Produktionsumgebung veröffentlichen, empfehlen wir Ihnen, die AWS Blogbeiträge FMOps/LLMOps: Operationalize generative AI and differences with MLOps and
F: Was sind einige der erfolgreichen Anwendungsfälle?
Antwort: Die in diesem Leitfaden erörterten Leitplanken wurden erfolgreich in RAG maßgeschneiderten Lösungen für Personalwesen, Unternehmenspolitik, Zusammenfassung von Versicherungsdokumenten, Unternehmensinvestitionen und Zusammenfassung von Krankenakten eingesetzt.
