Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Häufig gestellte Fragen
F: Welche zusätzlichen Sicherheitsebenen sollte ich in Betracht ziehen, um Prompt-Injection-Angriffe zu verhindern?
Antwort: Das folgende Diagramm zeigt die drei wichtigsten Sicherheitsebenen: LLM-Eingabe, integrierte LLM-Schutzplanken und vom Benutzer eingeführte Schutzplanken.
Ihr Unternehmen sollte die Implementierung von Sicherheitsprotokollen auf allen Ebenen in Betracht ziehen. Für die erste Ebene (LLM-Eingabe) sollten Sie Maßnahmen zur Risikominderung in Betracht ziehen, um die Anwendung durch die Implementierung von Mechanismen wie der Schwärzung, Authentifizierung, Autorisierung und Verschlüsselung personenbezogener Daten oder sensibler Informationen zu schützen. Bei der zweiten Schicht (integrierte LLM-Leitplanken) handelt es sich um Modell- oder Anwendungssicherungen, die vom LLM bereitgestellt werden. Obwohl die meisten LLMs mit Sicherheitsprotokollen geschult sind, um eine unangemessene Nutzung zu verhindern, sollte Ihr Unternehmen dennoch erwägen, zusätzliche Sicherheitskontrollen durch den Einsatz von Guardrails for Amazon Bedrock
F: Wie können sich Unternehmen im Rahmen von Prompt Engineering vor Prompt-Injection-Angriffen schützen?
A. Organizations können sich gegen Prompt-Injection-Angriffe schützen, indem sie die besten Prompt-Engineering-Praktiken anwenden, die im Abschnitt Best Practices beschrieben werden. Ihr Unternehmen kann auch erwägen, Schutzmaßnahmen wie Eingabevalidierung, sofortige Bereinigung und sichere Kommunikationskanäle hinzuzufügen.
F: Sind Prompt-Sicherheitselemente modellunabhängig?
Antwort: Im Allgemeinen sind Prompt-Sicherheitselemente für bestimmte LLMs konzipiert. Jedes LLM wird in Bezug auf Datenqualität, Diversität, Repräsentation, Voreingenommenheit und Feinabstimmung unterschiedlich trainiert, sodass ein Prompt-Sicherheitselement, das für ein LLM eingeführt wurde, nicht direkt auf ein anderes LLM übertragbar ist. Die in diesem Leitfaden erörterten Sicherheitselemente können jedoch einen Rahmen und eine Anleitung für die Entwicklung maßgeschneiderter Prompt-Sicherheitselemente für andere LLMs bieten.
F: Wie sollte ich diese Elemente in ein MLOps-Framework für Unternehmen integrieren?
Antwort: Abhängig von den Einschränkungen und der Datenlandschaft Ihres Unternehmens können die Sicherheitselemente von Prompt Security entweder dem Datenwissenschaftler oder Entwickler gehören, der an einem bestimmten generativen KI-Anwendungsfall arbeitet, oder einem zentralen generativen KI-Governance-Team. Wenn Sie das MLOps-Framework für eine generative KI-Lösung entwerfen und die Lösung für die Produktionsumgebung veröffentlichen, empfehlen wir Ihnen, die AWS Blogbeiträge zu lesen FMOps/LLMOps: Operationalize generative AI and differences with MLOps and operationalize
F: Was sind einige der erfolgreichen Anwendungsfälle?
Antwort: Die in diesem Leitfaden erörterten Leitplanken wurden erfolgreich in RAG-based Lösungen für Personalmanagement, Unternehmenspolitik, Zusammenfassung von Versicherungsdokumenten, Unternehmensinvestitionen und Zusammenfassung von Krankenakten eingesetzt.
