Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
FAQ
Q : Quelles couches de sécurité supplémentaires dois-je prendre en compte pour empêcher les attaques par injection rapide ?
R. Le schéma suivant montre les trois principales couches de sécurité : LLM entrée, garde-corps LLM intégrés et garde-corps introduits par l'utilisateur.
Votre entreprise doit envisager de mettre en œuvre des protocoles de sécurité sur toutes les couches. Pour la première couche (LLMsaisie), envisagez des mesures d'atténuation des risques pour aider à sécuriser l'application en mettant en œuvre des mécanismes tels que la rédaction d'informations personnellement identifiables (PII) ou d'informations sensibles, l'authentification, l'autorisation et le cryptage. La deuxième couche (garde-corps LLM intégrés) est constituée de garanties de modèle ou d'application fournies par le. LLM Bien que la plupart LLMs soient formés à l'utilisation de protocoles de sécurité destinés à empêcher toute utilisation inappropriée, votre entreprise devrait tout de même envisager d'ajouter des contrôles de sécurité supplémentaires en utilisant Guardrails for Amazon Bedrock
Q. Comment les entreprises peuvent-elles se défendre contre les attaques par injection rapide dans le cadre de l'ingénierie rapide ?
R. Les organisations peuvent se défendre contre les attaques par injection rapide en mettant en œuvre les meilleures pratiques d'ingénierie rapide, comme indiqué dans la section Meilleures pratiques. Votre organisation peut également envisager d'ajouter des garde-fous tels que la validation des entrées, un nettoyage rapide et des canaux de communication sécurisés.
Q : Les éléments de sécurité de Prompt sont-ils indépendants du modèle ?
R. En général, les éléments de sécurité rapides sont conçus pour des raisons spécifiquesLLMs. Chacun LLM est formé différemment en termes de qualité des données, de diversité, de représentation, de biais et d'approches d'ajustement précis, de sorte qu'un élément de sécurité rapide introduit pour l'un LLM n'est pas directement transférable à un autre. LLM Cependant, les éléments de sécurité abordés dans ce guide peuvent fournir un cadre et une orientation pour développer des éléments de sécurité rapides adaptés à d'autresLLMs.
Q. Comment intégrer ces éléments dans un MLOps cadre d'entreprise ?
R. En fonction des contraintes et de l'environnement de données de votre entreprise, les éléments de sécurité rapides peuvent être détenus par le data scientist ou le développeur qui travaille sur un cas d'utilisation spécifique de l'IA générative ou par une équipe centrale de gouvernance de l'IA générative. Lorsque vous concevez le MLOps cadre d'une solution d'IA générative et que vous publiez la solution dans l'environnement de production, nous vous recommandons de consulter les articles de AWS blog FMOps/LLMOps: Opérationnaliser l'IA générative et ses différences avec MLOps et
Q. Quels sont les cas d'utilisation réussis ?
R. Les garde-fous décrits dans ce guide ont été utilisés avec succès dans des solutions RAG basées sur les ressources humaines, les politiques d'entreprise, le résumé des documents d'assurance, les investissements des entreprises et le résumé des dossiers médicaux.
