よくある質問

Q. プロンプトインジェクション攻撃を防ぐために考慮すべき追加のセキュリティレイヤーは何ですか?

A. 次の図は、LLM 入力、LLM 組み込みガードレール、およびユーザーが導入したガードレールの 3 つの主要なセキュリティレイヤーを示しています。

組織は、すべてのレイヤーにセキュリティプロトコルを実装することを検討する必要があります。第 1 レイヤー (LLM 入力) では、個人を特定できる情報 (PII) や機密情報の秘匿化、認証、認可、暗号化などのメカニズムを実装することで、アプリケーションを保護するためのリスク軽減手順を検討してください。2 番目のレイヤー (LLM 組み込みガードレール) は、LLM が提供するモデルまたはアプリケーションの証券です。ほとんどの LLMs は不適切な使用を防ぐためにセキュリティプロトコルでトレーニングされていますが、組織は Amazon Bedrock のガードレールを使用してすべての生成 AI アプリケーションで一貫したレベルの AI 安全を実現することで、セキュリティコントロールを追加することを検討する必要があります。最後に、ユーザーが導入したガードレールは、望ましくない結果を防ぐために、生成された出力に最良のプロンプトテンプレート設計と後処理のセキュリティ対策を導入する必要があります。

Q. 組織はプロンプトエンジニアリングにおけるプロンプトインジェクション攻撃に対してどのように防御できますか?

A. 組織は、「ベストプラクティスプロンプトインジェクション攻撃を回避するためのベストプラクティス」セクションで説明されているように、プロンプトエンジニアリングのベストプラクティスを実装することで、プロンプトインジェクション攻撃から防御できます。組織は、入力検証、プロンプトのサニタイズ、安全な通信チャネルなどのガードレールの追加を検討することもできます。

Q. プロンプトセキュリティ要素はモデルに依存しませんか?

A. 一般的に、プロンプトセキュリティ要素は特定の LLMs 用に設計されています。各 LLM は、データ品質、多様性、表現、バイアス、ファインチューニングのアプローチの点でトレーニングが異なるため、ある LLM に導入されたプロンプトセキュリティ要素は、別の LLM に直接転送できません。ただし、このガイドで説明するセキュリティ要素は、他の LLMs 向けにカスタマイズされたプロンプトセキュリティ要素を開発するためのフレームワークと方向性を提供することができます。

Q. これらの要素をエンタープライズ MLOps フレームワークに統合するにはどうすればよいですか?

A. 組織の制約とデータランドスケープに応じて、プロンプトセキュリティ要素は、特定の生成 AI ユースケースに取り組んでいるデータサイエンティストまたは開発者、または中央生成 AI ガバナンスチームによって所有できます。生成 AI ソリューションの MLOps フレームワークを設計し、ソリューションを本番環境にリリースする場合は、 AWS ブログ記事FMOps/LLMOps: Operationalize generative AI and differences with MLOps and Operationalize LLM Evaluation at Scale using Amazon SageMaker AI Clarify and MLOps services as start point」を確認することをお勧めします。適切なプロンプトレベルのセキュリティが追加されていることを確認するために、セキュリティゲートの導入を検討してください。

Q. 成功したユースケースにはどのようなものがありますか?

A. このガイドで説明されているガードレールは、人事、企業ポリシー、保険文書の概要、企業投資、医療記録の概要に関する RAG ベースのソリューションで正常に使用されました。