FAQ

Q. 迅速なインジェクション攻撃を防ぐために、どのような追加のセキュリティレイヤーを検討する必要がありますか？

A. 次の図は、LLM入力、LLM組み込みガードレール、およびユーザーが導入したガードレールの 3 つの主要なセキュリティレイヤーを示しています。

組織は、すべてのレイヤーにセキュリティプロトコルを実装することを検討する必要があります。最初のレイヤー ( LLM入力) では、個人を特定できる情報 (PII) や機密情報の秘匿化、認証、認可、暗号化などのメカニズムを実装することで、アプリケーションを保護するためのリスク軽減手順を検討してください。2 番目のレイヤー (LLM組み込みガードレール) は、 が提供するモデルまたはアプリケーションの特性ですLLM。ほとんどの LLMsは、不適切な使用を防ぐためにセキュリティプロトコルでトレーニングされていますが、組織は Amazon Bedrock のガードレールを使用してすべての生成 AI アプリケーションに一貫したレベルの AI 安全性をもたらすことで、セキュリティコントロールを追加することを検討する必要があります。最後に、ユーザーが導入したガードレールは、望ましくない結果を防ぐために、生成された出力に最良のプロンプトテンプレート設計と後処理セキュリティ対策を導入する必要があります。

Q. 組織はプロンプトエンジニアリングにおけるプロンプトインジェクション攻撃に対してどのように防御できますか？

A. 組織は、「ベストプラクティスプロンプトインジェクション攻撃を回避するためのベストプラクティス」セクションで説明されているように、プロンプトエンジニアリングのベストプラクティスを実装することで、プロンプトインジェクション攻撃から防御できます。組織は、入力検証、プロンプトのサニタイズ、安全な通信チャネルなどのガードレールの追加を検討することもできます。

Q. プロンプトのセキュリティ要素はモデルに依存しませんか？

A. 一般的に、プロンプトセキュリティ要素は特定の 用に設計されていますLLMs。各 LLMは、データ品質、多様性、表現、バイアス、微調整アプローチの点で異なるトレーニングを受けるため、ある に導入されたプロンプトセキュリティ要素は、別の LLMに直接転送できませんLLM。ただし、このガイドで説明するセキュリティ要素は、他の 向けにカスタマイズされたプロンプトセキュリティ要素を開発するためのフレームワークと方向性を提供することができますLLMs。

Q. これらの要素をエンタープライズMLOpsフレームワークに統合するにはどうすればよいですか？

A. 組織の制約とデータランドスケープに応じて、プロンプトセキュリティ要素は、特定の生成 AI ユースケースに取り組んでいるデータサイエンティストまたは開発者、または中央生成 AI ガバナンスチームによって所有できます。生成 AI ソリューションのMLOpsフレームワークを設計し、ソリューションを本番環境にリリースする場合は、 AWS ブログ記事FMOps「/LLMOps: 生成 AI の運用と、Amazon AI Clarify と のサービスを使用した大規模な運用評価との違いMLOps」を出発点として確認することをお勧めします。 LLM SageMaker MLOps 適切なプロンプトレベルのセキュリティが追加されていることを確認するために、セキュリティゲートの導入を検討してください。

Q. 成功したユースケースにはどのようなものがありますか？

A. このガイドで説明されているガードレールは、人事、企業ポリシー、保険文書の要約、企業投資、および医療記録の要約に関する RAGベースのソリューションで正常に使用されました。