常見問答集

問：我應該考慮哪些額外的安全層來防止快速注入攻擊？

答：下圖顯示三個主要安全層：LLM 輸入、LLM 內建護欄和使用者導入護欄。

您的組織應考慮跨所有層實作安全通訊協定。對於第一層 (LLM 輸入)，請考慮風險緩解步驟，透過實作個人身分識別資訊 (PII) 或敏感資訊修訂、身分驗證、授權和加密等機制來協助保護應用程式。第二層 (LLM 內建護欄) 是由 LLM 提供的模型或應用程式有價物。雖然大多數 LLMs都經過安全通訊協定的訓練，以防止不當使用，但您的組織仍應考慮使用 Amazon Bedrock 的 Guardrails 來新增額外的安全控制，在所有生成式 AI 應用程式之間提供一致的 AI 安全性層級。最後，使用者引入的護欄應該在產生的輸出上引入最佳提示範本設計和後製處理安全措施，以防止不良結果。

問：組織如何防禦提示工程中的提示注入攻擊？

答：組織可以透過實作最佳實務一節中討論的最佳提示工程實務來防禦提示注入攻擊。您的組織也可以考慮新增護欄，例如輸入驗證、提示淨化和安全通訊管道。

問：提示安全元素是否與模型無關？

答：通常，提示安全元素是針對特定 LLMs設計。每個 LLM 在資料品質、多樣性、表示、偏差和微調方法方面都經過不同的訓練，因此針對一個 LLM 引入的提示安全元素無法直接傳輸到另一個 LLM。不過，本指南中討論的安全元素可提供架構和方向，以為其他 LLMs開發量身打造的提示安全元素。

問：我應該如何將這些元素整合到企業 MLOps 架構中？

答：根據組織的限制條件和資料環境，處理特定生成式 AI 使用案例的資料科學家或開發人員或中央生成式 AI 控管團隊可以擁有提示安全元素。當您為生成式 AI 解決方案設計 MLOps 架構並將解決方案發佈至生產環境時，我們建議您檢閱 AWS 部落格文章 FMOps/LLMOps：使用 Amazon SageMaker AI Clarify MLOps 和 MLOps 服務作為起點，操作化生成式 AI 以及大規模操作化 LLM 評估的差異。 Amazon SageMaker MLOps 考慮引入安全閘道，以確保已新增適當的提示層級安全性。

問：哪些是成功的使用案例？

答：本指南中討論的護欄已成功用於人力資源、公司政策、保險文件摘要、企業投資和醫療記錄摘要的 RAG 型解決方案。