FAQ

問：我應該考慮哪些額外的安全層來防止快速注入攻擊？

答：下圖顯示三個主要安全層：LLM輸入、LLM內建護欄和使用者導入護欄。

您的組織應考慮跨所有層實作安全通訊協定。對於第一層 ( LLM輸入)，請考慮風險緩解步驟，透過實作個人識別資訊 (PII) 或敏感資訊修訂、身分驗證、授權和加密等機制來協助保護應用程式。第二層LLM （內建護欄) 是由 提供的模型或應用程式有價證券LLM。雖然大多數LLMs都經過安全通訊協定訓練，以防止不當使用，但您的組織仍應考慮使用 Amazon Bedrock 的 Guardrails 來新增其他安全控制，在所有生成式 AI 應用程式之間提供一致的 AI 安全性層級。最後，使用者引入的護欄應該在產生的輸出上引入最佳提示範本設計和後製處理安全措施，以防止不良結果。

問：組織如何防禦提示工程中的提示注入攻擊？

答：組織可以透過實作最佳實務一節中討論的最佳提示工程實務，來防禦快速注入攻擊。您的組織也可以考慮新增護欄，例如輸入驗證、提示消毒和安全通訊管道。

問：提示安全元素是否與模型無關？

答：通常，提示安全元素是針對特定 所設計LLMs。每個 LLM 都以不同的方式進行資料品質、多樣性、表示、偏差和微調方法的訓練，因此針對一個 引入的提示安全元素LLM無法直接轉移到另一個 LLM。不過，本指南中討論的安全元素可提供架構和方向，以為其他 開發量身打造的提示安全元素LLMs。

問：我應該如何將這些元素整合到企業MLOps架構中？

答：視您組織的限制條件和資料環境而定，即時安全元素可由處理特定生成 AI 使用案例的資料科學家或開發人員擁有，或由中央生成 AI 治理團隊擁有。當您設計生成式 AI 解決方案的MLOps架構並將解決方案發佈至生產環境時，我們建議您檢閱 AWS 部落格文章 FMOps/LLMOps：使用 Amazon AI Clarify 和服務作為起點，操作化生成式 AI 以及大規模和操作化評估的差異MLOps。 LLM SageMaker MLOps 考慮引入安全閘道，以確保已新增適當的提示層級安全性。

問：哪些是成功的使用案例？

答：本指南中討論的護欄成功用於 RAG解決方案，適用於人力資源、公司政策、保險文件摘要、企業投資和醫療記錄摘要。