View a markdown version of this page

第 3 層： 上生成式 AI 平台的安全和管理 AWS - AWS 方案指引
核心紀律建議的控制項範圍矩陣實作建議

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

第 3 層： 上生成式 AI 平台的安全和管理 AWS

強大的安全性和管理架構對於擴展整個企業的生成式 AI 採用至關重要。我們建議採用以平台為中心的方法。此方法可確保所有生成式 AI 驅動的應用程式，無論團隊建置哪些應用程式，都能受益於一組預設的安全和負責任的 AI 護欄。

核心安全紀律

LLM 應用程式的 OWASP 前 10 名描述了生成式 AI 工作負載的其他安全考量。不過，許多傳統安全紀律仍然至關重要。生成式 AI 工作負載的安全考量包括下列項目：

  • 控管與合規 – 建立必要的政策、程序和報告，以強化業務，同時將風險降至最低。對於生成式 AI 應用程式，這包含模型選擇、資料用量和輸出驗證的指導方針。

  • 法律和隱私權 – 符合使用或建立生成式 AI 解決方案的特定法規、法律和隱私權要求。在實作生成式 AI 解決方案時，組織必須仔細考慮資料保護法律、智慧財產權和產業特定法規。

  • 風險管理 – 識別生成式 AI 解決方案的潛在威脅和建議的緩解措施。這包括解決資料中毒、提示注入攻擊或模型輸出中非預期偏差等風險。

  • 控制 – 實作可降低風險的安全控制。對於生成式 AI 應用程式，這包括輸入淨化、輸出篩選和模型使用的存取控制。如需詳細資訊，請參閱本指南中的建議安全控制。

  • 彈性 – 架構師生成式 AI 解決方案，以維持可用性並符合商業服務水準協議 (SLAs)。這包括在不同負載條件下對模型備援、備用機制和可擴展性的考量。

Defense-in-depth是一種網路安全方法，使用多層安全控制來保護系統、網路或工作負載。不同的 layer 有助於在某個 layer 失敗時偵測和停止攻擊。我們建議至少採用下列控制項，為生成式 AI 工作負載及其環境採用defense-in-depth方法：

  • 身分和存取管理 – AWS 服務，包括 Amazon Bedrock 和 Amazon SageMaker AI，原生整合 AWS Identity and Access Management (IAM)。IAM 可讓您精細控制誰可以對 AWS 帳戶 和 資源執行動作，例如訂閱基礎模型或在模型上執行推論。我們建議您建立具有精細許可的多個 IAM 角色。例如，您可以建立下列角色：

    • 評估角色 – 當新的模型新增至 Amazon Bedrock 時，具有此角色的使用者可以在沙盒環境中評估基礎模型。這些使用者應先與您的法務和採購團隊協調，再啟用允許更廣泛存取的訂閱。

    • 一般存取角色 – 具有此角色的使用者可以存取標準使用的基礎模型。

    • 微調模型存取角色 – 具有此角色的使用者可存取使用專屬資料微調的模型。

    • 專用模型存取角色 – 具有此角色的使用者可以存取特定使用案例的先進、高成本模型。

  • 透過 進行私有網路存取 AWS PrivateLink – AWS PrivateLink搭配 Amazon Bedrock 和 Amazon SageMaker AI 使用，從您的 VPC 和內部部署網路調用模型。這有助於將敏感資料保留在您的私有網路中。

  • Amazon Bedrock 護欄 – 實作護欄來管理和篩選對基礎模型的請求和回應。這會新增額外的控制層。

  • 安全地存放叫用日誌 – 為確保 的使用符合您的合規需求，您可以將所有請求和回應儲存到 Amazon S3 儲存貯體或 Amazon CloudWatch Logs。如需詳細資訊，請參閱《Amazon Bedrock 文件》中的使用 CloudWatch Logs 和 Amazon S3 監控模型調用Amazon S3。

  • 稽核和追蹤對基礎模型的存取 – 使用 Amazon CloudWatch，這是一種記錄使用者、角色或 所採取動作的服務 AWS 服務。CloudTrail 會將 Amazon Bedrock 的所有 API 呼叫擷取為事件。如需詳細資訊，請參閱使用 CloudTrail 監控 Amazon Bedrock API 呼叫和使用 記錄 Amazon SageMaker AI API 呼叫 AWS CloudTrail。

  • 針對 LLM 安全性，請遵循 OWASP 前 10 項 – 遵守 OWASP 對 LLM 應用程式前 10 項安全風險，並確保您已清楚識別策略和安全控制，以架構分層防禦。如需詳細資訊，請參閱使用適用於 LLMs 的 OWASP 前 10 大生成式 AI 應用程式的 Architect defense-in-depth安全性 (AWS 部落格文章）。

安全性範圍矩陣

您需要的特定安全控制取決於生成式 AI 應用程式的性質。AWS 生成式 AI 安全範圍矩陣 (AWS 部落格文章） 提供了一個架構，以根據您的部署範圍了解安全需求。下圖顯示生成式 AI 安全性範圍矩陣，這是一種用於分類使用案例的心理模型。

生成式 AI 應用程式的安全範圍矩陣。

此矩陣有助於組織根據下列因素識別適當的安全控制：

  • 應用程式是面向消費者還是企業內部

  • 相較於微調，使用預先訓練的模型

  • 正在處理的資料的敏感度

  • 應用程式對業務營運的重要性

實作建議

若要為您的生成式 AI 工作負載實作全面的安全和控管架構，請考慮下列建議：

  • 為模型存取和使用建立明確的政策和程序。

  • 在多層實作安全控制，例如網路、應用程式和資料層。

  • 執行定期安全評估和合規稽核。

  • 維護安全措施和控制的詳細文件。

  • 為使用生成式 AI 的團隊提供安全意識培訓。

  • 隨著威脅的演進，定期審查和更新安全控制。