本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。
# 第 3 層： 上生成式 AI 平台的安全和管理 AWS
強大的安全性和管理架構對於擴展整個企業的生成式 AI 採用至關重要。我們建議採用以平台為中心的方法。此方法可確保所有生成式 AI 驅動的應用程式，無論團隊建置哪些應用程式，都能受益於一組預設的安全和負責任的 AI 護欄。
**Topics**
+ [核心安全紀律](#security-disciplines)
+ [建議的安全控制](#security-recommended-controls)
+ [安全性範圍矩陣](#security-scoping-matrix)
+ [實作建議](#security-implementation-recs)
## 核心安全紀律
[LLM 應用程式的 OWASP 前 10](https://owasp.org/www-project-top-10-for-large-language-model-applications/) 名描述了生成式 AI 工作負載的其他安全考量。不過，許多傳統安全紀律仍然至關重要。生成式 AI 工作負載的安全考量包括下列項目：
+ **控管與合規** – 建立必要的政策、程序和報告，以強化業務，同時將風險降至最低。對於生成式 AI 應用程式，這包含模型選擇、資料用量和輸出驗證的指導方針。
+ **法律和隱私權** – 符合使用或建立生成式 AI 解決方案的特定法規、法律和隱私權要求。在實作生成式 AI 解決方案時，組織必須仔細考慮資料保護法律、智慧財產權和產業特定法規。
+ **風險管理** – 識別生成式 AI 解決方案的潛在威脅和建議的緩解措施。這包括解決資料中毒、提示注入攻擊或模型輸出中非預期偏差等風險。
+ **控制** – 實作可降低風險的安全控制。對於生成式 AI 應用程式，這包括輸入淨化、輸出篩選和模型使用的存取控制。如需詳細資訊，請參閱本指南中的建議安全控制。
+ **彈性** – 架構師生成式 AI 解決方案，以維持可用性並符合商業服務水準協議 (SLAs)。這包括在不同負載條件下對模型備援、備用機制和可擴展性的考量。
## 建議的安全控制
Defense-in-depth是一種網路安全方法，使用多層安全控制來保護系統、網路或工作負載。不同的 layer 有助於在某個 layer 失敗時偵測和停止攻擊。我們建議至少採用下列控制項，為生成式 AI 工作負載及其環境採用defense-in-depth方法：
+ **身分和存取管理** – AWS 服務，包括 Amazon Bedrock 和 Amazon SageMaker AI，原生整合 AWS Identity and Access Management (IAM)。IAM 可讓您精細控制誰可以對 AWS 帳戶 和 資源執行動作，例如訂閱基礎模型或在模型上執行推論。我們建議您建立具有精細許可的多個 IAM [角色](https://docs.aws.amazon.com/IAM/latest/UserGuide/id_roles.html)。例如，您可以建立下列角色：
+ *評估角色* – 當新的模型新增至 Amazon Bedrock 時，具有此角色的使用者可以在沙盒環境中評估基礎模型。這些使用者應先與您的法務和採購團隊協調，再啟用允許更廣泛存取的訂閱。
+ *一般存取角色* – 具有此角色的使用者可以存取標準使用的基礎模型。
+ *微調模型存取角色* – 具有此角色的使用者可存取使用專屬資料微調的模型。
+ *專用模型存取角色* – 具有此角色的使用者可以存取特定使用案例的先進、高成本模型。
+ 透過 進行**私有網路存取 AWS PrivateLink** – [AWS PrivateLink](https://docs.aws.amazon.com/vpc/latest/privatelink/what-is-privatelink.html)搭配 Amazon Bedrock 和 Amazon SageMaker AI 使用，從您的 VPC 和內部部署網路調用模型。這有助於將敏感資料保留在您的私有網路中。
+ **Amazon Bedrock 護欄** – 實作[護欄](https://docs.aws.amazon.com/bedrock/latest/userguide/agents-guardrail.html)來管理和篩選對基礎模型的請求和回應。這會新增額外的控制層。
+ **安全地存放叫用日誌 **– 為確保 的使用符合您的合規需求，您可以將所有請求和回應儲存到 Amazon S3 儲存貯體或 Amazon CloudWatch Logs。如需詳細資訊，請參閱《[Amazon Bedrock 文件》中的使用 CloudWatch Logs 和 Amazon S3 監控模型調用Amazon S3](https://docs.aws.amazon.com/bedrock/latest/userguide/model-invocation-logging.html)。
+ **稽核和追蹤對基礎模型的存取** – 使用 Amazon CloudWatch，這是一種記錄使用者、角色或 所採取動作的服務 AWS 服務。CloudTrail 會將 Amazon Bedrock 的所有 API 呼叫擷取為事件。如需詳細資訊，請參閱[使用 CloudTrail 監控 Amazon Bedrock API 呼叫](https://docs.aws.amazon.com/bedrock/latest/userguide/logging-using-cloudtrail.html)和[使用 記錄 Amazon SageMaker AI API 呼叫 AWS CloudTrail](https://docs.aws.amazon.com/sagemaker/latest/dg/logging-using-cloudtrail.html)。
+ 針對 **LLM 安全性，請遵循 OWASP 前 10** 項 – 遵守 OWASP 對 LLM 應用程式前 10 項安全風險，並確保您已清楚識別策略和安全控制，以架構分層防禦。如需詳細資訊，請參閱[使用適用於 LLMs 的 OWASP 前 10 大生成式 AI 應用程式的 Architect defense-in-depth安全性](https://aws.amazon.com/blogs/machine-learning/architect-defense-in-depth-security-for-generative-ai-applications-using-the-owasp-top-10-for-llms/) (AWS 部落格文章）。
## 安全性範圍矩陣
您需要的特定安全控制取決於生成式 AI 應用程式的性質。[AWS 生成式 AI 安全範圍矩陣 ](https://aws.amazon.com/blogs/security/securing-generative-ai-an-introduction-to-the-generative-ai-security-scoping-matrix/)(AWS 部落格文章） 提供了一個架構，以根據您的部署範圍了解安全需求。下圖顯示生成式 AI 安全性範圍矩陣，這是一種用於分類使用案例的心理模型。
此矩陣有助於組織根據下列因素識別適當的安全控制：
+ 應用程式是面向消費者還是企業內部
+ 相較於微調，使用預先訓練的模型
+ 正在處理的資料的敏感度
+ 應用程式對業務營運的重要性
## 實作建議
若要為您的生成式 AI 工作負載實作全面的安全和控管架構，請考慮下列建議：
+ 為模型存取和使用建立明確的政策和程序。
+ 在多層實作安全控制，例如網路、應用程式和資料層。
+ 執行定期安全評估和合規稽核。
+ 維護安全措施和控制的詳細文件。
+ 為使用生成式 AI 的團隊提供安全意識培訓。
+ 隨著威脅的演進，定期審查和更新安全控制。