View a markdown version of this page

Amazon SageMaker AI 推論最佳化的安全性 - Amazon SageMaker AI

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

Amazon SageMaker AI 推論最佳化的安全性

的雲端安全性 AWS 是最高優先順序。身為 AWS 客戶,您可以受益於資料中心和網路架構,該架構專為符合最安全敏感組織的需求而建置。

安全性是 AWS 與您之間的共同責任。‬共同責任模型‭‬ 將此描述為雲端‬的‭‬安全和雲端‬內‬的安全:

  • 雲端的安全性 – AWS 負責保護在 AWS Cloud 中執行 AWS 服務的基礎設施。 AWS 也為您提供可安全使用的服務。在 AWS 合規計畫中,第三方稽核員會定期測試並驗證我們的安全功效。若要了解適用於 Amazon SageMaker AI 的合規計畫,請參閱合規計畫範圍內的AWS 服務

  • 雲端的安全性 – 您的責任取決於您使用 AWS 的服務。您也必須對其他因素負責,包括資料的機密性、您公司的要求和適用法律和法規。

本文件可協助您了解如何在使用 SageMaker AI 推論最佳化功能時套用共同責任模型,包括 AI 基準測試任務、AI 建議任務和 AI 工作負載組態。

資料保護

AWS 共同責任模型適用於 Amazon SageMaker AI 推論最佳化中的資料保護。如此模型所述, AWS 負責保護執行所有 AWS 雲端的 全球基礎設施。您負責維護在此基礎設施上託管內容的控制權。

基於資料保護目的,我們建議您保護 AWS 帳戶登入資料,並使用 IAM Identity Center AWS 或 AWS Identity and Access Management (IAM) 設定個別使用者。如此一來,每個使用者都只會獲得授與完成其任務所必須的許可。我們也建議您採用下列方式保護資料:

  • 每個帳戶均要使用多重要素驗證 (MFA)。

  • 使用 SSL/TLS 與 AWS 資源通訊。我們需要 TLS 1.2 並建議使用 TLS 1.3。

  • 使用 AWS CloudTrail 設定 API 和使用者活動記錄。

  • 使用 AWS 加密解決方案,以及 AWS 服務中的所有預設安全控制。

  • 使用進階的受管安全服務 (例如 Amazon Macie),協助探索和保護儲存在 Amazon S3 的敏感資料。

我們強烈建議您絕對不要將客戶的電子郵件地址等機密或敏感資訊,放在標籤或自由格式的文字欄位中,例如名稱欄位。

SageMaker AI 推論最佳化存放的資料

SageMaker AI 推論最佳化存放以下類型的資料:

  • 任務中繼資料 – 當您建立 AI 基準測試任務或 AI 建議任務時,服務會存放任務組態中繼資料,例如任務名稱、狀態、建立時間戳記和資源組態參數。

  • 工作負載組態 – 當您建立 AI 工作負載組態時,服務會存放您提供的組態參數,包括基準參數、資料集組態和標籤。

  • 基準結果和建議 – 工作輸出,例如效能指標、成本估算和部署建議,會以工作中繼資料的形式儲存在服務中。

SageMaker AI 推論最佳化不會儲存模型權重、訓練資料或推論結果。您的模型成品和基準輸出檔案會保留在您 AWS 帳戶中的 Amazon S3 儲存貯體中。

靜態加密

SageMaker AI 推論最佳化預設會加密所有靜態儲存的資料。任務中繼資料和工作負載組態存放在 Amazon DynamoDB 中,並採用靜態加密。您不需要採取任何動作來啟用靜態加密。

傳輸中加密

SageMaker AI 推論最佳化使用 TLS 來加密傳輸中的所有資料。對服務的 API 請求是透過 HTTPS 使用 TLS 1.2 或更新版本提出。

SageMaker AI 推論最佳化和其他 AWS 服務 (例如 Amazon DynamoDB、 AWS Lambda、Amazon S3 和 AWS Secrets Manager) 之間的所有通訊都會使用 TLS 加密連線。

網際網路流量隱私權

SageMaker AI 推論最佳化 API 端點可透過公有網際網路使用 HTTPS 存取。您可以使用 SageMaker AI API 的 VPC 端點,將 VPC 和 SageMaker AI API 之間的流量保留在 AWS 網路中,而不會周遊公有網際網路。

當您為 AI 基準測試任務提供 VPC 組態時,服務會在您指定的 VPC 子網路和安全群組內建立資源。

身分和存取權管理

Amazon SageMaker AI 推論最佳化使用 AWS Identity and Access Management (IAM) 控制對其資源和操作的存取。

SageMaker AI 推論最佳化如何與 IAM 搭配使用

SageMaker AI 推論最佳化是透過 SageMaker AI API 存取。所有 API 呼叫都會使用 IAM 進行身分驗證和授權。

推論最佳化 APIs 使用以下 IAM 動作命名空間:

  • sagemaker:CreateAIWorkloadConfig

  • sagemaker:DescribeAIWorkloadConfig

  • sagemaker:ListAIWorkloadConfigs

  • sagemaker:DeleteAIWorkloadConfig

  • sagemaker:CreateAIBenchmarkJob

  • sagemaker:DescribeAIBenchmarkJob

  • sagemaker:ListAIBenchmarkJobs

  • sagemaker:StopAIBenchmarkJob

  • sagemaker:DeleteAIBenchmarkJob

  • sagemaker:CreateAIRecommendationJob

  • sagemaker:DescribeAIRecommendationJob

  • sagemaker:ListAIRecommendationJobs

  • sagemaker:StopAIRecommendationJob

  • sagemaker:DeleteAIRecommendationJob

執行角色

當您建立 AI 基準測試任務或 AI 建議任務時,您會提供 IAM 執行角色 (RoleArn)。服務會擔任此角色在 AWS 您的帳戶中執行操作,例如:

  • 建立和管理 SageMaker AI 訓練任務、端點和最佳化任務

  • 從 Amazon S3 讀取模型成品

  • 將基準結果寫入 Amazon S3

  • 從 AWS Secrets Manager 存取秘密

執行角色必須具有允許 SageMaker AI 服務採用的信任政策。如需建立 SageMaker AI 執行角色的詳細資訊,請參閱 SageMaker AI 角色

資源隔離

SageMaker AI 推論最佳化會強制執行帳戶層級隔離。每個任務和工作負載組態的範圍都限定於建立任務和工作負載 AWS 組態的帳戶。您無法存取或修改屬於另一個 AWS 帳戶的資源。

服務建立的所有 SageMaker AI 資源 (訓練任務、端點、最佳化任務) 都是使用執行角色在 AWS 您的帳戶中建立,並受您帳戶的 IAM 政策和服務配額約束。

安全最佳實務

以下最佳實務為一般準則,並不代表完整的安全解決方案。這些最佳實務可能不適用或無法滿足您的環境需求,因此請將其視為實用建議就好,而不要當作是指示。

預防性最佳實務

  • 使用 IAM 政策的最低權限。僅授予使用者和執行角色所需的最低許可。避免在 IAM 政策中使用萬用字元 (*) 動作或資源。

  • 針對不同的工作負載使用不同的執行角色。為基準任務和建議任務建立專用 IAM 執行角色,而不是在所有工作負載中共用單一角色。

  • 針對敏感值使用 AWS Secrets Manager。當您的工作負載規格需要 Hugging Face 存取權杖等敏感值時,請使用 secrets 欄位來參考 ARN 的 AWS Secrets Manager 秘密,而不是以純文字參數傳遞秘密。

  • 限制執行角色信任政策。在執行角色信任政策中使用 aws:SourceAccountaws:SourceArn條件,以防止混淆代理人問題。

  • 將 Amazon S3 許可範圍限定為特定儲存貯體。限制s3:GetObjects3:PutObject許可用於模型成品和基準輸出的特定 Amazon S3 儲存貯體和字首。

  • 啟用 Amazon S3 儲存貯體加密。確保用於模型成品和基準結果的 Amazon S3 儲存貯體已啟用伺服器端加密。

  • 使用標籤進行存取控制。將標籤套用至 AI 工作負載組態、基準任務和建議任務。您可以在 IAM 政策中使用標籤型條件來控制對特定資源的存取。

Detective 最佳實務

  • 啟用 AWS CloudTrail。CloudTrail 會提供帳戶中所有 SageMaker AI API 呼叫的記錄,包括推論最佳化操作。

  • 使用 Amazon CloudWatch 監控 。使用 Amazon CloudWatch 指標和警示來監控基準和建議任務的狀態和效能。

  • 檢閱 IAM Access Analyzer 調查結果。使用 IAM Access Analyzer 來識別授予對 SageMaker AI 資源過度廣泛存取權的 IAM 政策。

  • 啟用 Amazon S3 存取記錄。在用於模型成品和基準結果的 Amazon S3 儲存貯體上啟用伺服器存取記錄,以追蹤存取模式。