在 Amazon SageMaker 推論濫用偵測中部署 Amazon Nova Forge 模型 - Amazon Nova

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

在 Amazon SageMaker 推論濫用偵測中部署 Amazon Nova Forge 模型

AWS 致力於負責任地使用 AI。為了協助防止潛在的濫用，當您在 Amazon SageMaker 推論中部署 Amazon Nova Forge 模型時，SageMaker 推論會實作自動濫用偵測機制，以識別可能違反 AWS可接受的使用政策和服務條款，包括負責任的 AI 政策。

我們的濫用偵測機制是完全自動化的，因此沒有人工審查或存取使用者輸入或模型輸出。

自動濫用偵測包括：

  • 分類內容 – 我們使用分類器來偵測使用者輸入和模型輸出中的有害內容 （例如煽動暴力的內容）。分類器是一種演算法，用於處理模型輸入和輸出，並指派傷害類型和可信度。我們可能會在 Amazon Nova Forge Model 用量上執行這些分類器。分類程序會自動執行，不涉及對使用者輸入或模型輸出進行人工審查。

  • 識別模式 – 我們使用分類器指標來識別潛在的違規和重複行為。我們可能會編譯和共用匿名分類器指標。Amazon SageMaker Inference 不會儲存使用者輸入或模型輸出。

  • 偵測和封鎖兒童性濫用資料 (CSAM) – 您對您 （和最終使用者） 上傳至 Amazon SageMaker Inference 的內容負責，並且必須確保此內容沒有非法影像。為了協助停止 CSAM 的傳播，在 Amazon SageMaker 推論中部署 Amazon Nova Forge 模型時，SageMaker 推論可能會使用自動濫用偵測機制 （例如雜湊比對技術或分類器） 來偵測明顯的 CSAM。如果 Amazon SageMaker Inference 在您的映像輸入中偵測到明顯的 CSAM，Amazon SageMaker Inference 會封鎖請求，而且您會收到自動錯誤訊息。Amazon SageMaker Inference 也可以向國家缺少和入侵兒童中心 (NCMEC) 或相關當局提交報告。我們非常重視 CSAM，並將繼續更新我們的偵測、封鎖和報告機制。相關法律可能會要求您採取其他動作，而且您必須對這些動作負責。

一旦我們的自動濫用偵測機制發現潛在違規，我們可能會請求您使用 Amazon SageMaker 推論以及遵守服務條款的相關資訊。如果您沒有回應、不願意或無法遵守這些條款或政策， AWS 可能會暫停您對 Amazon SageMaker 推論的存取。如果我們的自動化測試偵測到模型回應與我們的條款和政策不一致，則可能會向您收取失敗的推論任務的費用。

如果您有其他問題，請聯絡 AWS Support。如需詳細資訊，請參閱 Amazon SageMaker FAQs。