負責任的 AI Toolkit 和內容管制 - Amazon Nova
負責任的 AI Toolkit可自訂的內容管制

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

負責任的 AI Toolkit 和內容管制

負責任的 AI Toolkit

Nova Forge 提供負責任的 AI Toolkit，其中包含訓練和評估資料，以在訓練過程中使模型與 Amazon Nova 負責任的 AI 指導方針保持一致，以及在推論期間控制執行時間以調節模型回應。

訓練資料 – 強調負責任 AI 原則、安全考量和負責任技術部署的案例和案例可用於資料混合，以便在繼續訓練期間以負責任的方式調整模型。

評估 – 測試模型偵測和拒絕不適當、有害或不正確內容能力的評估可作為基準任務，以確定基本模型效能和自訂模型效能之間的差異。

執行時間控制 – 根據預設，Amazon Nova 的執行時間會在推論期間控制中等模型回應。若要修改這些執行時間控制項，請聯絡 Amazon Web Services 客戶經理，請求 Amazon Nova 的可自訂內容管制設定。

安全是 Amazon Web Services 與其使用者之間的共同責任。變更基礎模型或使用持續的預先訓練來改善特定使用案例的效能，可能會影響新模型的安全性、公平性和其他屬性。強大的適應方法可將基本模型內建的安全、公平性和其他保護變更降至最低，同時將模型未自訂任務對模型效能的影響降至最低。需要對代表使用案例的資料集上的應用程式End-to-end測試，以判斷測試結果是否符合對安全性、公平性和其他屬性的特定期望，以及整體有效性。如需詳細資訊，請參閱 Amazon Web Services 負責任地使用 AI 指南、Amazon Web Services 負責任的 AI 政策、Amazon Web Services 可接受的使用政策和 Amazon Web Services 服務條款。

可自訂的內容管制

可自訂的內容管制設定 (CCMS) 允許調整與業務需求相關的控制，同時維護基本、不可設定的控制，以確保負責任地使用 AI。

這些設定允許透過三種可用組態產生內容：

  • 僅限安全性

  • 結合安全、敏感內容和公平性

  • 合併所有類別

四個內容管制類別為：

  1. 安全 – 涵蓋危險的活動、武器和管制物質

  2. 敏感內容 – 包括褻瀆、裸露和霸凌

  3. 公平性 – 解決偏差和文化考量

  4. 安全性 - 涉及網路犯罪、惡意軟體和惡意內容

無論您的 CCMS 組態為何，Amazon Nova 都會強制執行基本、不可設定的控制，以確保負責任地使用 AI，例如防止兒童受到傷害並保留隱私權的控制。

使用 CCMS 時，建議使用持續預先訓練 (CPT)，並從預先 RAI 對齊檢查點 （僅部分或完全預先訓練的文字） 開始，而不是完全對齊的生產檢查點。這些檢查點尚未經過安全訓練或轉向特定的 RAI 行為，可讓您更有效率地根據內容管制要求進行自訂。

提示

搭配資料混合使用 CCMS 時，請考慮調整 nova_data 組態中的「rai」類別百分比，以符合您的特定內容管制需求。

可用性

CCMS 目前可供核准的客戶使用：

  • Amazon Nova Lite 1.0 和 Pro 1.0 模型

  • Amazon Bedrock 隨需推論

  • us-east-1 （維吉尼亞北部） 區域

若要為 Forge 模型啟用 CCMS，請聯絡 Amazon Web Services 客戶經理。