責任ある AI ツールキットとコンテンツモデレーション

責任ある AI ツールキット

Nova Forge は、トレーニングプロセス中にモデルを Amazon Nova の責任ある AI ガイドラインに合わせるためのトレーニングおよび評価データ、推論中にモデルレスポンスをモデレートするためのランタイムコントロールを含む、責任ある AI ツールキットを提供します。

トレーニングデータ – 責任ある AI の原則、安全上の考慮事項、責任あるテクノロジーのデプロイを強調するケースとシナリオは、継続的な事前トレーニング中にモデルを責任を持って調整するためにデータミキシングで利用できます。

評価 – 不適切、有害、または誤ったコンテンツを検出および拒否するモデルの能力をテストする評価は、ベースモデルのパフォーマンスとカスタムモデルのパフォーマンスの差を決定するベンチマークタスクとして利用できます。

ランタイムコントロール – デフォルトでは、Amazon Nova のランタイムは推論中に中程度のモデルレスポンスを制御します。このランタイムコントロールを変更するには、AWS アカウントマネージャーに連絡して、Amazon Nova のカスタマイズ可能なコンテンツモデレーション設定をリクエストします。

安全性は、AWS とそのユーザーの間で責任が共有されます。ベースモデルを変更するか、継続的な事前トレーニングを使用して特定のユースケースのパフォーマンスを向上させると、新しいモデルの安全性、公平性、その他の特性に影響を与える可能性があります。堅牢な適応方法により、モデルがカスタマイズされなかったタスクのモデルパフォーマンスへの影響を最小限に抑えながら、ベースモデルに組み込まれた安全性、公平性、その他の保護への変更を最小限に抑えます。テスト結果が安全性、公平性、その他の特性、および全体的な有効性に関する特定の期待を満たしているかどうかを判断するには、ユースケースを表すデータセットに対するアプリケーションのエンドツーエンドテストが必要です。詳細については、「Amazon Web Services の責任ある AI 使用ガイド」、「Amazon Web Services の責任ある AI ポリシー」、「Amazon Web Services の適正利用規約」、および「Amazon Web Services のサービス条件」を参照してください。