负责任的人工智能工具包和内容审核

负责任的人工智能工具包

Nova Forge 提供了负责任的人工智能工具包，其中包含训练和评估数据，可在训练过程中使模型符合 Amazon Nova 负责任的人工智能指南，并在推理过程中实施运行时控制以调节模型响应。

训练数据：强调负责任的人工智能原则、安全考虑和负责任技术部署的案例和场景可用于数据混合，以便在持续预训练期间负责任地使模型对齐。

评估：用于测试模型检测和拒绝不当、有害或不正确内容能力的评估，作为一项基准测试任务提供，以确定基础模型性能与自定义模型性能之间的差异。

运行时控制：默认情况下，Amazon Nova 的运行时控制会在推理期间对模型响应进行审核。要修改这些运行时控制，请联系 AWS 客户经理，申请 Amazon Nova 的可自定义内容审核设置。

安全是 AWS 与用户的共同责任。更改基础模型或使用持续预训练来提高特定使用案例的性能，可能会影响新模型的安全性、公平性及其他特性。一种稳健的适应方法，可以最大限度地减少对基础模型中内置的安全性、公平性及其他保护措施的更改，同时最大限度地减少对模型未经自定义的任务的性能影响。需要对在代表使用案例的数据集上的应用程序进行端到端测试，以确定测试结果是否符合对安全性、公平性及其他属性的特定期望，以及整体有效性。有关更多信息，请参阅《Amazon Web Services 负责任的人工智能使用指南》、《Amazon Web Services 负责任的人工智能政策》、《Amazon Web Services 可接受使用政策》以及《Amazon Web Services 服务条款》。