책임 있는 AI 도구 키트 및 콘텐츠 조정

책임 있는 AI 도구 키트

Nova Forge는 훈련 프로세스 중에 모델을 Amazon Nova의 책임 있는 AI 지침에 맞추기 위한 훈련 및 평가 데이터를 포함하는 책임 있는 AI 툴킷을 제공하고 추론 중에 모델 응답을 조정하기 위한 런타임 제어를 제공합니다.

훈련 데이터 - 책임 있는 AI 원칙, 안전 고려 사항 및 책임 있는 기술 배포를 강조하는 사례 및 시나리오를 데이터 혼합에 사용하여 지속적인 사전 훈련 중에 모델을 책임감 있게 조정할 수 있습니다.

평가 - 부적절하거나 유해하거나 잘못된 콘텐츠를 감지 및 거부하는 모델의 기능을 테스트하는 평가는 기본 모델 성능과 사용자 지정 모델 성능 간 델타를 결정하는 벤치마크 태스크로 사용할 수 있습니다.

런타임 제어 - 기본적으로 Amazon Nova의 런타임은 추론 중에 중간 모델 응답을 제어합니다. 이러한 런타임 제어를 수정하려면 Amazon Web Services 계정 관리자에게 문의하여 Amazon Nova의 사용자 지정 가능한 콘텐츠 조정 설정을 요청합니다.

보안은 Amazon Web Services와 사용자 간의 공동 책임입니다. 기본 모델을 변경하거나 지속적인 사전 훈련을 사용하여 특정 사용 사례의 성능을 개선하면 새 모델의 안전성, 공정성 및 기타 속성에 영향을 미칠 수 있습니다. 강력한 적응 방법은 기본 모델에 빌드된 안전, 공정성 및 기타 보호 기능의 변경을 최소화하는 동시에 모델이 사용자 지정되지 않은 태스크의 모델 성능에 미치는 영향을 최소화합니다. 테스트 결과가 안전성, 공정성 및 기타 속성과 전반적인 효과에 대한 특정 기대치를 충족하는지 확인하려면 사용 사례를 대표하는 데이터세트에서 애플리케이션을 포괄적으로 테스트해야 합니다. 자세한 내용은 Amazon Web Services 책임 있는 AI 사용 가이드, Amazon Web Services 책임 있는 AI 정책, Amazon Web Services 이용 정책, Amazon Web Services 서비스 약관을 참조하세요.

사용자 지정 가능한 콘텐츠 조정

사용자 지정 가능한 콘텐츠 조정 설정(CCMS)을 사용하면 AI의 책임 있는 사용을 보장하는 필수적이고 구성 불가능한 제어를 유지 관리하면서 비즈니스 요구 사항과 관련된 제어를 조정할 수 있습니다.

이러한 설정을 사용하면 다음과 같은 세 가지 구성을 통해 콘텐츠를 생성할 수 있습니다.

4개의 콘텐츠 조정 범주는 다음과 같습니다.

CCMS 구성에 상관없이 Amazon Nova는 아동에 대한 피해 방지 및 개인 정보 보호와 같은 AI의 책임 있는 사용을 보장하기 위한 필수적이고 구성 불가능한 제어를 시행합니다.

CCMS를 사용하는 경우 완전히 조정된 프로덕션 체크포인트 대신 지속적인 사전 훈련(CPT)을 사용하고 사전 RAI 조정 체크포인트(부분 또는 완전히 사전 훈련된 텍스트 전용)에서 시작하는 것이 좋습니다. 이러한 체크포인트는 안전 훈련을 거치지 않았거나 특정 RAI 동작에 편향되지 않았으므로 콘텐츠 조정 요구 사항에 맞게 보다 효율적으로 사용자 지정할 수 있습니다.

가용성

CCMS는 현재 다음을 사용하는 승인된 고객에게 제공됩니다.

Forge 모델에 대해 CCMS를 활성화하려면 Amazon Web Services 계정 관리자에게 문의하세요.