책임 있는 AI

콘텐츠 조정 설정: Amazon Nova Forge 고객은 Amazon Nova Lite 1.0 및 Pro 1.0 모델의 사용자 지정 가능한 콘텐츠 조정 설정(CCMS)에 액세스할 수 있습니다. CCMS를 사용하면 특정 비즈니스 요구 사항에 맞게 콘텐츠 조정 제어를 조정하는 동시에 핵심적인 책임 있는 AI 보호를 유지 관리할 수 있습니다. 비즈니스 사용 사례가 CCMS에 적합한지 확인하려면 Amazon Web Services 계정 관리자에게 문의하세요.

Amazon Nova Forge는 Amazon Nova의 책임 있는 AI 지침에 맞게 모델을 조정하는 데 도움이 되는 훈련 데이터, 평가 벤치마크 및 런타임 제어가 포함된 책임 있는 AI 도구 키트를 제공합니다.

훈련 데이터: 데이터 혼합의 'RAI' 범주에는 책임 있는 AI 원칙, 안전 고려 사항 및 책임 있는 기술 배포를 강조하는 사례와 시나리오가 포함됩니다. 이를 사용하여 지속적인 사전 훈련 중에 모델을 책임감 있게 조정합니다.

평가: 벤치마크 태스크를 사용하여 부적절하거나 유해하거나 잘못된 콘텐츠를 감지 및 거부하는 모델의 기능을 테스트할 수 있습니다. 이러한 평가를 사용하여 기본 모델 성능과 사용자 지정 모델 성능의 차이를 측정합니다.

런타임 제어: 기본적으로 Amazon Nova의 런타임은 추론 중에 중간 모델 응답을 제어합니다. 특정 비즈니스 사례에 맞게 이러한 제어를 수정하려면 Amazon Web Services 계정 관리자에게 문의하여 사용자 지정 가능한 콘텐츠 조정 설정(CCMS)을 요청합니다.

안전에 대한 공동 책임

안전은 Amazon Web Services와 고객 간의 공동 책임입니다. 기본 모델을 변경하거나 지속적인 사전 훈련을 사용하여 특정 사용 사례의 성능을 개선하면 새 모델의 안전성, 공정성 및 기타 속성에 영향을 미칠 수 있습니다.

강력한 적응 방법을 사용하여 기본 모델에 빌드된 안전, 공정성 및 기타 보호 기능의 변경을 최소화하는 동시에 모델이 사용자 지정되지 않은 태스크의 모델 성능에 미치는 영향을 최소화합니다.

다음과 같은 작업을 담당합니다.

자세한 내용은 Amazon Web Services 책임 있는 AI 사용 가이드, Amazon Web Services 책임 있는 AI 정책, AWS 이용 정책, 사용하려는 서비스의 AWS 서비스 약관을 참조하세요.

사용자 지정 가능한 콘텐츠 조정 설정(CCMS)

CCMS를 사용하면 AI의 책임 있는 사용을 보장하는 필수적이고 구성 불가능한 제어를 유지 관리하면서 비즈니스 요구 사항과 관련된 제어를 조정할 수 있습니다.

이러한 설정을 사용하면 다음과 같은 세 가지 구성을 통해 콘텐츠를 생성할 수 있습니다.

4개의 콘텐츠 조정 범주는 다음과 같습니다.

CCMS 구성에 상관없이 Amazon Nova는 아동에 대한 피해 방지 및 개인 정보 보호와 같은 AI의 책임 있는 사용을 보장하기 위한 필수적이고 구성 불가능한 제어를 시행합니다.

CCMS 사용에 대한 권장 사항

CCMS를 사용하는 경우 GA/최종 체크포인트 대신 지속적인 사전 훈련(CPT)을 사용하고 사전 RAI 조정 체크포인트(PRE-TRAINING-Early, PRE-TRAINING-Mid 또는 PRE-TRAINING-Final)에서 시작하는 것이 좋습니다. 이러한 체크포인트는 안전 훈련을 거치지 않았거나 특정 RAI 동작에 편향되지 않았으므로 콘텐츠 조정 요구 사항에 맞게 보다 효율적으로 사용자 지정할 수 있습니다.

팁: 데이터 혼합과 함께 CCMS를 사용하는 경우 특정 콘텐츠 조정 요구 사항에 맞게 nova_data 구성에서 'rai' 범주 백분율을 조정하는 방법을 고려합니다.

가용성

CCMS는 현재 다음을 사용하는 승인된 고객에게 제공됩니다.

Forge 모델에 대해 CCMS를 활성화하려면 Amazon Web Services 계정 관리자에게 문의하세요.