강화 미세 조정으로 Amazon Nova 모델 미세 조정 - Amazon Bedrock

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

강화 미세 조정으로 Amazon Nova 모델 미세 조정

미세 조정 전에 Amazon Bedrock에 미세 조정 프로세스를 생성하고 관리할 수 있는 특정 권한이 필요하므로 사전 요구 사항이 있는지 확인합니다. 포괄적인 보안 및 권한 정보는 섹션을 참조하세요Amazon Nova 모델의 액세스 및 보안.

Amazon Nova 모델에 대한 강화 미세 조정을 5단계로 실행합니다.

  1. 훈련 데이터 세트 제공 - 훈련 데이터 세트를 강화 미세 조정하기 위해 필요한 형식(예: JSONL)의 프롬프트를 업로드합니다. 자세한 내용은 Amazon Nova 모델에 대한 데이터 준비 단원을 참조하십시오.

  2. 보상 함수 구성(grader) - 정확성, 구조, 어조 또는 기타 목표에 따라 모델 응답을 채점하도록 grader를 정의합니다. 보상 함수는 Lambda를 사용하여 실행하여 목표 점수를 계산할 수 있습니다. 또한 사용자가 구성한 기준과 원칙에 따라 모델을 판사로 선택하고(콘솔을 통해) 응답을 등급을 매길 수 있습니다(콘솔은 이를 Lambda 함수로 자동 변환). 자세한 내용은 Amazon Nova 모델에 대한 보상 함수 설정 단원을 참조하십시오.

  3. 강화 미세 조정 작업 제출 - 기본 모델, 데이터 세트, 보상 함수 및 하이퍼파라미터와 같은 기타 선택적 설정을 지정하여 강화 미세 조정 작업을 시작합니다. 자세한 내용은 Amazon Nova 모델에 대한 미세 조정 작업 생성 및 관리 단원을 참조하십시오.

  4. 훈련 모니터링 - 완료 시까지 작업 상태, 보상 지표 및 훈련 진행 상황을 추적합니다. 자세한 내용은 RFT 훈련 작업 모니터링 단원을 참조하십시오.

  5. 미세 조정된 모델 사용 - 작업 완료 후 온디맨드 추론을 위해 클릭 한 번으로 결과 RFT 모델을 배포합니다. 일관된 성능이 필요한 미션 크리티컬 워크로드에도 프로비저닝된 처리량을 사용할 수 있습니다. 사용자 지정 모델의 추론 설정을(를) 참조하세요. 플레이그라운드에서 테스트를 사용하여 응답을 평가하고 기본 모델과 비교합니다.

중요

모델을 강화 미세 조정하기 위해 Amazon Bedrock에 최대 20K000개의 프롬프트를 제공할 수 있습니다.

지원되는 Nova 모델

다음 표에는 강화 미세 조정으로 사용자 지정할 수 있는 Amazon Nova 모델이 나와 있습니다.

참고

개방형 모델을 포함하여 지원되는 추가 모델에 대한 자세한 내용은 섹션을 참조하세요OpenAI호환 APIs 사용하여 개방형 모델 미세 조정.

강화 미세 조정에 지원되는 모델
제공업체 모델 모델 ID 단일 리전 모델 지원
Amazon Nova 2 Lite amazon.nova-2-lite-v1:0:256k us-east-1