이해 모델 증류를 위한 데이터 준비

첫 번째 단계로, 텍스트 이해 프롬프팅 모범 사례를 따르고 Amazon Nova Premier와 Amazon Nova Pro로 입력 프롬프트를 조정하여 교사 모델을 최대한 활용할 수 있도록 프롬프트가 최적화되었는지 확인합니다.

자체 프롬프트를 사용하여 증류 작업을 위한 입력 데이터세트를 준비할 때는 아래 권장 사항을 따르세요.

예제 데이터세트 형식

다음 프롬프트는 모델 증류을 위해 레이블이 지정된 프롬프트와 레이블이 지정되지 않은 프롬프트를 모두 제공하는 방법의 예를 제공합니다.

레이블이 없는 프롬프트를 사용한 증류

{
    "schemaVersion": "bedrock-conversation-2024",
    "system": [
        {
            "text": "A chat between a curious User and an artificial intelligence Bot. The Bot gives helpful, detailed, and polite answers to the User's questions."
        }
    ],
    "messages": [
        {
            "role": "user",
            "content": [
                {
                    "text": "Why is the sky blue?"
                }
            ]
        }
    ]
}

레이블이 지정된 프롬프트를 사용한 증류

{
    "schemaVersion": "bedrock-conversation-2024",
    "system": [
        {
            "text": "A chat between a curious User and an artificial intelligence Bot. The Bot gives helpful, detailed, and polite answers to the User's questions."
        }
    ],
    "messages": [
        {
            "role": "user",
            "content": [
                {
                    "text": "Why is the sky blue?"
                }
            ]
        },
        {
            "role": "assistant",
            "content": [
                {
                    "text": "The sky is blue because molecules in the air scatter blue light from the Sun more than other colors."
                }
            ]
        }
    ]
}

데이터세트 제약 조건

모델 증류를 수행할 때 제공해야 하는 프롬프트 또는 프롬프트-응답 페어의 최소 및 최대 수가 있습니다.