理解モデルを蒸留するためのデータの準備

最初のステップとして、テキスト理解のプロンプトのベストプラクティス に従って Amazon Nova Premier と Amazon Nova Pro で入力プロンプトを調整し、教師モデルを最大限に活用するようにプロンプトが最適化されていることを確認します。

独自のプロンプトを使用して蒸留ジョブの入力データセットを準備する場合は、以下の推奨事項に従ってください。

データセット形式の例

次のプロンプトは、モデル蒸留にラベル付きプロンプトとラベルなしプロンプトの両方を提供する方法の例を示しています。

ラベルのないプロンプトを使用した蒸留

{
    "schemaVersion": "bedrock-conversation-2024",
    "system": [
        {
            "text": "A chat between a curious User and an artificial intelligence Bot. The Bot gives helpful, detailed, and polite answers to the User's questions."
        }
    ],
    "messages": [
        {
            "role": "user",
            "content": [
                {
                    "text": "Why is the sky blue?"
                }
            ]
        }
    ]
}

ラベルのないプロンプトを使用した蒸留

{
    "schemaVersion": "bedrock-conversation-2024",
    "system": [
        {
            "text": "A chat between a curious User and an artificial intelligence Bot. The Bot gives helpful, detailed, and polite answers to the User's questions."
        }
    ],
    "messages": [
        {
            "role": "user",
            "content": [
                {
                    "text": "Why is the sky blue?"
                }
            ]
        },
        {
            "role": "assistant",
            "content": [
                {
                    "text": "The sky is blue because molecules in the air scatter blue light from the Sun more than other colors."
                }
            ]
        }
    ]
}

データセットの制約

モデル蒸留を実行する場合、指定する必要があるプロンプトまたはプロンプトとレスポンスのペアの最小数と最大数があります。