翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

オプション 2: データ準備に呼び出しログを使用する

蒸留ジョブを作成するときに、CloudWatch Logs 呼び出しログからの既存の教師応答を Amazon Bedrock でトレーニングデータとして使用できます。Amazon Bedrock の場合、呼び出しログはモデル呼び出しの詳細なレコードです。

モデル蒸留で呼び出しのログ記録を使用するには、モデル呼び出しのログ記録をオンに設定し、モデル呼び出しオペレーションの 1 つを使用し、ログの保存先として Amazon S3 バケットを設定していることを確認します。モデル蒸留ジョブを開始する前に、ログにアクセスするための Amazon Bedrock アクセス許可を付与する必要があります。呼び出しログの設定の詳細については、「Amazon CloudWatch Logs を使用してモデル呼び出しをモニタリングする」を参照してください。

このオプションを使用すると、Amazon Bedrock でプロンプトのみを使用するか、呼び出しログからのプロンプトと応答のペアを使用するかを指定できます。Amazon Bedrock でプロンプトのみを使用する場合、Amazon Bedrock では教師モデルから高品質の多様な応答を生成するために所有データ合成テクニックが追加されることがあります。Amazon Bedrock でプロンプトと応答のペアを使用する場合、Amazon Bedrock では教師モデルからの応答を再生成されません。Amazon Bedrock では、呼び出しログからの応答を直接使用して、生徒モデルをファインチューニングします。

必要に応じて、いずれかのモデル呼び出しオペレーションを使用して呼び出しログのプロンプトと応答のペアにリクエストメタデータを追加し、後でそれを使用してログをフィルタリングできます。Amazon Bedrock では、フィルタリングされたログを使用して生徒モデルをファインチューニングできます。

複数のリクエストメタデータを使用してログをフィルタリングするには、1 つのブール演算子 (AND、OR、または NOT) を使用します。オペレーションを組み合わせることはできません。単一のリクエストメタデータのフィルタリングには、ブール演算子 NOT を使用します。

モデル蒸留で呼び出しログのプロンプトと応答にリクエストメタデータを追加する

モデル呼び出しのログ記録は、Amazon Bedrock で使用されるすべての呼び出しの呼び出しログ、モデル入力データ (プロンプト)、モデル出力データ (応答) などを収集します。ログ記録を有効にしている場合は、Invoke または Converse の API オペレーションを通じて Amazon Bedrock 基盤モデルを操作するたびにログを収集できます。Amazon Bedrock で呼び出しログからのプロンプトと関連する応答を使用して生徒モデルをファインチューニングする場合は、Amazon Bedrock にこれらのログへのアクセスを付与する必要があります。モデルによって既に生成されている応答を使用すると、より迅速に生徒モデルをファインチューニングできます。呼び出しログからの応答を使用すると、モデル蒸留のコスト効率も向上しますが、Amazon Bedrock 所有データ合成テクニックは追加されないため、よりパフォーマンスの高い蒸留モデルになる可能性があります。

呼び出しログを使用すると、Amazon Bedrock でモデル蒸留に使用するプロンプトと応答のペアを特定できます。これらのプロンプトと応答のペアは、特定のユースケースで使用できます。蒸留に使用するプロンプトと応答のペアを特定できるようにするには、モデルを呼び出すとき、または Converse API オペレーションを使用するときに、プロンプトと応答のペアにリクエストメタデータ文字列を追加する必要があります。リクエストメタデータは、"priority" : "High" の形式で提供されます。

Invoke または Converse の API オペレーションを使用してモデルを操作し続けると、インタラクションとリクエストメタデータが呼び出しログに記録されます。リクエストメタデータを示す InvokeModel 呼び出しからの呼び出しログの例を次に示します。

{
    "schemaType": "ModelInvocationLog",
    "schemaVersion": "1.0",
    "timestamp": "2024-09-11T17:16:18Z",
    "accountId": "XXXXX",
    "identity": {
        "arn": "arn:aws:sts::XXXXXXX:assumed-role/Admin/XXXXXX"
    },
    "region": "us-east-1",
    "requestId": "7ee514f3-9eff-467c-af75-8fd564ce58e5",
    "operation": "InvokeModel",
    "modelId": "meta.llama3-1-405b-instruct-v1:0",
    "input": {
        "inputContentType": "application/json",
        "inputBodyJson": {
            "prompt": "story of two dogs",
            "max_tokens_to_sample": 300
        },
        "inputTokenCount": 13
    },
    "output": {
        "outputContentType": "application/json",
        "outputBodyJson": {
            "type": "completion",
            "completion": " Here is a story about two dogs:\n\nRex and Charlie were best friends who lived next door to each other. Every morning, their owners would let them out into the backyard to play. Rex was a golden retriever with long, shaggy fur. He loved to run and chase sticks. Charlie was a corgi with short legs and a big smile. He was happy just sniffing the grass and rolling around. \n\nThe two dogs spent every day playing together. Rex would grab a stick and bring it over to Charlie, wagging his tail excitedly. Charlie would take the other end of the stick in his mouth and they'd have a friendly game of tug-of-war. After tiring themselves out, they'd flop down in the warm sunshine for a nap. \n\nAt lunchtime, their owners would call them in for food. Rex would gobble up his kibble hungrily while Charlie ate his at a more leisurely pace. After lunch, it was right back outside for more playtime. The afternoon sunbeams would light up their fur as they chased each other around the yard. \n\nWhen it started getting late, their owners called them in for the night. Rex and Charlie would head inside, tired but happy after another fun day of play. After slurping up fresh water from their bowls, they'd curl up on their beds, Rex's fluffy golden tail tucked over his nose and little",
            "stop_reason": "max_tokens",
            "stop": null
        },
        "outputTokenCount": 300
    },
    "requestMetadata": {
        "project": "CustomerService",
        "intent": "ComplaintResolution",
        "priority": "High"
    }
}
     

モデル蒸留ジョブを開始するときに、呼び出しログを入力データソースとして指定できます。Amazon Bedrock コンソール、 API、または AWSSDK を使用してAWS CLI、モデル抽出ジョブを開始できます。

リクエストメタデータを提供するための要件

リクエストメタデータは、次の要件を満たしている必要があります。

リクエストメタデータのフィルターの使用

リクエストメタデータにフィルターを適用して、生徒モデルをファインチューニングするために蒸留に含めるプロンプトと応答のペアを選択します。例えば、「project」:「CustomerService」および「priority」:「High」のリクエストメタデータを持つものだけを含める場合があるでしょう。

複数のリクエストメタデータを使用してログをフィルタリングするには、1 つのブール演算子 (AND、OR、または NOT) を使用します。オペレーションを組み合わせることはできません。単一のリクエストメタデータのフィルタリングには、ブール演算子 NOT を使用します。

モデル蒸留ジョブを開始するときに、入力データソースとして呼び出しログを指定し、プロンプトと応答のペアを選択するために使用するフィルターを指定できます。Amazon Bedrock コンソール、 API、または AWSSDK を使用してAWS CLI、モデル抽出ジョブを開始できます。詳細については、「Amazon Bedrock でモデル蒸留ジョブを送信する」を参照してください。

データセットを検証する

蒸留ジョブを実行する前に、Python スクリプトを使用して入力データセットを検証できます。