MetaLlama 3.2 モデルのカスタマイズハイパーパラメータ - Amazon Bedrock

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

MetaLlama 3.2 モデルのカスタマイズハイパーパラメータ

Meta Llama 3.2 1B、3B、11B、90B のモデルは、モデルのカスタマイズで以下の 3 つのハイパーパラメータをサポートしています。指定するエポックの数に応じて処理するトークン数が増大するため、モデルのカスタマイズコストが増加します。各エポックは、トレーニングデータセット全体を 1 回処理します。料金に関する詳細については、「Amazon Bedrock の料金」を参照してください。詳細については、「モデルをカスタマイズしてユースケースのパフォーマンスを向上させる」を参照してください。

Meta Llama モデルのファインチューニングについては、https://ai.meta.com/llama/get-started/#fine-tuning にある Meta のドキュメントを参照してください。

ハイパーパラメータ (コンソール) ハイパーパラメータ (API) 定義 最小値 最大値 デフォルト
エポック epochCount トレーニングデータセット全体を通した反復回数。 1 10 5
バッチサイズ batchSize モデルパラメーターの更新前に処理されたサンプルの数 1 1 1
学習率 learningRate 各バッチ後にモデルパラメータが更新されるレート 5.00E-6 0.1 1.00E-4