MetaLlama 3.1 モデルのカスタマイズハイパーパラメータ - Amazon Bedrock

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

MetaLlama 3.1 モデルのカスタマイズハイパーパラメータ

Meta Llama 3.1 8B および 70B モデルは、モデルのカスタマイズ用の以下のハイパーパラメータをサポートしています。指定したエポックの数により、より多くのトークンを処理することでモデルのカスタマイズコストが増加します。各エポックは、トレーニングデータセット全体を 1 回処理します。料金に関する詳細については、「Amazon Bedrock の料金」を参照してください。詳細については、「モデルをカスタマイズしてユースケースのパフォーマンスを向上させる」を参照してください。

Meta Llama モデルのファインチューニングについては、https://ai.meta.com/llama/get-started/#fine-tuning にある Meta のドキュメントを参照してください。

注記

epochCount クォータは調整可能です。

ハイパーパラメータ (コンソール) ハイパーパラメータ (API) 定義 最小値 最大値 デフォルト
エポック epochCount トレーニングデータセット全体を通した反復回数。 1 10 5
バッチサイズ batchSize モデルパラメーターの更新前に処理されたサンプルの数 1 1 1
学習率 learningRate 各バッチ後にモデルパラメータが更新されるレート 5.00E-6 0.1 1.00E-4