本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
Meta Llama 3.1 模型自定义超参数
Meta Llama 3.1 8B 和 70B 模型支持以下用于自定义模型的超参数。您指定的周期数会通过处理更多令牌来增加模型定制成本。每个周期对整个训练数据集进行一次处理。有关定价的信息,请参阅 Amazon Bedrock 定价
有关微调 Meta Llama 模型的信息,请参阅 https://ai.meta.com/llama/get-started/ #fine-t
注意
epochCount
配额可调整。
超参数(控制台) | 超参数(API) | 定义 | 最小值 | 最大值 | 默认 |
---|---|---|---|---|---|
Epoch | epochCount | 整个训练数据集的迭代次数 | 1 | 10 | 5 |
批次大小 | batchSize | 更新模型参数之前处理的样本数 | 1 | 1 | 1 |
学习率 | learningRate | 每个批次之后模型参数的更新速率 | 5.00E-6 | 0.1 | 1.00E-4 |