Amazon Titan文字模型自訂超參數 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

Amazon Titan文字模型自訂超參數

Amazon Titan Text Premier 模型支援下列超參數進行模型自訂。您指定的 epoch 數量會透過處理更多字符來增加模型自訂成本。每個 epoch 會處理整個訓練資料集一次。如需定價的資訊,請參閱 Amazon Bedrock 定價

超參數 (主控台) 超參數 (API) 定義 Type 下限 最大 預設
Epoch epochCount 整個訓練資料集的重複次數 integer 1 5 2
批次大小 (微觀) batchSize 更新模型參數前處理的樣本數 integer 1 1 1
學習速率 learningRate 每個批次後更新模型參數的比率 float 1.00E-07 1.00E-05 1.00E-06
學習率暖機步驟 learningRateWarmupSteps 學習速率逐漸增加到指定速率的迭代次數 integer 0 20 5

Amazon Titan Text 模型,例如 Lite 和 Express,支援下列超參數進行模型自訂。您指定的 epoch 數量會透過處理更多字符來增加模型自訂成本。每個 epoch 會處理整個訓練資料集一次。如需定價的相關資訊,請參閱 Amazon Bedrock 定價

超參數 (主控台) 超參數 (API) 定義 Type 下限 最大 預設
Epoch epochCount 整個訓練資料集的重複次數 integer 1 10 5
批次大小 (微觀) batchSize 更新模型參數前處理的樣本數 integer 1 64 1
學習速率 learningRate 每個批次後更新模型參數的比率 float 0.0 1 1.00E-5
學習率暖機步驟 learningRateWarmupSteps 學習速率逐漸增加到指定速率的迭代次數 integer 0 250 5