CohereCommand 模型自訂超參數 - Amazon Bedrock

CohereCommand 模型自訂超參數

Cohere Command 和 Cohere Command Light 模型支援下列用於模型自訂的超參數。您指定的 epoch 數量會透過處理更多字符來增加模型自訂成本。每個 epoch 會處理整個訓練資料集一次。如需定價的資訊,請參閱 Amazon Bedrock 定價。如需詳細資訊,請參閱 自訂模型,以改善其針對使用案例的效能

如需微調 Cohere 模型的相關資訊,請參閱 Cohere 文件,網址:https://docs.cohere.com/docs/fine-tuning

注意

epochCount 配額是可調整的。

超參數 (主控台) 超參數 (API) 定義 類型 下限 最大 預設
Epoch epochCount 整個訓練資料集的重複次數 integer 1 100 1
批次大小 batchSize 更新模型參數前處理的樣本數 integer 8 8 (命令)

32 (淺色)

8
學習速率 learningRate 每個批次後更新模型參數的比率。如果您使用驗證資料集,建議您不要為 learningRate 提供值。 float 5.00E-6 0.1 1.00E-5
提前停止閾值 earlyStoppingThreshold 防止訓練過程提前終止所需的損失的最小改進 float 0 0.1 0.01
提早停止容忍度 earlyStoppingPatience 停止訓練程序之前損失指標中停滯的容忍度 integer 1 10 6
評估百分比 evalPercentage

如果您未提供個別的驗證資料集,則為模型評估分配的資料集百分比

float 5 50 20