本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
CohereCommand 模型自訂超參數
Cohere Command 和 CohereCommand Light模型支援下列用於模型自訂的超參數。您指定的 epoch 數量會透過處理更多字符來增加模型自訂成本。每個 epoch 會處理整個訓練資料集一次。如需定價的相關資訊,請參閱 Amazon Bedrock 定價
如需微調Cohere模型的相關資訊,請參閱 Cohere 文件,網址為 https://https://docs.cohere.com/docs/fine-tuning
注意
epochCount
配額可調整。
超參數 (主控台) | 超參數 (API) | 定義 | Type | 下限 | 最大 | 預設 |
---|---|---|---|---|---|---|
Epoch | epochCount | 整個訓練資料集的重複次數 | integer | 1 | 100 | 1 |
批次大小 | batchSize | 更新模型參數前處理的樣本數 | integer | 8 | 8 (命令) 32 (淺色) |
8 |
學習速率 | learningRate | 在每個批次之後更新模型參數的速率。如果您使用驗證資料集,建議您不要為 提供值learningRate 。 |
float | 5.00E-6 | 0.1 | 1.00E-5 |
提前停止閾值 | earlyStoppingThreshold | 防止訓練程序過早終止所需的最低損失改善 | float | 0 | 0.1 | 0.01 |
提早停止耐心 | earlyStoppingPatience | 停止訓練程序之前,損失指標中停滯的容錯能力 | integer | 1 | 10 | 6 |
評估百分比 | evalPercentage |
如果您未提供單獨的驗證資料集,則配置給模型評估的資料集百分比 |
float | 5 | 50 | 20 |