CohereCommand 模型自訂超參數
Cohere Command 和 Cohere Command Light 模型支援下列用於模型自訂的超參數。您指定的 epoch 數量會透過處理更多字符來增加模型自訂成本。每個 epoch 會處理整個訓練資料集一次。如需定價的資訊,請參閱 Amazon Bedrock 定價
如需微調 Cohere 模型的相關資訊,請參閱 Cohere 文件,網址:https://docs.cohere.com/docs/fine-tuning
注意
epochCount 配額是可調整的。
| 超參數 (主控台) | 超參數 (API) | 定義 | 類型 | 下限 | 最大 | 預設 |
|---|---|---|---|---|---|---|
| Epoch | epochCount | 整個訓練資料集的重複次數 | integer | 1 | 100 | 1 |
| 批次大小 | batchSize | 更新模型參數前處理的樣本數 | integer | 8 | 8 (命令) 32 (淺色) |
8 |
| 學習速率 | learningRate | 每個批次後更新模型參數的比率。如果您使用驗證資料集,建議您不要為 learningRate 提供值。 |
float | 5.00E-6 | 0.1 | 1.00E-5 |
| 提前停止閾值 | earlyStoppingThreshold | 防止訓練過程提前終止所需的損失的最小改進 | float | 0 | 0.1 | 0.01 |
| 提早停止容忍度 | earlyStoppingPatience | 停止訓練程序之前損失指標中停滯的容忍度 | integer | 1 | 10 | 6 |
| 評估百分比 | evalPercentage |
如果您未提供個別的驗證資料集,則為模型評估分配的資料集百分比 |
float | 5 | 50 | 20 |