自訂模型,以改善其針對使用案例的效能 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

自訂模型,以改善其針對使用案例的效能

模型自訂是將訓練資料提供給模型的程序,以改善特定使用案例的效能。您可以自訂 Amazon Bedrock 基礎模型以改善其效能,並打造更完善的客戶體驗。Amazon Bedrock 目前提供下列自訂方法。

  • 蒸餾

    使用蒸餾將知識從更大型的智慧模型 (稱為老師) 轉移到更小、更快速且符合成本效益的模型 (稱為學生)。Amazon Bedrock 會使用最新的資料合成技術,從教師模型產生多樣化、高品質的回應,並微調學生模型,以自動化蒸餾程序。

    若要使用蒸餾,您可以選取想要為使用案例達到準確度的教師模型,以及要微調的學生模型。然後,您提供使用案例特定的提示作為輸入資料。Amazon Bedrock 會針對給定提示產生教師模型的回應,並利用這些回應微調學生模型。您可以選擇提供標記的輸入資料作為提示-回應對。

    如需有關使用蒸餾的詳細資訊,請參閱 在 Amazon Bedrock 中自訂具有蒸餾的模型

  • 強化微調

    強化微調可透過以意見回饋為基礎的學習,改善基礎模型與特定使用案例的一致性。您可以定義評估回應品質的獎勵函數,而不是提供標記的輸入/輸出對。此模型透過從這些獎勵函數接收意見回饋分數,反覆學習。

    您可以使用現有的 Bedrock 調用日誌作為訓練資料或上傳自訂提示資料集。您可以使用 定義獎勵函數AWS Lambda,以評估回應品質。Amazon Bedrock 可自動化訓練工作流程,並提供即時指標來監控模型學習進度。

    如需使用強化微調的詳細資訊,請參閱在 Amazon Bedrock 中使用強化微調來自訂模型

  • 受監督的微調

    提供標記的資料,以訓練模型來改善特定任務的效能。透過提供已標記範例的訓練資料集,模型會學習將特定類型的輸入與應產生的輸出類型建立關聯。模型參數會在程序中受到調整,並針對訓練資料集所代表的任務改善模型的效能。

  • 持續預先訓練

    透過使模型熟悉特定類型的輸入,提供未標記的資料來預先訓練基礎模型。您可以提供特定主題的資料,以便向那些區域公開模型。繼續預先訓練程序會調整模型參數,以容納輸入資料並改善其領域知識。

    例如,您可以訓練具有私人資料 (例如商業文件) 的模型,這些資料不能公開用於訓練大型語言模型。此外,您可以在模型變成可用時,透過使用更多未標記的資料重新訓練模型,以繼續改良模型。

如需模型自訂配額的相關資訊,請參閱《AWS 一般參考》中的 Amazon Bedrock 端點和配額。自訂模型之後,您可以為新的自訂模型設定推論。如需詳細資訊,請參閱為自訂模型設定推論

注意

系統會根據模型處理的字符數量 (訓練資料語料庫中的字符數目 × epochs 數目),以及每個模型每月收取模型儲存費用的模型訓練費用。如需詳細資訊,請參閱 Amazon Bedrock 定價

模型自訂的指導方針

用於自訂模型的理想參數,取決於資料集和模型所預期的任務。您應該對值進行實驗以確定哪些參數最適合您的特定情況。如需協助,請執行模型評估任務來評估您的模型。如需詳細資訊,請參閱評估 Amazon Bedrock 資源的效能

使用提交模型自訂任務時產生的輸出檔案中的訓練和驗證指標,協助您調整參數。在您寫入輸出的 Amazon S3 儲存貯體中尋找這些檔案,或使用 GetCustomModel 操作。