部署自訂模型以進行隨需推論
透過模型自訂任務 (微調、蒸餾或持續預先訓練) 成功建立自訂模型後,您可以為模型設定隨需推論。
若要設定自訂模型的隨需推論,請使用自訂模型部署來部署模型。部署自訂模型之後,使用部署的 Amazon Resource Name (ARN) 作為 InvokeModel 或 Converse API 操作中的 modelId 參數。您可以使用部署的模型搭配 Amazon Bedrock 功能,例如實驗場、代理程式和知識庫,進行隨需推論。
支援的模型
您可以為下列模型設定隨需推論:
-
Amazon Nova Canvas
-
Amazon Nova Lite
-
Amazon Nova Micro
-
Amazon Nova Pro