部署自訂模型以進行隨需推論 - Amazon Nova

部署自訂模型以進行隨需推論

透過模型自訂任務 (微調、蒸餾或持續預先訓練) 成功建立自訂模型後,您可以為模型設定隨需推論。

若要設定自訂模型的隨需推論,請使用自訂模型部署來部署模型。部署自訂模型之後,使用部署的 Amazon Resource Name (ARN) 作為 InvokeModelConverse API 操作中的 modelId 參數。您可以使用部署的模型搭配 Amazon Bedrock 功能,例如實驗場、代理程式和知識庫,進行隨需推論。

支援的模型

您可以為下列模型設定隨需推論:

  • Amazon Nova Canvas

  • Amazon Nova Lite

  • Amazon Nova Micro

  • Amazon Nova Pro