Amazon Bedrock 推論

Amazon Nova モデルをトレーニングしてテストしたら、本番環境の推論のために Amazon Bedrock にデプロイできます。デプロイプロセスでは、CreateCustomModel API を使用して Amazon Bedrock モデルを作成し、マネージド Amazon S3 バケットからモデルアーティファクトをエクスポートします。モデルのステータスが ACTIVE になった後、オンデマンドまたはプロビジョンドスループット推論を使用してエンドポイントを設定します。

Amazon Nova Customization SDK を使用して、カスタマイズされた Amazon Nova モデルをデプロイすることもできます。Amazon Nova Customization SDK は、トレーニングジョブまたは S3 モデルチェックポイントから関連情報を抽出し、Amazon Bedrock に公開するための効率的なエクスペリエンスを提供します。詳細については、「Amazon Nova カスタマイズ SDK」を参照してください。

カスタムモデルの Amazon Bedrock 推論をセットアップする詳細な手順については、以下のセクションを参照してください。