Amazon SageMaker テンプレート

Amazon SageMaker CloudFormation テンプレートは、ニューラルプラグインとセマンティック検索をセットアップするために複数の AWS リソースを定義します。

まず、Amazon SageMaker テンプレートを使用してテキスト埋め込みモデルとの統合を使用して、SageMaker ランタイムにテキスト埋め込みモデルをサーバーとしてデプロイします。モデルエンドポイントを提供しない場合、CloudFormation は SageMaker ランタイムが Amazon S3 からモデルアーティファクトをダウンロードしてサーバーにデプロイすることを許可する IAM ロールを作成します。エンドポイントを提供する場合、CloudFormation は、Lambda 関数が OpenSearch Service ドメインにアクセスすることを許可する IAM ロールを作成します。ロールが既に存在する場合は、ロールを更新して再利用します。エンドポイントは ML Commons プラグインで ML コネクタに使用されるリモートモデルを提供します。

次に、Amazon SageMaker テンプレートを介したスパースエンコーダーとの統合を使用して、ドメインがリモート推論コネクタをセットアップした Lambda 関数を作成します。OpenSearch Service でコネクタを作成すると、リモート推論は SageMaker ランタイムのリモートモデルを使用してセマンティック検索を実行できます。テンプレートはドメイン内のモデル ID を返すので、検索を開始できます。