Amazon SageMaker 템플릿

Amazon SageMaker CloudFormation 템플릿은 신경 플러그인 및 의미 체계 검색을 설정하기 위해 여러 AWS 리소스를 정의합니다.

먼저 Amazon SageMaker 템플릿을 통해 텍스트 임베딩 모델과 통합을 사용하여 SageMaker 런타임에 텍스트 임베딩 모델을 서버로 배포합니다. 모델 엔드포인트를 제공하지 않는 경우, CloudFormation은 SageMaker Runtime이 Amazon S3에서 모델 아티팩트를 다운로드하고 이를 서버에 배포할 수 있는 IAM 역할을 생성합니다. 엔드포인트를 제공하면 CloudFormation은 Lambda 함수가 OpenSearch Service 도메인에 액세스할 수 있도록 허용하는 IAM 역할을 생성하거나, 역할이 이미 존재하는 경우 역할을 업데이트하고 재사용합니다. 엔드포인트는 ML Commons 플러그인을 통해 ML 커넥터에 사용되는 원격 모델을 제공합니다.

그런 다음 Amazon SageMaker 템플릿을 통해 희소 인코더와 통합을 사용하여 도메인에 원격 추론 커넥터가 설정된 Lambda 함수를 생성합니다. OpenSearch Service에서 커넥터를 생성한 후 원격 추론은 SageMaker Runtime의 원격 모델을 사용하여 시맨틱 검색을 실행할 수 있습니다. 템플릿은 도메인의 모델 ID를 사용자에게 반환하므로 검색을 시작할 수 있습니다.