AWS CloudFormation 를 사용하여 의미 체계 검색을 위한 원격 추론 설정 - Amazon OpenSearch Service
사용 가능한 AWS CloudFormation 템플릿사전 조건

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

AWS CloudFormation 를 사용하여 의미 체계 검색을 위한 원격 추론 설정

OpenSearch 버전 2.9부터 원격 추론과 시맨틱 검색을 사용하여 자체 기계 학습(ML) 모델을 호스팅할 수 있습니다. 원격 추론은 ML Commons 플러그인을 사용합니다.

원격 추론을 사용하면 Amazon SageMaker AI 및 Amazon Bedrock과 같은 ML 서비스에서 모델 추론을 원격으로 호스팅하고 ML 커넥터를 사용하여 Amazon OpenSearch Service에 연결할 수 있습니다.

원격 추론을 쉽게 설정할 수 있도록 Amazon OpenSearch Service는 콘솔에서AWS CloudFormation 템플릿을 제공합니다. CloudFormation은 인프라를 코드로 취급하여 AWS 및 타사 리소스를 제공, 프로비저닝 및 관리할 수 AWS 서비스 있는 입니다.

OpenSearch CloudFormation 템플릿은 모델 프로비저닝 프로세스를 자동화하므로 OpenSearch Service 도메인에서 모델을 쉽게 생성한 다음, 모델 ID를 사용하여 데이터를 수집하고 신경망 검색 쿼리를 실행할 수 있습니다.

OpenSearch Service 버전 2.12 이상에서 신경 희소 인코더를 사용하는 경우 원격으로 배포하는 대신 로컬에서 토큰화 도구 모델을 사용하는 것이 좋습니다. 자세한 내용은 OpenSearch 설명서의 Sparse encoding models를 참조하세요.

주제

사용 가능한 AWS CloudFormation 템플릿

다음 AWS CloudFormation 기계 학습(ML) 템플릿을 사용할 수 있습니다.

Amazon Bedrock 템플릿
Amazon Titan Text Embeddings 통합

Amazon Bedrock의 호스팅 ML 모델에 연결하고, 별도의 모델 배포가 필요하지 않으며, 미리 결정된 Amazon Bedrock 엔드포인트를 사용합니다. 자세한 내용은 Amazon Bedrock 사용 설명서의 Amazon Titan Text Embeddings를 참조하세요.

Cohere 임베드 통합

Cohere Embed 모델에 대한 액세스를 제공하며 특정 텍스트 처리 워크플로에 최적화되어 있습니다. 자세한 내용은 Cohere 문서 웹 사이트의 임베드를 참조하세요.

Amazon Titan 멀티모달 임베딩

텍스트 및 이미지 임베딩을 모두 지원하고 멀티모달 검색 기능을 활성화합니다. 자세한 내용은 Amazon Bedrock 사용 설명서의 Amazon Titan 멀티모달 임베딩을 참조하세요.

MCP 서버 통합 템플릿
MCP 서버 통합

Amazon Bedrock AgentCore 런타임을 배포하고, 에이전트 엔드포인트를 제공하고, 인바운드 및 아웃바운드 인증을 처리하고, 엔터프라이즈 인증을 위한 OAuth를 지원합니다.

Amazon SageMaker 템플릿
Amazon SageMaker를 통한 텍스트 임베딩 모델과의 통합

Amazon SageMaker 런타임에 텍스트 임베딩 모델을 배포하고, 모델 아티팩트 액세스를 위한 IAM 역할을 생성하고, 의미 체계 검색을 위한 ML 커넥터를 설정합니다.

SageMaker를 통해 희소 인코더와 통합

신경 검색을 위한 희소 인코딩 모델을 설정하고, 커넥터 관리를 위한 함수를 생성하고 AWS Lambda , 즉시 사용할 수 있도록 모델 IDs를 반환합니다.

사전 조건

CloudFormation Service에서 CloudFormation 템플릿을 사용하려면 다음 사전 조건을 완료하세요.

OpenSearch Service 도메인 설정

CloudFormation 템플릿을 사용하려면 먼저 버전 2.9 이상에서 세분화된 액세스 제어가 활성화된 Amazon OpenSearch Service 도메인을 설정해야 합니다. OpenSearch Service 백엔드 역할을 생성하여 ML Commons 플러그인에 커넥터를 생성할 수 있는 권한을 부여하세요.

CloudFormation 템플릿은 기본 이름 LambdaInvokeOpenSearchMLCommonsRole을 사용하여 Lambda IAM 역할을 생성하며, 다른 이름을 선택하려는 경우 기본 이름을 재정의할 수 있습니다. 템플릿이 이 IAM 역할을 생성한 후에는 Lambda 함수에 OpenSearch Service 도메인을 호출할 권한을 부여해야 합니다. 이렇게 하려면 다음 단계에 따라 이름이 ml_full_access으로 지정된 역할을 OpenSearch Service 백엔드 역할에 매핑하세요.

  1. OpenSearch Service 도메인에 대한 OpenSearch 대시보드 플러그인으로 이동합니다. OpenSearch Service 콘솔의 도메인 대시보드에서 Dashboards 엔드포인트를 찾을 수 있습니다.

  2. 주 메뉴에서 보안, 역할을 선택하고 ml_full_access 역할을 선택합니다.

  3. 매핑된 사용자(Mapped users), 매핑 관리(Manage mapping)를 차례로 선택합니다.

  4. 백엔드 역할에서 도메인 호출 권한이 필요한 Lambda 역할의 ARN을 추가합니다.

    arn:aws:iam::account-id:role/role-name

  5. Map(맵)을 선택하고 Mapped users(매핑된 사용자)에 사용자 또는 역할이 나타나는지 확인합니다.

역할을 매핑한 후 도메인의 보안 구성으로 이동하여 Lambda IAM 역할을 OpenSearch Service 액세스 정책에 추가합니다.

AWS 계정에 대한 권한을 활성화합니다.

에는 템플릿에 AWS 서비스 대해 선택한 SageMaker 런타임 또는 Amazon Bedrock과 함께 CloudFormation 및 Lambda에 액세스할 수 있는 권한이 AWS 계정 있어야 합니다.

Amazon Bedrock을 사용하는 경우 모델도 등록해야 합니다. 모델을 등록하려면 Amazon Bedrock 사용 설명서의 모델 액세스를 참조하세요.

자체 Amazon S3 버킷을 사용하여 모델 아티팩트를 제공하는 경우, CloudFormation IAM 역할을 S3 액세스 정책에 추가해야 합니다. 자세한 내용은 IAM 사용 설명서의 IAM 자격 증명 권한 추가 및 제거를 참조하세요.