RAG 구현 - Amazon Nova

RAG 구현

검색 증강 생성(RAG)는 지식 기반에서 정보를 검색하고 통합하여 응답을 개선합니다. Amazon Nova Sonic을 사용하면 도구 사용을 통해 RAG가 구현됩니다.

지식 기반 구현 개요

RAG를 구현하려면 다음 요소가 필요합니다.

  • 도구 구성 - promptStart 이벤트에서 지식 기반 검색 도구를 정의합니다.

  • 도구 사용 요청 받기 - 사용자가 질문을 하면 모델은 지식 기반 도구를 직접적으로 호출합니다.

  • 벡터 데이터베이스 쿼리 - 벡터 데이터베이스에 대해 검색 쿼리를 실행합니다.

  • 결과 반환 - 검색 결과를 모델로 다시 전송합니다.

  • 응답 생성 - 모델은 검색된 정보를 음성 응답에 통합합니다.

지식 기반 구성

다음은 기본 지식 기반 도구의 구성 예제입니다.

{ toolSpec: { name: "knowledgeBase", description: "Search the company knowledge base for information", inputSchema: { json: JSON.stringify({ type: "object", properties: { query: { type: "string", description: "The search query to find relevant information" } }, required: ["query"] }) } } };