기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
지식 기반 쿼리 및 데이터 검색
중요
가드레일은 입력 및 LLM에서 생성된 응답에만 적용됩니다. 런타임 시 지식 기반에서 검색된 참조에는 적용되지 않습니다.
지식 기반을 설정한 후 Retrieve API 작업을 사용하여 이를 쿼리하고 쿼리와 관련된 소스 데이터에서 청크를 검색할 수 있습니다. 기본 Amazon Bedrock Knowledge Bases 순위 대신 순위 변경 모델을 사용하여 검색 중에 소스 청크의 관련성 순위를 매길 수도 있습니다.
관리형 지식 기반 고려 사항
관리형 지식 기반을 쿼리할 때 다음 고려 사항이 적용됩니다.
-
retrievalConfiguration대신managedSearchConfiguration에서를 사용합니다vectorSearchConfiguration.vectorSearchConfiguration필드는 사용자 지정 지식 기반에만 사용됩니다. -
검색은 항상 키워드와 의미 체계 검색을 결합하는 하이브리드 검색을 사용합니다. 완전 관리형 지식 기반에는 의미 체계 전용 검색을 사용할 수 없습니다.
-
순위 조정은 기본적으로 서비스 관리형 순위 조정 모델을 사용하여 활성화됩니다. 의
rerankingModelType필드를 사용하여 순위 재조정 동작을 제어할 수 있습니다managedSearchConfiguration.-
MANAGED(기본값) - 서비스 관리형 순위 조정 모델이 자동으로 사용됩니다. 구성이 필요하지 않습니다. -
CUSTOM- 자체 Bedrock 순위 조정 모델을 사용합니다. 모델 ARN과rerankingConfiguration함께를 제공해야 합니다. -
NONE- 순위 조정이 비활성화되었습니다.
-
-
관리형 리랭킹은 관리형 임베딩을 사용하는 지식 기반에만 사용할 수 있습니다. 지식 기반에서 사용자 지정 임베딩 모델을 사용하는 경우 사용자 지정 순위 조정을 사용하거나 순위 조정을 비활성화할 수 있습니다.
-
startsWith및stringContains메타데이터 필터는 관리형 지식 기반에서 지원되지 않습니다. 자세한 내용은 수동 메타데이터 필터링을 참조하세요.
다음 예제에서는 관리형 순위 조정(기본값)이 있는 완전 관리형 지식 기반에 대한 최소한의 Retrieve 요청을 보여줍니다.
{ "retrievalQuery": { "text": "your query text" } }
순위 재지정을 비활성화하려면:
{ "retrievalQuery": { "text": "your query text" }, "retrievalConfiguration": { "managedSearchConfiguration": { "rerankingModelType": "NONE" } } }
사용자 지정 Bedrock 순위 조정 모델을 사용하려면:
{ "retrievalQuery": { "text": "your query text" }, "retrievalConfiguration": { "managedSearchConfiguration": { "rerankingModelType": "CUSTOM", "rerankingConfiguration": { "type": "BEDROCK_RERANKING_MODEL", "bedrockRerankingConfiguration": { "numberOfRerankedResults": 5, "modelConfiguration": { "modelArn": "arn:aws:bedrock:us-west-2::foundation-model/cohere.rerank-v3-5:0" } } } } } }
지식 기반을 쿼리하는 방법을 알아보려면 원하는 방법에 해당하는 탭을 선택하고 다음 단계를 따릅니다.
)을 선택하여 구성을 엽니다. 구성에 대한 자세한 내용은 
)를 선택하여 소스 청크를 확장합니다. 다음 정보를 확인할 수 있습니다.
)을 선택합니다. Amazon S3를 사용하여 데이터를 저장한 경우, 파일이 포함된 S3 객체로 이동하여 외부 링크 아이콘(
)을 선택합니다.
)을 선택합니다.참고
응답을 생성하는 과정에서 프롬프트가 글자 수 제한을 초과하는 오류가 발생하면 다음과 같은 방법으로 프롬프트를 줄일 수 있습니다.
-
검색된 결과의 최대 수를 줄입니다(이렇게 하면 지식 기반 프롬프트 템플릿: 오케스트레이션 및 생성의 $search_results$ 자리 표시자에 채워지는 내용이 단축됨).
-
작은 청크를 사용하는 청킹 전략을 사용하여 데이터 소스를 다시 만듭니다(이렇게 하면 지식 기반 프롬프트 템플릿: 오케스트레이션 및 생성의 $search_results$ 자리 표시자에 채워지는 내용이 단축됨).
-
프롬프트 템플릿을 줄입니다.
-
사용자 쿼리를 줄입니다(이렇게 하면 지식 기반 프롬프트 템플릿: 오케스트레이션 및 생성의 $query$ 자리 표시자에 채워지는 내용이 단축됨).
