本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
查詢知識庫並擷取資料
重要
防護機制只會套用至輸入和從 LLM 產生的回應。它們不會套用至執行時期從知識庫擷取的參考。
設定知識庫之後,您可以查詢知識庫,以及使用 Retrieve API 操作,從與查詢相關的來源資料中查詢和擷取區塊。您也可以使用重新排名模型,而不是預設的 Amazon Bedrock 知識庫排名器,在擷取期間對來源區塊進行相關性排名。
受管知識庫考量
查詢受管知識庫時,適用下列考量:
-
在
managedSearchConfiguration中使用 ,retrievalConfiguration而非vectorSearchConfiguration。vectorSearchConfiguration欄位僅用於自訂知識庫。 -
擷取一律使用混合式搜尋,結合關鍵字和語意搜尋。僅限語意搜尋不適用於全受管知識庫。
-
依預設會使用服務管理的重新排名模型來啟用重新排名。您可以使用 中的
rerankingModelType欄位控制重新排名行為managedSearchConfiguration:-
MANAGED(預設) – 會自動使用服務受管的重新排名模型。不需要組態。 -
CUSTOM– 使用您自己的 Bedrock 重新排名模型。您必須rerankingConfiguration將模型 ARN 提供給 。 -
NONE– 已停用重新排名。
-
-
受管重新排名僅適用於使用受管內嵌的知識庫。如果您的知識庫使用自訂內嵌模型,您可以使用自訂重新排名或停用重新排名。
-
受管知識庫不支援
startsWith和stringContains中繼資料篩選條件。如需詳細資訊,請參閱手動中繼資料篩選。
下列範例顯示具有受管重新排名的全受管知識庫的最低Retrieve請求 (預設):
{ "retrievalQuery": { "text": "your query text" } }
若要停用重新排名:
{ "retrievalQuery": { "text": "your query text" }, "retrievalConfiguration": { "managedSearchConfiguration": { "rerankingModelType": "NONE" } } }
若要使用自訂 Bedrock 重新排名模型:
{ "retrievalQuery": { "text": "your query text" }, "retrievalConfiguration": { "managedSearchConfiguration": { "rerankingModelType": "CUSTOM", "rerankingConfiguration": { "type": "BEDROCK_RERANKING_MODEL", "bedrockRerankingConfiguration": { "numberOfRerankedResults": 5, "modelConfiguration": { "modelArn": "arn:aws:bedrock:us-west-2::foundation-model/cohere.rerank-v3-5:0" } } } } } }
若要了解如何查詢知識庫,請選擇您偏好方法的索引標籤,然後遵循下列步驟:
注意
如果您在產生回應時收到提示超過字元限制的錯誤,您可以使用下列方式縮短提示:
-
減少擷取結果的數目上限 (這會縮短 知識庫提示範本:協調和產生 中 $search_results$ 預留位置的填入內容)。
-
以使用較小區塊的分塊策略重新建立資料來源 (這會縮短 知識庫提示範本:協調和產生 中 $search_results$ 預留位置的填入內容)。
-
縮短提示範本。
-
縮短使用者查詢 (這會縮短 知識庫提示範本:協調和產生 中 $query$ 預留位置的填入內容)。