本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
使用 Amazon Bedrock 中的重新排名器模型改善查詢回應的相關性
Amazon Bedrock 可供存取重新排名器模型,您在查詢時可用來改善擷取結果的相關性。重新排名器模型會計算區塊與查詢的相關性,並根據其計算的分數重新排序結果。透過使用重新排名器模型,您可以傳回更適合回答查詢的回應。或者,您可以在執行模型推論時將結果包含在提示中,以產生更相關且準確的回應。使用重新排名器模型,所擷取的結果較少但更相關。透過將這些結果饋送至您用來產生回應的基礎模型,您也可以降低成本及縮短延遲。
重新排名器模型經過訓練,可根據查詢識別相關性訊號,然後使用這些訊號將文件排名。因此,模型可以提供更相關、更準確的結果。
注意
您只能將重新排名用於文字資料。
如需重新排名模型定價的相關資訊,請參閱 Amazon Bedrock 定價
重新排名至少需要下列輸入:
-
重新排名器模型,可接受使用者查詢並評估其可存取之資料來源的相關性。
-
使用者查詢。
-
文件清單,重新排名器必須根據其與查詢的相關性重新排序此清單。
您可以在 Amazon Bedrock 中使用重新排名器模型,方法如下:
-
直接透過 Amazon Bedrock API 呼叫重新排名操作。
Rerank操作會將查詢、文件和任何其他組態做為輸入傳送到重新排名器模型。模型接著會依據與查詢的相關性重新排名文件,並在回應中傳回文件。 -
如果您使用 Amazon Bedrock 知識庫建置檢索增強生成 (RAG)應用程式,請在呼叫 Retrieve 或 RetrieveAndGenerate 操作時,或在 AWS 管理主控台 中查詢知識庫時,使用重新排名器模型。重新排名的結果會覆寫 Amazon Bedrock 知識庫所決定的預設排名。