本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
使用 Amazon Bedrock 評估來評估 RAG 來源的效能
您可以使用計算指標來評估檢索增強生成 (RAG) 系統從資料來源擷取相關資訊的有效性,以及產生的回應在回答問題方面的效果。RAG 評估的結果可讓您比較不同的 Amazon Bedrock 知識庫和其他 RAG 來源,然後為應用程式選擇最佳的知識庫或 RAG 系統。
您可以設定兩種不同類型的 RAG 評估任務。
-
僅限擷取:在僅擷取 RAG 評估任務中,報告是以從 RAG 來源擷取的資料為基礎。您可以評估 Amazon Bedrock 知識庫,也可以從外部 RAG 來源取得自己的推論回應資料。
-
擷取和產生:在 retrieve-and-generate RAG 評估任務中,報告是以從知識庫擷取的資料,以及回應產生器模型產生的摘要為基礎。您可以使用 Amazon Bedrock 知識庫和回應產生器模型,也可以從外部 RAG 來源取得自己的推論回應資料。
支援的模型
若要建立 RAG 評估任務,您需要存取下列清單中至少一個評估器模型。若要建立使用 Amazon Bedrock 模型產生回應的 retrieve-and-generate 任務,您也需要存取至少一個列出的產生器回應模型。
若要進一步了解如何存取模型和區域可用性,請參閱存取 Amazon Bedrock 基礎模型。
支援的評估器模型 (內建指標)
-
Amazon Nova Pro –
amazon.nova-pro-v1:0 -
Anthropic Claude 3.5 Sonnet v1:
anthropic.claude-3-5-sonnet-20240620-v1:0 -
Anthropic Claude 3.5 Sonnet v2:
anthropic.claude-3-5-sonnet-20241022-v2:0 -
Anthropic Claude 3.7 Sonnet –
anthropic.claude-3-7-sonnet-20250219-v1:0 -
Anthropic Claude 3 Haiku –
anthropic.claude-3-haiku-20240307-v1:0 -
Anthropic Claude 3.5 Haiku –
anthropic.claude-3-5-haiku-20241022-v1:0 -
Meta Llama 3.1 70B Instruct –
meta.llama3-1-70b-instruct-v1:0 -
Mistral Large –
mistral.mistral-large-2402-v1:0
列出的模型支援跨區域推論設定檔。如需詳細資訊,請參閱 支援的跨區域推論設定檔。
支援的評估器模型 (自訂指標)
-
Mistral Large 24.02:
mistral.mistral-large-2402-v1:0 -
Mistral Large 24.07:
mistral.mistral-large-2407-v1:0 -
Anthropic Claude 3.5 Sonnet v1:
anthropic.claude-3-5-sonnet-20240620-v1:0 -
Anthropic Claude 3.5 Sonnet v2:
anthropic.claude-3-5-sonnet-20241022-v2:0 -
Anthropic Claude 3.7 Sonnet –
anthropic.claude-3-7-sonnet-20250219-v1:0 -
Anthropic Claude 3 Haiku 3:
anthropic.claude-3-haiku-20240307-v1:0 -
Anthropic Claude 3 Haiku 3.5:
anthropic.claude-3-5-haiku-20241022-v1:0 -
Meta Llama 3.1 70B Instruct –
meta.llama3-1-70b-instruct-v1:0 -
Meta Llama 3.3 70B Instruct –
meta.llama3-3-70b-instruct-v1:0 -
Amazon Nova Pro –
amazon.nova-pro-v1:0
列出的模型支援跨區域推論設定檔。如需詳細資訊,請參閱 支援的跨區域推論設定檔。
支援的回應產生器模型
您可以在 Amazon Bedrock 中使用下列模型類型,作為評估任務中的回應產生器模型。您也可以從非 Amazon Bedrock 模型取得自己的推論回應資料。
-
Amazon Bedrock 市集模型:Amazon Bedrock 市集
-
自訂的基礎模型:自訂模型,以改善其針對使用案例的效能
-
您已購買佈建輸送量的模型:使用 Amazon Bedrock 中的佈建輸送量增加模型調用容量