Die Leistung von RAG-Quellen mithilfe von Amazon-Bedrock-Bewertungen auswerten - Amazon Bedrock
Unterstützte Modelle

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Die Leistung von RAG-Quellen mithilfe von Amazon-Bedrock-Bewertungen auswerten

Sie können berechnete Metriken verwenden, um zu bewerten, wie effektiv ein Retrieval Augmented Generation (RAG)-System relevante Informationen aus Ihren Datenquellen abruft und wie effektiv die generierten Antworten bei der Beantwortung von Fragen sind. Die Ergebnisse einer RAG-Bewertung ermöglichen es Ihnen, verschiedene Wissensdatenbanken für Amazon Bedrock und andere RAG-Quellen miteinander zu vergleichen und dann die beste Knowledge Base oder das beste RAG-System für Ihre Anwendung auszuwählen.

Sie können zwei verschiedene Arten von RAG-Bewertungsaufträgen einrichten.

  • Nur abrufen: Bei einem RAG-Bewertungsauftrag, der nur zum Abrufen bestimmt ist, basiert der Bericht auf den Daten, die aus Ihrer RAG-Quelle abgerufen wurden. Sie können entweder eine Amazon Bedrock Knowledge Base bewerten oder Ihre eigenen Inferenzantwortdaten aus einer externen RAG-Quelle nutzen.

  • Abrufen und generieren: Bei einem RAG-Bewertungsauftrag zum Abrufen und Generieren basiert der Bericht auf den aus Ihrer Wissensdatenbank abgerufenen Daten und den vom Antwort-Generatormodell generierten Zusammenfassungen. Sie können entweder eine Amazon Bedrock Knowledge Base und ein Antwortgeneratormodell verwenden, oder Sie können Ihre eigenen Inferenzantwortdaten aus einer externen RAG-Quelle nutzen.

Unterstützte Modelle

Um einen RAG-Bewertungsauftrag zu erstellen, benötigen Sie Zugriff auf mindestens eines der Evaluatormodelle in den folgenden Listen. Um einen Auftrag zum Abrufen und Generieren zu erstellen, der ein Amazon-Bedrock-Modell zur Generierung der Antworten verwendet, benötigen Sie außerdem Zugriff auf mindestens eines der aufgelisteten Generator-Antwortmodelle.

Weitere Informationen zum Zugriff auf Modelle und zur Verfügbarkeit in Regionen finden Sie unter Zugriff auf Amazon-Bedrock-Basismodelle.

Unterstützte Evaluatormodelle (integrierte Metriken)

  • Amazon Nova Pro – amazon.nova-pro-v1:0

  • Anthropic Claude 3.5 Sonnet v1 – anthropic.claude-3-5-sonnet-20240620-v1:0

  • Anthropic Claude 3.5 Sonnet v2 – anthropic.claude-3-5-sonnet-20241022-v2:0

  • Anthropic Claude 3.7 Sonnet – anthropic.claude-3-7-sonnet-20250219-v1:0

  • Anthropic Claude 3 Haiku – anthropic.claude-3-haiku-20240307-v1:0

  • Anthropic Claude 3.5 Haiku – anthropic.claude-3-5-haiku-20241022-v1:0

  • Meta Llama 3.1 70B Instruct – meta.llama3-1-70b-instruct-v1:0

  • Mistral Large – mistral.mistral-large-2402-v1:0

Regionsübergreifende Inferenzprofile werden für die aufgelisteten Modelle unterstützt. Weitere Informationen hierzu finden Sie unter Unterstützte regionsübergreifende Inferenzprofile.

Unterstützte Evaluatormodelle (benutzerdefinierte Metriken)

  • Mistral Large 24.02 – mistral.mistral-large-2402-v1:0

  • Mistral Large 24.07 – mistral.mistral-large-2407-v1:0

  • Anthropic Claude 3.5 Sonnet v1 – anthropic.claude-3-5-sonnet-20240620-v1:0

  • Anthropic Claude 3.5 Sonnet v2 – anthropic.claude-3-5-sonnet-20241022-v2:0

  • Anthropic Claude 3.7 Sonnet – anthropic.claude-3-7-sonnet-20250219-v1:0

  • Anthropic Claude 3 Haiku 3 – anthropic.claude-3-haiku-20240307-v1:0

  • Anthropic Claude 3 Haiku 3.5 – anthropic.claude-3-5-haiku-20241022-v1:0

  • Meta Llama 3.1 70B Instruct – meta.llama3-1-70b-instruct-v1:0

  • Meta Llama 3.3 70B Instruct – meta.llama3-3-70b-instruct-v1:0

  • Amazon Nova Pro – amazon.nova-pro-v1:0

Regionsübergreifende Inferenzprofile werden für die aufgelisteten Modelle unterstützt. Weitere Informationen hierzu finden Sie unter Unterstützte regionsübergreifende Inferenzprofile.

Unterstützte Antwort-Generatormodelle

Sie können die folgenden Modelltypen in Amazon Bedrock als Antwort-Generatormodell in einem Bewertungsauftrag verwenden. Sie können auch eigene Inferenzantwortdaten aus Modellen nutzen, die nicht von Amazon Bedrock stammen.