Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Evaluieren Sie die Leistung von RAG-Quellen mithilfe von Amazon Bedrock-Bewertungen
Sie können berechnete Metriken verwenden, um zu bewerten, wie effektiv ein Retrieval Augmented Generation (RAG) -System relevante Informationen aus Ihren Datenquellen abruft und wie effektiv die generierten Antworten bei der Beantwortung von Fragen sind. Die Ergebnisse einer RAG-Bewertung ermöglichen es Ihnen, verschiedene Amazon Bedrock Knowledge Bases und andere RAG-Quellen zu vergleichen und dann die beste Knowledge Base oder das beste RAG-System für Ihre Anwendung auszuwählen.
Sie können zwei verschiedene Arten von RAG-Bewertungsaufträgen einrichten.
-
Nur abrufen — Bei einem RAG-Bewertungsauftrag, der nur zum Abrufen bestimmt ist, basiert der Bericht auf den Daten, die aus Ihrer RAG-Quelle abgerufen wurden. Sie können entweder eine Amazon Bedrock Knowledge Base auswerten oder Ihre eigenen Inferenzantwortdaten aus einer externen RAG-Quelle mitbringen.
-
Abrufen und Generieren — Bei einem retrieve-and-generateRAG-Bewertungsauftrag basiert der Bericht auf den aus Ihrer Wissensdatenbank abgerufenen Daten und den vom Antwortgeneratormodell generierten Zusammenfassungen. Sie können entweder eine Amazon Bedrock Knowledge Base und ein Antwortgeneratormodell verwenden, oder Sie können Ihre eigenen Inferenzantwortdaten aus einer externen RAG-Quelle mitbringen.
Unterstützte Modelle
Um einen RAG-Evaluierungsjob zu erstellen, benötigen Sie Zugriff auf mindestens eines der Evaluatormodelle in den folgenden Listen. Um einen retrieve-and-generate Job zu erstellen, der ein Amazon Bedrock-Modell zur Generierung der Antworten verwendet, benötigen Sie außerdem Zugriff auf mindestens eines der aufgelisteten Generator-Antwortmodelle.
Weitere Informationen zum Zugriff auf Modelle und zur Verfügbarkeit in Regionen finden Sie unterGreifen Sie auf Amazon Bedrock Foundation-Modelle zu.
Unterstützte Evaluatormodelle (integrierte Metriken)
-
Amazon Nova Pro –
amazon.nova-pro-v1:0
-
AnthropicClaude 3.5 Sonnetv1 —
anthropic.claude-3-5-sonnet-20240620-v1:0
-
AnthropicClaude 3.5 Sonnetv2 —
anthropic.claude-3-5-sonnet-20241022-v2:0
-
Anthropic Claude 3.7 Sonnet –
anthropic.claude-3-7-sonnet-20250219-v1:0
-
Anthropic Claude 3 Haiku –
anthropic.claude-3-haiku-20240307-v1:0
-
Anthropic Claude 3.5 Haiku –
anthropic.claude-3-5-haiku-20241022-v1:0
-
Meta Llama 3.1 70B Instruct –
meta.llama3-1-70b-instruct-v1:0
-
Mistral Large –
mistral.mistral-large-2402-v1:0
Regionsübergreifende Inferenzprofile werden für die aufgelisteten Modelle unterstützt. Weitere Informationen hierzu finden Sie unter Unterstützte regionsübergreifende Inferenzprofile.
Unterstützte Evaluatormodelle (benutzerdefinierte Metriken)
-
Mistral Large24.02 —
mistral.mistral-large-2402-v1:0
-
Mistral Large24,07 —
mistral.mistral-large-2407-v1:0
-
AnthropicClaude 3.5 Sonnetv1 —
anthropic.claude-3-5-sonnet-20240620-v1:0
-
AnthropicClaude 3.5 Sonnetv2 —
anthropic.claude-3-5-sonnet-20241022-v2:0
-
Anthropic Claude 3.7 Sonnet –
anthropic.claude-3-7-sonnet-20250219-v1:0
-
AnthropicClaude 3 Haiku3 —
anthropic.claude-3-haiku-20240307-v1:0
-
AnthropicClaude 3 Haiku3,5 —
anthropic.claude-3-5-haiku-20241022-v1:0
-
Meta Llama 3.1 70B Instruct –
meta.llama3-1-70b-instruct-v1:0
-
Meta Llama 3.3 70B Instruct –
meta.llama3-3-70b-instruct-v1:0
-
Amazon Nova Pro –
amazon.nova-pro-v1:0
Regionsübergreifende Inferenzprofile werden für die aufgelisteten Modelle unterstützt. Weitere Informationen hierzu finden Sie unter Unterstützte regionsübergreifende Inferenzprofile.
Unterstützte Antwortgenerator-Modelle
Sie können die folgenden Modelltypen in Amazon Bedrock als Antwortgeneratormodell in einem Bewertungsjob verwenden. Sie können auch Ihre eigenen Inferenzantwortdaten von Bedrock-Modellen mitbringen, die nicht von Amazon stammen.
-
Grundlegende Modelle — Informationen zum Modell der Amazon Bedrock Foundation
-
Amazon Bedrock Marketplace-Modelle — Amazon Bedrock Marketplace
-
Maßgeschneiderte Fundamentmodelle — Passen Sie Ihr Modell an, um seine Leistung für Ihren Anwendungsfall zu verbessern
-
Importierte Fundamentmodelle — Verwenden Sie den Import benutzerdefinierter Modelle, um ein benutzerdefiniertes Open-Source-Modell in Amazon Bedrock zu importieren
-
Router einholen — Intelligentes Prompt-Routing in Amazon Bedrock verstehen
-
Modelle, für die Sie Provisioned Throughput erworben haben — Erhöhen Sie die Kapazität für den Modellaufruf mit Provisioned Throughput in Amazon Bedrock