Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Optimieren und migrieren Sie Eingabeaufforderungen in Amazon Bedrock
Amazon Bedrock bietet Prompt Optimization, ein Tool zur Modellmigration und -optimierung, mit dem Sie die beste Leistung aus Basismodellen herausholen können. Amazon Bedrock bietet zwei schnelle Optimierungsoptionen.
-
Bei der einfachen Optimierung wird eine einzelne kurze Eingabeaufforderung für ein Modell schnell und heuristisch neu geschrieben.
-
Advanced Prompt Optimization (AdvPO) ermöglicht es Ihnen, Ihre Eingabeaufforderungen für jedes Modell auf Bedrock zu optimieren und gleichzeitig Ihre ursprünglichen Eingabeaufforderungen mit optimierten Eingabeaufforderungen für bis zu 5 Modelle gleichzeitig zu vergleichen.
Sie können dies verwenden, wenn Sie zu einem neuen Modell migrieren oder einfach nur die Leistung Ihres aktuellen Modells verbessern möchten. Wenn Sie das Modell ändern, wählen Sie Ihr aktuelles Modell als Basismodell und bis zu 4 weitere Modelle aus. Wenn Sie das Modell nicht ändern, wählen Sie einfach Ihr aktuelles Modell aus, um die Zeit vor und nach der Optimierung zu überprüfen. Der Optimierer verwendet Ihre Eingabeaufforderungsvorlagen (bis zu 10 pro Job) und Beispielbenutzereingaben für Variablenwerte (bis zu 100 pro Eingabeaufforderungsvorlage). Für die Optimierung sind außerdem grundlegende Antworten und eine Bewertungsmetrik erforderlich. Es ist sogar mit multimodalen Eingaben wie JPG, JPEG, PNG, GIF, WebP oder PDF kompatibel. Sie können eine LLM-as-a-judge Rubrik, eine Lambda-Funktion oder kurze Steuerungskriterien für natürliche Sprache angeben. Die Bewertung steuert die schnelle Optimierung. Der Optimierer arbeitet in einer evaluationsbasierten Feedback-Schleife, um die prompten und daraus resultierenden Modellantworten zu optimieren. Er gibt die ursprünglichen und endgültigen Vorlagen für Eingabeaufforderungen mit Bewertungsergebnissen, Kostenschätzungen und Latenz aus.
Wählen Sie eine Optimierungsmethode
| Einfache Optimierung | Erweiterte Prompt-Optimierung | |
|---|---|---|
| Anwendungsfall | Grundlegendes Umschreiben mit einer einzigen Aufforderung für kurze Eingabeaufforderungen | Flexible, iterative Optimierung, bei der Ihre Bewertung das schnelle Umschreiben zur Modellmigration und Leistungsoptimierung steuert |
| Am besten geeignet für | Kurze Eingabeaufforderungen (etwa 1.000 Token oder weniger) | Fordert Vorlagen in beliebiger Länge auf, die in das Kontextfenster des Modells passen |
| Eingabe | Text für eine einzelne Aufforderung | Bis zu 10 Vorlagen für Eingabeaufforderungen mit Bewertungsmustern, auch multimodale |
| Modelle | 1 Modell | Bis zu 5 Modelle wurden gleichzeitig verglichen |
| Bewertung | Keine (heuristisches Umschreiben) | Ihre Wahl: Lenkkriterien, LLM-as-judge Rubrik oder benutzerdefinierte Lambda-Funktion |
| Ausgabe | Umgeschriebene Aufforderung (sofort) | Optimierte Vorlagen mit Bewertungsergebnissen, Kostenschätzungen und Latenz pro Modell |
| Ausführung | Synchron (Sekunden) | Asynchroner Auftrag (15 Minuten bis Stunden, abhängig von der Anzahl der Eingabeaufforderungsvorlagen und Testmuster) |
| Multimodal | Nein | Ja (Bilder, PDFs) |
| Modellmigration | Teilweise: Eingabeaufforderungen können umgeschrieben werden, aber kein direkter Vergleich | Ja, vergleichen Sie das aktuelle Modell mit den Kandidaten Seite an Seite |