Inferenzanforderungsparameter und Antwortfelder für Basismodelle
In den Themen dieses Abschnitts werden die Anforderungsparameter und Antwortfelder für die Modelle beschrieben, die Amazon Bedrock bereitstellt. Wenn Sie mit den API-Operationen für den Modellaufruf (InvokeModel, InvokeModelWithResponseStream, Converse und ConverseStream) Inferenzaufrufe an Modelle durchführen, fügen Sie je nach verwendetem Modell Anforderungsparameter hinzu.
Wenn Sie ein benutzerdefiniertes Modell erstellt haben, verwenden Sie dieselben Inferenzparameter wie das Basismodell, anhand dessen es angepasst wurde.
Wenn Sie ein benutzerdefiniertes Modell in Amazon Bedrock importieren, stellen Sie sicher, dass Sie dieselben Inferenzparameter verwenden, die für das benutzerdefinierte Modell, das Sie importieren, angegeben sind. Wenn Sie andere Inferenzparameter verwenden als die in dieser Dokumentation für dieses Modell genannten Inferenzparameter, werden diese Parameter ignoriert.
Bevor Sie sich Modellparameter für verschiedene Modelle ansehen, sollten Sie sich mit dem Begriff Modellinferenz vertraut machen, indem Sie das folgende Kapitel lesen: So senden Sie Prompts und generieren Antworten mithilfe der Modellinferenz.
Weitere Informationen zu den verschiedenen Modellen in Amazon Bedrock finden Sie auf den folgenden Seiten:
-
Eine Tabelle mit Modellen und ihren IDs, die für die API-Operationen zum Modellaufruf verwendet werden sollen, den Regionen, in denen sie unterstützt werden, und den allgemeinen Features, die sie unterstützen, finden Sie unter Unterstützte Basismodelle in Amazon Bedrock.
-
Eine Tabelle der Amazon-Bedrock-Regionen, die die einzelnen Modelle unterstützen, finden Sie unter Modellunterstützung nach AWS-Region in Amazon Bedrock.
-
Eine Tabelle der Amazon-Bedrock-Features, die die einzelnen Modelle unterstützen, finden Sie unter Modellunterstützung nach Feature.
-
Informationen darüber, ob die Converse-API (
ConverseundConverseStream) ein bestimmtes Modell unterstützt, finden Sie unter Unterstützte Modelle und Modellfeatures. -
Wenn Sie Inferenzaufrufe an ein Modell tätigen, schließen Sie einen Prompt für das Modell ein. Allgemeine Informationen zum Erstellen von Prompts für die Modelle, die von Amazon Bedrock unterstützt werden, finden Sie unter Prompt-Engineering-Konzepte.
-
Codebeispiele finden Sie unter Codebeispiele für Amazon Bedrock unter Verwendung von AWS SDKs.
Wählen Sie ein Thema aus, um mehr über die Modelle des jeweiligen Anbieters und deren Parameter zu erfahren.
Themen
