AnthropicClaudeNachrichten-API - Amazon Bedrock

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

AnthropicClaudeNachrichten-API

Dieser Abschnitt enthält Inferenzparameter und Codebeispiele für die Verwendung der Anthropic Claude Nachrichten-API.

AnthropicClaudeÜberblick über die Nachrichten-API

Sie können die Nachrichten-API verwenden, um Chat-Bots oder virtuelle Assistentenanwendungen zu erstellen. Die API verwaltet den Konversationsaustausch zwischen einem Benutzer und einem Anthropic Claude Model (Assistent).

Tipp

In diesem Thema wird gezeigt, wie die Anthropic Claude Nachrichten-API mit den grundlegenden Inferenzoperationen (InvokeModeloder InvokeModelWithResponseStream) verwendet wird. Wir empfehlen jedoch, dass Sie die Converse API verwenden, um Nachrichten in Ihrer Anwendung zu implementieren. Die Converse API bietet einen einheitlichen Satz von Parametern, die für alle Modelle funktionieren, die Nachrichten unterstützen. Weitere Informationen finden Sie unter Führen Sie eine Konversation mit den Converse API-Operationen.

Anthropictrainiert Claude-Modelle so, dass sie abwechselnd mit dem Benutzer und dem Assistenten kommunizieren. Wenn Sie eine neue Nachricht erstellen, geben Sie mit dem Parameter Nachrichten die vorherigen Gesprächsrunden an. Das Modell generiert dann die nächste Nachricht in der Konversation.

Jede Eingabenachricht muss ein Objekt mit einer Rolle und einem Inhalt sein. Sie können eine einzelne Benutzerrollennachricht angeben, oder Sie können mehrere Benutzer- und Assistentennachrichten einbeziehen.

Wenn Sie die Technik verwenden, die Antwort von vorab auszufüllen Claude (indem Sie den Anfang von Claudes Antwort mithilfe einer letzten Assistentenrolle ausfüllen), antwortet ich, indem Claude Sie dort weitermachen, wo Sie aufgehört haben. Bei dieser Technik Claude wird immer noch eine Antwort mit der Assistentenrolle zurückgegeben.

Wenn die endgültige Nachricht die Assistentenrolle verwendet, wird der Inhalt der Antwort sofort mit dem Inhalt dieser Nachricht fortgesetzt. Sie können dies verwenden, um einen Teil der Antwort des Modells einzuschränken.

Beispiel mit einer einzigen Benutzernachricht:

[{"role": "user", "content": "Hello, Claude"}]

Beispiel mit mehreren Konversationswechseln:

[ {"role": "user", "content": "Hello there."}, {"role": "assistant", "content": "Hi, I'm Claude. How can I help you?"}, {"role": "user", "content": "Can you explain LLMs in plain English?"}, ]

Beispiel mit einer teilweise ausgefüllten Antwort von Claude:

[ {"role": "user", "content": "Please describe yourself using only JSON"}, {"role": "assistant", "content": "Here is my JSON description:\n{"}, ]

Der Inhalt jeder Eingangsnachricht kann entweder eine einzelne Zeichenfolge oder ein Array von Inhaltsblöcken sein, wobei jeder Block einen bestimmten Typ hat. Die Verwendung einer Zeichenfolge ist eine Abkürzung für ein Array aus einem Inhaltsblock vom Typ „Text“. Die folgenden Eingabemeldungen sind gleichwertig:

{"role": "user", "content": "Hello, Claude"}
{"role": "user", "content": [{"type": "text", "text": "Hello, Claude"}]}

Informationen zum Erstellen von Prompts für Anthropic Claude Modelle finden Sie in der Dokumentation unter Intro to Prompting. Anthropic Claude Wenn Sie bereits Eingabeaufforderungen zur Textvervollständigung haben, die Sie zur Nachrichten-API migrieren möchten, finden Sie weitere Informationen unter Migration von Textvervollständigungen.

Wichtig

Das Timeout für Inferenzabrufe an Anthropic Claude 3.7 Sonnet und Claude 4 Modelle beträgt 60 Minuten. Standardmäßig läuft das Timeout für AWS SDK-Clients nach 1 Minute ab. Wir empfehlen, dass Sie das Lese-Timeout Ihres AWS SDK-Clients auf mindestens 60 Minuten erhöhen. Ändern Sie beispielsweise im AWS Python-Botocore-SDK den Wert des read_timeout Felds in botocore.config auf mindestens 3600.

Systemaufforderungen

Sie können der Anfrage auch eine Systemaufforderung hinzufügen. Mit einer Systemaufforderung können Sie Kontext und Anweisungen angeben AnthropicClaude, z. B. ein bestimmtes Ziel oder eine bestimmte Rolle angeben. Geben Sie in dem system Feld eine Systemaufforderung an, wie im folgenden Beispiel gezeigt.

"system": "You are Claude, an AI assistant created by Anthropic to be helpful, harmless, and honest. Your goal is to provide informative and substantive responses to queries while avoiding potential harms."

Weitere Informationen finden Sie in der Anthropic Dokumentation unter Systemaufforderungen.

Multimodale Eingabeaufforderungen

Eine multimodale Aufforderung kombiniert mehrere Modalitäten (Bilder und Text) in einer einzigen Aufforderung. Sie geben die Modalitäten im Eingabefeld ancontent. Das folgende Beispiel zeigt, wie Sie den Inhalt eines bereitgestellten Bildes beschreiben könnten. Anthropic Claude Beispielcode finden Sie unter Beispiele für multimodalen Code.

{ "anthropic_version": "bedrock-2023-05-31", "max_tokens": 1024, "messages": [ { "role": "user", "content": [ { "type": "image", "source": { "type": "base64", "media_type": "image/jpeg", "data": "iVBORw..." } }, { "type": "text", "text": "What's in these images?" } ] } ] }
Anmerkung

Die folgenden Einschränkungen gelten für das content Feld:

  • Sie können bis zu 20 Bilder hinzufügen. Die Größe, Höhe und Breite jedes Bilds dürfen jeweils nicht mehr als 3,75 MB, 8.000 Pixel und 8.000 Pixel betragen.

  • Sie können bis zu fünf Dokumente hinzufügen. Die Größe jedes Dokuments darf nicht mehr als 4,5 MB betragen.

  • Sie können nur Bilder und Dokumente hinzufügen, wenn dies der Fall role istuser.

Jedes Bild, das Sie in eine Anfrage aufnehmen, wird auf Ihre Token-Nutzung angerechnet. Weitere Informationen finden Sie in der Anthropic Dokumentation unter Kosten für Bilder.