

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

# Jurassic-2-Modelle von AI21 Labs
<a name="model-parameters-jurassic2"></a>

Dieser Abschnitt enthält Inferenzparameter und ein Codebeispiel für die Verwendung von AI21 Labs Jurassic-2-Modellen von AI21 Labs.

**Topics**
+ [Inferenzparameter](#model-parameters-jurassic2-request-response)
+ [Codebeispiel](#api-inference-examples-a2i-jurassic)

## Inferenzparameter
<a name="model-parameters-jurassic2-request-response"></a>

Die Jurassic-2-Modelle von AI21 Labs unterstützen die folgenden Inferenzparameter.

**Topics**
+ [Zufälligkeit und Diversität](#model-parameters-jurassic2-random)
+ [Länge](#model-parameters-jurassic2-length)
+ [Wiederholungen](#model-parameters-jurassic2-reps)
+ [Textfeld für die Modellaufrufanforderung](#model-parameters-jurassic2-request-body)
+ [Textfeld für die Modellaufruf-Antwort](#model-parameters-jurassic2-response-body)

### Zufälligkeit und Diversität
<a name="model-parameters-jurassic2-random"></a>

Jurassic-2-Modelle von AI21 Labs unterstützen die folgenden Parameter, um die Zufälligkeit und Diversität der Antwort zu kontrollieren.
+ **Temperatur** (`temperature`) – Verwenden Sie einen niedrigeren Wert, um die Zufälligkeit der Antwort zu verringern.
+ **Top-P** (`topP`) – Verwenden Sie einen niedrigeren Wert, um weniger wahrscheinliche Optionen zu ignorieren.

### Länge
<a name="model-parameters-jurassic2-length"></a>

Jurassic-2-Modelle von AI21 Labs unterstützen die folgenden Parameter, um die Länge der generierten Antwort zu steuern.
+ **Maximale Vervollständigungslänge** (`maxTokens`) – Geben Sie die maximale Anzahl von Token an, die in der generierten Antwort verwendet werden soll.
+ **Stoppsequenzen** (`stopSequences`) – Konfigurieren Sie Stoppsequenzen, die das Modell erkennt und nach deren Auftreten es die Generierung weiterer Token beendet. Drücken Sie die Eingabetaste, um ein Zeilenumbruchzeichen in eine Stoppsequenz einzufügen. Verwenden Sie die Tabulatortaste, um das Einfügen einer Stoppsequenz abzuschließen.

### Wiederholungen
<a name="model-parameters-jurassic2-reps"></a>

Jurassic-2-Modelle von AI21 Labs unterstützen die folgenden Parameter, um Wiederholungen in der generierten Antwort zu steuern.
+ **Präsenzstrafe** (`presencePenalty`) – Verwenden Sie einen höheren Wert, um die Wahrscheinlichkeit zu verringern, dass neue Token generiert werden, die bereits mindestens einmal in der Eingabeaufforderung oder in der Vervollständigung vorkommen.
+ **Zählerstrafe** (`countPenalty`) – Verwenden Sie einen höheren Wert, um die Wahrscheinlichkeit zu verringern, dass neue Token generiert werden, die bereits mindestens einmal in der Eingabeaufforderung oder in der Vervollständigung vorkommen. Proportional zur Anzahl der Vorkommen
+ **Häufigkeitsstrafe** (`frequencyPenalty`) – Verwenden Sie einen hohen Wert, um die Wahrscheinlichkeit zu verringern, dass neue Token generiert werden, die bereits mindestens einmal in der Eingabeaufforderung oder in der Vervollständigung vorkommen. Der Wert ist proportional zur Häufigkeit der Token-Vorkommen (normalisiert auf die Textlänge).
+ **Strafe für spezielle Token** – Verringern Sie die Wahrscheinlichkeit, dass sich Sonderzeichen wiederholen. Die Standard-Werte sind `true`.
  + **Leerzeichen** (`applyToWhitespaces`) – Mit dem Wert `true` wird die Strafe auf Leerzeichen und Zeilenumbrüche angewendet.
  + **Interpunktionen** (`applyToPunctuation`) – Mit dem Wert `true` wird die Strafe auf Satzzeichen angewendet.
  + **Zahlen** (`applyToNumbers`) – Mit dem Wert `true` wird die Strafe auf Zahlen angewendet.
  + **Stoppwörter** (`applyToStopwords`) – Mit dem Wert `true` wird die Strafe auf Stoppwörter angewendet.
  + **Emojis** (`applyToEmojis`) – Mit dem Wert `true` werden Emojis von der Strafe ausgeschlossen.

### Textfeld für die Modellaufrufanforderung
<a name="model-parameters-jurassic2-request-body"></a>

Wenn Sie mit einem Modell von AI21 Labs einen [InvokeModel](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModel.html)- oder [InvokeModelWithResponseStream](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModelWithResponseStream.html)-Aufruf ausführen, füllen Sie das `body`-Feld mit einem JSON-Objekt aus, das dem unten stehenden entspricht. Geben Sie die Eingabeaufforderung in das Feld `prompt` ein.

```
{
    "prompt": string,
    "temperature": float,
    "topP": float,
    "maxTokens": int,
    "stopSequences": [string],
    "countPenalty": {
        "scale": float
    },
    "presencePenalty": {
        "scale": float
    },
    "frequencyPenalty": {
        "scale": float
    }
}
```

Wenn Sie spezielle Token bestrafen möchten, fügen Sie diese Felder einem beliebigen Strafobjekt hinzu. Sie können das Feld `countPenalty` beispielsweise wie folgt ändern.

```
"countPenalty": {
    "scale": float,
    "applyToWhitespaces": boolean,
    "applyToPunctuations": boolean,
    "applyToNumbers": boolean,
    "applyToStopwords": boolean,
    "applyToEmojis": boolean
}
```

Die folgende Tabelle zeigt die minimalen, maximalen und standardmäßigen Werte für die numerischen Parameter.


****  


- **Zufälligkeit und Diversität**
  - **Parameter:** Temperatur / **Format des JSON-Objekts:** temperature / **Minimum:** 0 / **Maximum:** 1 / **Standard:** 0.5
  - **Parameter:** Top-P / **Format des JSON-Objekts:** topP / **Minimum:** 0 / **Maximum:** 1 / **Standard:** 0.5

- **Länge**
  - **Parameter:** Max. Anzahl von Token (Modelle der Größen Mid, Ultra und Large) / **Minimum:** 0 / **Maximum:** 8 191 / **Standard:** 200
  - **Parameter:** Max. Anzahl von Token (andere Modelle) / **Minimum:** 0 / **Maximum:** 2 048 / **Standard:** 200
  - **Format des JSON-Objekts:** maxTokens

- **Wiederholungen**
  - **Parameter:** Präsenzstrafe / **Format des JSON-Objekts:** presencePenalty / **Minimum:** 0 / **Maximum:** 5 / **Standard:** 0
  - **Parameter:** Zählerstrafe / **Format des JSON-Objekts:** countPenalty / **Minimum:** 0 / **Maximum:** 1 / **Standard:** 0
  - **Parameter:** Frequenzstrafe / **Format des JSON-Objekts:** frequencyPenalty / **Minimum:** 0 / **Maximum:** 500 / **Standard:** 0



### Textfeld für die Modellaufruf-Antwort
<a name="model-parameters-jurassic2-response-body"></a>

Informationen zum Format des Felds `body` in der Antwort finden Sie unter [https://docs.ai21.com/reference/j2-complete-api-ref](https://docs.ai21.com/reference/j2-complete-api-ref).

**Anmerkung**  
Amazon Bedrock gibt die Antwort-ID (`id`) als Ganzzahl zurück.

## Codebeispiel
<a name="api-inference-examples-a2i-jurassic"></a>

Dieses Beispiel zeigt, wie das Modell *A2I Jurassic-2 Mid von AI21 Labs* aufgerufen wird.

```
import boto3
import json

brt = boto3.client(service_name='bedrock-runtime')

body = json.dumps({
    "prompt": "Translate to spanish: 'Amazon Bedrock is the easiest way to build and scale generative AI applications with base models (FMs)'.", 
    "maxTokens": 200,
    "temperature": 0.5,
    "topP": 0.5
})

modelId = 'ai21.j2-mid-v1'
accept = 'application/json'
contentType = 'application/json'

response = brt.invoke_model(
    body=body, 
    modelId=modelId, 
    accept=accept, 
    contentType=contentType
)

response_body = json.loads(response.get('body').read())

# text
print(response_body.get('completions')[0].get('data').get('text'))
```