Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

GPT OSS Safeguard 20 B

OpenAI — GPT OSS Safeguard 20B

Modelldetails

GPT OSS Safeguard 20B ist OpenAis kompaktes Open-Source-Sicherheitsmodell mit 20 Milliarden Parametern für einfache Inhaltsmoderations- und Leitplankenaufgaben. Weitere Informationen zur Modellentwicklung und Leistung finden Sie auf der Karte. model/service

Endpunkte und APIs werden unterstützt

Die folgenden Tabellen zeigen, welche Endpunkte und APIs für GPT OSS Safeguard 20B unterstützt werden. Weitere Informationen erhalten Sie unter Von Amazon Bedrock unterstützte APIs und Von Amazon Bedrock unterstützte Endpunkte.

Unterstützung von Endpunkten

Auf dem bedrock-runtime Endpunkt unterstützte APIs

Auf bedrock-mantle dem Endpunkt unterstützte APIs

Fähigkeiten und Funktionen

Funktionen von Bedrock

Funktionen, die mithilfe bedrock-mantle von Endpoint unterstützt werden

Funktionen, die mithilfe von bedrock-runtime Endpoint unterstützt werden

Preisgestaltung

Preisinformationen finden Sie auf der Preisseite von Amazon Bedrock.

Programmatischer Zugriff

Verwenden Sie die folgenden Modell-IDs und Endpunkt-URLs, um programmgesteuert auf dieses Modell zuzugreifen. Weitere Informationen zu den verfügbaren APIs und Endpunkten finden Sie unter Unterstützte APIs und Unterstützte Endpunkte.

Wenn die Region beispielsweise us-east-1 (Nord-Virginia) ist, lautet die Bedrock-Runtime-Endpunkt-URL "" und für https://bedrock-runtime.us-east-1.amazonaws.com bedrock-Mantle "“. https://bedrock-mantle.us-east-1.api.aws/v1

Servicestufen

Amazon Bedrock bietet mehrere Servicestufen, um Ihren Workload-Anforderungen gerecht zu werden. Standard bietet Pay-per-Token-Zugriff ohne Verpflichtung (setzen Sie das Feld ein "service_tier": "default" oder lassen Sie es weg). Priority bietet die schnellsten Reaktionszeiten gegen einen Preisaufschlag (Set). "service_tier": "priority" Flex bietet kostengünstigen Zugriff auf flexible, nicht zeitkritische Workloads (Set). "service_tier": "flex" Reserved bietet einen dedizierten Durchsatz mit einer bestimmten Laufzeit für vorhersehbare Workloads. Dieser Wert wird auf Kontoebene und nicht pro Anfrage festgelegt (wenden Sie sich zur Aktivierung an Ihr AWS-Kontenteam). Weitere Informationen finden Sie unter Servicestufen.

Regionale Verfügbarkeit

Regionale Verfügbarkeit auf einen Blick

Amazon Bedrock bietet drei Ableitungsoptionen: In-Region Es werden Anfragen innerhalb einer einzigen Region zur strikten Einhaltung der Vorschriften gespeichert, Cross-Region Geo-Routen zwischen Regionen innerhalb einer Region (z. B. USA, EU und APAC) unter Berücksichtigung der Datenresidenz, und globale Cross-Region Routen überall auf der Welt, wenn keine Wohnsitzbeschränkungen bestehen. Weitere Informationen finden Sie auf der SeiteRegionale Verfügbarkeit nach Modellen.

Kontingente und Einschränkungen

Ihr AWS Konto verfügt über Standardkontingente, um die Leistung des Dienstes aufrechtzuerhalten und eine angemessene Nutzung von Amazon Bedrock sicherzustellen. Die einem Konto zugewiesenen Standardkontingente können je nach regionalen Faktoren, Zahlungsverlauf, betrügerischer Nutzung und and/or Genehmigung einer Anfrage zur Kontingenterhöhung aktualisiert werden. Weitere Informationen finden Sie in der Kontingente für Amazon Bedrock Dokumentation und in den Grenzwerten für das Modell.

Beispiel-Code

Schritt 1 — AWS Konto: Wenn Sie bereits ein AWS Konto haben, überspringen Sie diesen Schritt. Wenn Sie neu bei uns sind AWS, registrieren Sie sich für ein AWS-Konto.

Schritt 2 — API-Schlüssel: Gehen Sie zur Amazon Bedrock-Konsole und generieren Sie einen langfristigen API-Schlüssel.

Schritt 3 — Holen Sie sich das SDK: Um dieses Handbuch für die ersten Schritte verwenden zu können, muss Python bereits installiert sein. Installieren Sie dann die entsprechende Software je nach den von Ihnen verwendeten APIs.

Wählen Sie für Antworten oder Chat-Abschlüsse die Registerkarte OpenAI SDK. Wählen Sie für Invoke oder Converse den Tab Boto3.

OpenAI SDK

pip install boto3 openai

Boto3

pip install boto3

Schritt 4 — Umgebungsvariablen festlegen

Konfigurieren Sie Ihre Umgebung so, dass der API-Schlüssel für die Authentifizierung verwendet wird.

Wählen Sie die Registerkarte für Ihr SDK und Ihren Endpunkt.

bedrock-mantle

OPENAI_API_KEY="<provide your Bedrock API key>"
OPENAI_BASE_URL="https://bedrock-mantle.<your-region>.api.aws/v1"

bedrock-runtime

OPENAI_API_KEY="<provide your Bedrock API key>"
OPENAI_BASE_URL="https://bedrock-runtime.<your-region>.amazonaws.com/openai/v1"

Boto3

AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"

Schritt 5 — Führen Sie Ihre erste Inferenzanfrage aus

Speichern Sie die Datei unter bedrock-first-request.py

Bedrock-Mantel

Verwenden Sie die Einstellungen aus Schritt 4 — Umgebungsvariablen festlegen. Wählen Sie die Registerkarte bedrock-mantle aus. Der Chat-Tab verwendet die Chat Completions API.

Responses API

from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="openai.gpt-oss-safeguard-20b",
    input="Can you explain the features of Amazon Bedrock?"
)
print(response)

Chat

from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="openai.gpt-oss-safeguard-20b",
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}]
)
print(response)

bedrock-runtime: OpenAI SDK

Verwenden Sie die Einstellungen aus Schritt 4 — Umgebungsvariablen festlegen. Wählen Sie die Registerkarte bedrock-runtime aus. In diesem Beispiel wird die Chat Completions API verwendet.

from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="openai.gpt-oss-safeguard-20b",
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}]
    )
print(response)

bedrock-runtime: Boto3

Verwenden Sie die Boto3-Einstellungen aus Schritt 4 — Umgebungsvariablen festlegen. Wählen Sie die API für Ihre Anfrage.

Invoke API

import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='openai.gpt-oss-safeguard-20b',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
)
print(json.loads(response['body'].read()))

Converse API

import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='openai.gpt-oss-safeguard-20b',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)