Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

gpt-oss-20b

OpenAI — gpt-oss-20b

Détails du modèle

GPT OSS 20B est le modèle open source à 20 milliards de paramètres d'OpenAI pour une génération et un codage de texte efficaces à moindre coût de calcul. Pour plus d'informations sur le développement et les performances des modèles, consultez la model/service fiche.

Endpoints et API pris en charge

Les tableaux suivants indiquent les points de terminaison et les API pris en charge pour gpt-oss-20b. Pour plus d’informations, consultez API prises en charge par Amazon Bedrock et Points de terminaison pris en charge par Amazon Bedrock.

Prise en charge des terminaux

API prises en charge sur les bedrock-runtime terminaux

API prises en charge sur les bedrock-mantle terminaux

Capacités et fonctionnalités

Caractéristiques de Bedrock

Fonctionnalités prises en charge via bedrock-mantle Endpoint

Fonctionnalités prises en charge via bedrock-runtime Endpoint

Tarification

Pour plus d'informations sur les tarifs, consultez la page de tarification d'Amazon Bedrock.

Accès programmatique

Utilisez les ID de modèle et les URL de point de terminaison suivants pour accéder à ce modèle par programmation. Pour plus d'informations sur les API et les points de terminaison disponibles, consultez les sections API prises en charge et Points de terminaison pris en charge.

Par exemple, si la région est us-east-1 (Virginie du Nord), l'URL du point de terminaison du temps d'exécution du socle sera « » et celle du manteau rocheux sera https://bedrock-runtime.us-east-1.amazonaws.com « ». https://bedrock-mantle.us-east-1.api.aws/v1

Niveaux de service

Amazon Bedrock propose plusieurs niveaux de service pour répondre à vos exigences en matière de charge de travail. Standard fournit un accès au paiement par jeton sans engagement (définissez "service_tier": "default" ou omettez le champ). Priority offre les temps de réponse les plus rapides pour un prix plus élevé (fixe"service_tier": "priority"). Flex fournit un accès à moindre coût pour des charges de travail flexibles et non sensibles au facteur temps (set). "service_tier": "flex" Reserved fournit un débit dédié assorti d'un engagement à terme pour des charges de travail prévisibles ; il est défini au niveau du compte plutôt que par demande (contactez l'équipe responsable de votre compte AWS pour l'activer). Pour plus d'informations, consultez la section Niveaux de service.

Disponibilité par région

La disponibilité régionale en un coup d'œil

Amazon Bedrock propose trois options d'inférence : In-Region conserve les demandes dans une seule région pour des raisons de stricte conformité, géolocalise Cross-Region les itinéraires entre les régions d'une même zone géographique (comme les États-Unis, l'UE et l'APAC) tout en respectant la résidence des données, et les Cross-Region itinéraires mondiaux partout dans le monde lorsqu'il n'y a aucune contrainte de résidence. Consultez la Disponibilité régionale par modèle page pour plus de détails.

Détails de l'inférence Geo CRIS

GovCloud CRIS AMÉRICAIN

ID d'inférence GovCloud CRIS américain : us-gov.openai.gpt-oss-20b-1:0

Quotas et limites

Votre AWS compte possède des quotas par défaut afin de maintenir les performances du service et de garantir une utilisation appropriée d'Amazon Bedrock. Les quotas par défaut attribués à un compte peuvent être mis à jour en fonction de facteurs régionaux, de l'historique des paiements, d'une utilisation frauduleuse ou de and/or l'approbation d'une demande d'augmentation de quota. Pour plus d'informations, consultez Quotas pour Amazon Bedrock la documentation et consultez les limites du modèle.

Exemple de code

Étape 1 - AWS Compte : Si vous avez déjà un AWS compte, ignorez cette étape. Si vous êtes nouveau sur AWS AWS, créez un compte AWS.

Étape 2 - Clé API : Accédez à la console Amazon Bedrock et générez une clé API à long terme.

Étape 3 - Téléchargez le SDK : pour utiliser ce guide de démarrage, Python doit déjà être installé. Installez ensuite le logiciel approprié en fonction des API que vous utilisez.

Pour les réponses ou les réponses au chat, choisissez l'onglet OpenAI SDK. Pour Invoke ou Converse, choisissez l'onglet Boto3.

OpenAI SDK

pip install boto3 openai

Boto3

pip install boto3

Étape 4 - Définir les variables d'environnement

Configurez votre environnement pour utiliser la clé API pour l'authentification.

Choisissez l'onglet correspondant à votre SDK et à votre terminal.

bedrock-mantle

OPENAI_API_KEY="<provide your Bedrock API key>"
OPENAI_BASE_URL="https://bedrock-mantle.<your-region>.api.aws/v1"

bedrock-runtime

OPENAI_API_KEY="<provide your Bedrock API key>"
OPENAI_BASE_URL="https://bedrock-runtime.<your-region>.amazonaws.com/openai/v1"

Boto3

AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"

Étape 5 - Exécutez votre première demande d'inférence

Enregistrez le fichier sous bedrock-first-request.py

manteau rocheux

Utilisez les paramètres de l'étape 4 - Définir les variables d'environnement. Cliquez sur l'onglet bedrock-mantle. L'onglet Chat utilise l'API Chat Completions.

Responses API

from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="openai.gpt-oss-20b",
    input="Can you explain the features of Amazon Bedrock?"
)
print(response)

Chat

from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="openai.gpt-oss-20b",
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}]
)
print(response)

bedrock-runtime : SDK OpenAI

Utilisez les paramètres de l'étape 4 - Définir les variables d'environnement. Cliquez sur l'onglet bedrock-runtime. L'onglet Chat utilise l'API Chat Completions.

Responses API

from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="openai.gpt-oss-20b",
    input="Can you explain the features of Amazon Bedrock?"
    )
print(response)

Chat

from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="openai.gpt-oss-20b",
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}]
    )
print(response)

base de fonctionnement : Boto3

Utilisez les paramètres Boto3 de l'étape 4 - Définir les variables d'environnement. Choisissez l'API correspondant à votre demande.

Invoke API

import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='openai.gpt-oss-20b-1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
)
print(json.loads(response['body'].read()))

Converse API

import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='openai.gpt-oss-20b-1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)