View a markdown version of this page

GPT OSS Safeguard 20B - Amazon Bedrock

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

GPT OSS Safeguard 20B

Icono que muestra un patrón circular con segmentos curvos entretejidos que forman un diseño de molinete. OpenAI — GPT OSS Safeguard 20B

Detalles del modelo

GPT OSS Safeguard 20B es el modelo compacto de seguridad de código abierto de OpenAI con 20 000 millones de parámetros para tareas ligeras de moderación y protección de contenido. Para obtener más información sobre el desarrollo y el rendimiento del modelo, consulte la tarjeta. model/service

Modalidades de entrada Modalidades de salida
Red circle with white X icon indicating error, cancel, or close action.AudioRed circle with white X icon indicating error, cancel, or close action.Incrustación
Red circle with white X icon indicating error, cancel, or close action.ImagenRed circle with white X icon indicating error, cancel, or close action.Imagen
Red circle with white X icon indicating error, cancel, or close action.DiscursoRed circle with white X icon indicating error, cancel, or close action.Discurso
Green circle with white checkmark icon.TextoGreen circle with white checkmark icon.Texto
Red circle with white X icon indicating error, cancel, or close action.VídeoRed circle with white X icon indicating error, cancel, or close action.Vídeo

Compatible con terminales y API

En las tablas siguientes se muestran qué terminales y API son compatibles con GPT OSS Safeguard 20B. Para obtener más información, consulte API compatibles con Amazon Bedrock y Terminales compatibles con Amazon Bedrock.

Soporte para terminales

Punto de conexión Compatible
bedrock-runtime supported
bedrock-mantle supported

APIs compatibles en bedrock-runtime terminales

Mensajes Respuestas Finalizaciones de chat Converse Invoke
not-supported not-supported supported supported supported

Las API son compatibles con los terminales bedrock-mantle

Mensajes Respuestas Finalizaciones de chat Converse Invoke
not-supported supported supported not-supported not-supported
nota

bedrock-mantle, ambas API utilizan la ruta /v1 base, no/openai/v1. Usa cualquiera de las API con este modelo:

  • Para las respuestas, utilice/v1/responses.

  • Para completar el chat, usa/v1/chat/completions.

sugerencia

Siempre que sea posible, recomendamos usar el bedrock-runtime punto final para las aplicaciones nuevas. Para obtener más información, consulte Terminales compatibles con Amazon Bedrock.

Capacidades y características

Características de Bedrock

Funciones compatibles con el punto final bedrock-mantle

Funciones compatibles con el bedrock-runtime punto final

Precios

Para obtener información sobre precios, consulte la página de precios de Amazon Bedrock.

Acceso programático

Utilice los siguientes ID de modelo y URL de punto final para acceder a este modelo mediante programación. Para obtener más información sobre las API y los puntos de conexión disponibles, consulte las API compatibles y los puntos de conexión compatibles. endpoints.html

Punto de conexión ID del modelo In-Region URL de punto final ID de inferencia geográfica ID de inferencia global
bedrock-runtime openai.gpt-oss-safeguard-20b https://bedrock-runtime.{region}.amazonaws.com No admitido No admitido
bedrock-mantle openai.gpt-oss-safeguard-20b https://bedrock-mantle.{region}.api.aws/v1 No admitido No admitido

Por ejemplo, si la región es us-east-1 (norte de Virginia), la URL del punto final de bedrock-runtime será "» y para bedrock-mantle será https://bedrock-runtime.us-east-1.amazonaws.com "». https://bedrock-mantle.us-east-1.api.aws/v1

Niveles de servicio

Amazon Bedrock ofrece varios niveles de servicio para adaptarse a sus requisitos de carga de trabajo. La versión estándar proporciona acceso de pago por token sin compromiso (defina "service_tier": "default" u omita el campo). Priority ofrece los tiempos de respuesta más rápidos por un precio superior (fijo). "service_tier": "priority" Flex proporciona un acceso de menor costo para cargas de trabajo flexibles y que no requieren tiempo (conjunto). "service_tier": "flex" Reserved proporciona un rendimiento dedicado con un compromiso temporal para cargas de trabajo predecibles; se establece a nivel de cuenta y no por solicitud (póngase en contacto con su equipo de cuentas de AWS para habilitarlo). Para obtener más información, consulte los niveles de servicio.

Estándar Priority (Prioridad) Flex Reservado
Green circle with white checkmark icon. Green circle with white checkmark icon. Green circle with white checkmark icon. Red circle with white X icon indicating error, cancel, or close action.

Disponibilidad regional

La disponibilidad regional de un vistazo

Amazon Bedrock ofrece tres opciones de inferencia: In-Region mantiene las solicitudes en una sola región para garantizar un cumplimiento estricto, Cross-Region rutas geográficas entre regiones de una misma geografía (como EE. UU., UE y APAC) respetando la residencia de los datos, y Cross-Region rutas globales a cualquier parte del mundo cuando no hay restricciones de residencia. Consulte la Disponibilidad regional por modelos página para obtener más información.

Region In-Region Geo Global
us-east-1(Virginia del Norte)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
us-east-2(Ohio)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
us-west-2(Oregón)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
eu-south-1(Milán)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
eu-west-1(Irlanda)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
eu-west-2(Londres)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
ap-northeast-1(Tokio)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
ap-south-1(Bombay)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
ap-southeast-2(Sídney)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
sa-east-1(São Paulo)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
ap-southeast-3(Yakarta)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
ap-southeast-4(Melbourne)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
eu-central-1(Fráncfort)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
eu-north-1(Estocolmo)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.

Cuotas y límites

Su AWS cuenta tiene cuotas predeterminadas para mantener el rendimiento del servicio y garantizar el uso adecuado de Amazon Bedrock. Las cuotas predeterminadas asignadas a una cuenta pueden actualizarse en función de factores regionales, el historial de pagos, el uso fraudulento y la and/or aprobación de una solicitud de aumento de cuota. Para obtener más información, consulta la Cuotas para Amazon Bedrock documentación y los límites del modelo.

Código de muestra

Paso 1: AWS Cuenta: Si ya tienes una AWS cuenta, omite este paso. Si es la primera vez que lo AWS hace, regístrese para obtener una cuenta de AWS.

Paso 2: clave de API: vaya a la consola de Amazon Bedrock y genere una clave de API a largo plazo.

Paso 3: Obtenga el SDK: para utilizar esta guía de inicio, debe tener Python ya instalado. A continuación, instale el software correspondiente en función de las API que esté utilizando.

Para responder o completar el chat, elige la pestaña OpenAI SDK. Para Invoke o Converse, elige la pestaña Boto3.

OpenAI SDK
pip install boto3 openai
Boto3
pip install boto3

Paso 4: Establecer las variables de entorno

Configure su entorno para usar la clave de API para la autenticación.

Elige la pestaña para tu SDK y tu punto final.

bedrock-mantle
OPENAI_API_KEY="<provide your Bedrock API key>" OPENAI_BASE_URL="https://bedrock-mantle.<your-region>.api.aws/v1"
bedrock-runtime
OPENAI_API_KEY="<provide your Bedrock API key>" OPENAI_BASE_URL="https://bedrock-runtime.<your-region>.amazonaws.com/openai/v1"
Boto3
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"

Paso 5: Ejecuta tu primera solicitud de inferencia

Guarde el archivo como bedrock-first-request.py

manto rocoso

Usa la configuración del paso 4: Definir las variables de entorno. Elija la pestaña bedrock-mantle. La pestaña Chat usa la API de finalización del chat.

Responses API
from openai import OpenAI client = OpenAI() response = client.responses.create( model="openai.gpt-oss-safeguard-20b", input="Can you explain the features of Amazon Bedrock?" ) print(response)
Chat
from openai import OpenAI client = OpenAI() response = client.chat.completions.create( model="openai.gpt-oss-safeguard-20b", messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}] ) print(response)

bedrock-runtime: OpenAI SDK

Usa la configuración del paso 4: Establecer las variables de entorno. Elija la pestaña bedrock-runtime. En este ejemplo, se usa la API Chat Completions.

nota

Para llamar a la API Responses con este modelo, usabedrock-mantle. No puedes activarlobedrock-runtime.

from openai import OpenAI client = OpenAI() response = client.chat.completions.create( model="openai.gpt-oss-safeguard-20b", messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}] ) print(response)

bedrock-runtime: Boto3

Usa la configuración de Boto3 del paso 4: Establecer las variables de entorno. Elige la API para tu solicitud.

Invoke API
import json import boto3 client = boto3.client('bedrock-runtime', region_name='us-east-1') response = client.invoke_model( modelId='openai.gpt-oss-safeguard-20b', body=json.dumps({ 'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}], 'max_tokens': 1024 }) ) print(json.loads(response['body'].read()))
Converse API
import boto3 client = boto3.client('bedrock-runtime', region_name='us-east-1') response = client.converse( modelId='openai.gpt-oss-safeguard-20b', messages=[ { 'role': 'user', 'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}] } ] ) print(response)