Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Command R

Cohere — Comando R

Detalles del modelo

Command R es el LLM escalable de Cohere, optimizado para la generación con recuperación aumentada y el uso de herramientas en aplicaciones empresariales con una ventana de contexto de 128 K. Para obtener más información sobre el desarrollo y el rendimiento de los modelos, consulte la tarjeta de modelo/servicio.

Precios

Para conocer los precios, consulta la página de precios de Amazon Bedrock.

Acceso programático

Utilice el siguiente modelo IDs y punto final URLs para acceder a este modelo mediante programación. Para obtener más información sobre los puntos de conexión disponibles APIs y los puntos de conexión, consulte los puntos de conexión APIs compatibles y los puntos de conexión compatibles.

Por ejemplo, si la región es us-east-1 (Virginia del Norte), la URL del punto final de bedrock-runtime será "» y para bedrock-mantle será https://bedrock-runtime.us-east-1.amazonaws.com "https://bedrock-mantle.us-east-1.api.aws/v1 «.

Niveles de servicio

Amazon Bedrock ofrece varios niveles de servicio para adaptarse a sus requisitos de carga de trabajo. El estándar proporciona pay-per-token acceso sin compromiso. Priority ofrece un mayor rendimiento con un compromiso basado en el tiempo. Flex proporciona un acceso de menor costo para cargas de trabajo flexibles. non-time-sensitive Reserved ofrece un rendimiento específico con un compromiso a largo plazo para cargas de trabajo predecibles. Para obtener más información, consulte los niveles de servicio.

Disponibilidad regional

La disponibilidad regional de un vistazo

Bedrock ofrece tres opciones de inferencia: In-Region mantiene las solicitudes dentro de una sola región para garantizar un cumplimiento estricto, las rutas georegionales entre regiones de una geografía (EE. UU., UE, etc.) para obtener un mayor rendimiento y respetar la residencia de los datos, y las rutas globales entre regiones a cualquier parte del mundo para obtener el máximo rendimiento cuando no hay restricciones de residencia. Consulte la página para obtener más información. Disponibilidad regional

Cuotas y límites

Su cuenta de AWS tiene cuotas predeterminadas para mantener el rendimiento del servicio y garantizar un uso adecuado de Amazon Bedrock. Las cuotas predeterminadas asignadas a una cuenta pueden actualizarse en función de factores regionales, el historial de pagos, el uso fraudulento o la and/or aprobación de una solicitud de aumento de cuota. Para obtener más información, consulte la Cuotas para Amazon Bedrock documentación y consulte los límites del modelo.

Código de muestra

Paso 1: Cuenta de AWS: si ya tiene una cuenta de AWS, omita este paso. Si es la primera vez que utiliza AWS, regístrese para obtener una cuenta de AWS.

Paso 2: Clave de API: vaya a la consola de Amazon Bedrock y genere una clave de API a largo plazo.

Paso 3: Obtenga el SDK: para usar esta guía de introducción, debe tener Python ya instalado. A continuación, instale el software correspondiente en función del APIs que esté utilizando.

pip install boto3

Paso 4: Defina las variables de entorno: configure su entorno para que utilice la clave API para la autenticación.

AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"

Paso 5: Ejecute su primera solicitud de inferencia: guarde el archivo como bedrock-first-request.py

Invoke API

import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='cohere.command-r-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))

Converse API

import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='cohere.command-r-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)