Llamada al punto de conexión
Puede empezar a usar su modelo después de implementarlo en un punto de conexión. Para llamar a los modelos se utilizan las operaciones InvokeModel o Converse.
Para obtener una lista de los modelos compatibles con la operación Converse, consulte Compatibilidad del modelo. Para obtener información sobre los agentes, consulte Automatización de las tareas en la aplicación mediante agentes de IA. Para obtener información sobre las bases de conocimiento, consulte Recuperación de datos y generación de respuestas de IA con Bases de conocimiento de Amazon Bedrock.
Cómo utilizar un modelo
-
Inicie sesión en la Consola de administración de AWS mediante un rol de IAM con los permisos de Amazon Bedrock.
-
En la barra de búsqueda, especifique “Amazon Bedrock” y elija Amazon Bedrock en la lista desplegable.
-
Elija la herramienta que vaya a usar. El área de pruebas es la forma más rápida de acceder al modelo que ha implementado.
-
Elija Seleccionar modelo.
-
Elija el punto de conexión del modelo.
También puede utilizar los siguientes comandos de la AWS Command Line Interface de ejemplo de para llamar al punto de conexión.
aws bedrock-runtime converse --model-id arn:aws:sagemaker:region:111122223333:endpoint/example-endpoint-name--messages '[{"role": "user", "content": [{"text": "Describe the purpose of a \"hello world\" program in one line."}]}]'
aws bedrock-runtime invoke-model --model-id arn:aws:sagemaker:region:111122223333:endpoint/example-endpoint-name--body '{"inputs": "Hello? How are you?", "parameters": {"details": true}}' --cli-binary-format raw-in-base64-out test.txt
