Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
Obtenga información sobre los casos de uso de diferentes métodos de inferencia de modelos
Puede ejecutar directamente la inferencia de modelos de las siguientes maneras:
| Método | Caso de uso |
|---|---|
| Parques de juegos para consolas Amazon Bedrock | Ejecute la inferencia en una interfaz gráfica fácil de usar. Práctico para la exploración. |
| Converse o ConverseStream | Implemente aplicaciones conversacionales con una API unificada para la entrada de modelos. |
| InvokeModel o InvokeModelWithResponseStream | Envíe un único mensaje y genere una respuesta de forma sincrónica. Útil para generar respuestas en tiempo real o para consultas de búsqueda. |
| StartAsyncInvoke | Envíe un único mensaje y genere una respuesta de forma asíncrona. Útil para generar respuestas a gran escala. |
| CreateModelInvocationJob | Prepare un conjunto de datos de solicitudes y genere respuestas en lotes. |
Las siguientes características de Amazon Bedrock también utilizan la inferencia de modelos como un paso en un flujo de trabajo más amplio:
-
La evaluación del modelo utiliza el proceso de invocación del modelo para evaluar el rendimiento de los diferentes modelos después de enviar una solicitud. CreateEvaluationJob
-
Las bases de conocimientos utilizan la invocación de modelos al utilizar la API de RetrieveAndGenerate para generar una respuesta basada en los resultados obtenidos de una base de conocimientos.
-
Los agentes utilizan la invocación de modelos para generar respuestas en varias etapas durante una solicitud de InvokeAgent.
-
Los flujos incluyen recursos de Amazon Bedrock, como solicitudes, bases de conocimiento y agentes, que utilizan la invocación de modelos.
Tras probar diferentes modelos básicos con distintas indicaciones y parámetros de inferencia, puede configurar su aplicación para que los invoque con las APIs especificaciones que desee.
