Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
Envío de solicitudes y generación de respuestas mediante la API
Amazon Bedrock ofrece dos operaciones de la API de invocación de modelos principales para la inferencia:
-
InvokeModel— Envíe una sola solicitud y genere una respuesta basada en esa solicitud.
-
Converse: envía una única petición o una conversación y genera respuestas en función de dichas peticiones. Ofrece más flexibilidad que
InvokeModelal permitir incluir peticiones y respuestas previas para contextualizarlas.
También puede transmitir las respuestas con las versiones de transmisión de estas operaciones de API, InvokeModelWithResponseStreamy ConverseStream.
Para la inferencia del modelo, debe determinar los siguientes parámetros:
-
ID de modelo: el ID o nombre de recurso de Amazon (ARN) del modelo o perfil de inferencia que se va a utilizar en el campo
modelIdpara la inferencia. En la siguiente tabla se describe cómo IDs buscar diferentes tipos de recursos:Tipo de modelo Descripción Buscar el ID en la consola Buscar el ID en la API Documentación relacionada Modelo básico Modelo fundacional de un proveedor. Elija Modelos base en el panel de navegación de la izquierda, busque un modelo y localice el ID de modelo. Envíe una ListFoundationModelssolicitud GetFoundationModelo y búsquela modelIden la respuesta.Vea una lista de IDs arrobaModelos fundacionales compatibles en Amazon Bedrock. Perfil de inferencia Aumenta el rendimiento al permitir la invocación de un modelo en varias regiones. Elija Inferencia entre regiones en el panel de navegación izquierdo y busque un ID de perfil de inferencia. Envíe una ListInferenceProfilessolicitud GetInferenceProfileo y búsquela inferenceProfileIden la respuesta.Vea una lista de IDs arrobaRegiones y modelos compatibles para perfiles de inferencia. Petición Un indicador que se creó mediante la administración de Prompt. Elija Administración de mensajes en el panel de navegación izquierdo, seleccione un mensaje en la sección Mensajes y busque el ARN del mensaje. Envíe una ListPromptssolicitud GetPrompto búsquela promptArnen la respuesta.Obtenga información sobre cómo crear un mensaje en Prompt Management enCreación y almacenamiento de peticiones reutilizables con la administración de peticiones en Amazon Bedrock. Rendimiento aprovisionado Proporciona un mayor nivel de rendimiento para un modelo a un costo fijo. Elija Rendimiento aprovisionado en el panel de navegación de la izquierda, seleccione un rendimiento aprovisionado y busque el ARN. Envíe una ListProvisionedModelThroughputssolicitud GetProvisionedModelThroughputo búsquela provisionedModelArnen la respuesta.Obtenga información sobre cómo adquirir rendimiento aprovisionado para un modelo en Aumento de la capacidad de invocación de modelos con el rendimiento aprovisionado en Amazon Bedrock. Modelo personalizado Es un modelo cuyos parámetros se han tomado de un modelo fundacional basado en los datos de entrenamiento. Después de adquirir rendimiento aprovisionado para un modelo personalizado, siga los pasos para encontrar el ID del rendimiento aprovisionado. Después de adquirir rendimiento aprovisionado para un modelo personalizado, siga los pasos para encontrar el ID del rendimiento aprovisionado. Obtenga información sobre cómo optimizar un modelo en Personalización del modelo para mejorar su rendimiento según su caso de uso. Tras la personalización, debe adquirir rendimiento aprovisionado y utilizar el ID del rendimiento aprovisionado. -
Cuerpo de la solicitud: contiene los parámetros de inferencia de un modelo y otras configuraciones. Cada modelo base tiene sus propios parámetros de inferencia. Los parámetros de inferencia de un modelo personalizado o aprovisionado dependen del modelo base a partir del cual se creó. Para obtener más información, consulte Parámetros de solicitud de inferencia y campos de respuesta para los modelos fundacionales.
Seleccione un tema para aprender a usar la invocación APIs modelo.
Temas
