Uso de un modelo reclasificador en Amazon Bedrock - Amazon Bedrock

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Uso de un modelo reclasificador en Amazon Bedrock

Puede utilizar un modelo reclasificador directamente o mientras recupera los resultados durante una consulta a la base de conocimiento. Elija la pestaña del método que prefiera y siga estos pasos:

Console

No puede usar un modelo reclasificador directamente en la Consola de administración de AWS, pero puede usarlo al consultar su base de conocimiento de la siguiente manera:

  1. Cuando consulte una base de conocimiento, abra el panel Configuraciones eligiendo el icono Three horizontal sliders with adjustable circular controls for settings or parameters. .

  2. Amplíe la sección Reordenamiento.

  3. Elija Seleccionar modelo para seleccionar un modelo reclasificador.

  4. Si a su rol de servicio de Bases de conocimiento de Amazon Bedrock le faltan permisos para usar el modelo reclasificador, seleccione Actualizar rol de servicio para modificar el rol con los permisos adecuados.

  5. (Opcional) En la sección Opciones de reordenamiento adicionales, modifique las opciones que necesite.

  6. Introduzca una petición y seleccione Ejecutar. La respuesta es el resultado después de aplicar el modelo reclasificador.

Para obtener instrucciones más detalladas sobre cómo realizar una consulta en la base de conocimiento, consulte Consulta de una base de conocimiento y recuperación de datos y Consulta de una base de conocimiento y generación de respuestas en función de los datos recuperados.

API

Para obtener instrucciones sobre cómo usar un modelo reclasificador durante una consulta a la base de conocimiento, consulte Consulta de una base de conocimiento y recuperación de datos y Consulta de una base de conocimiento y generación de respuestas en función de los datos recuperados.

Para usar un modelo reclasificador directamente con la API de Amazon Bedrock, envíe una solicitud Rerank con un punto de conexión en tiempo de ejecución de Agentes para Amazon Bedrock.

Los siguientes campos son obligatorios:

Campo Descripción básica
consultas Una matriz de un objeto RerankQuery. Especifique TEXT como type e incluya la consulta en el campo textQuery.
sources Una matriz de objetos RerankSource para enviarlos al modelo de reclasificación. Para cada RerankSource, especifique INLINE como type e incluya un objeto RerankDocument en el campo inlineDocumentSource. A continuación se incluye información detallada sobre RerankDocument.
rerankingConfiguration Incluye el Nombre de recurso de Amazon (ARN) del modelo de reclasificación que se va a utilizar, el número de resultados que se devolverán tras la reclasificación y, opcionalmente, las configuraciones de inferencia del modelo. Puede especificar configuraciones de modelo adicionales como pares de clave-valor. Para obtener más información, consulte Rerank en el sitio web de documentación de Cohere.

Los siguientes campos son opcionales:

Campo Caso de uso
nextToken Un token devuelto en una respuesta anterior que puede incluir para proporcionar el siguiente lote de resultados.

El formato del objeto RerankSource que incluya depende del formato del documento. Para ver el formato de los distintos tipos de RerankSource, elija la pestaña correspondiente al formato del documento:

StringJSON object
String

Si el documento es una cadena, especifique el valor del campo type del objeto RerankDocument como TEXT e incluya el documento en el campo text. Por ejemplo:

{
    "inlineDocumentSource": {
        "textDocument": {
            "text": "string"
        },
        "type": "TEXT"
    },
    "type": "INLINE"
}
JSON object

Si el documento es un objeto JSON, especifique el valor del campo type del objeto RerankDocument como JSON e incluya el documento en el campo jsonDocument. Por ejemplo:

{
    "inlineDocumentSource": {
        "jsonDocument": JSON value,
        "type": "JSON"
    },
    "type": "INLINE"
}

La respuesta a su solicitud Rerank devuelve una lista de objetos RerankResult en el campo results. Cada objeto incluye los siguientes campos:

  • document: incluye información sobre el documento que ha enviado.

  • relevanceScore: una puntuación de relevancia para el documento, asignada por el modelo de reclasificación.

  • index: indica la clasificación del documento en relación con los demás documentos de la lista. Cuanto menor sea la puntuación, más alta será la posición en la clasificación.

Si hay demasiados resultados para mostrar, la respuesta devuelve un valor en el campo nextToken. En este caso, para ver el siguiente lote de resultados, incluya ese token en una solicitud posterior.