Optimización de una petición

Puede optimizar una petición mediante el uso de un entorno de pruebas o Administración de peticiones en la Consola de administración de AWS. Debe seleccionar un modelo para poder optimizar una petición. La petición se optimiza para el modelo que elija.

Para optimizar una solicitud, envíe una OptimizePromptsolicitud con un punto de ejecución de Agents for Amazon Bedrock. Proporcione la petición que desea optimizar en el objeto input y especifique el modelo para el que desea optimizarla en el campo targetModelId.

El flujo de respuesta devuelve la siguiente estructura:

Ejecute el siguiente ejemplo de código para optimizar una petición:

import boto3

# Set values here
TARGET_MODEL_ID = "anthropic.claude-3-sonnet-20240229-v1:0" # Model to optimize for. For model IDs, see https://docs.aws.amazon.com/bedrock/latest/userguide/model-ids.html
PROMPT = "Please summarize this text: " # Prompt to optimize

def get_input(prompt):
    return {
        "textPrompt": {
            "text": prompt
        }
    }
 
def handle_response_stream(response):
    try:
        event_stream = response['optimizedPrompt']
        for event in event_stream:
            if 'optimizedPromptEvent' in event:
                print("========================== OPTIMIZED PROMPT ======================\n")
                optimized_prompt = event['optimizedPromptEvent']
                print(optimized_prompt)
            else:
                print("========================= ANALYZE PROMPT =======================\n")
                analyze_prompt = event['analyzePromptEvent']
                print(analyze_prompt)
    except Exception as e:
        raise e
 
 
if __name__ == '__main__':
    client = boto3.client('bedrock-agent-runtime')
    try:
        response = client.optimize_prompt(
            input=get_input(PROMPT),
            targetModelId=TARGET_MODEL_ID
        )
        print("Request ID:", response.get("ResponseMetadata").get("RequestId"))
        print("========================== INPUT PROMPT ======================\n")
        print(PROMPT)
        handle_response_stream(response)
    except Exception as e:
        raise e