프롬프트 최적화

AWS Management Console에서 플레이그라운드 또는 프롬프트 관리를 사용하여 프롬프트를 최적화할 수 있습니다. 프롬프트를 최적화하려면 먼저 모델을 선택해야 합니다. 프롬프트는 선택한 모델에 최적화되어 있습니다.

프롬프트를 최적화하려면 Amazon Bedrock Agents 런타임 엔드포인트를 사용하여 OptimizePrompt 요청을 전송합니다. input 객체에서 최적화할 프롬프트를 제공하고 targetModelId 필드에서 최적화할 모델을 지정합니다.

응답 스트림은 다음 이벤트를 반환합니다.

다음 코드 샘플을 실행하여 프롬프트를 최적화합니다.

import boto3

# Set values here
TARGET_MODEL_ID = "anthropic.claude-3-sonnet-20240229-v1:0" # Model to optimize for. For model IDs, see https://docs.aws.amazon.com/bedrock/latest/userguide/model-ids.html
PROMPT = "Please summarize this text: " # Prompt to optimize

def get_input(prompt):
    return {
        "textPrompt": {
            "text": prompt
        }
    }
 
def handle_response_stream(response):
    try:
        event_stream = response['optimizedPrompt']
        for event in event_stream:
            if 'optimizedPromptEvent' in event:
                print("========================== OPTIMIZED PROMPT ======================\n")
                optimized_prompt = event['optimizedPromptEvent']
                print(optimized_prompt)
            else:
                print("========================= ANALYZE PROMPT =======================\n")
                analyze_prompt = event['analyzePromptEvent']
                print(analyze_prompt)
    except Exception as e:
        raise e
 
 
if __name__ == '__main__':
    client = boto3.client('bedrock-agent-runtime')
    try:
        response = client.optimize_prompt(
            input=get_input(PROMPT),
            targetModelId=TARGET_MODEL_ID
        )
        print("Request ID:", response.get("ResponseMetadata").get("RequestId"))
        print("========================== INPUT PROMPT ======================\n")
        print(PROMPT)
        handle_response_stream(response)
    except Exception as e:
        raise e