Optimalkan prompt - Amazon Bedrock

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Optimalkan prompt

Amazon Bedrock menawarkan alat untuk mengoptimalkan permintaan. Penulisan ulang pengoptimalan meminta untuk menghasilkan hasil inferensi yang lebih cocok untuk kasus penggunaan Anda. Anda dapat memilih model yang ingin Anda optimalkan prompt dan kemudian menghasilkan prompt yang direvisi.

Setelah Anda mengirimkan prompt untuk mengoptimalkan, Amazon Bedrock menganalisis komponen prompt. Jika analisis berhasil, maka akan menulis ulang prompt. Anda kemudian dapat menyalin dan menggunakan teks prompt yang dioptimalkan.

catatan

Untuk hasil terbaik, kami sarankan mengoptimalkan petunjuk dalam bahasa Inggris.

Daerah dan model yang didukung untuk optimasi cepat

Pengoptimalan cepat didukung di Wilayah berikut (untuk informasi selengkapnya tentang Wilayah yang didukung di Amazon Bedrock, lihat titik akhir dan kuota Amazon Bedrock):

  • AS Timur (Virginia Utara)

  • US West (Oregon)

  • Asia Pasifik (Mumbai)

  • Asia Pasifik (Sydney)

  • Kanada (Pusat)

  • Eropa (Frankfurt)

  • Eropa (Irlandia)

  • Eropa (London)

  • Eropa (Paris)

  • Amerika Selatan (São Paulo)

Optimalisasi cepat didukung untuk model dasar berikut (untuk melihat Wilayah mana yang mendukung setiap model, lihatModel pondasi yang didukung di Amazon Bedrock):

  • Amazon Nova Lite

  • Amazon Nova Micro

  • Amazon Nova Premier

  • Amazon Nova Pro

  • Amazon Titan Text G1 - Premier

  • Anthropic Claude 3 Haiku

  • Anthropic Claude 3 Opus

  • Anthropic Claude 3 Sonnet

  • Anthropic Claude 3.5 Haiku

  • Anthropic Claude 3.5 Sonnet v2

  • Anthropic Claude 3.5 Sonnet

  • Anthropic Claude 3.7 Sonnet

  • Anthropic Claude Opus 4

  • Anthropic Claude Sonnet 4

  • DeepSeek DeepSeek-R1

  • Meta Llama 3 70B Instruct

  • Meta Llama 3.1 70B Instruct

  • Meta Llama 3.2 11B Instruct

  • Meta Llama 3.3 70B Instruct

  • Meta Llama 4 Maverick 17B Instruct

  • Meta Llama 4 Scout 17B Instruct

  • Mistral AI Mistral Large (24.02)

  • Mistral AI Mistral Large (24.07)

Kirim prompt untuk pengoptimalan

Untuk mempelajari cara mengoptimalkan prompt, pilih tab untuk metode pilihan Anda, lalu ikuti langkah-langkahnya:

Console

Anda dapat mengoptimalkan prompt dengan menggunakan taman bermain atau manajemen Prompt di. AWS Management Console Anda harus memilih model sebelum Anda dapat mengoptimalkan prompt. Prompt dioptimalkan untuk model yang Anda pilih.

Untuk mengoptimalkan prompt di taman bermain
  1. Untuk mempelajari cara menulis prompt di taman bermain Amazon Bedrock, ikuti langkah-langkah di. Hasilkan tanggapan di konsol menggunakan taman bermain

  2. Setelah Anda menulis prompt dan memilih model, pilih ikon tongkat ( Sparkle icon representing cleaning or refreshing functionality. ). Kotak dialog prompt Optimalkan terbuka, dan Amazon Bedrock mulai mengoptimalkan prompt Anda.

  3. Ketika Amazon Bedrock selesai menganalisis dan mengoptimalkan prompt Anda, Anda dapat membandingkan prompt asli Anda secara berdampingan dengan prompt yang dioptimalkan di kotak dialog.

  4. Untuk mengganti prompt Anda dengan prompt yang dioptimalkan di taman bermain, pilih Gunakan prompt yang dioptimalkan. Untuk menyimpan prompt asli Anda, pilih Batal.

  5. Untuk mengirimkan prompt dan menghasilkan respons, pilih Jalankan.

Untuk mengoptimalkan prompt dalam manajemen Prompt
  1. Untuk mempelajari cara menulis prompt menggunakan manajemen Prompt, ikuti langkah-langkah diBuat prompt menggunakan manajemen Prompt.

  2. Setelah Anda menulis prompt dan memilih model, pilih ( Sparkle icon representing cleaning or refreshing functionality. ) Optimalkan di bagian atas kotak Prompt.

  3. Saat Amazon Bedrock selesai menganalisis dan mengoptimalkan prompt Anda, prompt yang dioptimalkan ditampilkan sebagai varian berdampingan dengan prompt asli.

  4. Untuk menggunakan prompt yang dioptimalkan alih-alih yang asli, pilih Ganti prompt asli. Untuk menjaga prompt asli Anda, pilih Exit comparison dan pilih untuk menyimpan prompt asli.

    catatan

    Jika Anda memiliki 3 petunjuk dalam tampilan perbandingan dan mencoba mengoptimalkan prompt lain, Anda diminta untuk mengganti dan mengganti prompt asli atau salah satu varian.

  5. Untuk mengirimkan prompt dan menghasilkan respons, pilih Jalankan.

API

Untuk mengoptimalkan prompt, kirim OptimizePromptpermintaan dengan titik akhir waktu proses Agen untuk Amazon Bedrock. Berikan prompt untuk mengoptimalkan input objek dan tentukan model yang akan dioptimalkan di targetModelId lapangan.

Aliran respons mengembalikan peristiwa berikut:

  1. analyzePromptEvent— Muncul ketika prompt selesai dianalisis. Berisi pesan yang menjelaskan analisis prompt.

  2. optimizedPromptEvent— Muncul ketika prompt telah selesai ditulis ulang. Berisi prompt yang dioptimalkan.

Jalankan contoh kode berikut untuk mengoptimalkan prompt:

import boto3 # Set values here TARGET_MODEL_ID = "anthropic.claude-3-sonnet-20240229-v1:0" # Model to optimize for. For model IDs, see https://docs.aws.amazon.com/bedrock/latest/userguide/model-ids.html PROMPT = "Please summarize this text: " # Prompt to optimize def get_input(prompt): return { "textPrompt": { "text": prompt } } def handle_response_stream(response): try: event_stream = response['optimizedPrompt'] for event in event_stream: if 'optimizedPromptEvent' in event: print("========================== OPTIMIZED PROMPT ======================\n") optimized_prompt = event['optimizedPromptEvent'] print(optimized_prompt) else: print("========================= ANALYZE PROMPT =======================\n") analyze_prompt = event['analyzePromptEvent'] print(analyze_prompt) except Exception as e: raise e if __name__ == '__main__': client = boto3.client('bedrock-agent-runtime') try: response = client.optimize_prompt( input=get_input(PROMPT), targetModelId=TARGET_MODEL_ID ) print("Request ID:", response.get("ResponseMetadata").get("RequestId")) print("========================== INPUT PROMPT ======================\n") print(PROMPT) handle_response_stream(response) except Exception as e: raise e