Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Konsep rekayasa yang cepat
Prompt engineering mengacu pada praktik mengoptimalkan input tekstual ke Large Language Model (LLM) untuk mendapatkan tanggapan yang diinginkan. Meminta membantu LLM melakukan berbagai tugas, termasuk klasifikasi, menjawab pertanyaan, pembuatan kode, penulisan kreatif, dan banyak lagi. Kualitas petunjuk yang Anda berikan kepada LLM dapat memengaruhi kualitas respons model. Bagian ini memberi Anda informasi yang diperlukan untuk memulai dengan rekayasa yang cepat. Ini juga mencakup alat untuk membantu Anda menemukan format prompt terbaik untuk kasus penggunaan Anda saat menggunakan LLM di Amazon Bedrock.
catatan
Semua contoh dalam dokumen ini diperoleh melalui panggilan API. Respons dapat bervariasi karena sifat stokastik dari proses pembuatan LLM. Jika tidak ditentukan lain, petunjuknya ditulis oleh karyawan. AWS
catatan
Untuk mengurangi halusinasi, Anda dapat memperbaiki prompt Anda menggunakan teknik optimasi cepat; menggunakan teknik seperti Retrieval Augmented Generation (RAG) untuk menyediakan akses model ke data yang lebih relevan; atau menggunakan model berbeda yang mungkin menghasilkan hasil yang lebih baik.
Amazon Bedrock menyertakan model dari berbagai penyedia. Berikut ini adalah daftar pedoman rekayasa cepat untuk model-model tersebut.
-
Panduan prompt Amazon Nova Micro, Lite, dan Pro: Meminta praktik terbaik untuk model pemahaman Amazon Nova
-
Panduan prompt Amazon Nova Canvas: Menghasilkan gambar dengan Amazon Nova
-
Panduan prompt Amazon Nova Reel: Menghasilkan video dengan Amazon Nova
-
AnthropicClaudepanduan cepat model: https://docs.anthropic.com/en/docs/build-with-claude/prompt-engineering/overview
-
Coherepanduan cepat: https://txt.cohere.com/how-to-train-your- pet-llm-prompt-engineering
-
AI21 LabsPanduan prompt model Jurassic: https://docs.ai21.com/docs/ rekayasa cepat
-
MetaLlama 2panduan cepat: https://ai.meta.com/llama/ mulai/ #prompting
-
Stability AIpanduan cepat: https://platform.stability. ai/docs/getting
-Dimulai -
Mistral AIpanduan cepat: https://docs.mistral. ai/guides/prompting_kemampuan/
Penafian: Contoh dalam dokumen ini menggunakan model teks saat ini yang tersedia di Amazon Bedrock. Juga, dokumen ini untuk pedoman petunjuk umum. Untuk panduan khusus model, lihat dokumen masing-masing di Amazon Bedrock. Dokumen ini memberikan titik awal. Sementara contoh tanggapan berikut dihasilkan menggunakan model tertentu di Amazon Bedrock, Anda dapat menggunakan model lain di Amazon Bedrock untuk mendapatkan hasil juga. Hasilnya mungkin berbeda antar model karena masing-masing model memiliki karakteristik kinerjanya sendiri. Output yang Anda hasilkan menggunakan layanan AI adalah konten Anda. Karena sifat pembelajaran mesin, output mungkin tidak unik di seluruh pelanggan dan layanan dapat menghasilkan hasil yang sama atau serupa di seluruh pelanggan.
Apa itu prompt?
Prompt adalah kumpulan input tertentu yang disediakan oleh Anda, pengguna, yang memandu di LLMs Amazon Bedrock untuk menghasilkan respons atau output yang sesuai untuk tugas atau instruksi tertentu.
User Prompt: Who invented the airplane?
Saat ditanyakan oleh prompt ini, Titan berikan output:
Output: The Wright brothers, Orville and Wilbur Wright are widely credited with inventing and manufacturing the world's first successful airplane.
(Sumber prompt: AWS, model yang digunakan: Amazon Titan Text)
Komponen prompt
Prompt tunggal mencakup beberapa komponen, seperti tugas atau instruksi yang ingin Anda lakukan, konteks tugas (misalnya, deskripsi domain yang relevan), contoh demonstrasi, dan teks input yang Anda inginkan LLMs di Amazon Bedrock untuk digunakan dalam responsnya. LLMs Bergantung pada kasus penggunaan Anda, ketersediaan data, dan tugas, prompt Anda harus menggabungkan satu atau lebih komponen ini.
Pertimbangkan contoh prompt ini yang meminta Titan untuk meringkas ulasan:
User Prompt: The following is text from a restaurant review: “I finally got to check out Alessandro’s Brilliant Pizza and it is now one of my favorite restaurants in Seattle. The dining room has a beautiful view over the Puget Sound but it was surprisingly not crowded. I ordered the fried castelvetrano olives, a spicy Neapolitan-style pizza and a gnocchi dish. The olives were absolutely decadent, and the pizza came with a smoked mozzarella, which was delicious. The gnocchi was fresh and wonderful. The waitstaff were attentive, and overall the experience was lovely. I hope to return soon." Summarize the above restaurant review in one sentence.
(Sumber prompt: AWS)
Berdasarkan prompt ini, Titan tanggapi dengan ringkasan satu baris singkat dari ulasan restoran. Tinjauan tersebut menyebutkan fakta-fakta kunci dan menyampaikan poin-poin utama, seperti yang diinginkan.
Output: Alessandro's Brilliant Pizza is a fantastic restaurant in Seattle with a beautiful view over Puget Sound, decadent and delicious food, and excellent service.
(Model yang digunakan: Amazon Titan Text)
Instruksi Summarize the above restaurant review in one
sentence
dan teks ulasan I finally got to check out
...
keduanya diperlukan untuk jenis output ini. Tanpa salah satunya, model tidak akan memiliki informasi yang cukup untuk menghasilkan ringkasan yang masuk akal. Instruksi memberitahu LLM apa yang harus dilakukan, dan teks adalah masukan di mana LLM beroperasi. Konteks (The following is text
from a restaurant review
) memberikan informasi tambahan dan kata kunci yang memandu model untuk menggunakan input saat merumuskan outputnya.
Dalam contoh di bawah ini, teks Context: Climate change threatens people
with increased flooding ...
adalah masukan yang dapat digunakan LLM untuk melakukan tugas menjawab pertanyaan. Question: What
organization calls climate change the greatest threat to global health in the
21st century?”
User prompt: Context: Climate change threatens people with increased flooding, extreme heat, increased food and water scarcity, more disease, and economic loss. Human migration and conflict can also be a result. The World Health Organization (WHO) calls climate change the greatest threat to global health in the 21st century. Adapting to climate change through efforts like flood control measures or drought-resistant crops partially reduces climate change risks, although some limits to adaptation have already been reached. Poorer communities are responsible for a small share of global emissions, yet have the least ability to adapt and are most vulnerable to climate change. The expense, time required, and limits of adaptation mean its success hinge on limiting global warming. Question: What organization calls climate change the greatest threat to global health in the 21st century?
(Sumber prompt: https://en.wikipedia. org/wiki/Climate_ubah)
AI21 LabsTanggapan Jurassic dengan nama organisasi yang benar sesuai dengan konteks yang disediakan dalam prompt.
Output: The World Health Organization (WHO) calls climate change the greatest threat to global health in the 21st century.
(Model yang digunakan: AI21 Labs Jurassic-2 Ultra v1)
Beberapa bidikan bidikan vs. bidikan nol
Terkadang berguna untuk memberikan beberapa contoh untuk membantu mengkalibrasi outputnya dengan LLMs lebih baik untuk memenuhi harapan Anda, juga dikenal sebagai beberapa bidikan bidikan atau pembelajaran dalam konteks, di mana bidikan sesuai dengan input contoh berpasangan dan output yang diinginkan. Sebagai ilustrasi, pertama di sini adalah contoh prompt klasifikasi sentimen zero-shot di mana tidak ada contoh pasangan input-output yang disediakan dalam teks prompt:
User prompt: Tell me the sentiment of the following headline and categorize it as either positive, negative or neutral: New airline between Seattle and San Francisco offers a great opportunity for both passengers and investors.
(Sumber prompt: AWS)
Output: Positive
(Model yang digunakan: Amazon Titan Text)
Berikut adalah beberapa versi prompt klasifikasi sentimen:
User prompt: Tell me the sentiment of the following headline and categorize it as either positive, negative or neutral. Here are some examples: Research firm fends off allegations of impropriety over new technology. Answer: Negative Offshore windfarms continue to thrive as vocal minority in opposition dwindles. Answer: Positive Manufacturing plant is the latest target in investigation by state officials. Answer:
(Sumber prompt: AWS)
Output: Negative
(Model yang digunakan: Amazon Titan Text)
Contoh berikut menggunakan Anthropic Claude model. Saat menggunakan Anthropic Claude model, itu adalah praktik yang baik untuk menggunakan<example></example> tag untuk menyertakan contoh demonstrasi. Kami juga merekomendasikan penggunaan pembatas yang berbeda seperti H:
dan A:
dalam contoh untuk menghindari kebingungan dengan pembatas Human:
dan Assistant:
untuk seluruh prompt. Perhatikan bahwa untuk contoh beberapa bidikan terakhir, final A:
dibiarkan mendukungAssistant:
, mendorong Anthropic Claude untuk menghasilkan jawaban sebagai gantinya.
User prompt: Human: Please classify the given email as "Personal" or "Commercial" related emails. Here are some examples. <example> H: Hi Tom, it's been long time since we met last time. We plan to have a party at my house this weekend. Will you be able to come over? A: Personal </example> <example> H: Hi Tom, we have a special offer for you. For a limited time, our customers can save up to 35% of their total expense when you make reservations within two days. Book now and save money! A: Commercial </example> H: Hi Tom, Have you heard that we have launched all-new set of products. Order now, you will save $100 for the new products. Please check our website. Assistant: Output: Commercial
(Sumber prompt: AWS, model yang digunakan: AnthropicClaude)
Template cepat
Template prompt menentukan pemformatan prompt dengan konten yang dapat ditukar di dalamnya. Template prompt adalah “resep” untuk digunakan LLMs untuk kasus penggunaan yang berbeda seperti klasifikasi, ringkasan, menjawab pertanyaan, dan banyak lagi. Templat prompt dapat mencakup instruksi, beberapa contoh, dan konteks dan pertanyaan spesifik yang sesuai untuk kasus penggunaan tertentu. Contoh berikut adalah template yang dapat Anda gunakan untuk melakukan klasifikasi sentimen beberapa tembakan menggunakan model teks Amazon Bedrock:
Prompt template: """Tell me the sentiment of the following {{Text Type, e.g., “restaurant review”}} and categorize it as either {{Sentiment A}} or {{Sentiment B}}. Here are some examples: Text: {{Example Input 1}} Answer: {{Sentiment A}} Text: {{Example Input 2}} Answer: {{Sentiment B}} Text: {{Input}} Answer:"""
Pengguna dapat menyalin dan menempelkan template ini, mengisi teks mereka sendiri dan beberapa contoh gambar untuk menyelesaikan petunjuk saat menggunakan di LLMs Amazon Bedrock. Lebih banyak templat disediakan di bagian ini.
catatan
Tanda kurung kurawal ganda {{ and }}
menandai tempat untuk memasukkan informasi spesifik data dalam templat, dan tidak boleh disertakan dalam teks prompt.
Pertahankan penarikan kembali atas permintaan inferensi Amazon Bedrock
Jika Anda mengakses model Amazon Bedrock menggunakan panggilan API, ketahuilah bahwa model tidak mengingat permintaan sebelumnya dan permintaan sebelumnya, kecuali interaksi sebelumnya disertakan dalam prompt saat ini. Menyertakan petunjuk sebelumnya dalam permintaan memungkinkan Anda memiliki interaksi gaya percakapan atau membuat permintaan tindak lanjut.
Jika Anda mengakses Anthropic Claude model menggunakan panggilan API alih-alih taman bermain teks Amazon Bedrock, Anda membungkus prompt Anda dalam gaya percakapan untuk mendapatkan respons yang diinginkan (untuk keluarga model Titan Teks dan AI21 Labs Jurassic, itu tidak perlu). Contoh berikut menunjukkan prompt gaya percakapan:
User prompt: Human: Describe where sea otters live in two sentences. Assistant: Output: Here is a two sentence description of where sea otters live: Sea otters live in the northern Pacific Ocean along the coasts of Russia, Alaska, Canada, and the continental United States. They prefer coastal habitats like rocky shores, kelp forests, and estuaries where they have access to shallow, nearshore waters.
(Sumber prompt: AWS, model yang digunakan: AnthropicClaude)
Perhatikan bagaimana konten utama prompt dibungkus seperti ini:\n\nHuman:
{{Main Content}}\n\nAssistant:
. Untuk Anthropic Claude model, prompt yang dikirim melalui API harus berisi\n\nManusia: dan.
\n\nAssistant:
Untuk menggunakan mode percakapan aktifTitan, Anda dapat menggunakan format User: {{}}
\n Bot:
saat meminta model.