Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Mengonfigurasi prompt Anda
Panduan dasbor Deployment memiliki langkah konfigurasi cepat yang memungkinkan Anda menyesuaikan pengalaman dan templat prompt yang akan memandu interaksi antara pengguna dan model AI. Mengkonfigurasi pengaturan ini dengan benar sangat penting untuk mendapatkan respons yang akurat dan relevan dari asisten AI.
Bagian ini mengontrol keseluruhan pengalaman dan perilaku prompt AI.
-
Panjang template prompt maksimum: Pengaturan ini menentukan panjang maksimum (dalam karakter) dari template prompt. Nilai yang lebih tinggi memungkinkan lebih banyak konteks diberikan pada model AI, yang berpotensi mengarah pada respons yang lebih akurat. Namun, petunjuk yang terlalu lama juga dapat menimbulkan kebisingan dan berdampak negatif pada kinerja. Untuk model Amazon Bedrock, nilai default untuk panjang template prompt maks (dalam karakter) dihitung menggunakan batas token model yang mendasarinya. Jika Anda mengedit dan mengubah nama model dalam Bedrock, tombol 'Reset to default' disorot dan dapat digunakan untuk mengadopsi default model yang baru dipilih. Untuk model Amazon SageMaker AI, nilai default yang wajar disediakan, tetapi Anda disarankan untuk memeriksa model yang mendasarinya dan memilih panjang templat prompt maksimum ini dan panjang teks input yang sesuai. Lihat bagian Tips mengelola batasan token model untuk informasi selengkapnya.
-
Panjang teks masukan maksimum: Pengaturan ini membatasi panjang maksimum (dalam karakter) teks input pengguna. Input yang lebih lama mungkin berisi informasi yang tidak relevan, meningkatkan risiko mendapatkan respons yang tidak relevan atau tidak akurat dari model AI.
-
Pengeditan Prompt Pengguna: Opsi ini memungkinkan Anda mengaktifkan atau menonaktifkan kemampuan pengguna untuk memodifikasi templat prompt melalui UI Obrolan. Menonaktifkan fitur ini dapat membantu menjaga konsistensi dan mencegah perubahan yang tidak diinginkan pada prompt.
Templat cepat
Bagian ini memungkinkan Anda untuk menentukan template prompt aktual yang akan digunakan oleh model AI. Template prompt biasanya mengikuti struktur yang mencakup placeholder untuk berbagai komponen, seperti input pengguna, bagian referensi, dan riwayat obrolan.
-
Template prompt: Ini adalah area teks utama tempat Anda dapat menulis atau menempelkan templat prompt yang diinginkan. Template harus dibuat untuk memberikan konteks dan instruksi yang diperlukan untuk model AI. Ini biasanya mencakup placeholder berikut:
-
{input}: Placeholder ini wajib untuk penerapan Sagemaker AI dan akan diganti dengan input atau kueri pengguna. -
{history}: Placeholder ini wajib untuk penerapan Sagemaker AI dan akan diganti dengan riwayat obrolan percakapan saat ini. -
{context}: Placeholder ini wajib untuk penerapan RAG dan akan diganti dengan kutipan dokumen yang diperoleh dari basis pengetahuan yang dikonfigurasi.
-
-
Ulangi Pertanyaan? : Opsi ini (hanya tersedia untuk penerapan RAG) menentukan apakah kueri input asli pengguna harus diulang atau disambiguasi sebelum diteruskan ke model AI. Mengulangi kueri terkadang dapat membantu model lebih memahami maksud pengguna, yang berpotensi mengarah ke respons yang lebih akurat.
Saat mengonfigurasi templat dan pengalaman prompt, penting untuk menyeimbangkan antara memberikan konteks dan instruksi yang memadai untuk model AI sambil menghindari informasi yang terlalu panjang atau tidak relevan yang dapat menimbulkan masalah kebisingan atau kinerja.
Pengaturan prompt lanjutan
Bagian ini memungkinkan Anda untuk mengontrol bagaimana riwayat percakapan disajikan ke model AI.
-
Ukuran riwayat trailing: Pengaturan ini menentukan jumlah pesan sebelumnya yang harus disertakan dalam prompt akhir. Menyetel nilai ini ke nol akan menghasilkan tidak ada riwayat yang disuntikkan ke templat prompt atau templat prompt disambiguasi. Harap dicatat: bahkan ketika disetel ke nol, placeholder {history} masih harus ada di templat prompt. Saat runtime, itu akan diganti dengan string kosong.
-
Catatan: Disarankan untuk memberikan angka genap untuk nilai ini. Memberikan angka ganjil hanya akan menghasilkan respons AI dari interaksi berpasangan yang dikembalikan.
-
-
Awalan Manusia: Ini adalah awalan yang digunakan untuk mengidentifikasi pesan yang dikirim oleh pengguna dalam riwayat percakapan.
-
Awalan AI: Ini adalah awalan yang digunakan untuk mengidentifikasi pesan yang dikembalikan oleh model AI dalam riwayat percakapan.
Konfigurasi Prompt Disambiguasi
Bagian ini memungkinkan Anda mengonfigurasi perilaku dan templat untuk menyingkapkan input pengguna sebelum mengirimnya ke basis pengetahuan yang dikonfigurasi.
-
Aktifkan Disambiguasi: Opsi ini menentukan apakah input pengguna harus disambiguasi sebelum dikirim ke basis pengetahuan.
-
Template Prompt Disambiguasi: Ini adalah template prompt yang digunakan untuk menyamarkan input pengguna saat terhubung ke basis pengetahuan. Output yang dihasilkan dari prompt ini akan digunakan sebagai kueri yang dikirim ke basis pengetahuan. Menonaktifkan disambiguasi akan mengakibatkan kueri mentah pengguna dikirim ke basis pengetahuan tidak berubah.
Misalnya, dengan disambiguasi diaktifkan, kueri pengguna tindak lanjut “Berapa biayanya?” mungkin disambiguasi menjadi “Berapa biayanya perbarui plat nomor saya?” , mengarah ke permintaan pencarian yang lebih baik.
