View a markdown version of this page

Buat prompt menggunakan manajemen Prompt - Amazon Bedrock

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Buat prompt menggunakan manajemen Prompt

Saat Anda membuat prompt, Anda memiliki opsi berikut:

  • Tulis pesan prompt yang berfungsi sebagai input untuk FM untuk menghasilkan output.

  • Gunakan tanda kurung keriting ganda untuk menyertakan variabel (seperti dalam{{variable}}) dalam pesan prompt yang dapat diisi saat Anda memanggil prompt.

  • Pilih model yang digunakan untuk memanggil prompt atau, jika Anda berencana untuk menggunakan prompt dengan agen, biarkan tidak ditentukan. Jika Anda memilih model, Anda juga dapat memodifikasi konfigurasi inferensi untuk digunakan. Untuk melihat parameter inferensi untuk model yang berbeda, lihatParameter permintaan inferensi dan bidang respons untuk model fondasi.

Semua prompt mendukung parameter inferensi dasar berikut:

  • maxTokens – Jumlah maksimum token yang diizinkan dalam respons yang dihasilkan.

  • stopSequences – Daftar stop sequence. Stop sequence adalah rangkaian karakter yang menyebabkan model berhenti menghasilkan respons.

  • temperature – Kemungkinan model memilih opsi dengan probabilitas lebih tinggi saat menghasilkan respons.

  • topP – Persentase kandidat yang paling memungkinkan yang dipertimbangkan model untuk token berikutnya.

Jika suatu model mendukung parameter inferensi tambahan, Anda dapat menentukannya dalam bentuk bidang tambahan untuk prompt Anda. Anda menyediakan bidang tambahan dalam objek JSON. Contoh berikut ini menunjukkan cara mengatur top_k, yang tersedia dalam model Anthropic Claude, tetapi bukan parameter inferensi dasar. 

{
    "top_k": 200
}

Untuk informasi tentang parameter inferensi model, lihat Parameter permintaan inferensi dan bidang respons untuk model fondasi.

Mengatur parameter inferensi dasar sebagai bidang tambahan tidak mengesampingkan nilai yang Anda tetapkan di konsol.

Jika model yang Anda pilih untuk prompt mendukung Converse API (untuk informasi selengkapnya, lihatInferensi menggunakan Converse API), Anda dapat menyertakan yang berikut ini saat membuat prompt:

  • Prompt sistem untuk memberikan instruksi atau konteks untuk model.

  • Permintaan sebelumnya (pesan pengguna) dan respons model (pesan asisten) sebagai riwayat percakapan untuk dipertimbangkan model saat menghasilkan respons untuk pesan pengguna akhir.

  • (Jika didukung oleh model) Alat untuk model digunakan saat menghasilkan respons.

  • (Jika didukung oleh model) Gunakan Prompt caching untuk mengurangi biaya dengan men-cache prompt besar atau sering digunakan. Tergantung pada modelnya, Anda dapat menyimpan instruksi sistem, alat, dan pesan (pengguna dan asisten). Prompt caching membuat pos pemeriksaan cache untuk prompt jika awalan prompt total Anda memenuhi jumlah minimum token yang dibutuhkan model. Ketika variabel berubah dalam prompt, caching prompt membuat checkpoint cache baru jika jumlah token input mencapai minimum yang dibutuhkan model.

Untuk mempelajari cara membuat prompt menggunakan Manajemen prompt, pilih tab untuk metode pilihan Anda, lalu ikuti langkah-langkahnya:

Console
Untuk membuat prompt

  1. Masuk ke Konsol Manajemen AWS dengan identitas IAM yang memiliki izin untuk menggunakan konsol Amazon Bedrock. Kemudian, buka konsol Amazon Bedrock di https://console.aws.amazon.com/bedrock.

  2. Pilih Manajemen prompt dari panel navigasi kiri. Kemudian, pilih Buat prompt.

  3. Berikan nama untuk prompt dan deskripsi opsional.

  4. Untuk mengenkripsi prompt Anda dengan kunci yang dikelola pelanggan, pilih Ku stomisasi pengaturan enkripsi (lanj utan) di bagian pemilihan kunci KMS. Jika Anda menghilangkan bidang ini, prompt Anda akan dienkripsi dengan. Kunci yang dikelola AWS Untuk informasi selengkapnya, lihat AWS KMS kunci.

  5. Pilih Buat prompt. Prompt Anda dibuat dan Anda akan dibawa ke Pembuat Prompt untuk prompt yang baru dibuat, di mana Anda dapat mengonfigurasi prompt Anda.

  6. Anda dapat melanjutkan ke prosedur berikut untuk mengonfigurasi prompt Anda atau kembali ke pembuat prompt nanti.

Untuk mengkonfigurasi prompt Anda

  1. Jika Anda belum menggunakan pembangun prompt, lakukan hal berikut:

    1. Masuk ke Konsol Manajemen AWS dengan identitas IAM yang memiliki izin untuk menggunakan konsol Amazon Bedrock. Kemudian, buka konsol Amazon Bedrock di https://console.aws.amazon.com/bedrock.

    2. Pilih Manajemen prompt dari panel navigasi kiri. Kemudian, pilih prompt di bagian Pro mpt.

    3. Di bagian Draf prompt, pilih Edit di pembangun prompt.

  2. Gunakan panel Prompt untuk membuat prompt. Masukkan prompt di kotak pesan Pengguna terakhir. Jika model mendukung Converse API atau Messages API, Anda juga dapat menyertakan prompt Sistem dan pesan Pengguna sebelumnya dan pesan Asisten untuk konteks. Anthropic Claude

    Saat Anda menulis prompt, Anda dapat menyertakan variabel dalam kurung kurung ganda (seperti dalam{{variable}}). Setiap variabel yang Anda sertakan muncul di bagian Variabel uji.

  3. (Opsional) Anda dapat memodifikasi prompt dengan cara berikut:

    • Di panel Konfigurasi, lakukan hal berikut:

      1. Pilih sumber daya AI Generatif untuk menjalankan inferensi.

        catatan

        Jika Anda memilih agen, Anda hanya dapat menguji prompt di konsol. Untuk mempelajari cara menguji prompt dengan agen di API, lihatUji prompt menggunakan manajemen Prompt.

      2. Dalam parameter inferensi mengatur parameter inferensi yang ingin Anda gunakan.

      3. Jika model mendukung penalaran, aktifkan Pen alaran untuk memasukkan penalaran model dalam responsnya. Di token penalaran, Anda dapat mengonfigurasi jumlah token penalaran yang dapat digunakan model.

      4. Di bidang permintaan model tambahan, pilih Konfigurasi untuk menentukan parameter inferensi tambahan, di luar parameter inferensi.

      5. Jika model yang Anda pilih mendukung alat, pilih Konfigurasikan alat untuk menggunakan alat dengan prompt.

      6. Jika model yang Anda pilih mendukung cache prompt, pilih salah satu opsi berikut (ketersediaan bervariasi menurut model):

        • Tidak ada - Tidak ada cache prompt yang dilakukan.

        • Alat — Hanya alat dalam prompt yang di-cache.

        • Alat, instruksi sistem — Alat dan instruksi sistem dalam prompt di-cache.

        • Alat, instruksi sistem, dan pesan — Alat, instruksi sistem, dan pesan (pengguna dan asisten) dalam prompt di-cache.

    • Untuk membandingkan berbagai varian prompt Anda, pilih Band ingkan varian. Anda dapat melakukan hal berikut di halaman perbandingan:

      • Untuk menambahkan varian, pilih tanda plus. Anda dapat menambahkan hingga tiga varian.

      • Setelah Anda menentukan detail varian, Anda dapat menentukan variabel Test dan memilih Run untuk menguji output varian.

      • Untuk menghapus varian, pilih tiga titik dan pilih H apus dari perbandingan.

      • Untuk mengganti draf kerja dan meninggalkan mode perbandingan, pilih S impan sebagai draf. Semua varian lainnya akan dihapus.

      • Untuk meninggalkan mode perbandingan, pilih Keluar dari mode perbandingan.

  4. Anda memiliki opsi berikut ketika Anda selesai mengkonfigurasi prompt:

API

Untuk membuat prompt, kirim CreatePrompt permintaan dengan titik akhir waktu pembuatan Agen untuk Amazon Bedrock.

Bidang-bidang berikut wajib diisi:

Bidang Deskripsi singkat
name Nama untuk prompt.
varian Daftar konfigurasi yang berbeda untuk prompt (lihat di bawah).
DefaultVariant Nama varian default.

Setiap varian dalam variants daftar adalah PromptVariant objek dari struktur umum berikut:

{
        "name": "string",
        # modelId or genAiResource (see below)
        "templateType": "TEXT",
        "templateConfiguration": # see below,
        "inferenceConfiguration": {
            "text": {
                "maxTokens": int,
                "stopSequences": ["string", ...],
                "temperature": float,
                "topP": float
            }
        },
        "additionalModelRequestFields": {
            "key": "value",
            ...
        },
        "metadata": [
            {
                "key": "string",
                "value": "string"
            },
            ...
        ]
}

Isi kolom sebagai berikut:

  • name — Masukkan nama untuk varian.

  • Sertakan salah satu bidang ini, tergantung pada sumber daya pemanggilan model yang akan digunakan:

    • ModelId — Untuk menentukan model dasar atau profil inferensi untuk digunakan dengan prompt, masukkan ARN atau ID-nya.

    • gen AiResource — Untuk menentukan agen, masukkan ID atau ARN-nya. Nilai genAiResource adalah objek JSON dari format berikut:

      {
    "genAiResource": {
    "agent": {
        "agentIdentifier": "string"
    }   
}
      catatan

      Jika Anda menyertakan genAiResource bidang, Anda hanya dapat menguji prompt di konsol. Untuk menguji prompt dengan agen di API, Anda harus memasukkan teks prompt langsung ke inputText bidang InvokeAgent permintaan.

  • TemplateType — Masukkan TEXT atau. CHAT CHAThanya kompatibel dengan model yang mendukung Con verse API. Jika Anda ingin menggunakan cache prompt, Anda harus menggunakan jenis CHAT template.

  • TemplateConfiguration — Nilai tergantung pada jenis template yang Anda tentukan:

  • InferenceConfiguration — Bidang dipetakan ke atext. PromptModelInferenceConfiguration Bidang ini berisi parameter inferensi yang umum untuk semua model. Untuk mempelajari lebih lanjut tentang parameter inferensi, lihatMempengaruhi generasi respons dengan parameter inferensi.

  • tambahan ModelRequestFields — Gunakan bidang ini untuk menentukan parameter inferensi yang spesifik untuk model yang Anda gunakan untuk menjalankan inferensi. Untuk mempelajari lebih lanjut tentang parameter inferensi khusus model, lihat. Parameter permintaan inferensi dan bidang respons untuk model fondasi

  • metadata — Metadata untuk dikaitkan dengan varian prompt. Anda dapat menambahkan pasangan kunci-nilai ke array untuk menandai varian prompt dengan metadata.

Bidang berikut bersifat opsional:

Bidang Kasus penggunaan
deskripsi Untuk memberikan deskripsi untuk prompt.
ClientToken Untuk memastikan permintaan API selesai hanya sekali. Untuk informasi lebih lanjut, lihat Memas tikan idempotensi.
tag Untuk mengaitkan tag dengan alur. Untuk informasi selengkapnya, lihat Menandai sumber daya Amazon Bedrock.

Respons membuat DRAFT versi dan mengembalikan ID dan ARN. Gunakan ini sebagai pengenal prompt untuk permintaan API terkait prompt lainnya.