Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Tingkatkan model untuk permintaan AI dan agen AI

Saat Anda menyesuaikan prompt AI atau agen AI di Amazon Connect, model yang terkait dengan setiap prompt AI menentukan model bahasa besar (LLM) mana yang memproses instruksi. Seiring waktu, model yang lebih baru dan lebih mampu menjadi tersedia. Topik ini menjelaskan cara memutakhirkan model di beberapa skenario umum.

Prasyarat

Sebelum memutakhirkan model, pastikan Anda memiliki yang berikut:

Kapan harus memutakhirkan

Amazon Connect memberi tahu Anda saat model dijadwalkan untuk penghentian. Amazon Connect secara otomatis mengalihkan inferensi LLM ke model yang didukung setelah model apa pun melewati tanggal penghentiannya, sehingga tidak ada gangguan layanan. Namun, memutakhirkan secara manual sebelum tanggal penghentian memungkinkan Anda memilih model pengganti dan mengujinya di lingkungan Anda. Gunakan langkah-langkah berikut untuk menentukan skenario mana yang berlaku untuk Anda.

Langkah 1: Periksa agen AI khusus. Di situs web admin, navigasikan ke perancang agen AI, agen AI. Lihatlah kolom Type. Tampilan agen sistem - Sistem setelah nama tipe (misalnya, “Rekomendasi Jawaban - Sistem”). Agen tanpa akhiran ini adalah agen khusus yang Anda buat.

Langkah 2: Periksa Konfigurasi Agen AI Default. Di halaman agen AI yang sama, gulir ke bagian Konfigurasi Agen AI Default. Jika ada kasus penggunaan yang disematkan ke versi tertentu (tidak disetel ke Terbaru), Anda dapat memperbaruinya → Skenario 3. Ini berlaku untuk semua pelanggan, bahkan jika Anda tidak memiliki agen khusus.

Cara kerja resolusi model

Saat mengonfigurasi agen AI individual, Anda memiliki opsi untuk membiarkan Connect memilih LLM mana yang akan digunakan untuk setiap prompt, memilih model yang ingin digunakan setiap prompt, atau memilih kombinasi dari dua opsi.

Skenario 1: Agen AI khusus dengan permintaan AI khusus

Dalam skenario ini, Anda membuat agen AI khusus dan menetapkan satu atau lebih permintaan AI khusus untuk itu. Permintaan khusus disematkan ke model yang Anda pilih saat Anda menerbitkannya.

Permintaan khusus tidak secara otomatis menerima peningkatan model. Anda harus memperbarui model secara manual, menerbitkan versi prompt baru, dan memperbarui agen AI.

Jika Anda hanya mengganti beberapa tipe prompt

Beberapa jenis agen AI mendukung beberapa jenis prompt. Misalnya, agen AI rekomendasi Jawaban mendukung tiga jenis prompt: pembuatan pelabelan maksud, perumusan ulang kueri, dan pembuatan jawaban. Jika Anda menyetel hanya beberapa di antaranya ke prompt khusus dan membiarkan sisanya tidak disetel, berikut ini berlaku:

Tingkatkan menggunakan situs web admin

Langkah 1: Buat versi prompt baru dengan model yang diperbarui

Langkah 2: Perbarui agen AI untuk menggunakan versi prompt baru

Langkah 3: Tetapkan versi agen AI baru sebagai default

Tingkatkan menggunakan AWS CLI

Perbarui prompt AI dengan model baru:

aws qconnect update-ai-prompt \
  --assistant-id assistant-id \
  --ai-prompt-id custom-prompt-id \
  --model-id new-model-id

Publikasikan versi baru dari prompt:

aws qconnect create-ai-prompt-version \
  --assistant-id assistant-id \
  --ai-prompt-id custom-prompt-id

Perbarui agen AI untuk mereferensikan versi prompt baru:

aws qconnect update-ai-agent \
  --assistant-id assistant-id \
  --ai-agent-id custom-agent-id \
  --configuration '{
    "agentTypeConfiguration": {
      "promptTypeAIPromptId": "custom-prompt-id:new-version-number"
    }
  }'

Publikasikan versi baru agen AI:

aws qconnect create-ai-agent-version \
  --assistant-id assistant-id \
  --ai-agent-id custom-agent-id

Tetapkan versi agen AI baru sebagai default:

aws qconnect update-assistant-ai-agent \
  --assistant-id assistant-id \
  --ai-agent-type AGENT_TYPE \
  --configuration '{
    "aiAgentId": "custom-agent-id:new-version-number"
  }'

Skenario 2: Agen AI khusus tanpa penggantian cepat

Dalam skenario ini, Anda membuat agen AI khusus untuk menyesuaikan pengaturan seperti konfigurasi lokal atau basis pengetahuan, tetapi Anda tidak mengganti jenis prompt apa pun. Semua prompt diselesaikan dari default sistem.

Upgrade otomatis

Saat Amazon Connect menerbitkan agen AI sistem baru dan versi prompt dengan model yang ditingkatkan, agen AI kustom Anda secara otomatis mengambil versi prompt sistem terbaru. Tidak ada tindakan yang diperlukan.

Ini karena tipe prompt yang tidak disetel diselesaikan saat runtime dari default sistem saat ini, yang selalu mengarah ke versi prompt sistem terbaru.

Paksa model tertentu sebelum upgrade sistem

Jika Anda ingin menggunakan model yang lebih baru sebelum Amazon Connect meluncurkannya sebagai default sistem:

Ini mengubah tipe prompt itu menjadi konfigurasi Skenario 1.

Skenario 3: Memperbarui Konfigurasi Agen AI Default

Bagian Konfigurasi Agen AI Default pada halaman ikhtisar agen AI mengontrol versi agen AI mana yang aktif untuk setiap kasus penggunaan (Rekomendasi Jawaban, Pencarian Manual, Layanan Mandiri, dll.).

Saat instans Amazon Connect dibuat, setiap kasus penggunaan secara otomatis dikonfigurasi dengan versi agen AI sistem tertentu. Versi ini disematkan — versi ini tidak diperbarui secara otomatis saat Amazon Connect menerbitkan versi agen AI sistem baru atau saat Anda menerbitkan versi agen AI khusus baru. Anda harus memilih versi baru secara manual.

Tingkatkan menggunakan situs web admin

Tingkatkan menggunakan AWS CLI

aws qconnect update-assistant-ai-agent \
  --assistant-id assistant-id \
  --ai-agent-type AGENT_TYPE \
  --configuration '{
    "aiAgentId": "ai-agent-id:new-version-number"
  }'

Ganti AGENT_TYPE dengan tipe use case (misalnya,ANSWER_RECOMMENDATION,MANUAL_SEARCH,SELF_SERVICE).

Ringkasan

Pertimbangan penting