View a markdown version of this page

Terapkan solusinya - Pembuat Aplikasi AI Generatif di AWS

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Terapkan solusinya

Solusi ini menggunakan CloudFormation templat dan tumpukan AWS untuk mengotomatiskan penerapannya. CloudFormation Template menentukan sumber daya AWS yang disertakan dalam solusi ini dan propertinya. CloudFormation Tumpukan menyediakan sumber daya yang dijelaskan dalam template.

Ikhtisar proses penyebaran

Sebelum Anda meluncurkan solusi, tinjau biaya, arsitektur, keamanan, dan pertimbangan lain yang dibahas dalam panduan ini.

penting

Jika Anda berencana untuk menggunakan Amazon Bedrock, Anda harus meminta akses ke model sebelum tersedia untuk digunakan. Lihat akses Model di Panduan Pengguna Amazon Bedrock untuk detail selengkapnya.

Waktu untuk menyebarkan: Sekitar 10 menit

Langkah 1: Luncurkan tumpukan dasbor Deployment

Langkah 2: Menyebarkan kasus penggunaan

Langkah 3: Menerapkan kasus penggunaan menggunakan wizard dasbor Deployment

Langkah 4: Konfigurasi pasca-penyebaran

Secara opsional, Anda dapat menerapkan kasus penggunaan secara terpisah dari solusi, jika Anda memilih untuk tidak memiliki UI dasbor Deployment atau. APIs

Anda juga dapat menyediakan konfigurasi obrolan DynamoDB.

penting

Solusi ini mengirimkan metrik operasional ke AWS (“Data”) tentang penggunaan solusi ini. Kami menggunakan Data ini untuk lebih memahami bagaimana pelanggan menggunakan solusi ini serta layanan serta produk terkait. Pengumpulan AWS atas Data ini tunduk pada Kebijakan Privasi AWS.

Menyediakan konfigurasi obrolan DynamoDB

Saat menerapkan kasus penggunaan, UseCaseConfigRecordKeydan UseCaseConfigTableNamemerupakan CloudFormation parameter yang diperlukan yang biasanya diisi oleh dasbor Deployment. Tumpukan dasbor penerapan menangani pembuatan dan konfigurasi tabel ini, sementara panggilan ke API penerapan memicu populasi parameter.

Saat melakukan penerapan mandiri, Anda harus melakukan hal berikut:

  1. Buat tabel DynamoDB dengan kunci hash kunci.

  2. Buat catatan dalam tabel yang berisi konfigurasi untuk kasus penggunaan sebagai catatan format: {key: some_use_case_key, config: {your_configuration}.

  3. Teruskan parameter yang dipilih UseCaseConfigTableNamedan UseCaseConfigRecordKey(some_use_case_keydalam contoh ini) ke tumpukan kasus penggunaan saat menerapkan.

Untuk membuat konfigurasi yang sesuai untuk penerapan mandiri, Anda dapat membuat kasus penggunaan yang diperlukan dari dasbor Deployment, dan menyalin catatan dari tabel konfigurasi. Jika tidak, Anda dapat membuat konfigurasi Anda sendiri berdasarkan contoh berikut untuk penerapan Bedrock:

{ "UseCaseName": "SampleUseCase", "ConversationMemoryParams": { "ConversationMemoryType": "DynamoDB", "HumanPrefix": "H", "AiPrefix": "A", "ChatHistoryLength": 20 }, "KnowledgeBaseParams": { "KnowledgeBaseType": "Bedrock", "NumberOfDocs": 2, "ScoreThreshold": 0, "ReturnSourceDocs": false, "BedrockKnowledgeBaseParams": { "BedrockKnowledgeBaseId": "SOME_ID", "OverrideSearchType": null } }, "LlmParams": { "ModelProvider": "Bedrock", "BedrockLlmParams": { "ModelId": "anthropic.claude-v2" }, "PromptParams": { "PromptTemplate": "some prompt", "MaxPromptTemplateLength": 187500, "MaxInputTextLength": 187500, "UserPromptEditingEnabled": true, "DisambiguationEnabled": true, "DisambiguationPromptTemplate": "some prompt" }, "ModelParams": {}, "Temperature": 1, "RAGEnabled": true, "Streaming": true, "Verbose": false } }