View a markdown version of this page

Gunakan model reranker di Amazon Bedrock - Amazon Bedrock

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Gunakan model reranker di Amazon Bedrock

Anda dapat menggunakan model reranker secara langsung atau saat mengambil hasil selama kueri basis pengetahuan. Pilih tab untuk metode pilihan Anda, lalu ikuti langkah-langkahnya:

Console

Anda tidak dapat menggunakan model reranker secara langsung di Konsol Manajemen AWS, tetapi Anda dapat menggunakan model reranker saat menanyakan basis pengetahuan Anda dengan melakukan hal berikut:

  1. Saat Anda menanyakan basis pengetahuan, buka panel Konfigurasi dengan memilih Icon showing three horizontal sliders at different positions for adjusting settings. ikon.

  2. Perluas bagian Reranking.

  3. Pilih Pilih model dan pilih model reranker.

  4. Jika peran layanan Amazon Bedrock Knowledge Bases Anda tidak memiliki izin untuk menggunakan model reranker, pilih Per barui peran layanan untuk mengubah peran dengan izin yang tepat.

  5. (Opsional) Di bagian Opsi Reranking Tambahan, ubah opsi apa pun yang Anda perlukan.

  6. Masukkan prompt dan pilih Run. Responsnya adalah hasil setelah menerapkan model reranker.

Untuk petunjuk lebih rinci tentang melaksanakan kueri basis pengetahuan, lihat Kueri basis pengetahuan dan ambil data danKueri basis pengetahuan dan hasilkan tanggapan berdasarkan data yang diambil.

API

Untuk petunjuk penggunaan model reranker selama kueri basis pengetahuan, lihat Kueri basis pengetahuan dan ambil data dan. Kueri basis pengetahuan dan hasilkan tanggapan berdasarkan data yang diambil

Untuk menggunakan model reranker secara langsung dengan Amazon Bedrock API, kirim permintaan Rerank dengan titik akhir runtime Ag ents for Amazon Bedrock.

Bidang-bidang berikut wajib diisi:

Bidang Deskripsi dasar
pertanyaan Array dari satu RerankQuery objek. Tentukan TEXT sebagai type dan sertakan kueri di textQuery bidang.
sumber Array RerankSource objek untuk dikirimkan ke model reranking. Untuk masing-masingRerankSource, tent INLINE ukan sebagai type dan ser RerankDocument takan objek di inlineDocumentSource bidang. Lihat di bawah untuk detail tentangRerankDocument.
Konfigurasi Perankiran Ulang Termasuk Amazon Resource Name (ARN) dari model reranking yang akan digunakan, dan jumlah hasil yang akan dikembalikan setelah melakukan rangking ulang, dan, secara opsional, konfigurasi inferensi untuk model. Anda menentukan konfigurasi model tambahan sebagai pasangan kunci-nilai. Untuk informasi selengkapnya, lihat Rank ulang di situs web Cohere dokumentasi.

Bidang berikut bersifat opsional:

Bidang Kasus penggunaan
BerikutnyaToken Token yang dikembalikan dalam respons sebelumnya yang dapat Anda sertakan untuk memberikan kumpulan hasil berikutnya.

Format RerankSource objek yang Anda sertakan tergantung pada format dokumen. Untuk melihat format untuk berbagai RerankSource jenis, pilih tab yang sesuai dengan format dokumen:

StringJSON object
String

Jika dokumen adalah string, maka tentukan nilai type bidang RerankDocument objek sebagai TEXT dan sertakan dokumen di text bidang. Contoh:

{
    "inlineDocumentSource": {
        "textDocument": {
            "text": "string"
        },
        "type": "TEXT"
    },
    "type": "INLINE"
}
JSON object

Jika dokumen adalah objek JSON, maka tentukan nilai type bidang dalam RerankDocument objek sebagai JSON dan sertakan dokumen di jsonDocument bidang. Contoh:

{
    "inlineDocumentSource": {
        "jsonDocument": JSON value,
        "type": "JSON"
    },
    "type": "INLINE"
}

Respons terhadap Rerank permintaan Anda mengembalikan daftar RerankResult objek di results lapangan. Setiap objek berisi bidang berikut:

  • document— Termasuk informasi tentang dokumen yang Anda kirimkan.

  • relevanceScore— Skor relevansi untuk dokumen, ditetapkan oleh model reranking.

  • index— Indeks berbasis nol dari dokumen dalam sources array dalam permintaan.

Jika ada terlalu banyak hasil untuk ditampilkan, maka respons mengembalikan nilai di nextToken bidang. Dalam hal ini, untuk melihat kumpulan hasil berikutnya, sertakan token itu dalam permintaan berikutnya.

Contoh kode

Contoh berikut menunjukkan cara memanggil API Rerank menggunakan AWS SDK.

PythonNode.js
Python
import boto3

client = boto3.client('bedrock-agent-runtime', region_name='us-east-1')
response = client.rerank(
    queries=[{
        'type': 'TEXT',
        'textQuery': {'text': 'What is Amazon Bedrock?'}
    }],
    sources=[
        {
            'type': 'INLINE',
            'inlineDocumentSource': {
                'type': 'TEXT',
                'textDocument': {'text': 'Amazon Bedrock is a fully managed service for foundation models.'}
            }
        },
        {
            'type': 'INLINE',
            'inlineDocumentSource': {
                'type': 'TEXT',
                'textDocument': {'text': 'Amazon S3 is an object storage service.'}
            }
        }
    ],
    rerankingConfiguration={
        'type': 'BEDROCK_RERANKING_MODEL',
        'bedrockRerankingConfiguration': {
            'modelConfiguration': {
                'modelArn': 'arn:aws:bedrock:us-east-1::foundation-model/cohere.rerank-v3-5:0'
            },
            'numberOfResults': 2
        }
    }
)
for result in response['results']:
    print(f'Index: {result["index"]}, Score: {result["relevanceScore"]}')
Node.js
import { BedrockAgentRuntimeClient, RerankCommand } from "@aws-sdk/client-bedrock-agent-runtime";

const client = new BedrockAgentRuntimeClient({ region: "us-east-1" });
const response = await client.send(new RerankCommand({
    queries: [{
        type: "TEXT",
        textQuery: { text: "What is Amazon Bedrock?" }
    }],
    sources: [
        {
            type: "INLINE",
            inlineDocumentSource: {
                type: "TEXT",
                textDocument: { text: "Amazon Bedrock is a fully managed service for foundation models." }
            }
        },
        {
            type: "INLINE",
            inlineDocumentSource: {
                type: "TEXT",
                textDocument: { text: "Amazon S3 is an object storage service." }
            }
        }
    ],
    rerankingConfiguration: {
        type: "BEDROCK_RERANKING_MODEL",
        bedrockRerankingConfiguration: {
            modelConfiguration: {
                modelArn: "arn:aws:bedrock:us-east-1::foundation-model/cohere.rerank-v3-5:0"
            },
            numberOfResults: 2
        }
    }
}));
for (const result of response.results) {
    console.log(`Index: ${result.index}, Score: ${result.relevanceScore}`);
}