Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Menerapkan model khusus untuk inferensi sesuai permintaan

Setelah Anda membuat model kustom dengan pekerjaan penyesuaian model atau mengimpor model kustom yang SageMaker dilatih AI, Anda dapat menyiapkan inferensi sesuai permintaan untuk Amazon Nova model tersebut. Dengan inferensi sesuai permintaan, Anda hanya membayar untuk apa yang Anda gunakan dan Anda tidak perlu menyiapkan sumber daya komputasi yang disediakan.

Untuk menyiapkan inferensi sesuai permintaan untuk model kustom, Anda menerapkannya dengan penerapan model kustom. Setelah menerapkan model kustom, Anda menggunakan Amazon Resource Name (ARN) deployment sebagai modelId parameter saat Anda mengirimkan prompt dan menghasilkan respons dengan inferensi model.

Untuk informasi tentang harga inferensi sesuai permintaan, lihat harga Amazon Bedrock. Anda dapat menerapkan model kustom untuk inferensi sesuai permintaan di Wilayah berikut (untuk informasi selengkapnya tentang Wilayah yang didukung di Amazon Bedrock, lihat titik akhir dan kuota Amazon Bedrock):

Model dasar yang didukung

Anda dapat mengatur inferensi sesuai permintaan untuk model dasar berikut: