Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Pemrosesan lintas wilayah untuk Agen Upgrade Apache Spark
Apache Spark Upgrade Agent menggunakan inferensi lintas wilayah untuk memproses permintaan bahasa alami dan menghasilkan tanggapan. Dengan inferensi lintas wilayah, agen akan secara otomatis merutekan permintaan inferensi Anda untuk mengoptimalkan kinerja, memaksimalkan sumber daya komputasi dan ketersediaan model yang tersedia, dan memberikan pengalaman pelanggan terbaik. Jenis inferensi lintas wilayah yang digunakan tergantung pada wilayah tempat Anda menjalankan Agen Upgrade Apache Spark. Di sebagian besar Wilayah, agen akan memilih wilayah optimal dalam geografi Anda untuk memproses permintaan inferensi Anda. Namun, di beberapa Wilayah permintaan inferensi yang dibuat oleh Agen akan diarahkan dengan aman ke semua sumber daya komputasi yang tersedia di semua Wilayah komersial global. AWS
Inferensi Lintas Wilayah
Agen Apache Spark Upgrade didukung oleh dan menggunakan inferensi lintas wilayah untuk mendistribusikan lalu lintas di berbagai AWS Wilayah untuk meningkatkan kinerja dan keandalan inferensi model bahasa besar (LLM).
Meskipun inferensi lintas wilayah tidak berubah di mana aplikasi Spark Anda atau pengalaman peningkatan Anda di-host atau data Anda disimpan, prompt input dan hasil output Anda dapat dikirimkan ke Wilayah yang berbeda untuk pemrosesan inferensi. Semua data akan dikirimkan dienkripsi di seluruh jaringan aman Amazon.
Tidak ada biaya tambahan untuk menggunakan inferensi lintas wilayah.
Wilayah yang didukung untuk inferensi lintas wilayah
Wilayah Menggunakan inferensi lintas wilayah Geografis
Untuk sebagian besar Wilayah, permintaan inferensi lintas wilayah disimpan dalam AWS Wilayah yang merupakan bagian dari geografi yang sama tempat Anda menjalankan Agen Peningkatan Apache Spark. Misalnya, permintaan yang dibuat dari agen di Wilayah AS Timur (Virginia N.) hanya dialihkan ke AWS Wilayah dalam geografi Amerika Serikat. Tabel berikut menjelaskan Wilayah mana permintaan Anda dapat diarahkan tergantung pada geografi tempat permintaan tersebut berasal:
| Geografi yang didukung | Daerah inferensi | |
|---|---|---|
| 1 | Amerika Serikat | AS Timur (Virginia N.) (us-timur-1), AS Barat (Oregon) (us-barat-2), AS Timur (Ohio) (us-timur-2), AS Barat (California Utara) (us-barat-2) |
| 2 | Eropa | Eropa (Frankfurt) (eu-central-1), Eropa (Irlandia) (eu-west-1), Eropa (Paris) (eu-west-3), Eropa (eu-west-3), Eropa (Stockholm) (eu-north-1), Eropa (London) (eu-west-2) |
| 3 | Asia Pasifik | Asia Pasifik (Tokyo) (ap-northeast-1), Asia Pasifik (Seoul) (ap-northeast-2), Asia Pasifik (ap-south-1) |
Wilayah Menggunakan Inferensi Lintas Wilayah Global
penting
AWS Wilayah berikut menggunakan inferensi lintas wilayah global. Saat Anda menggunakan Agen Peningkatan Apache Spark di Wilayah ini, permintaan Anda dapat dikirimkan secara global ke AWS Wilayah lain untuk pemrosesan inferensi guna mengoptimalkan kinerja dan ketersediaan:
-
Amerika Selatan (Sao Paulo) (sa-east-1)
-
Asia Pasifik (Singapura) (ap-southeast-1)
-
Asia Pasifik (Sydney) (ap-southeast-2)
-
Kanada (Pusat) (ca-central-1)
