As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
Processamento entre regiões para o Apache Spark Upgrade Agent
O Apache Spark Upgrade Agent usa inferência entre regiões para processar solicitações de linguagem natural e gerar respostas. Com a inferência entre regiões, o agente encaminhará automaticamente sua solicitação de inferência para otimizar o desempenho, maximizar os recursos computacionais disponíveis e a disponibilidade do modelo, além de fornecer a melhor experiência ao cliente. O tipo de inferência entre regiões usada depende da região em que você executa o Apache Spark Upgrade Agent. Na maioria das regiões, o agente selecionará a região ideal em sua geografia para processar suas solicitações de inferência. No entanto, em algumas regiões, uma solicitação de inferência feita pelo agente será roteada com segurança para todos os recursos computacionais disponíveis em todas as regiões comerciais globais. AWS
Inferência entre regiões
O agente de atualização do Apache Spark é desenvolvido e usa inferência entre regiões para distribuir o tráfego em diferentes AWS regiões a fim de aprimorar o desempenho e a confiabilidade da inferência do modelo de linguagem grande (LLM).
Embora a inferência entre regiões não mude onde seu aplicativo Spark ou sua experiência de upgrade estão hospedados ou seus dados são armazenados, seus prompts de entrada e resultados de saída podem ser transmitidos para regiões diferentes para processamento de inferência. Todos os dados serão transmitidos criptografados pela rede segura da Amazon.
Não há custo adicional para usar a inferência entre regiões.
Regiões compatíveis para inferência entre regiões no
Regiões usando inferência geográfica entre regiões
Para a maioria das regiões, as solicitações de inferência entre regiões são mantidas em AWS regiões que fazem parte da mesma geografia em que você executa o Apache Spark Upgrade Agent. Por exemplo, uma solicitação feita pelo agente na região Leste dos EUA (Norte da Virgínia) é encaminhada somente para AWS regiões dentro da geografia dos Estados Unidos da América. A tabela a seguir descreve para quais regiões suas solicitações podem ser encaminhadas, dependendo da geografia de origem da solicitação:
| Região geográfica do compatível | Regiões de inferência | |
|---|---|---|
| 1 | Estados Unidos | Leste dos EUA (Norte da Virgínia) (us-east-1), Oeste dos EUA (Oregon) (us-west-2), Leste dos EUA (Ohio) (us-east-2), Oeste dos EUA (Norte da Califórnia) (us-west-2) |
| 2 | Europa | Europa (Frankfurt) (eu-central-1), Europa (Irlanda) (eu-west-1), Europa (Paris) (eu-west-3), Europa (Estocolmo) (eu-north-1), Europa (Londres) (eu-west-2) |
| 3 | Ásia-Pacífico | Ásia-Pacífico (Tóquio) (ap-northeast-1), Ásia-Pacífico (Seul) (ap-northeast-2), Ásia-Pacífico (Mumbai) (ap-south-1) |
Regiões usando inferência global entre regiões
Importante
As AWS regiões a seguir usam inferência global entre regiões. Quando você usa o Apache Spark Upgrade Agent nessas regiões, suas solicitações podem ser transmitidas globalmente para outras AWS regiões para processamento de inferência para otimizar o desempenho e a disponibilidade:
-
América do Sul (São Paulo) (sa-east-1)
-
Ásia-Pacífico (Singapura) (ap-southeast-1)
-
Ásia-Pacífico (Sydney) (ap-southeast-2)
-
Canadá (Central) (ca-central-1)
