Distribuir a inferência de barreira de proteção em Regiões da AWS

Você pode habilitar a inferência entre regiões com Barreiras de Proteção do Amazon Bedrock, que encaminham automaticamente as solicitações de inferência durante a avaliação de política de barreira de proteção para a Região da AWS ideal em sua área geográfica. (Para ter mais informações sobre como isso funciona, consulte Aumentar o throughput com inferência entre regiões.) A distribuição de solicitações de inferência entre Regiões da AWS maximiza os recursos de computação disponíveis e a disponibilidade do modelo, ajudando a manter o desempenho da barreira de proteção e a confiabilidade quando a demanda aumenta. Não há custo adicional pelo uso da inferência entre regiões.

As solicitações de inferência entre regiões são mantidas nas regiões da que fazem parte da geografia em que os dados originalmente residem. Por exemplo, uma solicitação feita nos EUA é mantida nas regiões nos EUA. Embora a configuração da barreira de proteção permaneça armazenada somente na região primária, seus prompts de entrada e resultados de saída podem ser movidos para fora da sua região primária ao usar a inferência entre regiões. Todos os dados são transmitidos criptografados na rede segura da Amazon.

Configurar a inferência da barreira de proteção

A inferência de barreira de proteção entre regiões é realizada por meio de um perfil de barreira de proteção, que é um recurso definido pelo sistema que você pode especificar ao criar ou modificar uma barreira de proteção de uma das seguintes formas:

Você precisa de permissões específicas para usar a inferência de barreira de proteção entre regiões. Para obter mais informações, consulte Permissões para usar a inferência entre regiões com as Barreiras de Proteção do Amazon Bedrock.