Distribua a inferência de guardrail em Regiões da AWS

Você pode habilitar a inferência entre regiões com o Amazon Bedrock Guardrails, que encaminha automaticamente as solicitações de inferência durante a avaliação da política de proteção para o ideal em sua geografia. Região da AWS (Para ter mais informações sobre como isso funciona, consulte Aumentar o throughput com inferência entre regiões.) A distribuição de solicitações de inferência entre Regiões da AWS maximiza os recursos de computação disponíveis e a disponibilidade do modelo, ajudando a manter o desempenho da barreira de proteção e a confiabilidade quando a demanda aumenta. Não há custo adicional pelo uso da inferência entre regiões.

Cross-Region as solicitações de inferência são mantidas nas regiões que fazem parte da geografia em que os dados residem originalmente. Por exemplo, uma solicitação feita nos EUA é mantida nas regiões nos EUA. Embora a configuração da barreira de proteção permaneça armazenada somente na região primária, seus prompts de entrada e resultados de saída podem ser movidos para fora da sua região primária ao usar a inferência entre regiões. Todos os dados são transmitidos criptografados na rede segura da Amazon.

Configurar a inferência da barreira de proteção

Cross-Region a inferência de guardrail é feita por meio de um perfil de guardrail, que é um recurso definido pelo sistema que você pode especificar ao criar ou modificar um guardrail de uma das seguintes formas:

Você precisa de permissões específicas para usar a inferência de barreira de proteção entre regiões. Para obter mais informações, consulte Permissões para usar a inferência entre regiões com as Barreiras de Proteção do Amazon Bedrock.