Distribua a inferência de guardrail em Regiões da AWS

Você pode habilitar a inferência entre regiões com o Amazon Bedrock Guardrails, que encaminha automaticamente as solicitações de inferência durante a avaliação da política de proteção para o ideal em sua geografia. Região da AWS (Para obter mais informações sobre como isso funciona, consulteAumente a produtividade com inferência entre regiões.) A distribuição de solicitações de inferência Regiões da AWS maximiza os recursos computacionais disponíveis e a disponibilidade do modelo, ajudando a manter o desempenho e a confiabilidade da proteção quando a demanda aumenta. Não há custo adicional para usar a inferência entre regiões.

As solicitações de inferência entre regiões são mantidas nas regiões que fazem parte da geografia em que os dados residem originalmente. Por exemplo, uma solicitação feita nos EUA é mantida em regiões nos EUA. Embora sua configuração de guardrail permaneça armazenada somente na região primária, suas solicitações de entrada e resultados de saída podem sair da sua região primária ao usar a inferência entre regiões. Todos os dados são transmitidos criptografados dentro da rede segura da Amazon.

Configurar a inferência de guardrail entre regiões

A inferência de guardrail entre regiões é feita por meio de um perfil de guardrail, que é um recurso definido pelo sistema que você pode especificar ao criar ou modificar um guardrail de uma das seguintes formas:

Você precisa de permissões específicas para usar a inferência de guardrail entre regiões. Para obter mais informações, consulte Permissões para usar a inferência entre regiões com o Amazon Bedrock Guardrails.