View a markdown version of this page

Use a InvokeGuardrailChecks API em seu aplicativo - Amazon Bedrock
Regiões aceitas

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Use a InvokeGuardrailChecks API em seu aplicativo

Com a InvokeGuardrailChecksAPI, você pode avaliar as solicitações do usuário e modelar as respostas com proteções específicas, como filtros de conteúdo, detecção imediata de ataques e filtros de informações confidenciais em qualquer ponto do aplicativo, sem criar recursos de proteção individuais. Você pode usar essa API em vários aplicativos, incluindo fluxos de trabalho de IA agentes que envolvem conversas em vários turnos em que a avaliação do conteúdo é necessária para cada turno. A API é somente para detecção: ela detecta conteúdo indesejável e retorna uma pontuação numérica para cada verificação de segurança para que você possa definir o limite e realizar as ações necessárias dentro da lógica do aplicativo. Com essas pontuações, você pode criar uma lógica de resposta adaptativa, como bloquear, ignorar, tentar novamente ou encaminhar para análise humana, com base no seu limite personalizado e nos requisitos do seu aplicativo.

Características da InvokeGuardrailChecks API:

  • Flexibilidade — Você pode invocar qualquer verificação de segurança com a InvokeGuardrailChecks API e integrá-la em qualquer lugar do seu aplicativo. Você pode chamar a API com qualquer verificação de segurança antes de enviar uma solicitação ao LLM, depois de receber a resposta do LLM, antes de executar uma ferramenta que o modelo deseja chamar, depois que uma ferramenta retorna um resultado ou em qualquer outro momento em que você queira avaliar o conteúdo. Por exemplo, você pode incluir a detecção imediata de ataques em um prompt de entrada junto com a moderação de conteúdo com filtros de conteúdo, mas verificar se há vazamento de informações confidenciais, como conteúdo de PII, com respostas de modelo.

  • Não há necessidade de criar recursos antecipadamente — Você não precisa criar um recurso de proteção antes de invocar as proteções necessárias com a API. Você não precisa incluir uma CreateGuardrail etapa e não precisa rastrear IDs ou versões individuais do guardrail. Isso é especialmente valioso para fluxos de trabalho de IA agentes, nos quais diferentes etapas do ciclo exigem diferentes posturas de segurança. Você pode aplicar proteções individuais em etapas diferentes sem criar recursos de proteção em cada etapa, o que evita sobrecarga operacional.

  • Detect-only— A InvokeGuardrailChecks API retorna as descobertas de cada verificação de segurança com uma pontuação numérica entre 0 e 1. A API não bloqueia, transmite ou redige conteúdo. Você decide a ação necessária com base nos requisitos do seu aplicativo, como bloquear conteúdo, editar uma correspondência de PII ou exibir um aviso.

  • Proteções suportadas — A InvokeGuardrailChecks API oferece suporte às seguintes proteções oferecidas pelo Amazon Bedrock Guardrails:

Tópicos

Regiões aceitas

A InvokeGuardrailChecks API está disponível nas seguintes AWS regiões:

  • Leste dos EUA (Norte da Virgínia)

  • Leste dos EUA (Ohio)

  • Oeste dos EUA (Oregon)

  • Europa (Londres)

  • Europa (Estocolmo)

  • Ásia-Pacífico (Tóquio)

  • Ásia-Pacífico (Sydney)