Crie seu guarda-corpo

Filtros de conteúdo — você pode configurar limites para ajudar a bloquear solicitações de entrada ou modelar respostas em linguagem natural para texto e separadamente para imagens que contenham conteúdo prejudicial, como: ódio, insultos, sexo, violência, má conduta (incluindo atividades criminosas) e ataques imediatos (injeção imediata e jailbreaks). Por exemplo, um site de comércio eletrônico pode criar seu assistente on-line para evitar o uso de and/or imagens de linguagem imprópria, como ódio ou violência.

Ataques imediatos — Pode ajudá-lo a detectar e filtrar ataques imediatos e injeções imediatas. Ajuda a detectar avisos destinados a ignorar a moderação, substituir instruções ou gerar conteúdo prejudicial.

Tópicos negados: é possível definir um conjunto de tópicos a serem evitados em sua aplicação de IA generativa. Por exemplo, uma aplicação de assistente bancário pode ser criada para ajudar a evitar tópicos relacionados a consultoria de investimento ilegal.

Filtros de palavras — Você pode configurar um conjunto de palavras ou frases personalizadas (correspondência exata) que deseja detectar e bloquear na interação entre seus usuários e aplicativos generativos de IA. Por exemplo, é possível detectar e bloquear palavrões, bem como palavras personalizadas específicas, como nomes de concorrentes ou outras palavras ofensivas.

Filtros de informações confidenciais — podem ajudá-lo a detectar conteúdo confidencial, como informações de identificação pessoal (PII) em formatos padrão ou entidades de regex personalizadas nas entradas do usuário e nas respostas FM. Com base no caso de uso, é possível rejeitar entradas que contenham informações confidenciais ou editá-las nas respostas do FM. Por exemplo, é possível editar as informações pessoais dos usuários ao gerar resumos de transcrições de conversas com clientes e agentes.

Verificações contextuais de fundamentação — podem ajudá-lo a detectar e filtrar alucinações nas respostas do modelo se elas não estiverem fundamentadas (factualmente imprecisas ou adicionarem novas informações) nas informações de origem ou forem irrelevantes para a consulta do usuário. Por exemplo, é possível bloquear ou sinalizar respostas em aplicações RAG (geração aumentada de recuperação), se as respostas do modelo se desviarem das informações nas passagens recuperadas ou não responderem à pergunta do usuário.

Verificações automatizadas de raciocínio — podem ajudá-lo a validar se as respostas do modelo seguem as regras e políticas lógicas que você define. Você pode criar políticas usando linguagem natural que especifique os requisitos de raciocínio, e a grade de proteção avaliará se as saídas do modelo estão em conformidade com essas restrições lógicas. Por exemplo, você pode garantir que um chatbot de atendimento ao cliente recomende apenas produtos que estejam realmente disponíveis no estoque ou verificar se a consultoria financeira segue as regras de conformidade regulatória.