Remover uma lista específica de palavras e frases das conversas com filtros de palavras - Amazon Bedrock
Configure a política de palavras para sua grade de proteção

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Remover uma lista específica de palavras e frases das conversas com filtros de palavras

O Amazon Bedrock Guardrails tem filtros de palavras que você pode usar para bloquear palavras e frases (correspondência exata) nas solicitações de entrada e nas respostas do modelo. É possível usar os filtros de palavras a seguir para bloquear palavrões, conteúdo ofensivo ou impróprio ou conteúdo com nomes de concorrentes ou de produtos.

  • Filtro de palavrões: ative para bloquear palavras obscenas. A lista de palavrões é baseada em definições convencionais de obscenidade e é atualizada continuamente.

  • Filtro de palavras personalizado — Adicione palavras e frases personalizadas usando até três palavras em uma lista. AWS Management Console É possível adicionar até dez mil itens ao filtro de palavras personalizado.

    Você tem as seguintes opções para adicionar palavras e frases usando o Amazon Bedrock AWS Management Console:

    • Adicione manualmente no editor de texto.

    • Carregue um arquivo .txt ou .csv.

    • Carregue um objeto de um bucket do Amazon S3.

    nota

    Você só pode fazer upload de documentos e objetos usando AWS Management Console o. As operações de API e do SDK só podem ser usadas com texto e não incluem o upload de documentos e objetos.

Configure a política de palavras para sua grade de proteção

Você pode configurar políticas de palavras para sua grade de proteção usando a API Amazon Bedrock ou AWS Management Console Amazon Bedrock.

Console

  1. Faça login na função AWS Management Console usando uma função do IAM com as permissões do Amazon Bedrock e abra o console do Amazon Bedrock em. https://console.aws.amazon.com/bedrock/

  2. No painel de navegação esquerdo, escolha Guardrails e, em seguida, escolha Create guardrail.

  3. Na página Fornecer detalhes do guardrail, faça o seguinte:

    1. Na seção Detalhes da barreira de proteção, forneça um Nome e uma Descrição opcional para a barreira de proteção.

    2. Em Mensagens para solicitações bloqueadas, insira uma mensagem que será exibida quando sua grade de proteção for aplicada. Marque a caixa de seleção Aplicar a mesma mensagem bloqueada para respostas para usar a mesma mensagem quando sua grade de proteção for aplicada à resposta.

    3. (Opcional) Para ativar a inferência entre regiões para sua grade de proteção, expanda a inferência entre regiões e selecione Ativar inferência entre regiões para sua grade de proteção. Escolha um perfil de guardrail que defina o destino para Regiões da AWS onde as solicitações de inferência de guardrail podem ser roteadas.

    4. (Opcional) Por padrão, sua grade de proteção é criptografada com um. Chave gerenciada pela AWS Para usar sua própria chave KMS gerenciada pelo cliente, expanda a seleção de chaves KMS e marque a caixa de seleção Personalizar configurações de criptografia (avançadas).

      Você pode selecionar uma AWS KMS chave existente ou selecionar Criar uma AWS KMS chave para criar uma nova.

    5. (Opcional) Para adicionar tags à sua grade de proteção, expanda Tags e selecione Adicionar nova tag para cada tag que você definir.

      Para obter mais informações, consulte Marcação de recursos do Amazon Bedrock.

    6. Escolha Próximo.

  4. Na página Adicionar filtros de palavras, faça o seguinte:

    1. Selecione Filtrar palavrões para bloquear palavrões em avisos e respostas. A lista de palavrões é baseada em definições convencionais e é atualizada continuamente.

    2. Em Adicionar palavras e frases personalizadas, selecione como adicionar palavras e frases para bloquear sua grade de proteção. Se você fizer upload de um arquivo de palavras, cada linha do arquivo deverá conter uma palavra ou uma frase de até três palavras. Não inclua um cabeçalho. Você tem as seguintes opções:

      Opção Instruções
      Adicionar palavras e frases manualmente Adicione palavras e frases diretamente na seção Visualizar e editar palavras e frases.
      Fazer upload de um arquivo local Faça upload de um arquivo.txt ou .csv contendo as palavras e frases selecionando Escolher arquivo depois de selecionar essa opção.
      Carregar de um objeto do Amazon S3 Faça upload de um objeto de um bucket do S3.

    3. Edite as palavras e frases a serem bloqueadas na seção Exibir e editar palavras e frases. Você tem as seguintes opções:

      • Se carregar de uma lista de palavras de um arquivo local ou objeto do Amazon S3, essa seção será preenchida com a sua lista de palavras. Para filtrar itens com erros, selecione Mostrar erros.

      • Para adicionar um item à lista de palavras, selecione Adicionar palavra ou frase. Insira uma palavra ou frase de até três palavras na caixa e pressione Enter ou selecione o ícone de marca de seleção para confirmar o item.

      • Para editar um item, selecione o ícone de edição ( ) ao lado do item.

      • Para excluir um item da lista de palavras, selecione o ícone da lixeira ( ) ou, se estiver editando um item, selecione o ícone de exclusão ( ) ao lado do item.

      • Para excluir itens que contêm erros, selecione Excluir tudo e, em seguida, selecione Excluir todas as linhas com erro.

      • Para excluir todos os itens, selecione Excluir tudo e, em seguida, selecione Excluir todas as linhas.

      • Para pesquisar um item, insira uma expressão na barra de pesquisa.

      • Para mostrar somente itens com erros, selecione o menu suspenso Mostrar tudo e selecione Mostrar somente erros.

      • Para configurar o tamanho de cada página na tabela ou a exibição da coluna na tabela, selecione o ícone de configurações ( ). Defina suas preferências e selecione Confirmar.

      • Por padrão, essa seção exibe o editor de Tabela. Para mudar para um editor de texto no qual seja possível inserir uma palavra ou frase em cada linha, selecione Editor de texto. O Editor de texto fornece os seguintes recursos:

        • É possível copiar uma lista de palavras de outro editor de texto e colá-la nesse editor.

        • Um ícone de X vermelho aparece ao lado dos itens que contêm erros e uma lista de erros é exibida abaixo do editor.

    4. Escolha Avançar para configurar outras políticas conforme necessário ou Ir para revisar e criar para concluir a criação de sua grade de proteção.

    5. Revise as configurações do seu guarda-corpo.

      1. Selecione Editar em qualquer seção na qual desejar fazer alterações.

      2. Quando terminar de configurar as políticas, selecione Criar para criar a grade de proteção.

API

Para criar uma grade de proteção com políticas de palavras, envie uma CreateGuardrailsolicitação. O formato da solicitação é o seguinte:

POST /guardrails HTTP/1.1
Content-type: application/json

{
    "blockedInputMessaging": "string",
    "blockedOutputsMessaging": "string",
    "wordPolicyConfig": {
        "managedWordListsConfig": [
            {
                "inputAction": "BLOCK | NONE",
                "inputEnabled": true,
                "outputAction": "BLOCK | NONE",
                "outputEnabled": true,
                "type": "PROFANITY"
            },
        ],
        "wordsConfig": [{
            "text": "string",
            "inputAction": "BLOCK | NONE",
            "inputEnabled": true,
            "outputAction": "BLOCK | NONE",
            "outputEnabled": true
        }]
    },
    "description": "string",
    "kmsKeyId": "string",
    "name": "string",
    "tags": [{
        "key": "string",
        "value": "string"
    }],
    "crossRegionConfig": {
        "guardrailProfileIdentifier": "string"
    }
}

  • Especifique um name e uma description para a barreira de proteção.

  • Especifique mensagens para quando a barreira de proteção bloquear um prompt ou uma resposta do modelo com sucesso nos campos blockedInputMessaging e blockedOutputsMessaging.

  • Configure políticas de palavras no wordPolicyConfig objeto:

    • Use managedWordListsConfig para configurar uma lista predefinida de palavras profanas.

    • Use a wordsConfig matriz para especificar palavras e frases personalizadas para filtrar:

      • Especifique as palavras e frases a serem filtradas no text campo.

      • (Opcional) Especifique a ação a ser tomada quando a palavra for detectada em prompts usando inputAction ou respostas usandooutputAction. Escolha BLOCK bloquear o conteúdo e substituí-lo por mensagens bloqueadas ou não NONE realizar nenhuma ação além de retornar as informações de detecção.

      • (Opcional) Use inputEnabled e outputEnabled para controlar se a avaliação do guarda-corpo está habilitada para entradas e saídas.

  • (Opcional) Anexe todas as tags à barreira de proteção. Para obter mais informações, consulte Marcação de recursos do Amazon Bedrock.

  • (Opcional) Por segurança, inclua o ARN de uma chave do KMS no campo. kmsKeyId.

  • (Opcional) Para habilitar a inferência entre regiões, especifique um perfil de proteção no objeto. crossRegionConfig

O formato da resposta é o seguinte:

HTTP/1.1 202
Content-type: application/json

{
    "createdAt": "string",
    "guardrailArn": "string",
    "guardrailId": "string",
    "version": "string"
}