IA responsável
Configurações de moderação de conteúdo: os clientes do Amazon Nova Forge têm acesso às configurações de moderação de conteúdo personalizáveis (CCMS) para os modelos do Amazon Nova Lite 1.0 e Pro 1.0. O CCMS permite que você ajuste os controles de moderação de conteúdo para se alinhar aos seus requisitos empresariais específicos, mantendo as proteções essenciais de IA responsável. Para determinar se seu caso de uso empresarial se qualifica para o CCMS, entre em contato com seu gerente de conta da Amazon Web Services.
O Amazon Nova Forge fornece um kit de ferramentas de IA responsável que inclui dados de treinamento, avaliações comparativas e controles de runtime para ajudar você a alinhar seus modelos às diretrizes de IA responsável do Amazon Nova.
Dados de treinamento: a categoria “RAI” na combinação de dados contém casos e cenários que enfatizam os princípios de IA responsável, as considerações de segurança e a implantação responsável de tecnologia. Use-os para alinhar modelos com responsabilidade durante o pré-treinamento contínuo.
Avaliações: tarefas de avaliações comparativas estão disponíveis para testar a capacidade do modelo de detectar e rejeitar conteúdo impróprio, prejudicial ou incorreto. Use essas avaliações para analisar a diferença entre a performance do modelo de base e a do modelo personalizado.
Controles de runtime: por padrão, o runtime do Amazon Nova controla as respostas moderadas dos modelos durante a inferência. Para modificar esses controles para seu caso empresarial específico, solicite as configurações de moderação de conteúdo personalizáveis (CCMS) entrando em contato com seu gerente de conta da Amazon Web Services.
Responsabilidade compartilhada pela segurança
A segurança é uma responsabilidade compartilhada entre a Amazon Web Services e nossos clientes. Alterar o modelo de base ou usar o pré-treinamento contínuo para melhorar a performance em um caso de uso específico pode afetar a segurança, a imparcialidade e outras propriedades do novo modelo.
Usamos um método de adaptação robusto para minimizar as alterações na segurança, imparcialidade e outras proteções incorporadas em nossos modelos de base, ao mesmo tempo em que minimizamos o impacto na performance do modelo em tarefas para as quais ele não foi personalizado.
Você é responsável por:
Testes completos de suas aplicações em conjuntos de dados representativos de seus casos de uso
Decidir se os resultados dos testes atendem às expectativas específicas de segurança, imparcialidade e outras propriedades, bem como da eficácia geral
Para obter mais informações, consulte o Guia de uso responsável da IA da Amazon Web Services, a Política de IA responsável da Amazon Web Services, a Política de uso aceitável da AWS e os Termos de serviço da AWS dos serviços que você planeja usar.
Configurações de moderação de conteúdo personalizáveis (CCMS)
O CCMS permite que você ajuste os controles relevantes aos requisitos de sua empresa, mantendo controles essenciais e não configuráveis que garantem o uso responsável da IA.
Essas configurações permitem a geração de conteúdo por meio de três configurações disponíveis:
Somente segurança
Segurança, conteúdo sensível e equidade combinados
Todas as categorias combinadas
As quatro categorias de moderação de conteúdo são:
Segurança: abrange atividades perigosas, armas e substâncias controladas.
Conteúdo sensível: inclui palavrões, nudez e intimidação
Equidade: aborda vieses e considerações culturais
Segurança: envolve crimes cibernéticos, malware e conteúdo malicioso
Independentemente da configuração do CCMS, o Amazon Nova aplica controles essenciais e não configuráveis para garantir o uso responsável da IA, como controles para evitar danos às crianças e preservar a privacidade.
Recomendações para usar o CCMS
Ao usar o CCMS, recomendamos usar o pré-treinamento contínuo (CPT) e partir de um ponto de verificação de alinhamento pré-RAI (pré-treinamento inicial, pré-treinamento intermediário ou pré-treinamento final) em vez do ponto de verificação GA/FINAL. Esses pontos de verificação não passaram por treinamento de segurança nem foram direcionados para comportamentos específicos de RAI, permitindo que você os personalize com mais eficiência de acordo com seus requisitos de moderação de conteúdo.
Dica: ao usar o CCMS com uma combinação de dados, considere ajustar a porcentagem da categoria “rai” em sua configuração nova_data para se alinhar aos seus requisitos específicos de moderação de conteúdo.
Disponibilidade
Atualmente, o CCMS está disponível para clientes aprovados usando:
Modelos Nova Lite 1.0 e Pro 1.0
Inferência sob demanda do Amazon Bedrock
A região us-east-1 (Norte da Virgínia)
Para habilitar o CCMS para seus modelos do Forge, entre em contato com seu gerente de conta da Amazon Web Services.
