Uso responsável - Amazon Nova
DiretrizesRecomendações

Uso responsável

Criar medidas de segurança, proteção e confiança com modelos de IA é uma responsabilidade compartilhada entre a AWS e nossos clientes. Nosso objetivo é alinhar nossos modelos à Política de Uso Aceitável da AWS e mitigar resultados indesejados e, ao mesmo tempo, proporcionar uma experiência agradável ao cliente. Nossa abordagem à IA responsável (RAI) é estruturada em torno de nossas dimensões centrais de IA responsável, que serão abordadas na lista a seguir. Para cada uma dessas dimensões, desenvolvemos diretrizes que regem nossa tomada de decisão durante todo o ciclo de vida do desenvolvimento do modelo. Esse ciclo de vida abrange todas as etapas, desde a coleta inicial de dados e o pré-treinamento até a implementação de mitigações de runtime pós-implantação.

  • Equidade: considerar os impactos nos diferentes grupos de partes interessadas

  • Explicabilidade: compreender e avaliar as saídas do sistema

  • Privacidade e segurança: obter, usar e proteger dados e modelos de forma adequada

  • Segurança: prevenir saídas prejudiciais e uso indevido

  • Controlabilidade: ter mecanismos para monitorar e direcionar o comportamento do sistema de IA

  • Veracidade e robustez: obter saídas corretas do sistema, mesmo com entradas inesperadas ou contraditórias

  • Governança: incorporar as práticas recomendadas na cadeia de suprimentos de IA, incluindo provedores e implementadores

  • Transparência: permitir que as partes interessadas façam escolhas informadas sobre o comprometimento deles com um sistema de IA

Diretrizes

As diretrizes que usamos para direcionar o desenvolvimento de nosso modelo incluem, entre outras, a moderação de conteúdo que exalta, facilita ou promove o seguinte:

  • Participação em atividades perigosas, automutilação ou uso de substâncias perigosas.

  • Uso, uso indevido ou comércio de substâncias controladas, tabaco ou álcool.

  • Violência física ou crueldade.

  • Abuso infantil ou material de abuso sexual infantil.

  • Abuso ou tráfico de animais.

  • Desinformação que posiciona indivíduos ou grupos como responsáveis por fraude deliberada, minando uma instituição com credibilidade pública geral ou colocando em risco a saúde ou a subsistência humana.

  • Malware, conteúdo malicioso ou qualquer conteúdo que facilite o crime cibernético.

  • Desrespeito, discriminação ou estereótipo em relação a um indivíduo ou grupo.

  • Insultos, profanidade, gestos obscenos, linguagem sexualmente explícita, pornografia, símbolos de ódio ou grupos de ódio.

  • Nudez total que esteja fora de um contexto científico, educacional ou de referência.

  • Preconceito contra um grupo com base em uma característica demográfica.

Recomendações

Adequação para uso: como as saídas do modelo de IA são probabilísticas, o Amazon Nova pode produzir conteúdo impreciso ou inadequado. Os clientes devem avaliar as saídas quanto à precisão e adequação ao seu caso de uso, especialmente se elas forem apresentadas diretamente aos usuários finais. Além disso, se o Amazon Nova for usado em fluxos de trabalho de clientes que geram decisões consequentes, os clientes devem avaliar os riscos potenciais de seu caso de uso e implementar supervisão humana adequada, testes e outras proteções específicas do caso de uso para mitigar tais riscos.

Otimizações de prompt: no caso de encontrar moderação por parte do Amazon Nova, considere examinar os prompts usados com relação às diretrizes acima. Otimizar os prompts para reduzir a probabilidade de gerar resultados indesejados é a estratégia recomendada para produzir os resultados esperados usando os modelos do Amazon Nova. Preste atenção onde a entrada é controlada pelos usuários, incluindo o conteúdo de pixels que pode afetar a performance do modelo. Consulte a seção de diretrizes de prompts neste guia do usuário para obter mais detalhes.

Privacidade: o Amazon Nova está disponível no Amazon Bedrock. O Amazon Bedrock é um serviço gerenciado e não armazena nem analisa os prompts ou as conclusões de prompts dos clientes, e os prompts e as conclusões nunca são compartilhados entre clientes ou com parceiros do Amazon Bedrock. A AWS não usa entradas ou saídas geradas por meio do serviço do Amazon Bedrock para treinar modelos do Amazon Bedrock, incluindo o Amazon Nova. Consulte a Seção 50.3 dos Termos de Serviço da AWS e as Perguntas frequentes sobre privacidade de dados da AWS para obter mais informações. Para obter informações de privacidade específicas do serviço, consulte a seção Privacidade e Segurança da documentação de Perguntas frequentes do Amazon Bedrock. O Amazon Nova toma medidas para evitar o preenchimento de prompts que possam ser interpretados como solicitação de informações privadas. Se um usuário estiver preocupado com o fato de suas informações privadas terem sido incluídas em um preenchimento do Amazon Nova, ele deverá entrar em contato conosco aqui.

Segurança: todos os modelos do Amazon Bedrock, incluindo o Amazon Nova, vêm com segurança corporativa que permite aos clientes criar aplicações de IA generativa compatíveis com padrões comuns de segurança e conformidade de dados, incluindo GDPR e HIPAA. Os clientes podem usar o AWS PrivateLink para estabelecer conectividade privada entre o Amazon Nova personalizado e redes on-premises sem expor o tráfego do cliente à internet. Os dados dos clientes são sempre criptografados em trânsito e em repouso, e eles podem usar suas próprias chaves para criptografar os dados, por exemplo, usando o AWS Key Management Service. Os clientes podem usar o AWS Identity and Access Management para controlar com segurança o acesso aos recursos do Amazon Bedrock, incluindo o Amazon Nova personalizado. Além disso, o Amazon Bedrock oferece recursos abrangentes de monitoramento e registro em log que podem reforçar os requisitos de governança e auditoria do cliente. Por exemplo, o Amazon CloudWatch pode ajudar a rastrear as métricas de uso necessárias para fins de auditoria, e o AWS CloudTrail pode ajudar a monitorar a atividade da API e solucionar problemas à medida que o Amazon Nova é integrado a outros sistemas da AWS. Os clientes também podem optar por armazenar os metadados, os prompts e as conclusões em seu próprio bucket criptografado do Amazon Simple Storage Service (Amazon S3).

Propriedade intelectual: A AWS oferece cobertura ilimitada de indenização de propriedade intelectual (PI) para as saídas dos modelos disponíveis para o público em geral do Amazon Nova (consulte a Seção 50.10 dos Termos de Serviço). Isso significa que os clientes estão protegidos contra reclamações de terceiros alegando violação de PI ou apropriação indébita (incluindo reivindicações de direitos autorais) pelas saídas geradas por esses modelos do Amazon Nova. Além disso, nossa indenização padrão de PI pelo uso dos serviços protege os clientes de reivindicações de terceiros alegando violação de PI (incluindo reivindicações de direitos autorais) pelos serviços (incluindo modelos do Amazon Nova) e pelos dados usados para treiná-los.