Uso responsable - Amazon Nova
DirectricesRecomendaciones

Uso responsable

Crear medidas de seguridad, protección y confianza con modelos de IA es una responsabilidad compartida entre AWS y nuestros clientes. Nuestro objetivo es alinear nuestros modelos con la Política de uso aceptable de AWS y mitigar los resultados no deseados mientras ofrecemos una experiencia satisfactoria al cliente. Nuestro enfoque respecto de la IA responsable (RAI) se estructura en torno a nuestras dimensiones principales de la IA responsable, que se describen en la siguiente lista. Para cada una de estas dimensiones, desarrollamos directrices que rigen nuestra toma de decisiones a lo largo de todo el ciclo de vida del desarrollo del modelo. Este ciclo de vida abarca todas las etapas, desde la recopilación inicial de datos y el entrenamiento previo, hasta la implementación de las mitigaciones en tiempo de ejecución posteriores a la implementación.

  • Equidad: tener en cuenta los impactos en las diferentes partes interesadas

  • Explicabilidad: comprender y evaluar los resultados del sistema

  • Privacidad y seguridad: obtener, usar y proteger los datos y los modelos de manera adecuada

  • Seguridad: prevenir los resultados perjudiciales y el uso indebido

  • Controlabilidad: contar con mecanismos para controlar y dirigir el comportamiento del sistema de IA

  • Veracidad y solidez: lograr resultados correctos del sistema, incluso con entradas inesperadas o adversas

  • Gobernanza: incorporar las prácticas recomendadas en la cadena de suministro de la IA, incluidos los proveedores y los implementadores

  • Transparencia: permitir que las partes interesadas tomen decisiones informadas sobre su interacción con un sistema de IA

Directrices

Las directrices que utilizamos para dirigir el desarrollo de nuestro modelo incluyen, entre otras, la moderación del contenido que aliente, facilite o promueva lo siguiente:

  • La participación en actividades peligrosas, autolesiones o uso de sustancias peligrosas.

  • El uso, uso indebido o comercio de sustancias controladas, tabaco o alcohol.

  • La violencia física o el gore.

  • El abuso infantil o material de abuso sexual infantil.

  • El maltrato o tráfico de animales.

  • Información errónea que posiciona a personas o grupos como responsables de un engaño deliberado, de socavar la credibilidad de una institución ante el público en general o de poner en peligro la salud o los medios de vida de las personas.

  • Malware, contenido malicioso o cualquier contenido que facilite los delitos informáticos.

  • Falta de respeto, discriminación o estereotipo hacia una persona o un grupo.

  • Insultos, blasfemias, gestos obscenos, lenguaje sexualmente explícito, pornografía, símbolos de odio o grupos de odio.

  • Desnudez total que esté fuera de un contexto científico, educativo o de referencia.

  • Sesgo contra un grupo basado en una característica demográfica.

Recomendaciones

Idoneidad de uso: Dado que los resultados de los modelos de IA son probabilísticos, Amazon Nova puede producir contenido inexacto o inapropiado. Los clientes deben evaluar los resultados para comprobar su precisión e idoneidad respecto de su caso práctico, especialmente si se expondrá directamente a los usuarios finales. Además, si Amazon Nova se utiliza en los flujos de trabajo de los clientes que toman decisiones consecuentes, los clientes deben evaluar los posibles riesgos de su caso práctico e implementar la supervisión humana adecuada, las pruebas y otras medidas de seguridad específicas para cada caso práctico para mitigar dichos riesgos.

Optimización de las peticiones: En caso de encontrarse con la moderación de Amazon Nova, considere la posibilidad de examinar las peticiones utilizadas con respecto a las directrices anteriores. Se recomienda optimizar las peticiones para reducir la probabilidad de generar resultados no deseados y producir los resultados esperados mediante los modelos de Amazon Nova. Preste atención a los casos en los que los usuarios controlan la entrada, incluido el contenido de píxeles, que podría afectar al rendimiento del modelo. Consulte la sección de directrices sobre peticiones de esta guía del usuario para obtener más información.

Privacidad: Amazon Nova está disponible en Amazon Bedrock. Amazon Bedrock es un servicio gestionado y no almacena ni revisa las peticiones de los clientes ni las respuestas a peticiones de los clientes, y estas nunca se comparten entre clientes ni con los socios de Amazon Bedrock. AWS no utiliza entradas ni salidas generadas a través del servicio de Amazon Bedrock para entrenar modelos de Amazon Bedrock, incluido Amazon Nova. Consulte la sección 50.3 de las condiciones del servicio de AWS y las preguntas frecuentes sobre la privacidad de los datos de AWS para obtener más información. Para obtener información de privacidad específica del servicio, consulte la sección Privacidad y seguridad de la documentación de preguntas frecuentes sobre Amazon Bedrock. Amazon Nova toma medidas para evitar completar peticiones que puedan interpretarse como solicitudes de información privada. Si a un usuario le preocupa que su información privada se haya incluido en una respuesta de Amazon Nova, debe ponerse en contacto con nosotros aquí.

Seguridad: Todos los modelos de Amazon Bedrock, incluido Amazon Nova, cuentan con seguridad empresarial que permite a los clientes crear aplicaciones de IA generativa que cumplen con los estándares comunes de seguridad y cumplimiento de datos, incluidos el Reglamento General de Protección de Datos (RGPD) y la Ley de Portabilidad y Responsabilidad del Seguro de Salud (HIPAA). Los clientes pueden utilizar AWS PrivateLink para establecer una conectividad privada entre Amazon Nova personalizado y las redes locales sin exponer el tráfico de clientes a Internet. Los datos de los clientes siempre se cifran en tránsito y en reposo, y los clientes pueden usar sus propias claves para cifrar los datos, por ejemplo, utilizando AWS Key Management Service. Los clientes pueden utilizar AWS Identity and Access Management para controlar de forma segura el acceso a los recursos de Amazon Bedrock, incluido Amazon Nova personalizado. Además, Amazon Bedrock ofrece capacidades integrales de control y registro que pueden respaldar los requisitos de auditoría y gobernanza de los clientes. Por ejemplo, Amazon CloudWatch puede ayudar a realizar un seguimiento de las métricas de uso necesarias para fines de auditoría, y AWS CloudTrail puede ayudar a supervisar la actividad de las API y a solucionar problemas, ya que Amazon Nova se integra con otros sistemas de AWS. Los clientes también pueden elegir almacenar los metadatos, las peticiones y los resultados en su propio bucket cifrado de Amazon Simple Storage Service (Amazon S3).

Propiedad intelectual: AWS ofrece una cobertura ilimitada de indemnización por propiedad intelectual (PI) para los resultados de los modelos de Amazon Nova disponibles de forma general (consulte la Sección 50.10 de las Condiciones del servicio). Esto significa que los clientes están protegidos contra las reclamaciones de terceros que aleguen una infracción de PI o una apropiación indebida (incluidas las reclamaciones de derechos de autor) por parte de los resultados generados por estos modelos de Amazon Nova. Además, nuestra indemnización de PI estándar por el uso de los Servicios protege a los clientes de las reclamaciones de terceros que aleguen una infracción de la PI (incluidas las reclamaciones de derechos de autor) por parte de los Servicios (incluidos los modelos de Amazon Nova) y de los datos utilizados para entrenarlos.