La IA perimetral y la distribución global de inferencias - AWS Guía prescriptiva

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

La IA perimetral y la distribución global de inferencias

Si bien la inferencia basada en la nube sirve para la mayoría de los casos de uso empresarial, algunos escenarios requieren respuestas en tiempo real, capacidades fuera de línea o proximidad a la fuente de datos o al usuario. En estos casos, la IA perimetral, que ejecuta la lógica de la IA en el dispositivo o cerca de él, ofrece un poderoso complemento a la arquitectura de nube sin servidor.

AWS es compatible con la IA perimetral a través de dos tecnologías clave sin servidor:

  • Lambda @Edge ejecuta la lógica de inferencia de forma global en las ubicaciones de AWS borde mediante Amazon. CloudFront

    Ejemplo: un sitio de comercio electrónico global utiliza una función Lambda @Edge para personalizar el contenido de la página de inicio en función de la ubicación y el idioma del usuario. Como resultado, ofrece experiencias personalizadas al instante desde la ubicación CloudFront perimetral más cercana.

  • AWS IoT Greengrasspermite la ejecución local de la IA en los dispositivos conectados.

    Ejemplo: un dispositivo inteligente utiliza un modelo implementado AWS IoT Greengrass para realizar diagnósticos en tiempo real y sincroniza la información con la nube cuando es necesario o cuando la conectividad lo permite.

En conjunto, estas tecnologías amplían el alcance de la IA sin servidores a entornos de baja latencia, sensibles al ancho de banda o fuera de línea, y a bases de usuarios distribuidas por todo el mundo.

Lambda @Edge: inferencia global en la capa CDN

Al usar Lambda @Edge, los desarrolladores pueden ejecutar AWS Lambda funciones en ubicaciones de CloudFront borde. Este enfoque reduce la latencia para los usuarios finales y permite experiencias de IA ultrarrápidas y sensibles al contexto.

Entre las principales funciones de Lambda @Edge se incluyen las siguientes:

  • Ejecuta la lógica en la capa de CDN en respuesta a CloudFront eventos como la solicitud del espectador y la respuesta del origen

  • Personaliza el contenido, como la personalización de la página web y las recomendaciones, según el usuario, la ubicación y el dispositivo

  • Integra la inferencia de IA directamente en la entrega de contenido sin tener que dirigirla a una central Región de AWS

  • Se despliega en todo el mundo sin aprovisionar infraestructura

Ejemplos de casos de uso de Lambda @Edge

Lambda @Edge permite los siguientes casos de uso clave:

  • Personalización del comercio electrónico: ofrezca recomendaciones de productos dinámicas basadas en el ID y el comportamiento del usuario.

  • Transmisión multimedia: ajuste las recomendaciones y los controles parentales en función de las políticas regionales.

  • Campañas de marketing: personaliza los banners, el contenido y las ofertas para cada ubicación.

  • Experiencia de usuario (UX) multilingüe: detecte la ubicación y el idioma del usuario para ofrecer en línea el contenido traducido por Amazon Bedrock LLM.

Al colocar la lógica de inferencia lo más cerca posible del usuario, Lambda @Edge admite una entrega front-end hiperpersonalizada e impulsada por la IA, lo que resulta ideal para aplicaciones de consumo a gran escala.

Lambda @Edge se suele utilizar junto con Amazon Bedrock o SageMaker Serverless Inference mediante estrategias de enrutamiento asíncrono y almacenamiento en caché para combinar velocidad e inteligencia.

AWS IoT Greengrass: Inferencia local en el borde

AWS IoT Greengrass es un entorno de ejecución ligero que los clientes pueden utilizar para ejecutar funciones Lambda, inferencias de aprendizaje automático y código personalizado. Funciona en dispositivos periféricos, como controladores industriales, cámaras, dispositivos médicos o electrodomésticos inteligentes.

Las capacidades clave de AWS IoT Greengrass incluyen las siguientes:

  • Ejecuta las funciones de Lambda de forma local incluso cuando está desconectado de la nube.

  • Empaqueta modelos de aprendizaje automático (mediante entrenamiento SageMaker o personalizado) para realizar inferencias directamente en el dispositivo.

  • Optimiza las actualizaciones mediante una gestión segura de la over-the-air implementación y la configuración.

  • Se integra con Servicios de AWS (por ejemplo, Amazon S3 y Amazon CloudWatch) para una supervisión centralizada. AWS IoT Core

Ejemplos de casos de uso de AWS IoT Greengrass

AWS IoT Greengrass permite utilizar aplicaciones de inferencia en la periferia de varios sectores, como los siguientes:

  • Fabricación: detecte defectos en la entrada de la cámara sin tener que viajar de ida y vuelta sin problemas.

  • Atención sanitaria: supervise a los pacientes y realice diagnósticos en clínicas con conectividad intermitente.

  • Agricultura: clasifique las condiciones de los cultivos utilizando imágenes de drones.

  • Energía: supervise las tuberías y las turbinas mediante modelos de detección de anomalías.

AWS IoT Greengrass permite que estas cargas de trabajo sean rápidas, resilientes e independientes de la latencia de la nube, a la vez que proporciona administración, observabilidad y sincronización en la nube. Al usarlo AWS IoT Greengrass, los desarrolladores pueden implementar las mismas funciones de Lambda que se utilizan en la nube, lo que crea continuidad en los sistemas centralizados y distribuidos.

IA global y local: una estrategia de ejecución escalonada

Las empresas pueden combinar Lambda @Edge y crear un sistema AWS IoT Greengrass de IA perimetral escalonado. Esta arquitectura híbrida permite tomar decisiones inteligentes en el nivel correcto, en función de la sensibilidad a la latencia, el tamaño del modelo, la conectividad y los requisitos de conformidad. En la siguiente tabla se describen los niveles, AWS las tecnologías y las funciones de esta arquitectura.

datos y búsqueda

AWS tecnología

Función tecnológica

Ventaja del dispositivo

AWS IoT Greengrass

  • En el dispositivo

  • Apto para conexión a Internet

  • Lógica de IA

  • Procesamiento de datos de sensores

Periferia de la red

Lambda@Edge

  • Personalización del contenido

  • IA ligera cerca del usuario

  • Latencia ultrabaja

Núcleo de nube

Amazon Bedrock, Amazon SageMaker Serverless Inference y AWS Step Functions

  • Inferencia de IA pesada

  • Orquestación

  • Razonamiento de agentes

  • Canalizaciones RAG

Resumen de edge AI

La IA de Edge es una evolución natural de la arquitectura sin servidor, que aporta inferencia de baja latencia, personalización contextual y resiliencia a los desafíos de conectividad. Con AWS IoT Greengrass Lambda @Edge, las organizaciones pueden lograr lo siguiente:

  • Los desarrolladores pueden extender los principios de la ausencia de servidores más allá del centro de datos.

  • Las empresas pueden implementar y mantener los canales de IA más cerca de los usuarios y las fuentes de datos.

  • La lógica de la IA se vuelve autónoma, sensible a la ubicación y altamente escalable.

La IA se está generalizando en todos los sectores, desde las ciudades inteligentes hasta la robótica de campo y la distribución global de medios. Para respaldar esta evolución, Servicios de AWS pueden desempeñar un papel fundamental en la creación de aplicaciones distribuidas e inteligentes que se ejecuten en cualquier lugar.