엣지 AI 및 글로벌 추론 배포 - AWS 권장 가이드
Lambda@Edge: CDN 계층의 글로벌 추론AWS IoT Greengrass: 엣지에서의 로컬 추론글로벌 및 로컬 AI: 계층형 실행 전략엣지 AI 요약

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

엣지 AI 및 글로벌 추론 배포

클라우드 기반 추론은 대부분의 엔터프라이즈 사용 사례를 제공하지만 특정 시나리오에서는 실시간 응답, 오프라인 기능 또는 데이터 소스 또는 사용자와의 근접성이 필요합니다. 이러한 경우 디바이스에서 또는 디바이스 근처에서 AI 로직을 실행하는 엣지 AI는 서버리스 클라우드 아키텍처를 강력하게 보완합니다.

AWS 는 두 가지 주요 서버리스 기술을 통해 엣지 AI를 지원합니다.

  • Lambda@Edge는 Amazon CloudFront를 사용하여 AWS 엣지 로케이션에서 추론 로직을 전역적으로 실행합니다.

    예 - 글로벌 전자 상거래 사이트는 Lambda@Edge 함수를 사용하여 사용자 위치 및 언어에 따라 홈페이지 콘텐츠를 개인화합니다. 따라서 가장 가까운 CloudFront 엣지 로케이션에서 즉시 맞춤형 경험을 제공합니다.

  • AWS IoT Greengrass는 연결된 디바이스에서 로컬 AI 실행을 활성화합니다.

    예 - 스마트 어플라이언스는 실시간 진단을 AWS IoT Greengrass 위해에 배포된 모델을 사용하여 필요할 때 또는 연결이 허용될 때 인사이트를 클라우드에 동기화합니다.

이러한 기술은 함께 서버리스 AI의 범위를 지연 시간이 짧거나 대역폭에 민감하거나 오프라인 환경 및 전 세계에 분산된 사용자 기반으로 확장합니다.

Lambda@Edge: CDN 계층의 글로벌 추론

개발자는 Lambda@Edge를 사용하여 CloudFront 엣지 로케이션에서 AWS Lambda 함수를 실행할 수 있습니다. 이 접근 방식은 최종 사용자의 지연 시간을 줄이고 컨텍스트를 인식하고 매우 빠른 AI 경험을 가능하게 합니다.

Lambda@Edge의 주요 기능은 다음과 같습니다.

  • 최종 사용자 요청 및 오리진 응답과 같은 CloudFront 이벤트에 대한 응답으로 CDN 계층에서 로직을 실행합니다.

  • 사용자, 위치 및 디바이스에 따라 웹 페이지 개인화 및 권장 사항과 같은 콘텐츠를 사용자 지정합니다.

  • 중앙으로 라우팅하지 않고 AI 추론을 콘텐츠 전송에 직접 통합 AWS 리전

  • 인프라를 프로비저닝하지 않고 전 세계에 배포

Lambda@Edge의 사용 사례 예제

Lambda@Edge는 다음과 같은 주요 사용 사례를 활성화합니다.

  • 전자 상거래 개인화 - 사용자 ID 및 동작을 기반으로 동적 제품 권장 사항을 제공합니다.

  • 미디어 스트리밍 - 리전 정책에 따라 권장 사항 및 상위 제어를 조정합니다.

  • 마케팅 캠페인 - 각 위치에 대한 배너, 콘텐츠 및 제안을 사용자 지정합니다.

  • 다국어 사용자 경험(UX) - 사용자 위치 및 언어를 감지하여 Amazon Bedrock LLM 번역 콘텐츠를 인라인으로 제공합니다.

추론 로직을 사용자에게 최대한 가깝게 배치함으로써 Lambda@Edge는 하이퍼 개인화된 AI 기반 프런트 엔드 전송을 지원하며, 이는 대규모 소비자 애플리케이션에 적합합니다.

Lambda@Edge는 비동기 라우팅 및 캐싱 전략을 사용하여 속도와 인텔리전스를 결합하여 Amazon Bedrock 또는 SageMaker Serverless Inference와 함께 사용되는 경우가 많습니다.

AWS IoT Greengrass: 엣지에서의 로컬 추론

AWS IoT Greengrass 는 고객이 Lambda 함수, ML 추론 및 사용자 지정 코드를 실행하는 데 사용할 수 있는 경량 런타임입니다. 산업용 컨트롤러, 카메라, 의료 디바이스 또는 스마트 어플라이언스와 같은 엣지 디바이스에서 작동합니다.

의 주요 기능은 다음과 AWS IoT Greengrass 같습니다.

  • 클라우드에서 연결이 끊긴 경우에도 로컬에서 Lambda 함수를 실행합니다.

  • ML 모델(SageMaker 또는 사용자 지정 훈련을 통해)을 패키징하여 디바이스에서 직접 추론을 수행합니다.

  • 안전한 over-the-air.

  • 중앙 집중식 모니터링을 위해 AWS 서비스 (예: Amazon S3 AWS IoT Core및 Amazon CloudWatch)와 통합합니다.

의 사용 사례 예제 AWS IoT Greengrass

AWS IoT Greengrass 는 다음과 같은 여러 산업의 엣지에서 추론 애플리케이션을 활성화합니다.

  • 제조 - 구름 왕복 없이 카메라 입력의 결함을 감지합니다.

  • 의료 - 간헐적인 연결로 환자를 모니터링하고 클리닉에서 진단을 수행합니다.

  • 농업 - 드론 영상을 사용하여 작물 조건을 분류합니다.

  • 에너지 - 이상 탐지 모델을 사용하여 파이프라인과 터빈을 모니터링합니다.

AWS IoT Greengrass 를 사용하면 이러한 워크로드를 클라우드 측 관리, 관찰성 및 동기화를 제공하면서 클라우드 지연 시간과 관계없이 빠르고 복원력이 뛰어나며 독립적일 수 있습니다. AWS IoT Greengrass개발자는를 사용하여 클라우드에서 사용되는 것과 동일한 Lambda 함수를 배포하여 중앙 집중식 및 분산형 시스템 간에 연속성을 생성할 수 있습니다.

글로벌 및 로컬 AI: 계층형 실행 전략

기업은 Lambda@Edge와 AWS IoT Greengrass 를 결합하여 계층형 엣지 AI 시스템을 생성할 수 있습니다. 이 하이브리드 아키텍처를 사용하면 지연 시간 민감도, 모델 크기, 연결 및 규정 준수 요구 사항에 따라 적절한 계층에서 지능적인 결정을 내릴 수 있습니다. 다음 표에서는이 아키텍처의 계층, AWS 기술 및 역할에 대해 설명합니다.

계층

AWS 기술

기술 역할

디바이스 엣지

AWS IoT Greengrass

  • 디바이스 내

  • 오프라인 지원

  • AI 로직

  • 센서 데이터 처리

네트워크 엣지

Lambda@Edge

  • 콘텐츠 개인화

  • 사용자 근처의 경량 AI

  • 지연 시간이 매우 짧음

클라우드 코어

Amazon Bedrock, Amazon SageMaker Serverless Inference 및 AWS Step Functions

  • 헤비 AI 추론

  • 오케스트레이션

  • 에이전트 추론

  • RAG 파이프라인

엣지 AI 요약

엣지 AI는 서버리스 아키텍처의 자연스러운 진화로, 연결 문제에 지연 시간이 짧은 추론, 컨텍스트 개인화 및 복원력을 제공합니다. AWS IoT Greengrass 및 Lambda@Edge를 사용하면 조직은 다음을 달성할 수 있습니다.

  • 개발자는 데이터 센터를 넘어 서버리스 원칙을 확장할 수 있습니다.

  • 기업은 AI 파이프라인을 사용자 및 데이터 소스에 더 가깝게 배포하고 유지할 수 있습니다.

  • AI 로직은 위치 인식, 자율성 및 확장성이 뛰어납니다.

AI는 스마트 시티부터 필드 로봇, 글로벌 미디어 전송에 이르기까지 여러 분야에서 널리 사용되고 있습니다. 이러한 진화를 지원하기 위해 이러한 진화는 어디서나 실행되는 분산된 지능형 애플리케이션을 구축하는 데 기본적인 역할을 할 AWS 서비스 수 있습니다.