기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

계층 1: 생성형 AI를 위한 안정적인 데이터 및 컴퓨팅 인프라 구축

생성형 AI 애플리케이션을 개발하려면 특히 파운데이션 모델을 훈련하거나 미세 조정해야 하는 경우 강력한 데이터 파운데이션과 컴퓨팅 인프라가 중요합니다. 기업은 생성형 AI 여정을 시작할 때 전체 기계 학습 수명 주기를 지원할 수 있는 인프라가 필요합니다. 또한 성능, 비용 및 운영 효율성 간에 적절한 균형을 맞춰야 합니다.

신뢰할 수 있는 생성형 AI 인프라는 기본 인프라, 벡터 스토리지 및 검색 인프라, 컴퓨팅 인프라의 세 가지 주요 구성 요소를 제공해야 합니다. 이러한 구성 요소를 함께 사용하면 규모, 요구 사항 또는 환경에 관계없이 프로젝트의 요구 사항을 유연하게 충족할 수 있습니다.

API 기반 구현을 위한 파운데이션 인프라

대부분의 조직은 APIs를 통해 사전 훈련된 파운데이션 모델을 사용하여 생성형 AI 여정을 시작합니다. Amazon Bedrock은 통합 API를 통해 주요 파운데이션 모델에 대한 서버리스 액세스를 제공합니다. 이를 통해 복잡한 인프라를 관리하지 않고도 생성형 AI 애플리케이션을 실험하고 배포할 수 있습니다. 이러한 구현에는 다음이 필요합니다.

벡터 스토리지 및 검색 인프라

생성형 AI 애플리케이션이 성숙해지면 도메인별 지식과 컨텍스트로 애플리케이션을 개선해야 할 수 있습니다. Retrieval Augmented Generation(RAG)을 사용하면 파운데이션 모델은 응답을 생성하기 전에 조직의 데이터 또는 문서와 같은 훈련 데이터 소스 외부에 있는 신뢰할 수 있는 데이터 소스를 참조합니다. 자세한 내용은 의 증강 생성 옵션 및 아키텍처 검색을 참조하세요 AWS.

Amazon Bedrock 지식 기반은 RAG 애플리케이션 구축을 위한 완전관리형 솔루션을 제공합니다. 이를 통해 엔터프라이즈 데이터를 파운데이션 모델과 안전하게 연결할 수 있습니다. 유연성을 높이기 위해 Amazon OpenSearch Service를 벡터 검색 기능과 함께 사용하거나 Amazon Relational Database Service(RDS) for PostgreSQL을 pgvector 확장과 함께 사용하여 벡터 임베딩을 저장할 수 있습니다.

효율적인 벡터 작업을 위해 임베딩 생성을 위해 Amazon EC2 컴퓨팅 최적화 인스턴스를 사용하는 것이 좋습니다. 또한 Amazon ElastiCache를 사용하여 성능을 최적화하고 비용을 절감하여 자주 액세스하는 임베딩을 캐싱하는 것도 고려해 보세요.

벡터 데이터베이스 및 캐싱에 대한 자세한 내용은 벡터 데이터베이스란 무엇입니까? 및 RAG 사용 사례를 위한 AWS 벡터 데이터베이스 선택을 참조하세요.

모델 훈련 및 미세 조정을 위한 고성능 컴퓨팅 인프라

파운데이션 모델을 사용자 지정할 준비가 된 조직의 경우는 모델 훈련 및 미세 조정을 위한 포괄적인 인프라를 AWS 제공합니다. Amazon Simple Storage Service(Amazon S3)를 데이터 플랫폼을 구축하고 훈련 데이터 및 훈련된 모델을 저장하기 위한 저비용, 확장성 및 내구성이 뛰어난 객체 스토리지로 사용할 수 있습니다. 또한 AWS Glue는 모델 훈련을 위한 데이터를 준비하는 데 도움이 되는 서버리스 데이터 통합 서비스입니다.

훈련 인프라의 경우 Amazon SageMaker AI는 모델을 구축, 훈련 및 배포하는 데 필요한 도구와 워크플로를 갖춘 완전관리형 기계 학습 환경을 제공합니다. SageMaker AI를 사용하면 운영 오버헤드를 크게 줄일 수 있습니다. G 및 P 인스턴스 패밀리와 같은 가속 컴퓨팅 인스턴스를 사용하는 것이 좋습니다. 이러한 인스턴스 패밀리는 기계 학습 훈련 및 추론을 위해 NVIDIA의 최신 GPUs에 대한 액세스를 제공합니다. 또한 비용을 절감하면서 훈련 시간을 최대 50% 단축하는 특수 목적의 기계 학습 액셀러레이터AWS Trainium인를 사용할 수 있습니다.

정말 큰 프로젝트의 경우 Amazon EC2 UltraClusters 사용할 수 있습니다. UltraClusters 지정된 AWS 가용 영역에 공동 배치되고 상호 연결된 수천 개의 가속화된 Amazon EC2 인스턴스로 구성됩니다. UltraClusters 수천 개의 GPUs 또는 기계 학습 액셀러레이터로 확장할 수 있습니다. 이는 총 컴퓨팅 용량의 초당 엑사 부동 소수점 작업(엑사 부동 소수점)을 제공하므로 훈련 시간을 줄이고 time-to-solution 몇 주에서 며칠로 줄일 수 있습니다.

구현 권장 사항

생성형 AI 프로젝트를 위한 확장 가능하고 비용 효율적인 인프라를 설정하려면 다음 권장 사항을 고려하세요.