기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
# 계층 1: 생성형 AI를 위한 안정적인 데이터 및 컴퓨팅 인프라 구축
생성형 AI 애플리케이션을 개발하려면 특히 파운데이션 모델을 훈련하거나 미세 조정해야 하는 경우 강력한 데이터 파운데이션과 컴퓨팅 인프라가 중요합니다. 기업은 생성형 AI 여정을 시작할 때 전체 기계 학습 수명 주기를 지원할 수 있는 인프라가 필요합니다. 또한 성능, 비용 및 운영 효율성 간에 적절한 균형을 맞춰야 합니다.
신뢰할 수 있는 생성형 AI 인프라는 기본 인프라, 벡터 스토리지 및 검색 인프라, 컴퓨팅 인프라의 세 가지 주요 구성 요소를 제공해야 합니다. 이러한 구성 요소를 함께 사용하면 규모, 요구 사항 또는 환경에 관계없이 프로젝트의 요구 사항을 유연하게 충족할 수 있습니다.
**Topics**
+ [API 기반 구현을 위한 파운데이션 인프라](#infrastructure-foundation)
+ [벡터 스토리지 및 검색 인프라](#infrastructure-storage)
+ [모델 훈련 및 미세 조정을 위한 고성능 컴퓨팅 인프라](#infrastructure-compute)
+ [구현 권장 사항](#infrastructure-implementation-recs)
## API 기반 구현을 위한 파운데이션 인프라
대부분의 조직은 APIs를 통해 사전 훈련된 파운데이션 모델을 사용하여 생성형 AI 여정을 시작합니다. [Amazon Bedrock](https://docs.aws.amazon.com/bedrock/latest/userguide/what-is-bedrock.html)은 통합 API를 통해 주요 파운데이션 모델에 대한 서버리스 액세스를 제공합니다. 이를 통해 복잡한 인프라를 관리하지 않고도 생성형 AI 애플리케이션을 실험하고 배포할 수 있습니다. 이러한 구현에는 다음이 필요합니다.
+ 애플리케이션을 실행하기 위한 [Amazon Elastic Compute Cloud(Amazon EC2)](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/concepts.html) 범용 인스턴스입니다.
+ 애플리케이션 데이터 및 출력을 저장하기 위한 [Amazon Simple Storage Service(Amazon S3).](https://docs.aws.amazon.com/AmazonS3/latest/userguide/Welcome.html)
+ 애플리케이션의 성능 및 사용량을 모니터링하고 로깅하기 위한 [Amazon CloudWatch](https://docs.aws.amazon.com/AmazonCloudWatch/latest/monitoring/WhatIsCloudWatch.html)입니다.
+ (선택 사항) 이벤트 기반 생성형 AI 애플리케이션을 빌드할 때 서버리스 컴퓨팅[AWS Lambda](https://docs.aws.amazon.com/lambda/latest/dg/welcome.html)의 경우.
## 벡터 스토리지 및 검색 인프라
생성형 AI 애플리케이션이 성숙해지면 도메인별 지식과 컨텍스트로 애플리케이션을 개선해야 할 수 있습니다. Retrieval Augmented Generation(RAG)을 사용하면 파운데이션 모델은 응답을 생성하기 전에 조직의 데이터 또는 문서와 같은 훈련 데이터 소스 외부에 있는 신뢰할 수 있는 데이터 소스를 참조합니다. 자세한 내용은 [의 증강 생성 옵션 및 아키텍처 검색을 참조하세요 AWS](https://docs.aws.amazon.com/prescriptive-guidance/latest/retrieval-augmented-generation-options/introduction.html).
[Amazon Bedrock 지식 기반](https://aws.amazon.com/bedrock/knowledge-bases/)은 RAG 애플리케이션 구축을 위한 완전관리형 솔루션을 제공합니다. 이를 통해 엔터프라이즈 데이터를 파운데이션 모델과 안전하게 연결할 수 있습니다. 유연성을 높이기 위해 [Amazon OpenSearch Service](https://docs.aws.amazon.com/opensearch-service/latest/developerguide/what-is.html)를 벡터 검색 기능과 함께 사용하거나 [Amazon Relational Database Service(RDS) for PostgreSQL](https://docs.aws.amazon.com/AmazonRDS/latest/UserGuide/CHAP_PostgreSQL.html)을 [pgvector](https://github.com/pgvector/pgvector) 확장과 함께 사용하여 벡터 임베딩을 저장할 수 있습니다.
효율적인 벡터 작업을 위해 임베딩 생성을 위해 Amazon EC2 컴퓨팅 최적화 인스턴스를 사용하는 것이 좋습니다. 또한 [Amazon ElastiCache](https://docs.aws.amazon.com/AmazonElastiCache/latest/dg/WhatIs.html)를 사용하여 성능을 최적화하고 비용을 절감하여 자주 액세스하는 임베딩을 캐싱하는 것도 고려해 보세요.
벡터 데이터베이스 및 캐싱에 대한 자세한 내용은 [벡터 데이터베이스란 무엇입니까?](https://aws.amazon.com/what-is/vector-databases/) 및 [RAG 사용 사례를 위한 AWS 벡터 데이터베이스 선택을 참조하세요](https://docs.aws.amazon.com/prescriptive-guidance/latest/choosing-an-aws-vector-database-for-rag-use-cases/introduction.html).
## 모델 훈련 및 미세 조정을 위한 고성능 컴퓨팅 인프라
파운데이션 모델을 사용자 지정할 준비가 된 조직의 경우는 모델 훈련 및 미세 조정을 위한 포괄적인 인프라를 AWS 제공합니다. Amazon Simple Storage Service(Amazon S3)를 데이터 플랫폼을 구축하고 훈련 데이터 및 훈련된 모델을 저장하기 위한 저비용, 확장성 및 내구성이 뛰어난 객체 스토리지로 사용할 수 있습니다. 또한 [AWS Glue](https://docs.aws.amazon.com/glue/latest/dg/what-is-glue.html)는 모델 훈련을 위한 데이터를 준비하는 데 도움이 되는 서버리스 데이터 통합 서비스입니다.
훈련 인프라의 경우 [Amazon SageMaker AI](https://docs.aws.amazon.com/sagemaker/latest/dg/whatis.html)는 모델을 구축, 훈련 및 배포하는 데 필요한 도구와 워크플로를 갖춘 완전관리형 기계 학습 환경을 제공합니다. SageMaker AI를 사용하면 운영 오버헤드를 크게 줄일 수 있습니다. G 및 P [인스턴스 패밀리와 같은 가속 컴퓨팅](https://docs.aws.amazon.com/ec2/latest/instancetypes/ac.html#ac_hardware) 인스턴스를 사용하는 것이 좋습니다. 이러한 인스턴스 패밀리는 기계 학습 훈련 및 추론을 위해 NVIDIA의 최신 GPUs에 대한 액세스를 제공합니다. 또한 비용을 절감하면서 훈련 시간을 최대 50% 단축하는 특수 목적의 기계 학습 액셀러레이터[AWS Trainium](https://aws.amazon.com/ai/machine-learning/trainium/)인를 사용할 수 있습니다.
정말 큰 프로젝트의 경우 [Amazon EC2 UltraClusters](https://aws.amazon.com/ec2/ultraclusters/) 사용할 수 있습니다. UltraClusters 지정된 AWS 가용 영역에 공동 배치되고 상호 연결된 수천 개의 가속화된 Amazon EC2 인스턴스로 구성됩니다. UltraClusters 수천 개의 GPUs 또는 기계 학습 액셀러레이터로 확장할 수 있습니다. 이는 총 컴퓨팅 용량의 초당 엑사 부동 소수점 작업(엑사 부동 소수점)을 제공하므로 훈련 시간을 줄이고 time-to-solution 몇 주에서 며칠로 줄일 수 있습니다.
## 구현 권장 사항
생성형 AI 프로젝트를 위한 확장 가능하고 비용 효율적인 인프라를 설정하려면 다음 권장 사항을 고려하세요.
+ 빠른 실험 및 초기 배포를 위해 Amazon Bedrock으로 시작하고 애플리케이션에 범용 컴퓨팅 인스턴스를 사용합니다.
+ 요구 사항이 발전함에 따라 Amazon Bedrock 지식 기반 또는 Amazon OpenSearch Service를 사용하여 벡터 스토리지 솔루션을 구현합니다. 그에 따라 인프라를 확장합니다.
+ 고급 사용자 지정의 경우 분산된 팀의 요구 사항을 지원하기 위해 안전하고 관리되는 기계 학습 환경의 프로비저닝을 표준화하고 자동화합니다. 자세한 내용은 [에서 안전하고 잘 관리되는 기계 학습 환경 설정 AWS](https://aws.amazon.com/blogs/mt/setting-up-machine-learning-environments-aws/)(AWS 블로그 게시물)을 참조하세요.
+ 기계 학습 작업(MLOps)을 채택하여 기계 학습 수명 주기 전반에 걸쳐 프로세스를 자동화하고 표준화합니다. 이러한 프로세스에는 모델 개발, 테스트, 통합, 릴리스 및 인프라 관리가 포함됩니다. 자세한 내용은 [ MLOps란 무엇입니까?](https://aws.amazon.com/what-is/mlops/)를 참조하세요.
+ 소규모 실험 또는 개념 증명의 경우 Amazon SageMaker AI 및 범용 컴퓨팅 인스턴스로 시작합니다. 대규모 프로덕션 배포로 확장할 때 성능을 극대화하려면 Amazon EC2 가속 컴퓨팅 인스턴스를 고려하세요.
+ SageMaker AI의 [관리형 스팟 훈련](https://docs.aws.amazon.com/sagemaker/latest/dg/model-managed-spot-training.html)을 사용하면 온디맨드 인스턴스에 비해 모델 훈련 비용을 최대 90%까지 최적화할 수 있습니다. SageMaker AI는 사용자를 대신하여 스팟 중단을 관리합니다.