콘텐츠 도메인 3: ML 및 AI 워크플로 배포 및 오케스트레이션
작업
작업 3.1: ML 및 AI 모델 유형의 배포 인프라를 관리합니다.
기술 3.1.1: 적절한 컴퓨팅 환경과 배포 대상을 선택합니다.
기술 3.1.2: 배포 오케스트레이터와 다중 모델 또는 다중 컨테이너 배포 전략을 선택합니다.
기술 3.1.3: 모델 추론 전략을 선택합니다(예: 실시간 및 배치 처리).
기술 3.1.4: 적절한 파운데이션 모델(FM) 배포 옵션을 평가하고 선택합니다.
기술 3.1.5: AWS 외부에서 구축한 모델을 AWS 환경에 배포합니다(예: Amazon SageMaker AI, Amazon Bedrock Custom Model Import).
기술 3.1.6: 특정 작업, 다른 서비스 및 도구와의 통합, 에이전트 통신 프로토콜을 위한 에이전트를 배포 및 구성합니다.
기술 3.1.7: FM 배포, 모델 호스팅 및 리소스 할당을 구성합니다.
기술 3.1.8: 검색 증강 생성(RAG) 시스템 구성을 적용합니다(예: 검색 전략, 순위 조정).
작업 3.2: 기존 아키텍처 및 요구 사항을 기반으로 ML 및 AI 워크로드를 위한 리소스를 프로비저닝하고 구성합니다.
기술 3.2.1: 온디맨드 리소스와 프로비저닝된 리소스 간의 리소스 프로비저닝을 최적화하여 성능 및 비용 효율성을 높입니다.
기술 3.2.2: 스택과 오케스트레이션 서비스 간의 통합 통신을 통해 컴퓨팅 리소스 프로비저닝을 자동화합니다.
기술 3.2.3: ML 및 AI 워크로드용 컨테이너를 구축하고 유지 관리합니다.
기술 3.2.4: VPC 네트워크 환경 내에서 SageMaker AI 엔드포인트를 구성합니다.
기술 3.2.5: 프로그래밍 방식으로 모델을 배포하고 호스팅합니다(예: SageMaker AI SDK for Python, AWS CLI, Boto3 사용).
기술 3.2.6: 오토 스케일링 구현을 위한 특정 지표를 선택합니다.
기술 3.2.7: 벡터 데이터베이스 구성, 문서 인덱싱 및 검색 최적화를 통해 Amazon Bedrock 지식 기반을 만들고 관리합니다.
기술 3.2.8: 비즈니스 요구 사항을 충족하기 위해 검색 파이프라인을 구현합니다.
기술 3.2.9: 에이전트 상태 관리 시스템을 구현합니다.
기술 3.2.10: GPU 워크로드를 위한 AI 전용 리소스 스케일링을 구현합니다.
기술 3.2.11: 에이전틱 워크플로 인프라를 배포합니다.
작업 3.3: MLOps 및 AI 워크로드를 위한 자동화된 오케스트레이션, 지속적 통합 및 지속적 전달(CI/CD) 파이프라인을 구현합니다.
기술 3.3.1: 자동화된 배포 전략 및 롤백 작업을 구현합니다.
기술 3.3.2: AWS CodeBuild, AWS CodeCommit, AWS CodeDeploy, AWS CodePipeline, AWS CodeConnections를 구성하고 문제를 해결합니다.
기술 3.3.3: 교육 및 추론 작업을 구성합니다.
기술 3.3.4: 기존 ML 및 AI 워크로드에 대한 CI/CD 파이프라인 내에서 자동화된 테스트 전략을 구성합니다.
기술 3.3.5: 모델을 재학습하기 위한 메커니즘을 구축하고 통합합니다.
기술 3.3.6: 반복성 및 감사를 위해 모델 버전을 관리합니다(예: SageMaker Model Registry, MLflow on SageMaker AI).
기술 3.3.7: 프롬프트를 관리합니다(예: Amazon Bedrock Prompt Management).
기술 3.3.8: 자동화된 에이전트 배포 파이프라인과 에이전트 버전 관리를 구현합니다.
기술 3.3.9: 프롬프트 테스트를 포함한 AI 모델 테스트 프레임워크를 구현합니다.
기술 3.3.10: 미세 조정 모델 버전 관리로 FM 배포 자동화를 구성합니다.
기술 3.3.11: RAG 시스템 업데이트 및 지식 기반 업데이트 주기를 위한 AI 관련 파이프라인 오케스트레이션을 구성합니다.