View a markdown version of this page

생성형 AI 성숙도 모델 레벨 2: 실험 - AWS 권장 가이드
포커스 및 기준주요 활동변환 전략

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

생성형 AI 성숙도 모델 레벨 2: 실험

이전 수준에서 확립된 기본 인식을 기반으로 하는 실험 수준은 이론적 탐색에서 생성형 AI 기술의 실제 구현으로의 중요한 전환을 나타냅니다. 이 수준에서 조직은 개념적 이해를 넘어 실습 PoC 프로젝트 및 파일럿 프로그램에 참여합니다. 이러한 PoC 및 파일럿 프로젝트는 비즈니스 가치를 검증하고 핵심 역량을 구축하도록 설계되었습니다. 이 수준은 조직이 전담 팀을 구성하고, 거버넌스 프레임워크를 설정하고, 내부 기술 전문 지식 개발을 시작하는 구조화된 실험이 특징입니다. 조직은 신중하게 제어되는 파일럿 프로젝트를 통해 위험을 최소화하고 학습 기회를 극대화하면서 생성형 AI의 잠재력에 대한 가설을 테스트할 수 있습니다. 이렇게 하면 성공적인 이니셔티브를 더 광범위하게 구현하고 확장할 수 있는 단계가 설정됩니다.

이 섹션에는 다음 주제가 포함되어 있습니다.

포커스 및 기준

이 수준에서 조직은 탐색에서 생성형 AI 기술을 사용한 실습 PoC 실험 및 파일럿 프로젝트로 전환합니다. 정형 파일럿 프로그램을 통해 비즈니스 가치를 검증하고 핵심 역량을 구축하는 데 중점을 둡니다. 이 수준은 실제 학습, 내부 역량 및 기술 전문성 구축, 기본 및 거버넌스 프레임워크 구축을 강조합니다.

다음은이 수준에 도달하기 위한 기준입니다.

  • 조직에 진행 중인 파일럿 프로젝트와 개념 증명이 있습니다.

  • 생성형 AI 이니셔티브에는 부서 간 전담 팀이 할당됩니다.

  • 구조화된 내부 훈련 프로그램이 수립되었습니다.

  • 조직은 AI 모델과 도구를 선택하고 검증했습니다.

  • 조직은 초기 거버넌스 및 데이터 프레임워크를 정의했습니다.

주요 활동

다음 표에는 채택의 각 요소에 대한 주요 활동이 나와 있습니다.

채택 원칙 활동
업무

  • 비즈니스 가치 및 타당성을 기반으로 전략적 사용 사례를 정의하고 우선순위를 지정합니다.

  • PoCs 경우 투자 수익률(ROI)을 측정하기 위한 성공 지표 및 프레임워크를 설정합니다.

  • 각 PoC에 대한 값 평가 스코어카드를 생성합니다.

  • PoCs가 포함된 관리 가능한 규모로 제한합니다.

  • 각 PoC에 대해 ROI를 측정하고 성공 기준을 달성했는지 평가합니다.
사람

  • 프롬프트 엔지니어링, RAG 및 모델 미세 조정에 구조화된 훈련 프로그램을 구현합니다.

  • 생성형 AI 인증 경로와 경력 발전 프레임워크를 생성합니다.

  • 생성형 AI 및 데이터 과학 전문가를 고용합니다.

  • 생성형 AI 혁신 센터 또는 AWS전문 서비스와 같은 AWS 외부 전문가와 협력하여 PoC를 공동 구축하고, 지원을 제공하고, 지식을 이전합니다.

  • AI 인증 경로와 경력 발전 프레임워크를 설정합니다.
거버넌스

  • 벡터 검색에 사용되는 콘텐츠의 품질과 같이 생성형 AI에 대한 데이터 거버넌스를 포함하는 예비 프레임워크를 개발합니다.

  • 모델 평가 기준 및 품질 관리를 설정합니다.

  • 생성형 AI 프로젝트에 대한 위험 평가 프로토콜을 설정합니다.

  • 생성형 AI의 윤리적이고 책임감 있는 사용에 대한 지침을 설정합니다. 개발자, 데이터 과학자 및 생성형 AI 전문가가 이러한 지침을 준수하도록 교육합니다.
플랫폼

  • AWS 랜딩 영역 및 개발자에게 필요한 권한과 같은 PoC의 파운데이션 인프라를 설정합니다.

  • Amazon Bedrock 플레이그라운드 또는 Amazon SageMaker AI JupyterLab 스페이스 또는 노트북 인스턴스와 같은 생성형 AI 실험 및 PoC 개발을 위한 환경을 설정합니다.

  • 개발자가 쉽게 사용할 수 있는 RAG 접근 방식 또는 에이전트 워크플로를 구현합니다. RAG 접근 방식의 경우 Amazon Bedrock 지식 기반을 고려하고 에이전트 워크플로의 경우 Amazon Bedrock 에이전트를 고려하세요.

  • 프롬프트, 모델 및 프롬프트 평가를 관리하는 프레임워크 또는 파이프라인을 설정합니다. 이러한 리소스는 개발자가 PoC 애플리케이션의 결과와 성능을 빠르게 평가하는 데 도움이 될 것입니다.

  • 정형 및 비정형 데이터 파이프라인을 포함하여 초기 단계 데이터 통합 작업을 구현합니다. RAG 실험을 위한 벡터 데이터베이스를 설정합니다.

  • 비용, 성능 및 사용 사례 적합성을 기반으로 파운데이션 모델을 평가합니다. Amazon Bedrock, Amazon SageMaker AI 및 Amazon SageMaker AI JumpStart를 사용할 수 있습니다.
보안

  • 생성형 AI 모델 훈련을 위한 데이터 액세스 제어를 구현하고 규정 준수 요구 사항을 준수하는지 확인합니다. Amazon Q Business는 생성형 AI 워크로드가 사용자에게 액세스 권한이 부여된 데이터만 검색할 수 있도록 하는 세분화된 제어를 활성화하여 RAG 구현을 간소화할 수 있습니다.

  • 모델 훈련에 사용되는 데이터 세트에서 개인 식별 정보(PII)를 보호하기 위한 전략을 개발합니다.
운영

  • 다음에 대한 설명서 및 지원 프로세스를 생성합니다.

    • PoC 구현 및 학습

    • 기본 플랫폼 구성 및 보안 제어

    • 테스트 및 평가 절차

    • 프로덕션으로 이동하는 성공적인 PoCs에 대한 인계 프로세스

다음 수준에 도달하기 위한 변환 전략

조직은 다음을 수행하여 다음 성숙도 수준으로 전환할 수 있습니다.

  • 생성형 AI를 지원하는 프로덕션급 인프라 생성 -를 사용하여 프로덕션 배포 AWS 서비스 를 위한 CI/CD 파이프라인, 표준화된 배포 패턴 및 적절한 조정 메커니즘을 구현합니다.

  • 거버넌스 구현 - 프로덕션급 거버넌스 프레임워크를 설정하여 지속적인 생성형 AI 사용 및 모델 업데이트를 관리합니다.

  • 관찰성 구현 - 생성형 AI 워크로드에 맞게 특별히 조정된 관찰성, 모니터링 및 로깅 관행을 구현합니다. 여기에는 모델 성능 지표, 사용 패턴 및 응답 품질 평가가 포함됩니다.

  • 규정 준수에 집중 - 데이터 프라이버시 및 보안에 대한 업계 표준 및 규정을 준수해야 합니다.

  • 전용 AI 팀 구축 - 생성형 AI 솔루션을 위한 표준화된 프로덕션 경로를 생성하고 유지하는 팀을 설정합니다.

  • 운영 우수성 구현 - 인시던트 대응 및 에스컬레이션 프로세스를 생성합니다. 서비스 수준 계약(SLAs) 및 성능 지표를 설정합니다. 비용 최적화 전략을 구현합니다.

조직은 이러한 작업을 수행하여 다음을 수행할 수 있습니다.

  • 생성형 AI 애플리케이션이 안정적이고 안정적이며 조직에 지속적으로 가치를 제공하는지 검증합니다.

  • 다양한 부서에서 수요와 사용량이 증가함에 따라 생성형 AI 솔루션의 성장을 지원합니다.

  • 위험을 관리하고, 감독을 유지하고, AI 이니셔티브가 비즈니스 운영의 필수적인 부분이 되므로 규제 표준에 맞게 조정합니다.

  • 생성형 AI 솔루션에 대한 지속적인 모니터링, 개선 및 지원을 제공합니다. 이렇게 하면 임시 또는 임시 프로젝트 팀에 대한 의존도가 줄어듭니다.

  • 조직이 격리된 프로젝트에서 AI가 비즈니스 프로세스의 핵심 조력자가 되는 전략적이고 응집력 있는 접근 방식으로 이동할 수 있도록 준비합니다. 조직은 더 확장하고 더 광범위하게 채택할 준비가 되었습니다.