LlamaIndex - AWS 권장 가이드
의 주요 기능 LlamaIndexLlamaIndex(을)를 사용해야 하는 경우에 대한 구현 접근 방식 LlamaIndex의 실제 예 LlamaIndex

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

LlamaIndex

LlamaIndex는 대규모 언어 모델(LLMs)을 외부 데이터 소스와 연결하여 정교한 검색 증강 생성(RAG) 및 에이전트 AI 애플리케이션을 지원하도록 특별히 설계된 데이터 프레임워크입니다. 프레임워크는 지식 기반 AI 솔루션의 time-to-production 단축하는 에이전트 시스템, 사용자 지정 오케스트레이션 패턴 및 시스템 통합을 위한 추상화 및 가속화된 개발 워크플로를 제공합니다.

의 주요 기능 LlamaIndex

LlamaIndex는 엔터프라이즈 에이전트 AI 애플리케이션에 특히 적합한 포괄적인 기능 세트를 제공합니다.

  • 데이터 중심 아키텍처 - PDFs, Microsoft Word 문서, 스프레드시트 등 100개 이상의 데이터 형식에서 정보를 수집, 인덱싱 및 검색하는 데 유용합니다. 프레임워크는 엔터프라이즈 데이터를 AI 에이전트에 최적화된 쿼리 가능한 지식 기반으로 변환합니다. 자세한 내용은 LlamaIndex 설명서를 참조하세요.

  • 프로덕션 지원 배포 - LlamaIndex는를 통해 오픈 소스 프레임워크와 관리형 서비스를 모두 LlamaCloud제공하여 보안 제어, 확장성, 관찰성 통합, 배포 유연성 등의 엔터프라이즈급 기능을 제공합니다. 자세한 내용은 LlamaIndex 프레임워크 설명서를 참조하세요.

  • 고급 문서 처리 - 복잡한 레이아웃, 중첩 테이블, 다중 모달 콘텐츠 및 수기 메모를 처리하는 문서 구문 분석, 추출, 인덱싱 및 검색 기능을 LlamaCloud 제공합니다. 이 정교한 구문 분석을 통해 에이전트는 차트, 다이어그램 및 복잡한 형식이 포함된 실제 엔터프라이즈 문서를 효과적으로 사용할 수 있습니다. 자세한 내용은 LlamaCloud 설명서를 참조하세요.

  • 워크플로 오케스트레이션 -는 다단계 에이전트 시스템을 구축하기 위한 이벤트 기반 비동기 우선 오케스트레이션 엔진을 LlamaAgents 제공합니다. 워크플로는 루프, 병렬 실행, 조건부 분기 및 상태 저장 재개를 비롯한 복잡한 패턴을 지원하므로 정교한 에이전트 상호 작용에 적합합니다. 자세한 내용은 LlamaIndex 워크플로 설명서를 참조하세요.

  • 에이전트 검색 기능 - 각 쿼리에 대한 최상의 검색 전략을 지능적으로 결정하는 하이브리드 검색, 의미 체계 검색 및 자동 라우팅을 포함한 고급 검색 모드입니다. 프레임워크는 정확도 향상을 위해 순위를 다시 매겨 여러 지식 기반에서 복합 검색을 지원합니다. 자세한 내용은 LlamaIndex RAG 설명서를 참조하세요.

  • 관찰성 및 평가 -는 다양한 관찰성 및 평가 도구와 LlamaIndex 통합됩니다. 이 통합 기능을 사용하면 애플리케이션을 추적 및 디버깅하고, 성능을 평가하고, 비용을 모니터링할 수 있습니다. 자세한 내용은 추적 및 디버깅 및 평가 LlamaIndex 설명서를 참조하세요.

LlamaIndex(을)를 사용해야 하는 경우

LlamaIndex는 데이터 집약적인 워크플로 및 지식 관리를 강조하는 에이전트 AI 시나리오에 특히 적합합니다.

  • 에이전트가 계약, 보고서, 매뉴얼 및 규제 제출과 같은 대량의 엔터프라이즈 문서를 처리, 분석 및 추출해야 하는 문서가 많은 애플리케이션

  • 조직이 광범위한 인프라 관리 오버헤드 없이 문서 중심 에이전트를 빠르게 구축하고 배포하려는 프로덕션 시나리오에 대한 신속한 프로토타입 생성

  • 특히 테이블, 이미지 및 구조화된 데이터가 포함된 복잡한 다중 모달 문서로 작업할 때 검색 정확도 및 컨텍스트 관련성을 우선시하는 RAG 우선 아키텍처

  • 구문 분석, 분석, 요약 및 규정 준수 확인과 같은 문서 처리의 다양한 측면에 전문 에이전트가 필요한 다중 에이전트 문서 워크플로

에 대한 구현 접근 방식 LlamaIndex

LlamaIndex는 다양한 구현 접근 방식을 수용하는 하위 수준 빌딩 블록과 상위 수준 추상화를 모두 제공합니다.

  • LlamaIndex 상위 수준 APIs. 이 접근 방식을 사용하면 에이전트 AI를 처음 사용하는 비즈니스 팀과 개발자가 LlamaIndex 액세스할 수 있습니다.

  • SharePoint, Amazon Simple Storage Service(Amazon S3), 데이터베이스, API 등 널리 사용되는 엔터프라이즈 시스템을 위한 LlamaHub를 통한 엔터프라이즈 통합. APIs 이 접근 방식을 사용하면 기존 데이터 인프라와 원활하게 통합할 수 있습니다.

  • 최대 제어를 위한 오픈 소스 자체 호스팅 배포 또는 운영 오버헤드 및 엔터프라이즈 기능 감소를 위한 LlamaCloud 관리형 서비스 간의 유연한 배포 옵션.

  • 애플리케이션은 간단한 쿼리 엔진으로 시작하여 요구 사항이 증가함에 따라 에이전트 기능, 다중 에이전트 오케스트레이션 및 복잡한 워크플로를 점진적으로 추가할 수 있습니다.

의 실제 예 LlamaIndex

이 예제는 항공 탐색 및 운영 솔루션을 전문으로 하는 항공 우주 회사의 자회사에 중점을 둡니다. 이들은 조정되지 않은 AI 챗봇 평가판을 파일럿하는 것과 관련된 증가하는 문제를 해결해야 합니다. 이 시도로 인해 조직 전체에서 반복적인 작업, 긴 개발 주기, 규정 준수 장애물 및 격리된 구현이 이루어졌습니다.

에이전트 생성을 훨씬 더 효율적으로 만드는 LlamaIndex 오픈 소스 프레임워크를 기반으로 구축된 재사용 가능한 템플릿 기반 솔루션인 통합 에이전트 프레임워크를 개발했습니다. 체인 지향 프레임워크와 그래프 기반 프레임워크를 비교했습니다. 궁극적으로 유연한 설계, 모듈식 구성 요소, 프로덕션 지원 오케스트레이션 제어라는 세 가지 중요한 이점을 선택LlamaIndex했습니다.

플랫폼은 에이전트 개발 및 배포 시간을 512시간에서 64시간으로 87% 단축합니다. 이러한 감소는 팀이 약 50줄의 코드와 JSON 구성 파일을 사용하여 에이전트를 구축할 수 있도록 함으로써 달성되었습니다. 팀은 보안, 규정 준수 및 권한 있는 시스템 액세스가 내장된 통합 프레임워크를 활용했습니다. 자세한 내용은 LlamaIndex고객 사례 연구를 참조하세요.