View a markdown version of this page

LLM 증강 인식 개요 - AWS 권장 가이드

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

LLM 증강 인식 개요

핵심에서 소프트웨어 에이전트의 인지 모듈은 증강으로 래핑된 LLM으로 볼 수 있습니다. 에이전트는 다음 구성 요소를 사용하여 환경 내에서 효과적으로 추론할 수 있습니다.

  • 프롬프트 - 컨텍스트, 지침, 예제 및 메모리를 사용하여 입력 프레이밍

  • 검색 - 검색 증강 생성(RAG)과 같은 벡터 검색 또는 의미 체계 메모리를 통해 LLM 프롬프트에 up-to-date 또는 도메인별 지식 제공

  • 도구 사용 - LLM이 APIs를 호출하거나 함수를 호출하여 정보를 검색하거나 작업할 수 있습니다.

  • 메모리 - 구조화된 데이터베이스 또는 컨텍스트 요약을 사용하여 영구 또는 세션 기반 상태를 추론 루프에 통합

이러한 증강은 시간 경과에 따라 여러 작업에서 LLM을 사용하는 방법을 정의하는 워크플로로 구성되어 상태 비저장 엔진에서 동적 추론 에이전트로 변환합니다.

LLM 증강.