View a markdown version of this page

LLM-augmented 认知概述 - AWS 规范性指导

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

LLM-augmented 认知概述

从本质上讲,软件代理的认知模块可以看作是用增强包裹的法学硕士。代理可以使用以下构造块在其环境中进行有效的推理:

  • 提示 — 使用上下文、指令、示例和内存来构图输入

  • 检索 — 通过向量搜索或语义记忆(例如,通过检索增强生成 (RAG))向 LLM 提示符提供最新或特定领域的知识

  • 工具使用 — 允许 LLM 调用 API 或调用函数来检索信息或对信息采取行动

  • 记忆 — 通过使用结构化数据库或情境摘要,将持续状态或基于会话的状态整合到推理循环中

这些增强功能由工作流程组成,这些工作流定义了如何随着时间的推移和跨任务使用 LLM,将其从无状态引擎转变为动态推理代理。

法学硕士学位增强。