View a markdown version of this page

LLM で拡張された認識の概要 - AWS 規範ガイダンス

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

LLM で拡張された認識の概要

その中核として、ソフトウェアエージェントのコグニティブモジュールは、拡張でラップされた LLM として見ることができます。エージェントは、次の構成要素を使用して、環境内で効果的に推論できます。

  • プロンプト — コンテキスト、命令、例、メモリを使用した入力のフレーミング

  • 取得 — ベクトル検索やセマンティックメモリなど、取得拡張生成 (RAG) を通じて、LLM プロンプトup-to-date知識やドメイン固有の知識を提供します。

  • ツールの使用 – LLM が APIsか、関数を呼び出して情報を取得または処理できるようにする

  • メモリ – 構造化データベースまたはコンテキスト概要を使用して、永続的またはセッションベースの状態を推論ループに組み込む

これらの拡張は、LLM が時間の経過とともに、タスク間でどのように使用されるかを定義するワークフローで構成され、ステートレスエンジンから動的推論エージェントに変換されます。

LLM 拡張。