動的ディスパッチパターンのルーティング - AWS 規範ガイダンス
動的ディスパッチLLM ベースのルーティングエージェントルーター重要事項

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

動的ディスパッチパターンのルーティング

タスクがドキュメント解析から自律的なソフトウェア生成まで多岐にわたる最新のエージェントシステムでは、最も能力の高い大規模言語モデル (LLM) またはエージェントにリクエストを動的にルーティングする能力が重要になります。静的ルーティングロジックは、多くの場合、オーケストレーションスクリプトまたは API レイヤーに埋め込まれており、リアルタイム、マルチモデル、マルチ機能環境に必要な適応性がありません。これに対処するために、LLM ルーティングワークフローを動的ディスパッチパターンを活用するイベント駆動型アーキテクチャに変換し、LLM 呼び出しをインテリジェントにルーティングされたコンテキスト対応イベントに変換できます。

次の図は、LLM ルーティングの例です。

LLM ルーティング。

動的ディスパッチ

従来の分散システムでは、動的ディスパッチパターンは、イベントタイプ、ソース、ペイロードなどの受信イベント属性に基づいて、実行時に特定のサービスを選択して呼び出します。これは通常、Amazon EventBridge を使用して実装されます。Amazon EventBridge では、受信イベントを評価して適切なターゲット ( AWS Lambda 関数 AWS Step Functions、Amazon Elastic Container Service タスクなど) にルーティングできます。

次の図は、動的ディスパッチの例です。

動的ディスパッチ。

  1. アプリケーションはイベントを発行します (例: {"type": "orderCreated", "priority": "high"})。

  2. Amazon EventBridge は、ルーティングルールに照らしてイベントを評価します。

  3. イベントの属性に基づいて、システムは次のように動的にディスパッチします。

    • HighPriorityOrderProcessor (サービス A)

    • StandardOrderProcessor (サービス B)

    • UpdateOrderProcessor (サービス C)

このパターンは、疎結合、ドメインベースの特殊化、ランタイムの拡張性をサポートしています。これにより、システムは変化する要件やイベントセマンティクスにインテリジェントに対応できます。

LLM ベースのルーティング

エージェントシステムでは、ルーティングは動的タスク委任も実行しますが、Amazon EventBridge ルールやメタデータフィルターの代わりに、LLM は自然言語を通じてユーザーのインテントを分類して解釈します。その結果、柔軟でセマンティック、適応型のディスパッチが作成されます。

エージェントルーター

このアーキテクチャにより、事前定義されたスキーマやイベントタイプなしで豊富なインテントベースのディスパッチが可能になります。これは、非構造化入力や複雑なクエリに最適です。

  1. ユーザーがリクエストを送信します「契約条件の確認をお手伝いいただけますか？」

  2. LLM はこれを法的文書タスクとして解釈します。

  3. エージェントは、タスクを次のいずれかにルーティングします。

    • 契約レビュープロンプトテンプレート

    • 法的推論サブエージェント

    • ドキュメント解析ツール

次の図は、エージェントルーターの例です。

エージェントルーター。

  1. ユーザーは SDK を通じて自然言語リクエストを送信します。

  2. Amazon Bedrock エージェントは、LLM を使用してタスク (法律、技術、スケジューリングなど) を分類します。

  3. エージェントは、アクショングループを介してタスクを動的にルーティングして、必要なエージェントを呼び出します。

    • ドメイン固有のエージェント

    • 特殊なツールチェーン

    • カスタムプロンプト設定

  4. 選択したハンドラーはタスクを処理し、カスタマイズされたレスポンスを返します。

重要事項

従来の動的ディスパッチでは、構造化イベント属性に基づくルーティングに Amazon EventBridge ルールが使用されますが、エージェントルーティングでは LLMsを意味論的に分類およびルーティングします。これにより、以下を有効にすることでシステムの柔軟性が向上します。

  • より広範な入力の理解

  • インテリジェントなフォールバックとツールの選択

  • 新しいエージェントロールまたはプロンプトスタイルによる自然な拡張性

エージェントルーティングは、リジッドルールを動的コグニティブディスパッチに置き換えます。これにより、システムはコードではなく言語で進化できます。