Modelli di distribuzione degli agenti

In un'esperienza AAaS di base, un provider può implementare agenti utilizzando vari modelli. Esistono una miriade di fattori che influenzano il modo in cui gli agenti vengono implementati per soddisfare le esigenze dei clienti, in termini di prestazioni, conformità, geografia e sicurezza. Diverse strategie di implementazione influiscono sul modo in cui un agente viene progettato, implementato e utilizzato. È qui che possiamo introdurre termini multi-tenant classici per etichettare diverse strategie di implementazione. Il diagramma seguente mostra diverse permutazioni per la distribuzione degli agenti in un ambiente AaaS.

Questo diagramma rappresenta tre modalità di distribuzione degli agenti. Sul lato sinistro c'è un modello suddiviso in silos, in cui a ciascun tenant viene fornita un'esperienza completamente isolata e un set di agenti dedicato. In questo scenario, gli agenti non condividono l'elaborazione, le risorse o gli ambienti di esecuzione tra i tenant.

L'esempio centrale illustra un modello ibrido, in cui i tenant utilizzano una combinazione di agenti suddivisi in silos e in pool. Ad esempio, l'Agente 1 viene distribuito in modalità silos: ogni tenant riceve un'istanza dedicata, mentre gli agenti 2 e 3 operano in un modello condiviso, condividendo le risorse tra i tenant.

Sul lato destro c'è un modello completamente raggruppato, in cui tutti gli agenti sono condivisi tra i tenant, che offre una classica implementazione multi-tenant. In questo scenario, i tenant sfruttano un'infrastruttura di elaborazione, memoria e servizio comune per l'esecuzione degli agenti.

L'idea è che gli agenti possano operare in diversi modelli di implementazione, con risorse di calcolo e dipendenti dedicate (suddivise in silos) o condivise (raggruppate) tra i tenant. Queste strategie di implementazione non si escludono a vicenda. I servizi offerti agli agenti spesso soddisfano una vasta gamma di esigenze dei clienti, combinando entrambi i modelli per bilanciare prestazioni, isolamento, costi e scalabilità. Il diagramma seguente mostra un sistema agentic che supporta più configurazioni di implementazione all'interno dello stesso ambiente operativo.

In questo diagramma, un provider di agenti dispone di tre agenti che vengono distribuiti tramite Agent as a Service (AaaS). Supportano due tipi di inquilini. Sul lato sinistro, due inquilini hanno requisiti di conformità e prestazioni che soddisfano attraverso un modello di silo completo. Il tenant rimanente sul lato destro funziona secondo un modello condiviso in cui i tenant condividono le risorse.

Se l'obiettivo è l'agilità e l'efficienza operativa, prova a limitare gli effetti associati al supporto di modelli di implementazione per-tenant. Ciò significa mettere in atto meccanismi di routing e altri meccanismi di esperienza che consentano la gestione, il funzionamento e l'implementazione degli agenti attraverso un unico pannello di controllo.

Se si crea un agente in un ambiente a basso o senza codice, non esisterà la nozione di agenti suddivisi in silos o in pool. Invece, gli agenti possono essere gestiti completamente da un altro agente. I modelli suddivisi in silos e in pool si applicano maggiormente agli ambienti in cui un'organizzazione controlla la struttura e l'impronta dell'agente. In questo caso, i team dovrebbero valutare quale modello di implementazione supportare.

In apparenza, questi modelli di implementazione non influiscono direttamente sul funzionamento di un agente in un sistema più ampio. Un agente può non avere alcuna conoscenza diretta degli altri agenti che vengono implementati in un modello a silo o in pool. Queste strategie di implementazione possono invece essere implementate come parte di un costrutto di routing all'interno di un ambiente. Il diagramma seguente mostra un esempio di come è possibile implementare modelli suddivisi in silos e in pool utilizzando una strategia di routing.

Questo esempio include tre agenti di tre provider diversi. Ogni fornitore di agenti ha la possibilità di implementare la propria strategia di implementazione. Ad esempio, l'agente 1 utilizza un proxy per distribuire le richieste in entrata a un set di tenant agent suddivisi in silos. L'Agente 2 non richiede alcun routing e supporta tutte le richieste dei tenant tramite un agente in pool. L'Agente 3 è una distribuzione di modello ibrido in cui alcuni tenant sono suddivisi in silos e altri in pool.

Se e come scegliete di supportare questi modelli di implementazione dipende dalla natura della soluzione. Potrebbe non essere necessario supportare nessuno dei due modelli. Tuttavia, potrebbero verificarsi casi in cui è necessario prendere in considerazione l'idea di supportare questa strategia, ad esempio per quanto riguarda la conformità, la rumorosità, le prestazioni o la suddivisione in più livelli.