Dati, operazioni e test - AWS Guida prescrittiva

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Dati, operazioni e test

Agenti e proprietà dei dati

Una revisione dell'implementazione degli agenti evidenzia gli scenari in cui un agente si affida ai dati di un determinato tenant. In questo caso, considera il ciclo di vita dei dati e, soprattutto, dove sono archiviati. Ciò è particolarmente importante per i settori e i casi d'uso in cui la natura dei dati influenza il modo in cui un agente vi accede.

I fornitori di servizi AaaS devono valutare come risolvere i problemi relativi ai dati in un ambiente multi-tenant, il che può influire sull'onboarding, sull'isolamento e sulle operazioni di un agente. Le sfumature e le strategie applicabili variano a seconda degli strumenti, delle tecnologie e dei dati utilizzati. È possibile affrontare questo problema in molti modi, il che è importante tenere presente quando si crea un'offerta AaaS.

Operazioni con agenti multi-tenant

Mentre crei ambienti con agenti, pensa a come far funzionare e gestire i tuoi agenti. In qualità di provider, hai bisogno di metriche, dati, approfondimenti e registri che ti consentano di monitorare lo stato, la scalabilità e l'attività di un agente. Ciò è più evidente in un ambiente agentico multi-tenant in cui è necessario comprendere in che modo i singoli inquilini consumano le risorse degli agenti.

Ciò è ancora più importante nelle impostazioni multi-agente, quando sono necessarie informazioni dettagliate sulle interazioni tra agenti. La possibilità di profilare e tracciare le attività tra gli agenti può essere essenziale per la risoluzione di problemi che influiscono sulla scalabilità, la precisione e l'efficacia del sistema.

I team operativi possono anche profilare le interazioni LLM per avere un'idea migliore del carico a cui sono sottoposti gli agenti. LLMs Questi dati sono essenziali per perfezionare l'implementazione degli agenti. Può inoltre fornire ai team operativi una panoramica di come gli agenti e la locazione influiscono sul profilo di costo complessivo di un sistema.

Formazione e test di agenti multi-tenant

Una sfida associata agli agenti edili è che ci si aspetta che imparino ed evolvano. Significa anche che dobbiamo testare il nostro agente, perfezionarlo e migliorarne la precisione prima di metterlo in produzione. Esistono molte aree in cui è possibile ispezionare e valutare se l'agente sta valutando e classificando correttamente le intenzioni o scegliendo e invocando strumenti e azioni appropriati. L'elenco delle variabili è ampio, ma in ultima analisi si tratta di garantire che l'agente trovi risultati che consentano di raggiungere gli obiettivi prefissati.

L'esame di tutte le parti mobili e i principi associati agli agenti di test esula dallo scopo di questo documento, ma tenete presente che le strategie di test aggiungono complessità agli ambienti AAaS multi-tenant. Ad esempio, se un agente dispone di dati, memoria e altri costrutti che vengono applicati contestualmente a ciascun tenant, i risultati di un agente possono essere modellati dalle risorse del tenant.

Se si utilizza un agente per simulare uno scenario, potrebbe essere necessario espandere la simulazione per casi d'uso specifici del tenant. Di conseguenza, è necessario perfezionare le procedure di convalida per consentire i casi in cui i criteri di convalida differiscono per ogni tenant.