As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Dados, operações e testes

Agentes e propriedade de dados

Uma análise da implementação do agente destaca cenários em que um agente depende dos dados de um determinado inquilino. Nesse caso, considere o ciclo de vida dos dados e, mais importante, onde eles são armazenados. Isso é especialmente importante para setores e casos de uso em que a natureza dos dados influencia a forma como um agente os acessa.

Os provedores de AaaS devem avaliar como resolver problemas de dados em um ambiente multilocatário, o que pode afetar a integração, o isolamento e as operações de um agente. As nuances e estratégias aplicáveis variam de acordo com as ferramentas, tecnologias e dados que você consome. Você pode abordar isso de várias maneiras, o que é algo que você deve conhecer ao criar qualquer oferta de AaaS.

Operações de agentes multilocatários

Ao criar ambientes de agentes, pense em como operar e gerenciar seus agentes. Como provedor, você precisa de métricas, dados, insights e registros que permitam monitorar a saúde, a escala e a atividade de um agente. Isso é mais pronunciado em um ambiente de agente multilocatário, no qual você desejará entender como locatários individuais consomem recursos do agente.

Isso é ainda mais significativo em configurações de vários agentes, quando você precisa de insights sobre as interações dos agentes. Ser capaz de traçar o perfil e rastrear atividades entre agentes pode ser essencial para solucionar problemas que afetam a escala, a precisão e a eficácia do seu sistema.

As equipes de operações também podem traçar o perfil das interações do LLM para ter uma melhor noção das cargas que os agentes exercem. LLMs Esses dados são essenciais para a implementação do agente de refino. Também pode dar às equipes operacionais uma visão de como os agentes e a locação afetam o perfil geral de custos de um sistema.

Treinamento e teste de agentes multilocatários

Um desafio associado aos agentes de construção é que se espera que eles aprendam e evoluam. Isso também significa que devemos testar nosso agente, refiná-lo e melhorar sua precisão antes de colocá-lo em produção. Há muitas áreas em que você pode inspecionar e avaliar se seu agente está avaliando e categorizando corretamente a intenção ou escolhendo e invocando ferramentas e ações apropriadas. A lista de variáveis é extensa, mas, em última análise, trata-se de garantir que seu agente encontre resultados que atinjam suas metas.

Examinar todas as partes móveis e os princípios associados aos agentes de teste está além do escopo deste documento, mas observe que as estratégias de teste aumentam a complexidade dos ambientes de AaaS multilocatários. Por exemplo, se um agente tem dados, memória e outras construções que são aplicadas contextualmente a cada inquilino, os resultados de um agente podem ser moldados pelos recursos por inquilino.

Se você usa um agente para simular um cenário, talvez seja necessário expandir sua simulação para casos de uso específicos do inquilino. Da mesma forma, você deve refinar os procedimentos de validação para permitir casos em que os critérios de validação sejam diferentes para cada inquilino.