Données, opérations et tests - AWS Directives prescriptives

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Données, opérations et tests

Agents et propriété des données

Un examen de la mise en œuvre de l'agent met en évidence les scénarios dans lesquels un agent s'appuie sur les données d'un locataire donné. Dans ce cas, considérez le cycle de vie des données et, plus important encore, leur lieu de stockage. Cela est particulièrement important pour les secteurs et les cas d'utilisation où la nature des données influence la manière dont un agent y accède.

Les fournisseurs d'AaaS doivent évaluer comment résoudre les problèmes de données dans un environnement mutualisé, qui peuvent affecter l'intégration, l'isolation et les opérations d'un agent. Les nuances et les stratégies applicables varient en fonction des outils, des technologies et des données que vous utilisez. Vous pouvez aborder cette question de nombreuses manières, ce dont vous devez être conscient lorsque vous créez une offre AaaS.

Opérations d'agents à locataires multiples

Lorsque vous créez des environnements d'agents, réfléchissez à la manière de faire fonctionner et de gérer vos agents. En tant que fournisseur, vous avez besoin de métriques, de données, d'informations et de journaux qui vous permettent de surveiller l'état de santé, l'échelle et l'activité d'un agent. Cela est plus prononcé dans un environnement agentique à locataires multiples où vous souhaiterez comprendre comment les locataires individuels consomment les ressources des agents.

Cela est encore plus important dans les environnements multi-agents lorsque vous avez besoin d'informations sur les interactions entre agents. Pouvoir établir le profil et suivre les activités entre les agents peut être essentiel pour résoudre les problèmes qui affectent l'échelle, la précision et l'efficacité de votre système.

Les équipes opérationnelles peuvent également établir le profil des interactions LLM pour avoir une meilleure idée des charges que les agents supportent. LLMs Ces données sont essentielles pour affiner la mise en œuvre de l'agent. Cela peut également donner aux équipes opérationnelles une idée de la manière dont les agents et la location affectent le profil de coût global d'un système.

Formation et tests d'agents multi-locataires

L'un des défis associés aux agents de construction est qu'ils sont censés apprendre et évoluer. Cela signifie également que nous devons tester notre agent, le perfectionner et améliorer sa précision avant de le mettre en production. Il existe de nombreux domaines dans lesquels vous pouvez inspecter et évaluer si votre agent évalue et catégorise correctement l'intention ou choisit et invoque les outils et actions appropriés. La liste des variables est longue, mais il s'agit en fin de compte de garantir que votre agent trouve des résultats qui répondent à vos objectifs.

L'examen de tous les éléments mobiles et des principes associés aux agents de test dépasse le cadre de ce document, mais notez que les stratégies de test ajoutent de la complexité aux environnements AaaS à locataires multiples. Par exemple, si un agent possède des données, de la mémoire et d'autres structures qui sont appliquées de manière contextuelle à chaque locataire, les résultats de l'agent peuvent être façonnés par les ressources de chaque locataire.

Si vous utilisez un agent pour simuler un scénario, vous devrez peut-être étendre votre simulation aux cas d'utilisation spécifiques au locataire. En conséquence, vous devez affiner les procédures de validation pour tenir compte des cas où les critères de validation diffèrent pour chaque locataire.