IBM intègre son outil de gouvernance de l'IA watsonx.governance à Guardium AI Security - son outil de sécurisation des modèles d'IA, des données et de leur utilisation - pour simplifier et renforcer AgentOps pour les entreprises. Abréviation d'agent operations et également connu sous le nom de gestion du cycle de vie du développement des agents, cette solution répond au besoin des entreprises de faire face à la prolifération des agents. Celle-ci devient un défi majeur, principalement sous l'impulsion des fournisseurs qui s'alignent pour offrir aux entreprises des outils permettant de créer des agents d'IA pour une pléthore de tâches différentes. « AgentOps est une nouvelle discipline avec des problèmes de croissance, et la prolifération des outils est l'un d'entre eux. L'intégration de la gouvernance et de la sécurité agentiques donne aux créateurs d'IA une perspective et des contrôles unifiés. L'intégration des deux rend également moins probable la prolifération de risques tels que les shadow agents », a déclaré Heather Gentile, directrice de produit pour IBM watsonx.governance, risk, and compliance. L'intégration fonctionne de la manière suivante : les deux outils partagent des informations sur les actifs d'IA, tels que l'inventaire des projets d'IA.

Cependant, il y a un hic. Les entreprises qui souhaitent profiter de cette intégration devront avoir déployé à la fois watsonx.governance et Guardium AI Security, selon Vishal Kamat, vice-président de la sécurité des données chez IBM. L'intégration aidera les entreprises en fournissant la « première » solution unifiée pour gérer à la fois les risques de sécurité et de gouvernance pour les cas d'utilisation de l'IA, en particulier les agents, car ils apportent d'énormes avantages en termes de productivité, mais peuvent entraîner des « conséquences graves » lorsqu'ils ne sont pas correctement gouvernés ou sécurisés, prévient Dave Nicholson, directeur de la recherche chez The Futurum Group. M. Nicholson s'attend à une intégration plus poussée des produits de gouvernance et de sécurité axés sur l'IA par des fournisseurs tels que Microsoft, Google et AWS. « L'adoption rapide des agents d'IA crée une pression à travers le secteur technologique pour combler les silos traditionnels entre les équipes de sécurité et de gouvernance, fournir des plateformes unifiées plutôt que des solutions ponctuelles fragmentées, et traiter les risques uniques que les systèmes d'IA autonomes présentent pour les organisations », ajoute le directeur de la recherche.

Dernières capacités dans Guardium AI et watsonx.governance

Dans le cadre de cette intégration, IBM introduit des dernières capacités à Guardium AI Security par le biais d'une collaboration avec AllTrue.ai, une plateforme qui se concentre sur la gestion des risques et de la sécurité des systèmes et des applications d'IA. Ces ajouts comprennent des tests de pénétration automatisés et la découverte d'agents, auxquels on peut accéder directement depuis IBM Guardium AI Security ou watsonx.governance, a indiqué M. Kamat, ajoutant que ces « fonctionnalités sont disponibles par le biais de licences de produits IBM ». La collaboration avec Alltrue.ai permettra également aux entreprises d'obtenir des capacités de détection spécialisées dans les environnements cloud, les référentiels de code et les systèmes embarqués, a déclaré IBM, ajoutant qu'une fois les risques identifiés, Guardium AI Security peut automatiquement déclencher les flux de travail de gouvernance appropriés à partir de watsonx.governance. Cela devient de plus en plus important car la plupart des entreprises continuent à développer leur écosystème d'IA, qui est décentralisé, selon M. Nicholson.

Récemment, le fournisseur a publié des mises à jour de Guardium AI Security, qui comprenaient une red team automatisée pour aider les entreprises à détecter et à corriger les failles et les mauvaises configurations dans les cas d'utilisation de l'IA. L'intégration avec watsonx.governance sera déployée tout au long du reste de l'année, a déclaré la société avec la possibilité de surveiller et de gérer les agents d'IA tout au long de leur cycle de vie. « Les nœuds d'évaluation peuvent être intégrés directement dans les agents, ce qui permet aux utilisateurs de surveiller attentivement des paramètres tels que la pertinence de la réponse, la pertinence du contexte et la fidélité - et d'aider à identifier la cause profonde d'une mauvaise performance », a écrit big blue dans un billet de blog. L'éditeur prévoit également d'ajouter des fonctionnalités, telles que l'évaluation des risques liés à l'intégration des agents, les pistes d'audit des agents et un catalogue d'outils agentiques, d'ici le 27 juin. La société a déclaré qu'elle ajoutait des accélérateurs de conformité à watsonx.governance pour fournir aux entreprises un moyen rapide d'identifier les obligations relatives à leur utilisation de l'IA et d'assurer cette compliance avec les réglementations locales. Ces accélérateurs, qui contiennent des réglementations, des normes et des frameworks préchargés du monde entier et sont disponibles en tant que modules complémentaires. Ils prennent en charge des réglementations clés telles que la loi européenne sur l'IA, la loi SR 11-7 de la Réserve fédérale américaine et la loi locale 144 de la ville de New York, ainsi que des normes mondiales telles que la norme ISO/IEC 42001 et des cadres tels que le NIST AI RMF.