Table des matières
Dans un monde où les agents d’intelligence artificielle gagnent en autonomie, comment les entreprises peuvent-elles s’assurer que ces technologies ne deviennent pas hors de contrôle? À Knowledge 26, ServiceNow a présenté sa vision de la sécurité des IA, soulignant un équilibre subtil entre autonomie et contrôle. L’événement a mis en lumière les défis et les solutions autour de la gestion des agents d’IA pour garantir la sécurité des systèmes de production.
L’essentiel à retenir
À l’occasion de Knowledge 26 à Las Vegas, ServiceNow a exposé sa stratégie pour devenir un acteur majeur dans la gestion des agents d’intelligence artificielle. Cependant, ce positionnement soulève des questions cruciales concernant la sécurité : comment permettre à ces agents suffisamment d’autonomie pour être efficaces sans qu’ils deviennent une menace potentielle pour les systèmes de production?
Nenshad Bardoliwalla, GVP of AI Product Management chez ServiceNow, insiste sur le fait que les modèles d’IA doivent être entourés de processus rigoureux et de contrôles stricts pour éviter tout usage malveillant. Il cite le cas d’une attaque où une simple modification d’une politique de mot de passe a permis un accès non autorisé à des données sensibles.
Selon Bardoliwalla, l’efficacité des systèmes d’IA repose sur une combinaison de modèles probabilistes et de garde-fous déterministes. Tandis que les modèles probabilistes déterminent la réponse la plus probable à un problème donné, les garde-fous déterministes imposent des règles et des limites fixes pour encadrer ces réponses. Ce cadre est indispensable pour prévenir les dérives potentielles des agents d’IA.
Il souligne que les entreprises ne peuvent pas se permettre de s’appuyer exclusivement sur des solutions d’IA pures, car les processus probabilistes ne conviennent pas à la plupart des environnements professionnels où la précision et la sécurité sont primordiales.
Pour pallier ces défis, ServiceNow propose une solution intégrée : l’AI Control Tower. Cette plateforme permet de détecter et de bloquer en temps réel toute tentative d’escalade de privilèges non autorisée par les agents d’IA. En intégrant cette couche de contrôle, les entreprises peuvent mieux gérer les risques associés à l’usage des agents intelligents.
Bhakti Pitre, VP of Platform Security chez ServiceNow, a également mis en avant l’importance du concept de Zero Standing Privileges pour limiter les droits d’accès des agents lorsqu’ils ne sont pas en activité. Cela permet de réduire les risques de compromission des systèmes, tout en offrant une flexibilité lorsque l’agent est activement engagé dans une tâche.
ServiceNow a renforcé sa position en intégrant les solutions de sécurité de Veza et Armis, associées à son propre workflow et sa base de données de gestion de configuration (CMDB). Cette stratégie permet à l’entreprise de fournir une plateforme de gestion robuste capable de répondre aux besoins de sécurité des grandes organisations.
Le concept de Zero Standing Privileges, bien qu’adopté par d’autres acteurs comme CyberArk et Palo Alto Networks, est enrichi chez ServiceNow par l’intégration des graphes d’accès et des actifs informatiques, offrant ainsi une gestion plus fine et plus sécurisée des privilèges d’accès.
En 2026, ServiceNow continue de développer ses solutions pour gérer les agents d’IA de manière sécurisée. L’entreprise travaille activement à l’amélioration de ses outils afin de mieux intégrer les technologies d’IA dans les processus métiers tout en minimisant les risques potentiels. La reconnaissance des erreurs inhérentes aux systèmes d’IA en production est un pas vers une gestion plus réaliste et pragmatique de ces technologies.
Les prochains développements de ServiceNow porteront probablement sur l’amélioration de l’AI Control Tower et l’intégration d’analyses prédictives pour anticiper les comportements des agents d’IA. Cette approche proactive pourrait devenir un standard dans l’industrie, offrant une sécurité accrue pour les entreprises adoptant des solutions basées sur l’IA.
Alors que les entreprises intègrent de plus en plus d’agents intelligents dans leurs systèmes, la question de la sécurité informatique devient centrale. Des sociétés comme CyberArk, Palo Alto Networks et ServiceNow sont à l’avant-garde pour développer des solutions qui protègent les infrastructures critiques contre les accès non autorisés et les comportements imprévus des agents d’IA.
La collaboration entre ces entreprises et les régulateurs pourrait intensifier les efforts pour établir des normes de sécurité claires. Alors que l’IA continue de se développer, comprendre comment gérer les risques associés à ces technologies devient essentiel pour assurer la continuité et la sécurité des opérations commerciales dans le monde entier.