83 % des organisations n'ont pas de visibilité complète sur leurs propres agents IA
Alors que les agents IA autonomes accèdent de plus en plus aux données et systèmes critiques des entreprises, la majorité des organisations ne dispose pas d'une vue d'ensemble complète sur ces agents — et les mesures de sécurité existantes s'avèrent insuffisantes.
Points clés
- 83 % des organisations n'ont pas une visibilité complète sur les agents IA qu'elles déploient.
- Les agents IA deviennent de plus en plus autonomes et accèdent aux données et systèmes critiques des entreprises.
- Les mesures de sécurité existantes (guardrails) sont insuffisantes pour couvrir ces risques, selon Techzine.
- Filip Verloy, CTO EMEA & APJ chez Rubrik, aborde les défis de sécurité liés aux agents IA.
Les agents IA autonomes — des systèmes logiciels qui exécutent des tâches et prennent des décisions de manière indépendante — sont en plein essor dans les entreprises. Mais leur sécurisation est à la traîne : selon une étude rapportée par Techzine, 83 % des organisations n'ont pas une visibilité complète sur les agents IA qu'elles font tourner, tandis que ces mêmes agents obtiennent un accès de plus en plus étendu aux données et systèmes critiques de l'entreprise.
Ce manque de visibilité constitue un risque de sécurité sérieux. Qui ne sait pas quels agents sont actifs, ce qu'ils font et à quelles données ils peuvent accéder, ne peut pas non plus vérifier si ces agents sont détournés ou s'ils traitent involontairement des informations sensibles.
Techzine s'est entretenu à ce sujet avec Filip Verloy, CTO EMEA & APJ chez Rubrik. Selon lui, les guardrails existants — les limites techniques et organisationnelles censées prévenir les comportements indésirables des systèmes IA — sont insuffisants pour gérer de manière adéquate les risques posés par des agents de plus en plus autonomes.
Qu'est-ce que cela signifie pour le BeNeLux ?
Les organisations du BeNeLux qui déploient des agents IA pour l'automatisation de processus, le service client ou l'analyse de données se heurtent au même problème : l'adoption va plus vite que le cadre de sécurité ne parvient à suivre. Connecter des systèmes critiques à des agents autonomes sans disposer d'une visibilité complète sur leur comportement et leurs droits d'accès représente un risque difficile à maîtriser.