Vous êtes-vous déjà demandé à quel point les agents d’intelligence artificielle sont intégrés dans votre environnement professionnel ? Ces assistants numériques, qui facilitent de nombreuses tâches, pourraient bien représenter un défi de taille pour votre entreprise. Dans un monde où la technologie évolue à une vitesse fulgurante, comment assurer un contrôle efficace sans freiner l’innovation ?
Les 3 infos à ne pas manquer
- Plus de 80 % des entreprises du Fortune 500 utilisent des agents d’IA créés via des outils low-code.
- 29 % des employés recourent à des agents non autorisés pour leurs tâches professionnelles.
- Microsoft recommande une approche Zero Trust pour gérer les agents d’IA.
Déploiement rapide des agents d’IA
Dans des secteurs tels que les services financiers, l’industrie manufacturière et le commerce de détail, les agents d’IA se multiplient rapidement. Ces outils, souvent créés avec des plateformes low-code, permettent d’automatiser diverses tâches comme la rédaction de propositions, l’analyse de données sensibles et la gestion des alertes de sécurité. Cependant, cette prolifération s’accompagne de nombreux défis pour les équipes informatiques.
Un grand nombre d’agents échappent au contrôle des services IT. Avec une simple plateforme no-code, un employé peut créer un agent capable d’accéder à des informations critiques sans supervision adéquate. Cela soulève des questions essentielles sur la sécurité des données et l’intégrité des systèmes.
Risques liés aux agents non autorisés
Une enquête auprès de 1 700 professionnels de la sécurité des données révèle que près d’un tiers des salariés utilisent des agents que leur entreprise n’a pas validés. Seulement 47 % des organisations ont mis en place des contrôles spécifiques pour l’IA générative, ce qui expose les entreprises à des risques importants.
Des cyberpirates ont déjà exploité des vulnérabilités dans ces agents, comme l’a montré une campagne frauduleuse identifiée par l’équipe Defender de Microsoft. Ces menaces démontrent que les agents peuvent être manipulés pour agir contre les intérêts de l’entreprise, compromettant ainsi la sécurité des données.
Recommandations pour une gestion sécurisée
Microsoft préconise d’appliquer aux agents d’IA les mêmes principes de Zero Trust que pour les employés humains. Cela inclut le principe du moindre privilège, une vérification explicite et la reconnaissance qu’une compromission reste possible. L’établissement d’un registre centralisé pour tous les agents, autorisés ou non, est également essentiel.
La gouvernance des agents d’IA ne doit pas être la responsabilité exclusive du département informatique. Elle doit impliquer l’ensemble de l’organisation, y compris les services juridiques, la conformité, les ressources humaines et la direction. Seule une approche collaborative garantira la sécurité et l’efficacité des agents d’IA.
Contexte et perspectives de l’IA en entreprise
Microsoft, une entreprise pionnière dans le domaine de l’IA, continue d’innover tout en mettant l’accent sur la sécurité et la gouvernance. Leurs recommandations sont suivies de près par d’autres géants technologiques tels que Google et Amazon, qui développent également leurs propres solutions d’IA.
À l’échelle mondiale, l’IA est en plein essor, mais elle soulève des défis complexes en matière de sécurité et de gouvernance. Les entreprises qui parviennent à naviguer dans cette nouvelle ère technologique tout en sécurisant leurs données seront celles qui tireront le meilleur parti de l’IA. Cependant, il est impératif que toutes les parties prenantes soient impliquées dans la mise en œuvre de solutions adaptées pour éviter que la technologie ne devienne une source de vulnérabilité.