Les experts en informatique sont-ils partagés à 50/50 sur l’utilisation de l’IA pour la cybersécurité ?

À l’heure où la cybersécurité est au cœur des préoccupations des entreprises et des particuliers, une question divise les experts en informatique : l’utilisation de l’intelligence artificielle. Alors que certains voient en l’IA un allié précieux pour renforcer la protection des données et des systèmes, d’autres restent sceptiques quant à son efficacité et sa fiabilité. Mais quelle est réellement la position des experts en la matière ?

Un récent rapport de Corelight, un spécialiste de la détection et réponse sur réseau (NDR), révèle une division notable parmi les responsables informatiques européens concernant l’utilisation de l’IA générative (GenAI) dans un contexte de cybersécurité. Cette enquête, menée auprès de 300 décideurs informatiques (ITDM) au Royaume-Uni, en France et en Allemagne, soulève des opinions divergentes sur cette technologie émergente.

Optimisme et préoccupations en parts égales

Le rapport met en lumière un équilibre délicat entre enthousiasme et inquiétude. Environ 46% des répondants ont déclaré qu’ils explorent proactivement l’intégration de la GenAI dans leurs stratégies de cybersécurité. Cependant, une proportion similaire (44%) exprime des préoccupations concernant l’exposition des données et les silos organisationnels, compliquant ou rendant impossible l’utilisation de la GenAI pour la cybersécurité.

En outre, 37% des participants estiment que la GenAI “n’est pas sûre à utiliser dans la cybersécurité”. Un exemple marquant de ces préoccupations est celui de Samsung, qui a interdit l’usage de ChatGPT en 2023 après que des employés ont partagé des notes de réunion privées et du code source avec l’outil. Une telle exposition de données sensibles peut poser des risques clairs en termes de sécurité, de confidentialité et de respect des normes de conformité.

Inquiétudes et solutions

Malgré ces défis, Corelight assure que les problèmes de confidentialité ne sont pas insurmontables, à condition que l’outil GenAI et le modèle de langage de grande taille (LLM) sous-jacent soient correctement conçus avec la confidentialité en tête. Le NDR commercial de Corelight, par exemple, établit un “pare-feu fonctionnel” entre les données clients et les fonctionnalités de la GenAI.

Ignacio Arnaldo, directeur de la science des données chez Corelight, soutient que l’adoption de la GenAI est freinée par des préoccupations concernant la confidentialité des données et la précision des modèles. Néanmoins, à mesure que les modèles s’améliorent en capacité de raisonnement global et en connaissance en cybersécurité, et que davantage de déploiements de LLM incluront des protections structurelles de la confidentialité, la GenAI est destinée à devenir une part intégrante des opérations de sécurité.

Les principaux impacts de la GenAI sur la cybersécurité

Selon la moitié des ITDM sondés, le principal impact de la GenAI sur la cybersécurité pourrait être l’apport de contexte et d’analyse pour les équipes SecOps. D’autres cas d’utilisation cités incluent :

• Maintien des politiques de conformité (41%)
• Recommandations de meilleures pratiques sur des langages spécifiques au domaine comme la gestion des identités et des accès (36%)
• Informations non structurées sur les vulnérabilités (35%)
• Orientation pour la remédiation (35%)
• Informations non structurées sur les connexions réseau et les processus (32%)

En résumé, bien que la GenAI suscite à la fois optimisme et préoccupations parmi les experts en informatique, elle a le potentiel de transformer significativement les pratiques de cybersécurité, pourvu que les défis actuels soient surmontés par des avancées technologiques et des protections de confidentialité robustes.

Source: www.infosecurity-magazine.com