Le dernier rapport « Kaspersky Security Bulletin » détaille les prédictions et les principaux changements qui affectent le domaine de la cybersécurité. 
Le développement des grands modèles de langage (LLM) et la montée en puissance des préoccupations en matière de sécurité et de confidentialité créent un lien direct entre l'IA et le monde de la cybersécurité. 
Les chercheurs de Kaspersky montrent comment les outils d'IA ont aidé les cybercriminels dans leurs activités malveillantes en 2023, tout en mettant en évidence les applications défensives potentielles permises par cette technologie. 

Des vulnérabilités toujours plus complexes 

Les nouvelles vulnérabilités apparaissent à l'intersection de l'IA générative et des technologies traditionnelles, élargissant la surface d'attaque à sécuriser pour les professionnels de la cybersécurité. Les développeurs vont donc devoir étudier de nouvelles mesures de sécurité, comme l'approbation par l'utilisateur des actions lancées par les agents LLM. 
 
Des assistants virtuels pour les spécialistes de la cybersécurité 

Les chercheurs en cybersécurité exploitent l'IA générative pour créer des outils de cyberdéfense innovants. Cette tendance pourrait aboutir à la création d’assistants numériques basés sur le LLM ou sur l’apprentissage automatique (ML). Ces outils devraient permettre aux experts d’automatiser certaines tâches, en apportant des conseils basés sur des commandes exécutées dans un environnement de « pentesting ». 
 
Des réseaux neuronaux utilisés par les criminels

Les escrocs de tous bords pourraient renforcer leurs stratégies en utilisant des réseaux neuronaux et tirer parti des outils d'IA pour créer des contenus frauduleux de plus en plus convaincants. Il faut donc s’attendre à une escalade des cybermenaces en matière de fraude et d'escroquerie. 
 
Davantage d'initiatives réglementaires en matière d'IA grâce au secteur privé 

Le nombre d'initiatives réglementaires liées à l'IA est appelé à augmenter. Les acteurs non étatiques, tels que les entreprises technologiques peuvent apporter une contribution précieuse aux discussions sur la réglementation de l'IA, tant au niveau mondial que national. 
 
Des filigranes pour les contenus générés par l'IA 

Les réglementations et autres mesures des prestataires de services devront s’accompagner d’une signalisation des contenus générés par l’IA ; des outils de plus en plus pourvus contre les technologies de détection. Les développeurs et les chercheurs contribueront à l'élaboration de méthodes de filigrane pour les contenus IA afin d'en faciliter l'identification et la provenance. 
« L'intelligence artificielle dans le domaine de la cybersécurité est une arme à double tranchant. Ses capacités d'adaptation renforcent nos défenses, et constituent un rempart contre les menaces en constante évolution. Toutefois, ce caractère dynamique comporte également sa part de risques, car les attaquants tirent parti de l'IA pour élaborer des attaques plus sophistiquées. Il est essentiel de trouver un juste équilibre, en garantissant une utilisation responsable sans partage excessif de données sensibles, pour sécuriser nos frontières numériques », explique Vladislav Tushkanov, expert en sécurité chez Kaspersky. 
 

Malgré ces nouvelles tendances, l'IA ne devrait toutefois pas causer de changement révolutionnaire dans le paysage des menaces en 2024, indiquent les experts. 
Autrement dit, ils restent sceptiques quant à la possibilité que l'IA bouleverse de manière significative le paysage des menaces dans un avenir proche. « Si les cybercriminels adoptent l'IA générative, il en va de même pour les cyber-défenseurs, qui utiliseront les mêmes outils, voire des outils plus avancés, pour tester le perfectionnement de la sécurité des logiciels et des réseaux. C’est pourquoi il est finalement peu probable que l'IA modifie radicalement le paysage des attaques », conclut le rapport.  

Pour en savoir plus sur l'influence de l’IA dans la cybersécurité, le rapport invite à visiter le site Securelist pour découvrir les menaces sectorielles pour 2024.