Malgré l’énorme potentiel de l’intelligence artificielle, celle-ci entraîne des risques importants pour la prévention de la fraude et la cybersécurité. 

Selon Febelfin, la fédération belge du secteur financier, les criminels ont gagné près de 40 millions d'euros en 2022 uniquement grâce au phishing en ligne. Les criminels améliorent leurs tactiques rusées en utilisant des technologies telles que les deepfakes et les grands modèles de langage (LLM) pour tromper les individus. 

Les cyberattaques alimentées par l'IA génèrent des e-mails, messages et appels de plus en plus convaincants, rendant les escroqueries plus difficiles à détecter. 
Les méthodes traditionnelles, telles que les mots de passe, sont insuffisantes face à l'escroquerie alimentée par l'IA, obligeant les entreprises à mettre en place des mécanismes de défense avancés pour protéger leurs clients et elles-mêmes. 

Comme de nombreux autres pays, la Belgique connaît une menace croissante de phishing par e-mail, d'escroqueries par SMS et de fraudes utilisant les informations personnelles. Ces pratiques frauduleuses évoluent et utilisent des données personnelles pour paraître plus crédibles. 

Quand l'IA transforme la fraude 

L'IA modifie la nature de la fraude en permettant aux cybercriminels d'utiliser des grands modèles de langage pour produire des textes réalistes et trompeurs. Avec ces outils avancés, les fraudeurs peuvent créer des chatbots complexes, des faux avis, des messages trompeurs et des e-mails mensongers. Leur objectif est de manipuler les utilisateurs et d'obtenir des informations sensibles telles que des mots de passe et des données financières. 

Une tendance préoccupante est l'escroquerie liée à la voix, où la soi-disant « escroquerie Hey Mom, Hey Dad » utilise l'IA pour imiter les voix de proches. « Cela manipule émotionnellement les membres de la famille, qui croient qu'un être cher est en crise et décident alors de transférer de l'argent, que les fraudeurs volent ensuite. Les LLM peuvent générer du langage naturel à partir de prompts, permettant aux fraudeurs non seulement de créer des chatbots malveillants, mais aussi de faux avis, messages, profils, e-mails, images et vidéos », explique Rob Vink, Country Manager Benelux chez BioCatch.

L'émergence d'LLM frauduleux tels que FraudGPT et WormGPT sur le dark web a encore augmenté le niveau de menace. Ces outils aident les cybercriminels à identifier des cibles et à mettre en œuvre des plans complexes, y compris des vidéos deepfake et des sites clonés pour voler les informations de paiement. 

Le développement rapide de la fraude alimentée par l'IA représente un grand défi pour la cybersécurité. Il est essentiel d'appliquer des stratégies de défense adaptatives maintenant que les fraudeurs deviennent de plus en plus sophistiqués, afin de réduire les risques et de protéger les informations sensibles contre les cybercriminels. 

Comment les entreprises peuvent se protéger ?

Les entreprises font désormais face au double défi d'offrir des expériences en ligne fiables tout en se protégeant contre des menaces de fraude en constante évolution. La mise en place d'indicateurs orientés vers les clients, tels que les filigranes et les avis, peut aider à authentifier le contenu et à identifier les escroqueries potentielles. 

« Des outils avancés tels que les logiciels de détection de deepfakes et l'analyse comportementale biométrique peuvent détecter les anomalies dans les interactions des utilisateurs et améliorer la détection de la fraude », prévient Rob Vink chez BioCatch.
« Ces mesures sont essentielles pour réduire les risques liés aux menaces cybernétiques alimentées par l'IA et maintenir des protocoles de cybersécurité robustes dans un environnement numérique de plus en plus complexe. L'analyse comportementale et la détection de fraude alimentée par l'IA sont des mécanismes de défense essentiels pour résister aux menaces et garantir des interactions numériques fluides et fiables au milieu d'une complexité croissante », conclut l’expert de BioCatch.