Ondanks het enorme potentieel van kunstmatige intelligentie brengt het aanzienlijke risico’s met zich mee voor fraudepreventie en cyberveiligheid.

Volgens Febelfin, de Belgische federatie van de financiële sector, verdienden criminelen in 2022 alleen al dankzij online phishing bijna 40 miljoen euro. Criminelen versterken hun sluwe tactieken door technologieën zoals deepfakes en grote taalmodellen (LLM) te gebruiken om individuen te misleiden.

Door AI aangedreven cyberaanvallen genereren steeds overtuigender e-mails, berichten en telefoontjes, waardoor oplichting moeilijker te detecteren is.
Traditionele methoden, zoals wachtwoorden, zijn onvoldoende in het licht van door AI aangedreven fraude, waardoor bedrijven gedwongen worden geavanceerde verdedigingsmechanismen te implementeren om hun klanten en zichzelf te beschermen.

Net als veel andere landen ervaart België een toenemende dreiging van e-mailphishing, sms-oplichting en fraude met persoonlijke informatie. Deze frauduleuze praktijken evolueren en gebruiken persoonlijke gegevens om geloofwaardiger over te komen.

AI transformeert fraude

AI verandert de aard van fraude doordat cybercriminelen grote taalmodellen kunnen gebruiken om realistische en misleidende tekst te produceren. Met deze geavanceerde tools kunnen fraudeurs complexe chatbots, valse recensies, misleidende berichten en misleidende e-mails creëren. Hun doel is om gebruikers te manipuleren en gevoelige informatie te verkrijgen, zoals wachtwoorden en financiële gegevens.

Een zorgwekkende trend is de stemfraude, waarbij de zogenaamde ‘Hey Mom, Hey Dad-zwendel’ AI gebruikt om de stemmen van dierbaren te imiteren. “Hiermee worden familieleden emotioneel gemanipuleerd, die denken dat een dierbare in een crisis verkeert en vervolgens besluiten geld over te maken, dat de fraudeurs vervolgens stelen. LLM’s kunnen op basis van prompts natuurlijke taal genereren, waardoor fraudeurs niet alleen kwaadaardige chatbots kunnen maken, maar ook neprecensies, berichten, profielen, e-mails, afbeeldingen en video’s”, legt Rob Vink, Country Manager Benelux bij BioCatch uit.

De opkomst van frauduleuze LLM's zoals FraudGPT en WormGPT op het dark web heeft het dreigingsniveau verder verhoogd. Deze tools helpen cybercriminelen doelwitten te identificeren en complexe plannen uit te voeren, waaronder deepfake-video's en gekloonde sites om betalingsinformatie te stelen.

De snelle ontwikkeling van door AI aangedreven fraude vormt een grote uitdaging voor de cyberbeveiliging. Het is essentieel om adaptieve verdedigingsstrategieën toe te passen nu fraudeurs steeds geavanceerder worden, om risico's te verminderen en gevoelige informatie tegen cybercriminelen te beschermen.

Wat kunnen bedrijven doen om zichzelf te beschermen?

Bedrijven worden nu geconfronteerd met de dubbele uitdaging: het leveren van betrouwbare online-ervaringen en zichzelf beschermen tegen de steeds evoluerende fraudedreigingen. Het implementeren van klantgerichte indicatoren, zoals watermerken en recensies, kan helpen de inhoud te authenticeren en potentiële oplichting te identificeren.

“Geavanceerde tools zoals deepfake-detectiesoftware en biometrische gedragsanalyse kunnen afwijkingen in gebruikersinteracties opsporen en de fraudedetectie verbeteren”, waarschuwt Rob Vink van BioCatch.
“Deze maatregelen zijn van cruciaal belang voor het verminderen van de risico’s van AI-aangedreven cyberdreigingen en het handhaven van robuuste cyberbeveiligingsprotocollen in een steeds complexere digitale omgeving. Gedragsanalyse en AI-aangedreven fraudedetectie zijn essentiële verdedigingsmechanismen om bedreigingen te weerstaan ??en soepele en betrouwbare digitale interacties te garanderen te midden van de toenemende complexiteit”, besluit de BioCatch-expert.