- Deepfake-selfies kunnen nu traditionele verificatiesystemen omzeilen
- Fraudeurs exploiteren AI voor het creëren van synthetische identiteiten
- Organisaties moeten geavanceerde, op gedrag gebaseerde detectiemethoden toepassen
Het nieuwste Global Identity Fraud Report van AU10TIX onthult een nieuwe golf in identiteitsfraudegrotendeels gedreven door de industrialisatie van op AI gebaseerde aanvallen.
Met miljoenen transacties geanalyseerd van juli tot en met september 2024 laat het rapport zien hoe digitale platforms in verschillende sectoren, met name sociale media, betalingen en crypto, voor ongekende uitdagingen staan.
Fraudetactieken zijn geëvolueerd van eenvoudige documentvervalsingen tot geavanceerde synthetische identiteiten, deepfake-afbeeldingen en geautomatiseerde bots die conventionele verificatiesystemen kunnen omzeilen.
Socialemediaplatforms kenden een dramatische escalatie van geautomatiseerde botaanvallen in de aanloop naar de Amerikaanse presidentsverkiezingen van 2024. Uit het rapport blijkt dat aanvallen op sociale media verantwoordelijk waren voor 28% van alle fraudepogingen in het derde kwartaal van 2024, een opmerkelijke stijging ten opzichte van slechts 3% in het eerste kwartaal.
Deze aanvallen zijn gericht op desinformatie en de manipulatie van de publieke opinie op grote schaal. AU10TIX zegt dat deze botgestuurde desinformatiecampagnes gebruik maken van geavanceerde generatieve AI (GenAI)-elementen om detectie te voorkomen, een innovatie die aanvallers in staat heeft gesteld hun activiteiten op te schalen en tegelijkertijd traditionele verificatiesystemen te omzeilen.
De door GenAI aangedreven aanvallen begonnen in maart 2024 te escaleren en bereikten hun hoogtepunt in september. Er wordt aangenomen dat ze de publieke perceptie beïnvloeden door het verspreiden van valse verhalen en opruiende inhoud.
Een van de meest opvallende ontdekkingen in het rapport betreft de opkomst van 100% deepfake synthetische selfies: hyperrealistische beelden die zijn gemaakt om authentieke gelaatstrekken na te bootsen met de bedoeling verificatiesystemen te omzeilen.
Traditioneel werden selfies beschouwd als een betrouwbare methode voor biometrie authenticatieomdat de technologie die nodig is om op overtuigende wijze een gezichtsopname te vervalsen buiten het bereik van de meeste fraudeurs lag.
AU10TIX benadrukt dat deze synthetische selfies een unieke uitdaging vormen voor traditionele KYC-procedures (Know Your Customer). Deze verschuiving suggereert dat organisaties die uitsluitend afhankelijk zijn van gezichtsherkenningstechnologie in de toekomst hun detectiemethoden mogelijk opnieuw moeten evalueren en versterken.
Bovendien gebruiken fraudeurs steeds vaker AI om variaties op synthetische identiteiten te genereren met behulp van ‘image template’-aanvallen. Deze omvatten het manipuleren van een enkele ID-sjabloon om meerdere unieke identiteiten te creëren, compleet met willekeurige foto-elementen, documentnummers en andere persoonlijke identificatiegegevens, waardoor aanvallers snel frauduleuze accounts op verschillende platforms kunnen aanmaken door gebruik te maken van AI om de creatie van synthetische identiteiten te schalen.
In de betalingssector daalde het fraudepercentage in het derde kwartaal, van 52% in het tweede kwartaal naar 39%. AU10TIX schrijft deze vooruitgang toe aan meer regelgevend toezicht en wetshandhavingsinterventies. Ondanks de vermindering van het aantal directe aanvallen blijft de betalingssector echter de sector die het vaakst het doelwit is. Veel fraudeurs worden afgeschrikt door de verhoogde beveiliging en richten hun inspanningen op de cryptomarkt, die in het derde kwartaal verantwoordelijk was voor 31% van alle aanvallen.
AU10TIX raadt organisaties aan om verder te gaan dan traditionele documentgebaseerde verificatiemethoden. Een cruciale aanbeveling is het adopteren van op gedrag gebaseerde detectiesystemen die dieper gaan dan standaard identiteitscontroles. Door patronen in gebruikersgedrag te analyseren, zoals inlogroutines, verkeersbronnen en andere unieke gedragssignalen, kunnen bedrijven afwijkingen identificeren die wijzen op mogelijk frauduleuze activiteiten.
“Fraudeurs evolueren sneller dan ooit en maken gebruik van AI om hun aanvallen op te schalen en uit te voeren, vooral in de sociale media- en betalingssectoren”, zegt Dan Yerushalmi, CEO van AU10TIX.
“Terwijl bedrijven AI gebruiken om de veiligheid te vergroten, gebruiken criminelen dezelfde technologie als wapen om synthetische selfies en valse documenten te maken, waardoor detectie bijna onmogelijk wordt.”
