Strategen van beide partijen maken zich op voor een verrassing in oktober of november in de vorm van een deepfake-videoclip waarvan zij vrezen dat deze een aanzienlijke impact zou kunnen hebben op de laatste dagen van de presidentiële race, in het besef dat vervalsingen van kunstmatige intelligentie (AI) zeer geavanceerd zijn geworden .
Wetgevers in beide partijen waarschuwen al maanden dat geavanceerde buitenlandse actoren de uitkomst van de presidentsverkiezingen proberen te beïnvloeden, maar experts zeggen dat er in oktober ook een door AI gegenereerde bom uit een binnenlandse bron zou kunnen komen.
Zowel voormalig president Trump als vicepresident Harris zijn het doelwit geweest van deepfake-beelden.
Deze week circuleerde een AI-verbeterde video op sociale-mediaplatforms die ten onrechte liet zien dat Trump onhandig, stuntelig en volledig de controle verloor terwijl hij bij een drive-thru-raam van McDonald's werkte, een start van zijn recente campagneoptreden bij de fastfoodketen in Bucks County. Pa.
De opvallende verschuiving van Trump tijdens de drive-thru was ook het doelwit van een desinformatiecampagne, omdat het restaurant in Feasterville zo overspoeld werd met valse recensies en beoordelingen dat Yelp, de online app voor restaurantbeoordelingen, gedwongen werd recensies voor het bedrijf uit te schakelen.
Een nepfoto die in augustus opdook, zou een jongere Trump jaren geleden laten zien die naast de veroordeelde zedendelinquent Jeffrey Epstein in een privévliegtuig zat. Het beeld circuleerde op het sociale platform X en werd honderdduizenden keer bekeken, maar werd later door experts vastgesteld dat het door AI was gegenereerd.
Trump beweerde in augustus zonder bewijs dat Harris AI had gebruikt om nepbeelden te fabriceren van enorme menigten tijdens haar campagnebijeenkomsten, ook al waren verslaggevers die de evenementen bijwoonden getuige van die menigten.
'Ze is een CHEATER. Er stond NIEMAND te wachten en de ‘menigte’ leek wel 10.000 mensen!” Trump plaatste een bericht op sociale media nadat hij foto's had gezien waarop mensenmassa's voor Harris juichten in een vliegtuighangar buiten Detroit.
Ondertussen meldde het Microsoft Threat Analysis Center deze week dat ‘Russische acteurs’ Harris proberen te bezoedelen met deepfake-video’s waarin haar in een niet-vleiend licht wordt afgebeeld.
Volgens Microsoft plaatsten Russischtalige accounts op X een AI-verbeterde video waarin Harris ten onrechte ‘een grove verwijzing’ maakte naar moordpogingen op Trump en zei dat hij weigerde ‘zelfs waardig te sterven’.
“Deepfake-technologie is door de jaren heen beter geworden, zeker meer dan toen we het voor het eerst in 2016 zagen”, zei de democratische strateeg Rodell Mollineau. “Het is genuanceerder geworden.”
“Het is niet de deepfake zelf” die het grootste gevaar vormt, maar het gebrek aan bereidheid van socialemediabedrijven om onderzoek te doen en de verspreiding ervan te voorkomen, zei hij.
“Ik denk specifiek aan Twitter en Elon Musk”, voegde Mollineau eraan toe.
Musk, de controlerende eigenaar van X, het populaire platform dat voorheen bekend stond als Twitter, heeft herhaaldelijk kritiek gekregen van de Democraten vanwege het delen van valse of misleidende informatie.
Musk verspreidde in augustus een vervalste Harris-campagneadvertentie waarin gebruik werd gemaakt van door AI gegenereerde voice-over om de indruk te wekken dat Harris zichzelf omschreef als ongeschikt voor het Oval Office. Musk, die Trump heeft gesteund, verdedigde deze stap later door iets te delen waarvan mensen hadden moeten weten dat het een parodie was.
Hoewel deze nepbeelden en video's tot nu toe weinig impact lijken te hebben gehad op de kiezers, verwachten politieke strategen en onpartijdige experts dat het probleem de komende twaalf dagen zal verergeren en waarschuwen ze dat een potentiële bomclaim de uitkomst in sommige staten zou kunnen beïnvloeden.
“Ik maak me zorgen – als ik nadenk over wat de race de afgelopen twee weken op zijn kop gaat zetten – het ding dat we nog niet hebben gezien is dat iedereen die aandacht aan dit spul besteedt (gedurende) twee jaar gefocust is op , wanneer komt er wat desinformatie, desinformatie, nepnieuws, vooral deepfake-gedreven, langs … en het veroorzaakt chaos en verwoesting” in de laatste dagen van de campagne, waarschuwde journalist John Heilemann deze week op de “Hacks on Tap „podcast.
De ervaren Republikeinse strateeg Mike Murphy, die deel uitmaakte van de podcastdiscussie, was het ermee eens dat desinformatie, vooral door AI gegenereerde inhoud, verwarring onder het electoraat zou kunnen zaaien.
Charlie Kirk, een prominente conservatieve persoonlijkheid op de sociale media, waarschuwde zijn volgers om uit te kijken naar ‘waanzinnig wanhopige dingen van de Democraten’.
“Verwacht dat er binnenkort nep-AI-gegenereerde onzin over Trump zal verschijnen. Blijf gefocust EN STEM!” hij heeft op X gepost.
Deskundigen maken zich zorgen dat socialemediabedrijven traag zullen zijn in het verwijderen van desinformatie en door AI gegenereerde deepfakes die in de aanloop naar de verkiezingsdag opduiken.
“De dreiging hier is, vanuit het perspectief van de kandidaat, dat als er eenmaal iets naar buiten komt, het heel moeilijk is om het voor de kiezers af te leren, zelfs als het niet waar is. … We denken dat het heel moeilijk zal zijn om sociale-mediabedrijven zover te krijgen dat ze hard optreden”, zegt Joshua Graham Lynn, de CEO en mede-oprichter van RepresentUs, een onpartijdige organisatie die bedreigingen voor de democratie opspoort.
Lynn zei dat zijn organisatie zich vooral zorgen maakt over pogingen om kiezers te verwarren over wanneer en waar ze moeten stemmen, of over mogelijke valse waarschuwingen over bedreigingen op een stembureau waardoor mensen op de verkiezingsdag thuis zouden kunnen blijven.
Zijn groep heeft geprobeerd “kiezers te informeren dat er een aanval zou kunnen plaatsvinden om de aanval te ‘prebunken’, zodat als ze te horen krijgen: ‘Ga niet stemmen, er een dreiging is in uw stembureau’, of: ‘Het stembureau station gesloten is of je moet morgen gaan', dat zou een kans zijn waarbij kiezers zouden kunnen zeggen: 'Dat klinkt niet goed, misschien moet ik het controleren', zei hij.
“Het is veel waarschijnlijker dat een of twee stembureaus in een of twee kritieke districten de verkiezingen zouden kunnen doen kantelen,” zei hij.
Tom Barrett, een Republikein die zich kandidaat stelt voor een zetel in het Congres in Michigan, wordt geconfronteerd met oproepen tot een onderzoek nadat zijn campagne een advertentie had geplaatst in een krant die eigendom is van Black en waarin de verkeerde datum voor de verkiezingsdag werd vermeld: 6 november, in plaats van de juiste datum van de verkiezingen. 5 november.
Lynn zei dat de technologische vooruitgang het vermogen van individuen om desinformatie via sociale media te verspreiden dramatisch heeft vergroot.
“Waar vroeger 10.000 internettrollen in een pakhuis ergens in Rusland voor nodig waren om onze verkiezingen aan te vallen, kan nu door één persoon in een kelder worden gedaan. Iedereen heeft de macht om zoveel inhoud te genereren en deze te optimaliseren, zodat deze plakkerig wordt”, zei hij. „Ze kunnen honderden dingen vrijgeven die niet blijven hangen totdat ze ontdekken wat wel werkt, en dan gaan ze dat viraal maken.“
De voorzitter van de Senaatsinlichtingencommissie, Mark Warner (D-Va.), vertelde verslaggevers deze maand dat hij zich zorgen maakte over buitenlandse agenten die desinformatie verspreidden met betrekking tot de rampenbestrijding in North Carolina en Georgia – twee belangrijke presidentiële strijdtonelen.
Warner schreef donderdag een brief aan de Amerikaanse internetdomeinregistreerders waarin hij hen aanspoorde onmiddellijk stappen te ondernemen om het gebruik van hun diensten door buitenlandse agenten om de verkiezingen te beïnvloeden aan te pakken.
