Nu Ghana zijn presidentsverkiezingen op 7 december nadert, hebben onderzoekers een netwerk van 171 botaccounts op X ontdekt die ChatGPT gebruiken om berichten te schrijven die gunstig zijn voor de zittende politieke partij, de New Patriotic Party (NPP).
X/@joyce_j5
Dat blijkt uit nieuw onderzoek van NieuwsGuardeen website die tools biedt om de nauwkeurigheid en betrouwbaarheid van nieuwsuitzendingen te beoordelen, hebben de botaccounts uniform reclame gemaakt voor NPP-kandidaat Mahamudu Bawumia en zijn rechtse gesprekspunten, vaak met behulp van de hashtags #Bawumia2024, #NPP en de NPP-slogan # Het is mogelijk. De accounts lijken sinds februari actief te zijn.
“Ik bewonder de inzet van Dr. Bawumia om Ghana te transformeren”, luidt een Door AI geschreven botpost uit september. “Zijn diepgaande impact op ons nationale beleid en onze vooruitgang kan niet genoeg worden benadrukt. #Bawumia2024 #NPP.”
De accounts – die door AI gegenereerde profielfoto’s lijken te hebben en namen hebben als ‘Glenn Washington’, ‘Netflix Series&Movies’ en ‘Patriot’ – brengen ook John Mahama in diskrediet, de presidentskandidaat van de rivaliserende linkse partij National Democratic. Congres. Deze berichten gebruiken vaak hashtags zoals #mahamaisaliar en #DrunkmaniMahama, waarin Mahama ervan wordt beschuldigd een dronkaard te zijn. (Mahama heeft dit ontkend.)
“Het primaire doel van het netwerk lijkt het versterken van de pro-NPP-berichten, het promoten van de Bawumia-regering en het richten op het Nationale Democratische Congres van de oppositie”, zegt McKenzie Sadeghi, redacteur van AI en buitenlandse invloed bij NewsGuard, die heeft bijgedragen aan het onderzoek. verteld Rest van de wereld.
Dimitris Dimitriadis, directeur onderzoek en ontwikkeling van NewsGuard, zei in een interview met Rest van de wereld dat de botaccounts de neiging hebben om met ‘regelmatige’ en ‘voorspelbare’ tussenpozen te posten, vaak tien of meer keer per dag. Hij zei dat de accounts – die in Ghana meestal tussen 8.00 en 18.00 uur actief zijn – vooral likes en reposts ontvangen van anderen in het botnetwerk. Deze gereguleerde patronen in timing en stijl gaven de onderzoekers de tip dat de verslagen mogelijk nep waren.
Het onderzoeksteam van NewsGuard heeft alle 171 berichten van de accounts ingevoerd in een tool van Pangram Labs, die de waarschijnlijkheid beoordeelt dat tekst door AI wordt gegenereerd, zei Dimitriadis. De tool concludeerde dat het “zeer waarschijnlijk” was dat alle accounts AI-gegenereerde inhoud plaatsten die door ChatGPT was gemaakt.
In de afgelopen twee jaar heeft NewsGuard “een aantal gevallen van gemanipuleerd gedrag op X gevolgd en opgespoord”, zei Dimitriadis.
De contentmoderatie van X is aanzienlijk afgenomen sinds 2022, toen Elon Musk het bedrijf overnam en destijds Twitter heette. Musk ontsloeg snel de meeste inhoudsmoderators van de website en naar schatting 80% van zijn vertrouwens- en veiligheidsingenieurs, die identificeerden en verwijderden campagnes voor buitenlandse invloed. X later gesneden de helft van zijn eenheid voor verkiezingsintegriteitzojuist weken erna CEO Linda Yaccarino beloofde het uit te breiden. A Rapport 2023 van de Europese Eenheid beweerde dat onder Musk's leiderschap het aantal desinformatie- en desinformatieposts explosief is gestegen in vergelijking met andere sociale-mediaplatforms.
Het gebrek aan toezicht op het platform heeft openingen gecreëerd voor politieke invloedsnetwerken. Met tools zoals ChatGPT kunnen deze netwerken op grote schaal nieuwe sociale media-inhoud creëren, zonder dat ze hen tegenhouden. “AI lijkt steeds vaker te worden ingezet door slechte actoren die verkiezingen willen beïnvloeden of democratische uitkomsten willen beïnvloeden”, zegt Dimitriadis Rest van de wereld.
Sadeghi zei dat NewsGuard veel veranderingen op X heeft waargenomen sinds Musk de touwtjes in handen nam.
“We ontdekten dat geverifieerde gebruikers op X rekening voor enkele van de meest virale valse of ongefundeerde beweringen”, zei Sadeghi. “De blauwe vink zorgt ervoor dat verkeerde informatie hoger en prominenter op het platform verschijnt, wat een zegen bleek te zijn voor slechte acteurs.”
Ze voegde eraan toe dat a recent NewsGuard-onderzoek ontdekte dat een kwart van de X-gebruikers die reageerden, van mening was dat gebruikers met blauwe cheques betrouwbaarder waren dan gebruikers zonder.
“Het blauwe vinkje zorgt ervoor dat verkeerde informatie hoger en prominenter op het platform verschijnt”
Dit jaar is een kwetsbaar politiek moment in Ghana. Maar liefst acht mensen in Ghana werden gedood tijdens de laatste verkiezingscyclus in 2020. aldus het Amerikaanse ministerie van Buitenlandse Zaken. Twee van de moorden werden gepleegd door burgers, en twee andere werden gepleegd door militairen en politieagenten van de Verkiezingsveiligheidstaakgroep van het land.
NewsGuard zei in zijn rapport dat het netwerk van 171 botaccounts “het eerste in het geheim partijdige netwerk lijkt te zijn dat AI gebruikt om de verkiezingen in Ghana te beïnvloeden.”
NewsGuard deelde de bevindingen van hun onderzoek met X en OpenAI, zei Dimitriadis. Op het moment van schrijven zijn twee van de 171 accounts opgeschort en zijn er voor twee accounts beperkingen opgelegd. Geen van beide bedrijven reageerde op verzoeken om commentaar van Rest van de wereld.
OpenAI heeft zijn zorgen geuit over mensen die ChatGPT gebruiken om inhoud te genereren die het politieke discours beïnvloedt. Volgens een rapport van OpenAI uitgebracht in oktoberInvloedsnetwerken gebruiken ChatGPT om politieke posts op sociale media en blogposts te plaatsen “in de Verenigde Staten, Rwanda en (in mindere mate) India en de Europese Unie.” Het bedrijf beweerde dat het de activiteiten van meer dan twintig van deze netwerken ‘verstoorde’.
Het netwerk in Ghana introduceerde niets nieuws in het politieke discours van het land, zei Dimitriadis, omdat alle hashtags en gesprekspunten in de berichten van het netwerk al populair waren. Hij voegde eraan toe dat het “inherent moeilijk” is om in te schatten hoeveel impact deze verslagen hebben gehad op het politieke discours in Ghana.
“Een van de doelstellingen van het netwerk was om het verkeer heel duidelijk naar een specifieke reeks pro-NPP-hashtags te leiden”, aldus Dimitriadis. „Maar vanwege de aard van hashtags, en omdat er elke dag duizenden accounts zijn die deze hashtags promoten, denk ik dat het erg moeilijk is om die impact te ontwarren.“
