Representatief beeld | Fotocredit: Reuters
De Aam Aadmi-partij plaatste vorige maand een door kunstmatige intelligentie gegenereerde deepfake van BR Ambedkar, die naar verluidt de voormalige premier van Delhi, Arvind Kejriwal, zou zegenen, wat in ruil daarvoor aanleiding gaf tot een door AI gegenereerde reactie van de Bharatiya Janata-partij.
In de aanloop naar de verkiezingen voor de Delhi Assembly heeft de uitwisseling het debat over het gebruik van AI bij politieke campagnes en de rol die het speelt bij verkiezingen opnieuw aangewakkerd. Dit gebruik van deepfakes is toegenomen sinds Grok – de AI-chatbot en beeldgeneratieservice aangeboden door X, voorheen Twitter – beschikbaar werd voor het grote publiek. In tegenstelling tot het beleid dat wordt gevolgd door andere AI-chatbots, heeft X-eigenaar Elon Musk besloten om geen beelden te verbieden die zijn gebaseerd op echte politieke figuren, wat heeft geleid tot een enorme toename van dergelijke inhoud op Grok.
Nehru deepfakes machtsparodie
Een X-account gaat bijvoorbeeld in op de voortdurende beschuldiging van India’s eerste premier Jawaharlal Nehru voor moderne kwalen door beelden te genereren van de al lang overleden Nehru die de huidige premier Narendra Modi en de minister van Financiën Nirmala Sitharaman opdracht geeft impopulaire beslissingen te nemen. Het account, @The_Nehru, heeft meer dan 20.000 volgers gekregen. Het verhaal is “gebaseerd op de recente parlementaire debatten waarin Modi Nehru de schuld begon te geven, wat hij meestal doet”, vertelde de maker ervan, onder de alias JLN. De Hindoe via directe berichten op X. “Dus kreeg ik het idee om een parodie-account aan te maken en de uitspraken te bespotten.”
Adhiraj Singh, een cabaretier die over Indiase humor schrijft, en een van de medeauteurs van een satirische pagina genaamd Humans of Delhi (die Humans of Bombay en soortgelijke pagina’s nabootst), was sceptisch over het feit dat AI een duurzaam grappige steunpilaar zou zijn voor een oogst van rekeningen. “Satirische pagina’s die zich voordoen als politici zijn niet nieuw, maar AI-tools maken het wel gemakkelijker voor hen om onze tijdlijnen te overspoelen met afval dat uiteindelijk elke satire of commentaar zinloos en onlosmakelijk met elk ander soort lawaai maakt”, zei de heer Singh. „Ik denk dat het echt afhangt van wie het waarvoor gebruikt.“
Hij voegde eraan toe dat er zorgen waren dat dit soort inhoud steeds vaker voorkomt: “Satire, verkeerde informatie en haatzaaiende uitlatingen worden door elkaar gebruikt zonder dat er verantwoording wordt afgelegd. Mensen en zelfs nieuwsbronnen die ’satire‘-pagina’s voor echt nieuws aanzien, zijn niet eens nieuws meer. Het is niet duurzaam, maar hier zijn we dan, in de post-singulariteit AI-slop pit.”
Politieke impact
Het gebruik van deepfakes op deze manier beperkt zich inderdaad niet alleen tot politieke partijen en parodierekeningen. Een politieke commentator plaatste een foto van Congresleider Rahul Gandhi die lijkt op de zakenman en ondernemer George Soros, met een onderschrift dat hem de “mentor” van de heer Gandhi noemde.
In een rapport over generatieve AI-deepfakes en India schreef de op desinformatie gerichte startup Logically dat het concentreren “alleen op specifieke soorten inhoud bij het beoordelen of er enige impact zal zijn, de manier kan vertroebelen waarop desinformatiecampagnes werken. De gevolgen liggen feitelijk in het cumulatieve effect van de inhoud die eindeloos op verschillende fora verschijnt.”
In 2023 klaagde de toenmalige minister van Elektronica en Informatietechnologie Rajeev Chandrasekhar over het antwoord van Google Gemini AI op de vraag: „Is Narendra Modi een fascist?“ was een overtreding van de Indiase wet. AI-chatbots zoals die aangeboden door Meta en OpenAI weigeren nu grotendeels deze specifieke vraag te beantwoorden, en anderen vinden het leuk.
Grok blijft echter onverbloemde politieke antwoorden geven en beperkt het genereren van politieke synthetische beelden niet. Tot nu toe is er, ondanks de stijgende populariteit van het satirische Nehru-verslag (het heeft meer dan één lakh-visie op sommige berichten), geen soortgelijke reactie te melden. In feite, zegt ‚JLN‘, heeft het account nog niet eens te maken gehad met georganiseerde trollen. “Ze zouden in de war kunnen zijn over wat voor soort aanval mij zou kunnen neutraliseren”, zei de rekeninghouder.
Gepubliceerd – 4 januari 2025 21:45 uur IST
Source link
