Voor de paus was het de verkeerde soort madonna.
De poplegende, zij van het volkslied Like a Prayer uit de jaren 80, heeft de afgelopen weken voor controverse gezorgd door deepfake-beelden op sociale media te plaatsen waarop te zien is dat de paus haar omhelst. Het heeft de vlammen aangewakkerd van een debat dat al woedt over de creatie van AI-kunst Paus Franciscus speelt een symbolische en onwillige rol.
Het hoofd van de katholieke kerk is eraan gewend het onderwerp te zijn van door AI gegenereerde namaak. Een van de bepalende beelden van de AI-boom was Francis in een pufferjack van Balenciaga. Een opmerkelijk realistisch beeld, dat in maart vorig jaar viraal ging en door miljoenen werd gezien. Franciscus zag er echter de grappige kant niet van in. Hij zinspeelde op het beeld van Balenciaga in a toespraak over AI in januari waar hij waarschuwde voor de impact van deepfakes.
“Nepnieuws … kan tegenwoordig gebruik maken van ‘deepfakes’, namelijk de creatie en verspreiding van beelden die volkomen plausibel maar vals lijken – ook ik ben hier het voorwerp van geweest,” zei hij.
Andere deepfakes zijn onder meer Francis gedrapeerd in een Pride-vlag En met een parasol op een strand. Net als bij de Balenciaga-afbeelding zijn ze gemaakt door de Midjourney AI-tool.
De Italiaanse digitale kunstenaar achter de Madonna Op de beelden zei RickDick dat hij niet aanstootgevend wilde zijn met de foto’s, waarop Francis te zien is met zijn arm om het middel van de zanger en haar vervolgens omhelst. Een andere afbeelding op de Instagram-pagina van RickDick is waarschijnlijker aanstootgevend, waarbij een foto van het gezicht van de paus naadloos is samengevoegd met die van Luigi Mangione, de vermeende moordenaar van de CEO van UnitedHealthcare, Brian Thompson.
RickDick zei dat de afbeelding van Mangione bedoeld was om de online obsessie met de Amerikaan te satiriseren, die hem “tot een goddelijke figuur verheft”.
“Mijn doel is om mensen aan het denken te zetten en, indien mogelijk, te laten glimlachen”, aldus de kunstenaar, die werkt onder de naam RickDick, maar weigerde zijn volledige naam te noemen.
Hij zei dat memes – virale afbeeldingen die online eindeloos worden aangepast en gerecycled – onze “nieuwe visuele cultuur waren, en ik vind ze fascinerend vanwege hun vermogen om snel diepgaande ideeën over te brengen”.
Volgens deskundigen is de paus een voor de hand liggend doelwit voor deepfakes, omdat er zo’n enorme digitale ‘voetafdruk’ bestaat aan video’s, afbeeldingen en stemopnames die verband houden met Franciscus. AI-modellen worden getraind op het open internet, dat gevuld is met inhoud van bekende publieke figuren, van politici tot beroemdheden en religieuze leiders.
“De paus is zo vaak in de publieke belangstelling te zien en er zijn grote hoeveelheden foto’s, video’s en audiofragmenten van hem op het internet te vinden”, zegt Sam Stockwell, onderzoeksmedewerker bij het Britse Alan Turing Institute.
“Aangezien AI-modellen vaak zonder onderscheid op dergelijke gegevens worden getraind, wordt het voor deze modellen een stuk eenvoudiger om de gelaatstrekken en gelijkenis van individuen als de paus te repliceren, vergeleken met degenen die niet zo’n grote digitale voetafdruk hebben.”
RickDick zei dat het AI-model dat hij gebruikte om de Franciscus-foto’s te maken, die op zijn Instagram-account werden geplaatst en vervolgens opnieuw door Madonna werden geplaatst, specifiek was getraind op afbeeldingen van de paus en de popster, op een betaald platform genaamd Krea.ai. Realistische afbeeldingen van Franciscus kunnen echter ook eenvoudig worden gemaakt met vrij toegankelijke modellen, zoals Stable Diffusion, waarmee gebruikers hem met een paar eenvoudige aanwijzingen op een fiets of een voetbalveld kunnen plaatsen.
Stockwell voegt eraan toe dat er ook de duidelijke aantrekkingskracht schuilt van het naast elkaar plaatsen van een machtige figuur met ongewone of gênante situaties – een basisingrediënt van satire.
“Hij wordt geassocieerd met strikte regels en tradities, dus sommige mensen zouden hem graag willen deepfaken in situaties die ongebruikelijk zijn in verhouding tot die achtergrond”, zei hij.
Voeg AI toe aan de satirische mix en het betekent dat er waarschijnlijk meer pauselijke deepfakes zullen plaatsvinden.
“Ik gebruik graag publieke figuren, objecten, mode en evenementen om tot nadenken te stemmen door het absurde met het onconventionele te combineren”, aldus RickDick. “Het is alsof je met een eindeloze puzzel werkt, altijd op zoek naar nieuwe creatieve verbindingen. De paus is slechts een van mijn favoriete thema’s om aan te werken.”
