Toen Guadalupe González Rodríguez een Facebook zag na door mensen door kunstmatige intelligentie gegenereerde geanimeerde beelden van hun overleden familieleden aan te bieden, was ze meteen geïnteresseerd. “Ik wilde mijn man een video van zijn moeder cadeau doen”, vertelde González Rodríguez, die graag AI gebruikte om foto’s en video’s op sociale media te verbeteren. Rest van de wereld.
Ze stuurde twee foto's, een van haar man en een van haar schoonmoeder, naar een WhatsApp-nummer. Binnen enkele minuten ontving ze een vijf seconden durend geanimeerd beeld van hen beiden: haar man knipperde met zijn ogen bijna natuurlijk en zijn moeder glimlachte en kronkelde even ongemakkelijk.
Cerveza Victoria, een populair biermerk in Mexico, had de marketingcampagne gelanceerd voorafgaand aan de viering van de Dag van de Doden in november. Verschillende andere bedrijven lanceerden vorige maand soortgelijke campagnes. Experts op het gebied van AI-regulering en cyberbeveiliging vertelden het Rest van de wereld ze zijn bang dat de afbeeldingen van overleden personen misbruikt kunnen worden en tot identiteitsdiefstal kunnen leiden. Vorig jaar werd één op de vijf mensen in Mexico het slachtoffer van cybercriminaliteit, waaronder identiteitsdiefstal en oplichting, volgens een studie van cyberbeveiligingsbedrijf Norton.
“Het probleem is dat de Mexicaanse wetgeving inzake gegevensbescherming dit soort praktijken en het beheer van persoonlijke gegevens niet omvat”, zegt Luis Osorio, hoofd van de AI-praktijk bij Inetum, een IT-adviesbureau. Rest van de wereld. Er bestaat geen juridische duidelijkheid over welk gebruik moet worden gegeven aan foto's van dode mensen, waardoor ze kwetsbaarder worden voor deepfakes of identiteitsdiefstal nadat ze zijn overleden, zei hij.
J. García López, een uitvaartcentrum in Mexico dat in oktober zijn Día de Muertos-campagne lanceerde, ontving meer dan 15.000 verzoeken om door AI gegenereerde video’s van overleden personen te maken, vertelde CEO Óscar Padilla. Rest van de wereld. Het uitvaartcentrum voerde de dienst uit als onderdeel van een marketingcampagne campagne riep: 'Je bent er nog'.
“(Het) was een manier om een gevoelige vezel van de families te raken, aangezien de herinneringen van degenen die ons hebben verlaten meestal een glimlach, een knuffel, een uitbarsting van gelach zijn,” zei Padilla.
Het technische team van het uitvaartcentrum ontwikkelde de AI-software om afbeeldingen te animeren. “We moesten veel testen doen om te bereiken waar we naar op zoek waren: dat de natuurlijke gezichtsuitdrukking van de persoon niet veranderde of vervormd raakte,” zei Padilla.
Daniela Rojas, senior programmamedewerker bij het Eon Institute, een op AI gerichte Mexicaanse denktank, uitte haar bezorgdheid over de manier waarop dergelijke bedrijven de afbeeldingen en biometrie van mensen opslaan. “Ik zou me zorgen maken over hoe goed hun cyberbeveiligingsnormen zijn, zodat dit soort informatie niet naar kwaadwillende personen lekt”, vertelde ze. Rest van de wereld.
Volgens een 2024 studie Volgens adviesbureau KPMG is cyberbeveiliging de meest urgente bedreiging met de hoogste prioriteit waarmee bedrijven in Mexico en Midden-Amerika worden geconfronteerd als gevolg van de recente evolutie van AI, vooral generatieve AI.
„We slaan de foto's niet op omdat we daarvoor (gigabytes) zouden moeten betalen voor opslag“, zei Padilla, eraan toevoegend dat bestanden automatisch worden verwijderd nadat ze naar gebruikers zijn verzonden.
In haar algemene voorwaarden stelt Cerveza Victoria dat zij niet aansprakelijk is voor de inherente risico’s van het gebruik van door AI gegenereerde beelden. Het bedrijf reageerde niet op een lijst met vragen van Rest van de wereld.
Het gebruik van AI om de doden weer tot leven te wekken heeft elders ethische vragen opgeroepen. In 2020 was Jang Ji-sung, moeder van vier kinderen in Zuid-Korea, dat wel vrijwel herenigd met een door AI gegenereerde avatar van haar overleden 7-jarige dochter. Ji-sung had gezegd dat dit haar hielp bij het afscheid nemen van haar kind, maar “veel psychologen zijn naar voren gekomen en hebben gezegd dat dit in sommige gevallen het rouwproces langer zou kunnen maken”, zei Rojas. De discussie moet nog plaatsvinden in Mexico, waar de praktijk van digitale wederopstanding dit jaar in populariteit explodeerde.
Het gebruik van AI in de Day of the Dead-marketingcampagnes van dit jaar verliep niet zonder problemen. Sommigen van degenen die deelnamen aan de campagnes van J. García López en Cerveza Victoria klaagden op sociale media dat de AI-animatietool niet goed werkte.
Angélica Rivera Gabino, een accountant uit de staat Mexico, heeft een foto van een familielid geüpload naar de website van J. García López. „Ik heb nooit de video gekregen die ze beloofden, omdat er steeds een fout opdook“, vertelde ze Rest van de wereld. Ze weet niet wat er is gebeurd met de foto die ze heeft geüpload.
Claudia Del Pozo, CEO van het Eon Institute, maakt zich zorgen over de langetermijneffecten van het normaliseren van het gebruik van AI voor het ‘animeren’ van de doden.
“Als je het (Dag van de Doden) altaar opzet, weet je dat ze dood zijn. Je probeert opnieuw verbinding te maken met de herinnering aan hen en hun leven te vieren, 'vertelde Del Pozo Rest van de wereld. Mensen weer tot leven wekken met AI, zei ze, “is bijna hetzelfde als het negeren van het feit dat ze zijn gestorven.”
