Vorig jaar liep Kaylin Hayman een rechtbank in Pittsburgh binnen om te getuigen tegen een man die ze nog nooit had ontmoet en die haar gezicht had gebruikt om pornografische foto's te maken. kunstmatige intelligentie technologie.
Kaylin, 16, is een kindactrice die speelde in de Disney show Just Roll With It van 2019 tot 2021. De dader, een 57-jarige man genaamd James Smelko, had haar als doelwit genomen vanwege haar publieke profiel. Ze is een van de ongeveer 40 van zijn slachtoffers, allemaal kind acteurs. Op een van de afbeeldingen van Kaylin die tijdens het proces als bewijsmateriaal werden ingediend, gebruikte Smelko haar gezicht van een foto die erop was geplaatst Instagram toen ze 12 was, aan het werken was op de set, en deze over het naakte lichaam van iemand anders heen legde.
„Ik heb behoorlijk wat ongecontroleerde huilbuien gehad, omdat ik niet begrijp hoe sommige mensen zo slecht zijn“, vertelt ze in een interview aan The Guardian. „Ik kan daar nooit echt mijn hoofd omheen wikkelen.“
Kaylin woont in Ventura, Californië, en Smelko was gevestigd in Pennsylvania toen hij deze misdaden tegen haar pleegde. Ze was geschokt toen ze hoorde dat haar zaak alleen voor de rechter kon worden gebracht omdat het een misdaad tussen staten was. Het bezit van afbeeldingen van seksueel misbruik van kinderen is strafbaar volgens de Amerikaanse federale wetgeving. Maar volgens de staatswetten van Californië werd het niet als illegaal beschouwd.
Kaylin zette haar afschuw om in actie. Dit jaar werd ze een fervent pleitbezorgster ter ondersteuning van een nieuw Californisch wetsvoorstel, AB 1831, dat de reikwijdte van de bestaande wetten tegen materiaal van seksueel misbruik van kinderen (CSAM) uitbreidt met afbeeldingen en video's die digitaal zijn gewijzigd of via AI zijn gegenereerd. In juni getuigde ze ter ondersteuning van het wetsvoorstel in de hoofdstad van Sacramento.
„Ik vertelde hoe ik me geschonden voelde en dat ik absoluut geschokt was dat dit in Californië niet al een misdaad was“, zegt Kaylin. “Californië is zo’n groot onderdeel van de acteerindustrie, en er zijn zoveel kinderen die niet tegen deze misdaad zijn beschermd.”
Eind september ondertekende de gouverneur van Californië, Gavin Newsom, de maatregel in wet. Kinderroofdieren die dergelijk materiaal maken, kunnen in de staat gevangenisstraffen en boetes van maximaal $ 100.000 riskeren.
Terwijl de nieuwe wet zich richt op AI in de handen van kinderroofdieren, zorgen andere factoren in Kaylins leven ervoor dat ze het risico loopt Smelko of mensen zoals hij tegen te komen, aldus haar en haar ouders, Mark en Shalene Hayman.
Kaylin was 10 jaar oud toen ze voor het eerst haar Instagram-account kreeg. Het sociale netwerk vereist dat de gebruikers minimaal 13 jaar moeten zijn om zich aan te melden, met uitzondering van accounts die door ouders worden beheerd. Smelko downloadde foto's van haar profiel om seksuele afbeeldingen te maken die haar gezicht combineerden met naakte lichamen van andere meisjes en vrouwen.
'Disney heeft haar erin geluisd Instagram account specifiek om de show en zichzelf te promoten”, zegt Mark. „Maar als deze bedrijven deze kinderen in dienst nemen en ze daar laten posten en geen ondersteuning bieden, dan ligt het grotere probleem.“
Deze ondersteuning zou onder meer training moeten omvatten over het omgaan met intimidatie en het blokkeren van accounts, en advies, zegt hij. Kaylin legt eveneens de schuld bij Disney.
“Het PR-team van Disney liet mij en alle kinderen bij Disney zich aanmelden voor een app. Ze stuurden ons elke week fragmenten om op Instagram te posten dat er een aflevering zou verschijnen”, zegt Kaylin. “Het begon met mijn werk en zij plantten dat zaadje. Ik zou graag willen dat ze wat verantwoordelijkheid nemen, maar dat moet nog gebeuren.”
De afgelopen jaren hebben mannen Kaylin lastiggevallen via haar Instagram- en TikTok-accounts door haar naaktfoto's te sturen. Ze heeft de ongewenste berichten bij beide socialemediabedrijven gemeld, maar zegt dat er geen actie is ondernomen.
„Ze heeft zeker een behoorlijk aantal griezelige stalkers gehad die haar blijven beschimpen“, zegt Shalene.
Mark is van mening dat Sag-Aftra, de Hollywood-acteursvakbond, ook proactiever moet zijn in het voorlichten van haar leden over de risico's van roofdieren die AI en sociale media gebruiken om publieke figuren tot slachtoffer te maken. Beide ouders controleren regelmatig de accounts van Kaylin, die ze nog steeds gebruikt en waartoe ze toegang heeft.
“We lezen veel reacties en denken: 'Wat is er mis met mensen?', maar ik weet niet of je daar onderuit kunt komen. Het is moeilijk om in deze branche te zitten en niet op sociale media te zijn”, zegt Shalene. “Ik zou graag zien dat de socialemediabedrijven verantwoorde censuur en beschermingsmaatregelen nemen.”
De afgelopen jaren heeft Instagram verschillende initiatieven aangekondigd om de bescherming voor gebruikers onder de 16 jaar te verbeteren, waaronder ouderlijk toezicht en maatregelen om te bepalen wie hen berichten kan sturen. In september kondigde het bedrijf aan dat het standaard alle accounts voor gebruikers onder de 18 jaar privé zou maken, een stap die werd geprezen door voorstanders van kinderveiligheid. Dezelfde beperkingen zijn van toepassing op geverifieerde accounts van minderjarigen, volgens de richtlijnen van Meta.
“Er circuleren zoveel ongepaste afbeeldingen op Instagram. Ik begrijp gewoon niet waarom ze naar kinderen gestuurd kunnen worden”, zegt Kaylin, die deze maand 17 wordt. “Instagram zou moeten zeggen: 'Nee, dat mag niet', en het verwijderen. Maar dat gebeurt niet, en ik begrijp het niet.”
Meta zei in een verklaring: “Dat hebben we gedaan gedetailleerd en robuust beleid tegen kindernaaktheid en uitbuiting, inclusief echte beelden en afbeeldingen die zijn gemaakt met behulp van GenAI.”
“SAG-AFTRA onderwijst, onderhandelt en maakt wetgeving over de gevaren van deepfake-technologie sinds minstens 2018”, zegt Jeffrey Bennett, de algemeen adviseur van SAG-AFTRA. Bennett wees op de publicatie door het gilde van een tijdschrift over deepfakes en deelname aan panels, en publiceerde artikelen over dit onderwerp.
Disney gaf geen commentaar.
De verspreiding van CSAM neemt online toe. Roofdieren hebben in het verleden fotobewerkingssoftware gebruikt, maar recente ontwikkelingen in AI-modellen bieden gemakkelijk toegankelijke mogelijkheden om op grote schaal realistischere misbruikbeelden van kinderen te produceren. In 2023, het Nationaal Centrum voor Vermiste en Uitgebuite mensen Kinderen (NCMEC), een in de VS gevestigd clearinghouse voor de mondiale rapportage van CSAM, ontving 36,2 miljoen meldingen van kindermisbruik online, een stijging van 12% ten opzichte van het voorgaande jaar. De meeste kwamen van Meta.
Hoewel de meeste van deze ontvangen meldingen betrekking hadden op foto's en video's uit het echte leven van seksueel misbruikte kinderen, ontving de NCMEC ook 4.700 meldingen van afbeeldingen of video's van de seksuele uitbuiting van kinderen, gemaakt door generatieve AI. De organisatie is kritisch geweest van AI-bedrijven omdat ze niet actief proberen de productie van CSAM te voorkomen of op te sporen.
Kaylin zegt dat de ontdekking dat haar gezicht was gebruikt om CSAM te creëren het einde betekende van haar kinderlijke onschuld. Ze is nu zenuwachtiger over haar veiligheid en die van andere kinderen en tieners die ze kent.
„Als ik een man of iemand zie die een beetje raar of vreemd naar me kijkt, ben ik altijd gespannen“, zegt ze. “Ik denk altijd aan het ergste dat in bepaalde situaties kan gebeuren. Ik denk dat het iets is waar jonge vrouwen aan moeten wennen. Het is jammer dat ik op mijn zestiende die wake-up call moest krijgen. Ik denk dat het gewoon bij het leven hoort”, voegt ze eraan toe.
Een jaar geleden betekende het afleggen van haar getuigenis tijdens het proces tegen Smelko dat ze weer enige controle over de situatie terugkreeg, zegt ze. Terwijl ze zich in de rechtbank concentreerde op het beantwoorden van de vragen van de aanklager en in de richting van de jury keek, wierp ze een snelle blik op de vreemdeling die terechtstond wegens seksuele uitbuiting van haar.
„Toen ik een glimp van hem opving, leek het erop dat hij een heel triest leven had en dat hij waarschijnlijk een groot deel van de tijd binnen bleef omdat hij niet voor het eerst een misdadiger was“, zegt ze. Nadat ze had getuigd, werd Smelko veroordeeld wegens twee gevallen van bezit van kinderporno.
Kaylin is vastbesloten om te blijven acteren en wil ooit in films verschijnen. Maar op dit moment concentreert ze zich op het afronden van haar laatste jaar van de middelbare school en haar pleitbezorging tegen online uitbuiting van kinderen. De beproeving heeft voor haar ook een nieuwe ambitie aangewakkerd. Ze wil rechten gaan studeren, zodat ze op een dag advocaat kan worden, gespecialiseerd in kinderrechten.
“Ik heb het geluk dat mijn geval niet erger was. Ik weet dat veel mensen het erger hebben dan ik”, zegt ze. “Ik probeer een klein beetje goed toe te voegen aan iets dat zo slecht is.”
