Beelden van seksueel kindermisbruik gegenereerd door kunstmatige intelligentie-instrumenten komen steeds vaker voor op het open web en bereiken een “omslagpunt”, aldus een veiligheidswaakhond.
De Stichting Internetwatch zei dat de hoeveelheid door AI gemaakte illegale inhoud die het de afgelopen zes maanden online had gezien, het totaal van het voorgaande jaar al had overschreden.
De organisatie, die een Britse hotline beheert maar ook een mondiale taak heeft, zei dat bijna alle inhoud te vinden was op openbaar beschikbare delen van het internet en niet op het dark web, waartoe gespecialiseerde browsers toegang moeten hebben.
De interim-topman van het IWF, Derek Ray-Hill, zei dat het niveau van verfijning van de beelden aangaf dat de gebruikte AI-tools waren getraind op afbeeldingen en video's van echte slachtoffers. “De afgelopen maanden laten zien dat dit probleem niet verdwijnt en zelfs erger wordt”, zei hij.
Volgens een IWF-analist bereikte de situatie met door AI gegenereerde inhoud een “omslagpunt” waarop veiligheidswaakhonden en autoriteiten niet wisten of een afbeelding een echt kind betrof dat hulp nodig had.
De IWF ondernam actie tegen 74 meldingen van door AI gegenereerd materiaal over seksueel misbruik van kinderen (CSAM) – wat realistisch genoeg was om de Britse wet te overtreden – in de zes maanden tot september van dit jaar, vergeleken met 70 in de twaalf maanden tot en met maart. Eén enkel rapport kan verwijzen naar een webpagina met meerdere afbeeldingen.
Naast AI-beelden met slachtoffers van misbruik uit het echte leven, omvatte het soort materiaal dat de IWF zag ook 'deepfake'-video's waarin porno voor volwassenen was gemanipuleerd om op CSAM te lijken. In eerdere rapporten de IWF heeft gezegd dat AI werd gebruikt om afbeeldingen te maken van beroemdheden die ‘verouderd’ zijn en vervolgens worden afgebeeld als kinderen in scenario’s van seksueel misbruik. Andere voorbeelden van seksueel misbruik die we hebben gezien, omvatten materiaal waarvoor AI-hulpmiddelen zijn gebruikt om foto's van geklede kinderen die online zijn gevonden, te 'nudificeren'.
Meer dan de helft van de door AI gegenereerde inhoud die de IWF de afgelopen zes maanden heeft gemarkeerd, wordt gehost op servers in Rusland en de VS, terwijl ook Japan en Nederland aanzienlijke hoeveelheden hosten. Adressen van de webpagina's die de afbeeldingen bevatten, worden geüpload naar een IWF-lijst met URL's die wordt gedeeld met de technische industrie, zodat ze kunnen worden geblokkeerd en ontoegankelijk gemaakt.
Het IWF zei dat acht van de tien meldingen van illegale, door AI gemaakte afbeeldingen afkomstig waren van leden van het publiek die ze hadden gevonden op openbare sites zoals forums of AI-galerijen.
Ondertussen heeft Instagram nieuwe maatregelen aangekondigd om dit tegen te gaan afpersingwaarbij gebruikers worden misleid om intieme afbeeldingen naar criminelen te sturen, waarbij ze zich doorgaans voordoen als jonge vrouwen, en vervolgens worden onderworpen aan chantagebedreigingen.
na nieuwsbriefpromotie
Het platform zal dat doen een functie uitrollen dat alle naaktafbeeldingen vervaagt die gebruikers in directe berichten ontvangen, en dringt er bij hen op aan voorzichtig te zijn met het verzenden van directe berichten (DM) die een naaktafbeelding bevatten. Zodra een wazige afbeelding wordt ontvangen, kan de gebruiker kiezen of hij deze wel of niet wil bekijken, en hij ontvangt ook een bericht waarin hij eraan wordt herinnerd dat hij de mogelijkheid heeft om de afzender te blokkeren en de chat op Instagram te melden.
De functie wordt vanaf deze week standaard ingeschakeld voor tieneraccounts wereldwijd en kan worden gebruikt voor gecodeerde berichten, hoewel afbeeldingen die zijn gemarkeerd met de functie 'detectie op apparaat' niet automatisch op de hoogte worden gesteld van het platform zelf of de autoriteiten.
Het wordt een opt-in-functie voor volwassenen. Instagram zal ook volgers- en volglijsten verbergen voor potentiële sextortion-oplichters waarvan bekend is dat ze dreigen intieme afbeeldingen naar die accounts te sturen.
