De verheerlijking van gevaarlijke dunheid is een al lang bestaand probleem in de Amerikaanse cultuur, en het is vooral slecht op internet, waar gebruikers een eindeloze stroom van extreme dieetinstructies, „thinspo“ fotoborden, YouTube-video’s die beweren magische spreuken voor gewichtsverlies te bieden, enzovoort. Er is altijd een enorm publiek geweest voor dit soort inhoud, waarvan een groot deel zeer visueel en emotioneel geladen is en zich gemakkelijk verspreidt.
De meeste grote socialemediaplatforms zijn zich al jaren bewust van deze realiteit en hebben op zijn minst basismaatregelen genomen om deze aan te pakken. Als u op de meeste van deze platforms zoekt naar bepaalde bekende trefwoorden die verband houden met eetstoornissen (zoals mensen die zich aangetrokken voelen tot of kwetsbaar zijn voor dergelijke inhoud waarschijnlijk zullen doen), krijgt u een pop-upscherm te zien vragen of u hulp nodig heeft en voorstellen dat u contact opneemt met een nationale hotline. Op de grootste platforms voor jongeren van vandaag, Instagram en TikTok, is dat scherm een muur: je kunt er niet voorbij tikken om bij de zoekresultaten te komen. Dit wil niet zeggen dat deze sites geen foto’s en video’s hosten die eetstoornissen verheerlijken, alleen dat het vinden ervan meestal niet zo eenvoudig is als alleen maar zoeken.
X biedt echter een totaal andere ervaring. Als je zoekt naar populaire tags en termen die verband houden met eetstoornissen, krijg je accounts te zien met die termen in hun gebruikersnamen en biografieën. Onder het kopje ‚Community’s verkennen‘ krijgt u relevante berichten en aanbevelingen te zien waar verschillende groepen lid van kunnen worden. De indruk die door veel van deze berichten, die doorgaans gestileerde fotografie van extreem magere mensen bevatten, wordt gecommuniceerd, is dat een eetstoornis een benijdenswaardige levensstijl is in plaats van een psychische aandoening en een gevaarlijke gezondheidstoestand. De levensstijl wordt zelfs nog ambitieuzer gemaakt door de manier waarop sommige gebruikers praten over de groeiende populariteit ervan en hun wens om ‘wannarexics’ – mensen met anorexia – uit hun gemeenschap te houden. Degenen die wel geaccepteerd worden, krijgen het gevoel echt geaccepteerd te worden: ze krijgen advies en positieve feedback van de bredere groep.
Technisch gezien is dit allemaal in strijd met de publicaties van X beleid tegen het aanmoedigen van zelfbeschadiging. Maar er is een enorm verschil tussen het hebben van een beleid en het afdwingen ervan. X heeft er ook genoeg van toegestaan racistische en antisemitische inhoud onder het bewind van Elon Musk, ondanks dat hij een beleid voerde tegen “hatelijk gedrag.” De site laat zien wat er kan gebeuren als de regels van een platform feitelijk niets betekenen. (X heeft niet gereageerd op e-mails over dit probleem.)
Dit moment kwam niet uit een vacuüm voort. Het sociale web bevindt zich stevig in een regressief moment als het gaat om het modereren van inhoud. Grote platforms werden gedwongen actie te ondernemen op basis van desinformatie als reactie op seismische gebeurtenissen, waaronder de presidentsverkiezingen van 2016, de pandemie van het coronavirus, de Black Lives Matter-protesten van 2020, de opkomst van QAnon en de opstand van 6 januari, maar hebben dit grotendeels gedaan. trok zich terug na de reactie van de met Donald Trump verbonden Republikeinen die gematigdheid gelijkstellen aan censuur. Die vergelijking is een van de redenen Musk heeft Twitter gekocht in de eerste plaats beschouwde hij het als een machtig platform dat zijn vijanden zeer gunstig gezind was en de spraak van zijn vrienden aan banden legde. Nadat hij in 2022 de site had overgenomen, zuiverde hij duizenden werknemers en beloofde hij de inspanningen voor het modereren van inhoud die in de loop der jaren op het platform waren gelaagd, terug te draaien. “Deze teams, wier fulltime taak het was om schadelijke inhoud te voorkomen, zijn er simpelweg niet echt”, zegt Rumman Chowdhury, een datawetenschapper die gaf voorheen leiding aan een veiligheidsteam op pre-Musk Twitter, vertelde het me. Ze werden ontslagen of drastisch verkleind toen Musk het overnam, zei ze.
Nu wordt het kind met het badwater weggegooid, vertelde Vaishnavi J, een expert op het gebied van jeugdveiligheid die bij Twitter en vervolgens bij Instagram werkte, mij. (Ik heb ermee ingestemd haar volledige naam niet te publiceren omdat ze zich zorgen maakt over gerichte intimidatie; ze publiceert ook onderzoek met alleen haar laatste initiaal.) ‘Ondanks wat je zou kunnen zeggen over Musk,’ vertelde ze me, ‘denk ik dat als je hem de soort inhoud die naar boven kwam, ik denk niet dat hij deze daadwerkelijk op het platform zou willen hebben. Tot dat moment, in oktober, NBC News’s Dat heeft Kat Tenbarge gemeld dat X een van de grootste pro-eetstoornisgroepen had verwijderd nadat ze daar in de loop van haar berichtgeving de aandacht van het bedrijf op had gevestigd. Toch meldde ze ook dat er snel nieuwe groepen ontstonden om deze te vervangen, wat duidelijk waar is. Vlak voor Thanksgiving vond ik (met minimale inspanning) een groep die voorstander was van eetstoornissen en bijna 74.000 leden telde; toen ik deze week keek of het nog bestond, was het uitgegroeid tot ruim 88.000 leden. (Musk reageerde niet op een verzoek om commentaar.)
Die groei wordt gevolgd door gebruikersrapporten dat X niet alleen inhoud over eetstoornissen host, maar ook… actief het aanbevelen in de algoritmisch gegenereerde ‘For You’-feed, zelfs als mensen deze niet willen zien. Onderzoekers zijn nu geïnteresseerd: Kristina Lerman, een professor aan de Universiteit van Zuid-Californië die gepubliceerd over online eetstoornis-inhoud eerder, maakt deel uit van een team dat de laatste hand legt aan een nieuw artikel over de manier waarop pro-anorexia-retoriek op X circuleert. “Er is een echokamer, deze sterk onderling verbonden gemeenschap”, vertelde ze me. Het is ook erg zichtbaar, en daarom ontwikkelt X een reputatie als plek waar je naartoe kunt gaan om dat soort inhoud te vinden. X-gemeenschappen gebruiken openlijk termen als proana En dunspoen zelfs bottenspo En doodspotermen die eetstoornissen in extreme mate romantiseren door liefdevol te verwijzen naar de slechtste gevolgen ervan.
Inhoud over eetstoornissen is sinds het begin van het sociale web een van de meest netelige kwesties op het gebied van inhoudsmoderatie. Het kwam veel voor op de vroege online forums en was endemisch voor Tumblr, waar het een grote populariteit begon te krijgen uitgesproken visuele esthetiek en een reeks gemeenschapsrituelen die sindsdien in verschillende vormen deel uitmaken van het internet. (Het was inderdaad bekend probleem op Twitter, zelfs voordat Musk de site overnam.) Er zijn veel redenen waarom dit materiaal zo’n moeilijk moderatieprobleem oplevert. In de eerste plaats is het, in tegenstelling tot haatzaaiende uitlatingen of gerichte intimidatie, minder waarschijnlijk dat gebruikers dit melden: het is onwaarschijnlijk dat deelnemers aan de gemeenschappen zichzelf rapporteren. Integendeel, de makers van deze inhoud zijn dat wel zeer gemotiveerd om detectie te omzeilen en wil innoveren met gecodeerde taal om nieuwe interventies te omzeilen. Een platform dat de verspreiding van pro-eetstoornis-inhoud echt wil minimaliseren, moet er hard aan werken, op de hoogte blijven van de nieuwste trends op het gebied van trefwoorden en eufemismen en voortdurend op zoek zijn naar ondermijningen van zijn inspanningen.
Als extra uitdaging is de grens tussen inhoud die eetstoornissen verheerlijkt en inhoud die eenvoudigweg deel uitmaakt van de fanatieke fixatie van onze cultuur op dunheid, gemaskeerd als ‚fitness‘- en ‚gezondheids‘-adviezen, niet altijd duidelijk. Dit betekent dat gematigdheid een menselijk element moet hebben en veel nuances moet kunnen verwerken – om te begrijpen hoe het probleem moet worden aangepakt zonder onbedoelde schade te veroorzaken. Is het bijvoorbeeld gevaarlijk om iemands sociale netwerk van de ene op de andere dag te ontmantelen terwijl hij het al moeilijk heeft? Is het productief om enige discussie over eetstoornissen toe te staan als die discussie over herstel gaat? Of kan dat ook schadelijk zijn?
Deze vragen zijn onderwerp van lopend onderzoek en debat; de rol die internet speelt bij ongeordende eetgewoonten wordt al tientallen jaren besproken. Maar als je naar X in 2024 kijkt, zou je het niet weten. Na slechts één keer zoeken naar de populaire term edtwt– “eetstoornis Twitter” – en toen ik op een paar van de voorgestelde communities klikte, begon ik dit soort inhoud onmiddellijk in de hoofdfeed van mijn X-account te zien. Terwijl ik door mijn reguliere mix van nieuws en grappen scrolde, kreeg ik berichten te zien als “een megathread van mijn favoriete thinsp0 voor edtwt” en “wat is het ergste aan dik zijn? … Een draad voor edtwt om je te motiveren.”
Ik vond dit vooral schokkend omdat het zo simplistisch was. We horen voortdurend hoe complex de aanbevelingsalgoritmen zijn voor de huidige sociale platforms, maar het enige dat ik had gedaan was één keer naar iets zoeken en vijf minuten rondklikken. Het was vreemd genoeg één op één. Maar toen ik Vaishnavi over deze ervaring vertelde, was ze niet verrast. “Aanbevelingsalgoritmen hechten veel waarde aan betrokkenheid, en ED-inhoud is erg populair”, vertelde ze me. Als ik naar iets minder populairs had gezocht, wat de site minder gemakkelijk kon bieden, had ik misschien geen verandering in mijn feed gezien.
Toen ik met Amanda Greene sprak, die uitgebreid gepubliceerd over online eetstoornisinhoud benadrukte ze als onderzoeker aan de Universiteit van Michigan het grote, nieuwere probleem van aanbevelingsalgoritmen. “Dat is wat TikTok berucht heeft gemaakt, en dat is wat er volgens mij voor zorgt dat de inhoud over eetstoornissen zo wijdverbreid wordt verspreid op X”, zei ze. ‚Het is één ding om dit spul te hebben, als je er echt naar zoekt. Het is iets anders om het aan mensen op te dringen.”
Het viel ook op hoe grimmig wreed een groot deel van de X-inhoud was. Voor mij las het als een oudere stijl van pro-eetstoornis-inhoud. Het was niet alleen maar een romantisering van superslankheid; het leek op de dingen die je tien jaar geleden zou zien, toen het veel gebruikelijker was dat mensen foto’s van zichzelf op sociale media plaatsten en aan anderen vroegen om ze uit elkaar te halen. Op X zag ik mensen vreselijke dingen tegen elkaar zeggen in de naam van ‘meanspo’ (‘gemene inspiratie’) die hen zouden aanmoedigen niet te eten.
Hoewel ze op dit moment geen gegevens over X verzamelde, zei Greene dat wat ze anekdotisch had gehoord, vergelijkbaar was met wat mij werd voorgeschoteld in mijn X-feed. Wreed taalgebruik in de naam van ‘harde liefde’ of ‘steun’ was de afgelopen jaren enorm en keert nu terug. “Ik denk dat dit misschien een deel van de reden is had Uitgegaan was contentmoderatie”, vertelde Greene me. Nu is het terug en iedereen weet waar het te vinden is.
