De beelden van de Spaanse overstromingen zijn niet gemaakt door AI. Het probleem is dat mensen denken dat ze | John Naughton

MMijn aandacht werd getrokken door een opvallende foto in de meest recente editie van Charles Arthur's Substack-nieuwsbrief Sociale opwarming. Het toont een smal straatje in de nasleep van de “regenbom” die de regio verwoestte van Valencia in Spanje. Er viel een jaar aan regen op één dag, en in sommige steden viel meer dan 490 liter per vierkante meter in acht uur. Water is erg zwaar, dus als er een helling is, stroomt het bergafwaarts met het soort kracht dat een zware SUV kan oppakken en rondslingeren als speelgoed. En als het door een smalle straat in de stad rijdt, zal het geparkeerde auto's als King Kong in een slecht humeur rondgooien.

De foto in Arthur's artikel liet zien wat er in een bepaalde straat was gebeurd. Gefotografeerd met een telelens vanaf de bovenste verdieping van een gebouw, liet het een chaotisch en bijna surrealistisch tafereel zien: ongeveer zeventig voertuigen van alle soorten en maten door elkaar en verspreid over de hele lengte van de straat.

Het was een verbazingwekkend beeld dat me echt tot stilstand bracht. Het is dan ook geen verrassing dat het ook viraal ging op sociale media. En toen kwam de reactie: “AI-imago, nepnieuws.” De foto was zo levendig, zo griezelig scherp en onwerkelijk, dat het voor de kijkers leek op iets dat ze zelf hadden kunnen nabootsen met Midjourney of Dall-E of een groot aantal andere generatieve AI-tools.

Maar het was niet nep, zoals Arthur vaststelde in een aardig stukje speurwerk: een balk op de afbeelding opsporen Facebook gebruiken, de straat vinden in Apple Maps en er zelfs doorheen ‘lopen’ met Street View. “Het is niet duidelijk waarom deze mensen dachten dat vooral die foto niet echt was”, schrijft hij. „Misschien heeft het iets te maken met de glans van de auto's en de bijzondere ronding van de vormen, en misschien met het ontbreken van duidelijke schade.“ Of is het zo dat de proliferatie van door AI gegenereerde namaakproducten ervoor zorgt dat mensen steeds meer geneigd zijn om dingen die echt zijn niet te geloven?

Mijn vermoeden is dat dit het laatste is, omdat sociale media worden overspoeld door wat bekend is geworden als 'AI-slop': afbeeldingen en tekst die zijn gemaakt met behulp van generatieve AI-tools. (Amazon's Kindle-winkel is soortgelijke problemen hebben met door AI gegenereerde ‘boeken’, maar dat is een ander verhaal.)

Je zou denken dat de socialemediabedrijven last zouden hebben van deze tsunami aan onzin op hun platforms. Denk nog eens na. Volgens Jason Koebler van de technische nieuwswebsite 404 MediaIn een recente kwartaaloproep die voor een groot deel over AI ging, zei Meta's CEO, Mark Zuckerberg, dat nieuwe, door AI gegenereerde feeds waarschijnlijk naar Facebook en andere Meta-platforms zouden komen. Zuckerberg zei dat hij enthousiast was over de “mogelijkheid voor AI om mensen te helpen inhoud te creëren die de feedervaringen van mensen alleen maar beter maakt”.

Zuck was warm voor zijn thema en vervolgde: “Ik denk dat we een geheel nieuwe categorie inhoud gaan toevoegen, namelijk door AI gegenereerde of door AI samengevatte inhoud, of een soort bestaande inhoud die op de een of andere manier door AI is samengebracht. En ik denk dat dat in de loop van de tijd heel spannend gaat worden voor Facebook en Instagram en misschien voor Threads of andere soorten feedervaringen.”

Dat is in zekere zin volkomen logisch: de winsten van Meta zijn afhankelijk van het ‘betrokken’ houden van gebruikers van zijn platforms – dat wil zeggen, het besteden van zoveel mogelijk tijd aan hen – en als AI-slordigheid helpt om dat doel te bereiken, wat is dan het probleem?

Aan de aanbodkant blijkt dat door AI gegenereerde dingen ook winstgevend zijn voor degenen die het maken. Koebler heeft een jaar lang deze donkere onderbuik van sociale media onderzocht. In India kwam hij Gyan Abhishek tegen, een analist die online viraliteit bestudeert. Abhishek liet hem een ​​verrassend beeld zien dat werd gebruikt om inkomsten te genereren: een foto van een skeletachtige oudere man die voorovergebogen zat terwijl hij werd opgegeten door honderden insecten.

“Het Indiase publiek is erg emotioneel”, Abhishek legde het uit. “Nadat ze dit soort foto's hebben gezien, 'liken' ze, 'reageren' ze en delen ze ze. Dus jij moet ook zo’n pagina maken, foto’s uploaden en geld verdienen via een prestatiebonus.” Hij beweert ook dat makers van virale afbeeldingen $ 100 kunnen verdienen voor 1.000 ‘likes’, wat klinkt als geld voor jam, althans voor deze columnist.

Wat we hier dus hebben is een mooie positieve feedbackloop waarin makers van AI profiteren van het voeden van de betrokkenheidsalgoritmen van sociale-mediaplatforms, die op hun beurt profiteren van de toenemende ‘betrokkenheid’ die virale beelden aantrekken. Het probleem met positieve feedbackloops is echter dat ze aanleiding geven tot een op hol geslagen groei, en tot de vraag wat er met de sociale media gebeurt als ze in de verdrukking komen. terminaal vergiftigd als resultaat. Dat is waar Meta en co naartoe gaan.

Wat ik heb gelezen

Hoe kwetsbaar is autocratie?
Een ontnuchterende beoordeling van de overwinning van Trump en Amerika – Hoe de toekomst er vanaf hier uitziet – door prof. Dave Karpf van de George Washington Universiteit.

Klik hier voor meer
Een inzichtelijk essay van Jason Kottke over de kunst van het schrijven voor het web, en de kracht die hyperlinks hebben om een ​​argument te intensiveren.

Het Musk-effect
Machiavellis van de Markt – een actueel essay over de buitensporige macht van ondernemers door Alex Gourevitch.