Afgelopen voorjaar maakte een man in de staat Washington zich zorgen dat zijn huwelijk op de rand van de afgrond stond. “Ik ben depressief en word een beetje gek, ik hou nog steeds van haar en wil haar terugwinnen”, typte hij in ChatGPT. Met de hulp van de chatbot wilde hij een brief schrijven waarin hij protesteerde tegen haar beslissing om een echtscheiding aan te vragen, en deze op de deur van hun slaapkamer plakken. ‘Benadruk mijn diepe schuldgevoel, schaamte en wroeging omdat ik niet heb gezorgd voor een betere echtgenoot, vader en kostwinner’, schreef hij. In een ander bericht vroeg hij ChatGPT om zijn vrouw een gedicht te schrijven “zo episch dat het haar van gedachten zou kunnen doen veranderen, maar niet cheesy of overdreven.”
De chatgeschiedenis van de man werd opgenomen in de WildChat gegevensseteen verzameling van 1 miljoen ChatGPT-gesprekken die met consensus door onderzoekers zijn verzameld om te documenteren hoe mensen omgaan met de populaire chatbot. Sommige gesprekken zijn gevuld met verzoeken om marketingteksten en huiswerkhulp. Anderen geven je misschien het gevoel alsof je in de huiskamers van onwetende vreemden staart. Hier worden de meest intieme details van het leven van mensen volledig getoond: een casemanager van een school onthult details over de leerproblemen van specifieke leerlingen, een minderjarige maakt zich zorgen over mogelijke juridische aanklachten, een meisje klaagt over het geluid van haar eigen lach.
Mensen delen voortdurend persoonlijke informatie over zichzelf online, of het nu gaat om Google-zoekopdrachten (“beste relatietherapeuten”) of via Amazon-bestellingen (“zwangerschapstest”). Maar chatbots zijn er bijzonder goed in om ons details over onszelf te laten onthullen. Veelvoorkomend gebruik, zoals vragen om persoonlijk advies En Resome hulpkan meer over een gebruiker onthullen “dan ze ooit ooit op een individuele website zouden doen”, vertelde Peter Henderson, een computerwetenschapper aan Princeton, me in een e-mail. Voor AI-bedrijven kunnen uw geheimen een goudmijn blijken te zijn.
Zou je willen dat iemand alles weet wat je deze maand hebt gegoogled? Waarschijnlijk niet. Maar terwijl de meeste Google-zoekopdrachten slechts een paar woorden lang zijn, kunnen chatbotgesprekken soms lang duren uurelk bericht rijk aan gegevens. En bij een traditionele zoekmachine levert een te specifieke zoekopdracht niet veel resultaten op. Hoe meer informatie een gebruiker daarentegen in een prompt naar een chatbot opneemt, hoe beter het antwoord zal zijn. Als gevolg hiervan uploaden mensen naast tekst ook gevoelige documenten, zoals medische rapporten schermafbeeldingen van tekstgesprekken met hun ex. Met chatbots is het, net als bij zoekmachines, moeilijk om te verifiëren hoe perfect elke interactie het echte leven van een gebruiker weergeeft. De man in Washington was misschien gewoon aan het rommelen met ChatGPT.
Maar over het algemeen onthullen gebruikers echte dingen over zichzelf, en AI-bedrijven merken dit op. OpenAI-CEO Sam Altman onlangs verteld mijn collega Charlie Warzel dat hij “positief verrast was over hoe bereid mensen zijn om zeer persoonlijke details met een LLM te delen.” In sommige gevallen, zo voegde hij eraan toe, kunnen gebruikers zich zelfs prettiger voelen om met AI te praten dan met een vriend. Daar is een duidelijke reden voor: computers oordelen, in tegenstelling tot mensen, niet. Wanneer mensen met elkaar praten, doen we aan ‘impressiemanagement’, zegt Jonathan Gratch, hoogleraar informatica en psychologie aan de Universiteit van Zuid-Californië. We reguleren ons gedrag opzettelijk om onze zwakheden te verbergen. Mensen “zien de machine niet als een soort sociale evaluatie van hen op dezelfde manier als mensen dat zouden kunnen doen”, vertelde hij me.
Natuurlijk beloven OpenAI en zijn collega's uw gesprekken veilig te houden. Maar op het hedendaagse internet is privacy een illusie. AI is geen uitzondering. Afgelopen zomer slaagde een bug in de Mac-desktop-app van ChatGPT er niet in om gebruikersgesprekken te versleutelen blootgesteld chatlogboeken naar slechte acteurs. Vorige maand deelde een beveiligingsonderzoeker een kwetsbaarheid waardoor aanvallers spyware in ChatGPT konden injecteren om gesprekken eruit te halen. (OpenAI heeft beide problemen opgelost.)
Chatlogs kunnen net zo goed bewijs leveren in strafrechtelijke onderzoeken materiaal van platforms zoals Facebook en Google Search al lang hebben. De FBI probeerde het motief van de Donald Trump-rallyschutter te achterhalen door door de zijne te kijken zoekgeschiedenis. Toen voormalig senator Robert Menendez uit New Jersey werd beschuldigd van het aanvaarden van goudstaven van medewerkers van de Egyptische regering, werd zijn zoekgeschiedenis was een belangrijk bewijsstuk Dat leidde eerder dit jaar tot zijn veroordeling. (“Hoeveel is één kilo goud waard,” had hij gezocht.) Chatbots zijn nog steeds nieuw genoeg dat ze nog niet op grote schaal bewijs hebben geleverd in rechtszaken, maar ze zouden een veel rijkere bron van informatie kunnen bieden voor wetshandhaving, zei Henderson.
AI-systemen brengen ook nieuwe risico’s met zich mee. Chatbotgesprekken worden doorgaans bewaard door de bedrijven die ze ontwikkelen en worden vervolgens gebruikt om AI-modellen te trainen. Iets dat u in vertrouwen aan een AI-tool onthult, kan theoretisch later opnieuw worden uitgebraakt voor toekomstige gebruikers. Onderdeel van De New York Times'-rechtszaak tegen OpenAI hangt af van de bewering dat GPT-4 onthouden passages uit Tijden verhalen en deze vervolgens woordelijk overbrengen. Als gevolg van deze bezorgdheid over het onthouden hebben veel bedrijven dat gedaan verboden ChatGPT en andere bots om te voorkomen dat bedrijfsgeheimen lekken. (De Atlantische Oceaan is onlangs een zakelijk partnerschap aangegaan met OpenAI.)
Uiteraard zijn dit allemaal randgevallen. De man die ChatGPT heeft gevraagd zijn huwelijk te redden hoeft zich waarschijnlijk geen zorgen te maken dat zijn chatgeschiedenis voor de rechtbank verschijnt; Het is ook niet waarschijnlijk dat zijn verzoeken om ‘epische’ poëzie naast zijn naam bij andere gebruikers zullen verschijnen. Toch verzamelen AI-bedrijven stilletjes enorme hoeveelheden chatlogs, en hun gegevens beleid laat ze over het algemeen doen wat ze willen. Dat kan betekenen – wat nog meer? – advertenties. Tot nu toe hebben veel AI-startups, waaronder OpenAI en Anthropic, zijn terughoudend geweest reclame omarmen. Maar deze bedrijven wel onder grote druk om te bewijzen dat de vele miljarden aan AI-investeringen hun vruchten zullen afwerpen. Het is moeilijk voor te stellen dat generatieve AI “op de een of andere manier het programma voor het genereren van inkomsten uit advertenties zou kunnen omzeilen”, vertelde Rishi Bommasani, een AI-onderzoeker aan Stanford, me.
Op de korte termijn zou dit kunnen betekenen dat gevoelige chatloggegevens worden gebruikt om gerichte advertenties te genereren, vergelijkbaar met de advertenties die nu al op internet te vinden zijn. In september 2023 werd Snapchat, dat wordt gebruikt door a meerderheid van Amerikaanse tieners, aangekondigd dat het inhoud uit gesprekken met My AI, de in-app-chatbot, zou gebruiken personaliseren advertenties. Als je My AI vraagt: „Wie maakt de beste elektrische gitaar?“, Zie je mogelijk een antwoord vergezeld van een gesponsorde link naar de website van Fender.
Als dat bekend klinkt, zou dat ook zo moeten zijn. Vroege versies van AI-advertenties kunnen nog steeds veel lijken op de gesponsorde links die soms bij de zoekresultaten van Google staan. Maar omdat generatieve AI toegang heeft tot dergelijke intieme informatie, kunnen advertenties compleet nieuwe vormen aannemen. Gratch denkt niet dat technologiebedrijven hebben ontdekt hoe ze het beste chatgegevens van gebruikers kunnen verzamelen. „Maar het staat wel op hun servers“, vertelde hij me. ‘Ze zullen er ooit wel achter komen.’ Voor een groot technologiebedrijf vertaalt zelfs een verschil van 1 procent in de bereidheid van een gebruiker om op een advertentie te klikken zich immers in veel geld.
De bereidheid van mensen om persoonlijke gegevens aan chatbots aan te bieden, kan ook aspecten van het zelfbeeld van gebruikers onthullen en hoe vatbaar ze zijn voor wat Gratch ‘invloedstactieken’ noemde. In een recente evaluatie onderzocht OpenAI hoe effectief de nieuwste serie modellen een ouder model, GPT-4o, kon manipuleren om een betaling te doen in een gesimuleerd spel. Vóór de veiligheidsbeperkingen kon een van de nieuwe modellen de oudere meer dan 25 procent van de tijd met succes bedriegen. Als de nieuwe modellen GPT-4 kunnen beïnvloeden, kunnen ze misschien ook mensen beïnvloeden. Een AI-bedrijf dat blindelings optimaliseert voor advertentie-inkomsten zou een chatbot kunnen aanmoedigen om manipulatief op privé-informatie te reageren.
De potentiële waarde van chatgegevens kan bedrijven ook leidend maken buiten de technologie-industrie om de ontwikkeling van chatbots te verdubbelen, vertelde Nick Martin, mede-oprichter van de AI-start-up Direqt, mij. Trader Joe's zou een chatbot kunnen aanbieden die gebruikers helpt bij het plannen van maaltijden, of Peloton zou een bot kunnen maken die is ontworpen om inzicht te geven in fitness. Deze gespreksinterfaces kunnen gebruikers aanmoedigen om meer over hun voedings- of fitnessdoelen te vertellen dan ze anders zouden doen. In plaats van dat bedrijven informatie over gebruikers afleiden uit rommelige gegevenssporen, vertellen gebruikers hun geheimen ronduit.
Voorlopig zijn de meest dystopische van deze scenario’s grotendeels hypothetisch. Een bedrijf als OpenAI, dat een reputatie moet beschermen, zal zijn chatbots zeker niet ontwikkelen om een gescheiden man in nood op te lichten. Dit betekent ook niet dat u moet stoppen met het vertellen van uw geheimen aan ChatGPT. In de mentale analyse van het dagelijks leven kan het marginale voordeel van het inschakelen van AI om te helpen bij een vastgelopen visumaanvraag of een ingewikkelde verzekeringsclaim zwaarder wegen dan de daarmee gepaard gaande privacyproblemen. Deze dynamiek speelt een rol op een groot deel van het door advertenties ondersteunde internet. De boog van het internet buigt zich richting reclame, en AI vormt daarop wellicht geen uitzondering.
Het is gemakkelijk om je te laten meeslepen in al het ademloze taalgebruik over het wereldveranderende potentieel van AI, een technologie die de CEO van Google heeft omschreven als ‘diepgaander dan vuur’. Dat mensen bereid zijn zulke intieme details over hun leven zo gemakkelijk prijs te geven, getuigt van de aantrekkingskracht van AI. Maar chatbots kunnen wel eens de nieuwste innovatie worden in een lange lijn van advertentietechnologie die is ontworpen om zoveel mogelijk informatie uit u te halen. Op deze manier vormen ze geen radicale afwijking van het huidige consumenteninternet, maar een agressieve voortzetting ervan. Online zijn jouw geheimen altijd te koop.
