Back in 2022, toen ChatGPT arriveerde, maakte ik deel uit van de eerste golf gebruikers. Opgetogen maar ook een beetje onzeker wat ik ermee moest doen, vroeg ik het systeem om allerlei willekeurige dingen te genereren. Een nummer over George Floyd in de stijl van Bob Dylan. Een menu voor een vegetarisch etentje. Een briefingpaper over alternatieve scheepvaarttechnologieën.
De kwaliteit van wat het produceerde was variabel, maar het maakte iets duidelijk dat nu nog duidelijker is dan toen. Dat deze technologie niet alleen speelgoed was. In plaats daarvan is de komst ervan een keerpunt in de menselijke geschiedenis. De komende jaren en decennia zal AI elk aspect van ons leven transformeren.
Maar we bevinden ons ook op een keerpunt voor degenen onder ons die hun brood verdienen met woorden, en inderdaad voor iedereen die zich bezighoudt met de creatieve kunsten. Of je nu schrijver, acteur, zanger, filmmaker, schilder of fotograaf bent, een machine kan nu doen wat jij doet, direct en voor een fractie van de kosten. Misschien kan hij het nog niet zo goed als jij, maar zoals de Tyrannosaurus rex in de achteruitkijkspiegel in het origineel Jurassic Parkhet wint je, en snel.
Geconfronteerd met het idee van machines die alles kunnen doen wat mensen kunnen, hebben sommigen het gewoon opgegeven. Lee Sedol, de Go Grandmaster die in 2016 werd verslagen door het AlphaGo-systeem van DeepMind, ging ter plekke met pensioen en verklaarde dat AlphaGo “een entiteit die niet verslagen kon worden”en dat van hem “De hele wereld stortte in”.
Anderen hebben de aangeboren superioriteit van door mensen gemaakte kunst beweerd, waarbij ze in feite de karren rond het idee cirkelden dat er iets in de dingen die we maken zit dat niet door technologie kan worden gerepliceerd. In de woorden van Nick Cave:
Liederen ontstaan uit lijden … de complexe, interne menselijke strijd van de schepping … (maar) algoritmen voelen niet. Data hebben er niet onder te lijden… Wat een geweldig nummer geweldig maakt, is niet de grote gelijkenis met een herkenbaar werk. Een goed nummer schrijven is geen nabootsing, replicatie of pastiche, het is het tegenovergestelde. Het is een daad van zelfmoord die alles vernietigt waar men in het verleden naar heeft gestreefd.
Het is een aantrekkelijke positie, en ik zou graag willen geloven – maar helaas doe ik dat niet. Omdat het ons niet alleen verplicht tot een hopeloos simplistisch – en, eerlijk gezegd, reactionair – binair systeem, waarin het menselijke intrinsiek goed is, en het kunstmatige intrinsiek slecht, het betekent ook dat de categorie van de schepping die we verdedigen extreem klein is. Willen we het werk dat we waarderen echt beperken tot die torenhoge kunstwerken die voortkomen uit een diep gevoel? Hoe zit het met kostuumontwerp en illustratie, boekrecensies en alle andere dingen die mensen maken? Maken ze er niet toe?
Misschien is het proces van de schepping zelf een betere plek om de verdediging van de menselijke creativiteit te beginnen. Want als we iets maken, is het eindproduct niet het enige dat telt. In feite is het misschien niet eens het belangrijkste. Er schuilt ook waarde in het maken, in het ambacht en in de zorg ervoor. Deze waarde zit niet in de dingen die we maken, maar in de creatieve arbeid waarmee we ze maken. De wisselwerking tussen onze geest en ons lichaam en wat we maken is wat iets nieuws – enig begrip of aanwezigheid – in de wereld brengt. Maar de handeling van het maken verandert ons ook. Dat kan vreugdevol zijn, en op andere momenten kan het frustrerend of zelfs pijnlijk zijn. Niettemin verrijkt het ons op manieren die simpelweg het aanzetten van een machine om iets voor ons te genereren nooit zal lukken.
Wat hier gebeurt, gaat niet over het de vrije loop laten van onze verbeelding, maar over het uitbesteden ervan. Generatieve AI verwijdert een deel van wat ons menselijk maakt en draagt het over aan een bedrijf, zodat zij ons een product kunnen verkopen dat beweert hetzelfde te doen. Met andere woorden: het werkelijke doel van deze systemen is niet bevrijding, maar winst. Vergeet de vlotte marketingslogans over het verhogen van de productiviteit of het ontketenen van ons potentieel. Deze systemen zijn niet ontworpen om ons als individu of als samenleving ten goede te komen. Ze zijn ontworpen om het vermogen van technologiebedrijven om waarde te extraheren te maximaliseren door de industrieën die ze ontwrichten te strippen.
Deze realiteit is vooral grimmig in de creatieve industrie. Omdat het vermogen van AI-systemen om verhalen, afbeeldingen en video's te toveren, niet uit het niets kwam. Om deze dingen te kunnen maken, moeten AI’s worden getraind op enorme hoeveelheden data. Deze datasets worden gegenereerd op basis van publiekelijk beschikbare informatie: boeken, artikelen, Wikipedia-artikelen enzovoort in het geval van tekst; video's en afbeeldingen in het geval van visuele gegevens.
Wat deze werken precies zijn, is al zeer omstreden. Sommige, zoals Wikipedia en boeken waarop geen auteursrechten rusten, bevinden zich in het publieke domein. Maar veel – en mogelijk het meeste – is dat niet. Hoe kon ChatGPT een nummer over George Floyd schrijven in de stijl van Bob Dylan zonder toegang tot de nummers van Dylan? Het antwoord is dat dit niet kon. Het kon Dylan alleen maar imiteren omdat zijn teksten deel uitmaakten van de dataset waarmee het werd getraind.
Door de geheimzinnigheid van deze bedrijven en het feit dat de systemen zelf in feite zwarte dozen zijn, waarvan de innerlijke processen zelfs voor de makers ervan ondoorzichtig zijn, is het moeilijk om precies te weten wat een individuele AI heeft binnengehaald. Wat we wel zeker weten, is dat er enorme hoeveelheden auteursrechtelijk beschermd materiaal zijn is al in deze systemen ingevoerden wordt er op dit moment nog steeds aan toegevoegd, allemaal zonder toestemming of betaling.
Maar AI erodeert niet alleen stapsgewijs de rechten van auteurs en andere makers. Deze technologieën zijn ontworpen om creatieve werknemers volledig te vervangen. De schrijver en kunstenaar James Bridle heeft dit proces vergeleken met de omheining van de commonsmaar hoe je het ook wendt of keert, wat we zien is niet rechtvaardig “systematische diefstal op grote schaal”Het gaat om de opzettelijke en doelbewuste vernietiging van hele industrieën en de overdracht van hun waarde aan de aandeelhouders in Silicon Valley.
na nieuwsbriefpromotie
Deze ongebreidelde roofzucht is niet nieuw. Ondanks dat advertentiecampagnes zorg en verbinding beloven, is het hele model van de technologie-industrie afhankelijk van extractie en exploitatie. Van uitgeverijen tot transportbedrijven hebben technologiebedrijven een model gehanteerd dat erop gericht is zich in traditionele industrieën te integreren en deze te ‘ontwrichten’ door de regelgeving te omzeilen en zwaarbevochten rechten te omzeilen of eenvoudigweg zaken af te schermen die voorheen deel uitmaakten van de publieke sfeer. Op dezelfde manier waarop Google creatieve werken heeft verzameld om zijn bibliotheken te maken, technologieën voor het delen van bestanden de muziekindustrie hebben verwoest, en het model van Uber afhankelijk is van het betalen van zijn chauffeurs minder dan taxibedrijven, maximaliseert AI zijn winst door te weigeren de makers van het materiaal waarvan het afhankelijk is te betalen. .
Ondertussen is de mens milieu En sociale kosten van deze technologieën worden zorgvuldig uit het zicht gehouden.
Interessant genoeg lijkt het gevoel van machteloosheid en verlamming dat velen van ons voelen in het licht van de sociale en culturele transformatie die door AI wordt teweeggebracht, op ons onvermogen om te reageren op de klimaatverandering. Ik denk niet dat dat toeval is. Bij beide bestaat er een diepgaande discrepantie tussen de omvang van wat er gebeurt en ons vermogen om het te conceptualiseren. We vinden het moeilijk om ons fundamentele veranderingen voor te stellen, en als we ermee worden geconfronteerd, hebben we de neiging in paniek te raken of ons gewoon af te sluiten.
Maar het komt ook omdat we, net als bij de klimaatverandering, zijn misleid door te denken dat er geen alternatieven zijn, en dat de economische systemen waarin we leven natuurlijk zijn, en dat ruzie met hen net zo logisch is als ruzie met de wind.
In feite is het tegendeel waar. Bedrijven als Meta en Alphabet en, meer recentelijk, OpenAI, hebben hun buitengewone rijkdom en macht alleen bereikt dankzij zeer specifieke regelgevende en economische omstandigheden. Deze regelingen kunnen worden gewijzigd. Dat ligt binnen de macht van de overheid, en daar moeten we op aandringen. Er lopen momenteel rechtszaken in een aantal rechtsgebieden waarin wordt geprobeerd de massale onteigening van het werk van kunstenaars en schrijvers door AI-bedrijven te beschouwen als een inbreuk op het auteursrecht. De uitkomst van deze zaken is nog niet duidelijk, maar zelfs als de makers verliezen, is dat gevecht nog niet voorbij. Het gebruik van ons werk om AI’s te trainen moet onder de bescherming van het auteursrechtsysteem worden gebracht.
En daar moeten we niet bij blijven. We moeten aandringen op betaling voor het werk dat is gebruikt, betaling voor al het toekomstige gebruik en een einde maken aan de praktijk van de technologie-industrie om eerst te nemen en later om vergeving te vragen. Hun gebruik van auteursrechtelijk beschermd materiaal zonder toestemming was niet toevallig. Ze deden het expres, omdat ze dachten dat ze ermee weg konden komen. Het wordt tijd dat ze ermee ophouden ermee weg te komen.
Om dat te laten gebeuren hebben we regelgevingsstructuren nodig die transparantie garanderen over welke datasets worden gebruikt om deze systemen te trainen en wat zich in die datasets bevindt. En auditsystemen om ervoor te zorgen dat auteursrechten en andere vormen van intellectueel eigendom niet worden geschonden, en die zinvolle sancties opleggen als dat wel het geval is. En we moeten aandringen op internationale overeenkomsten die de rechten van kunstenaars en andere makers beschermen in plaats van de winsten van bedrijven te faciliteren.
Maar bovenal moeten we goed nadenken over waarom wat we doen als mensen, en als makers en kunstenaars in het bijzonder, er toe doet. Omdat het niet genoeg is om je zorgen te maken over wat er verloren gaat, of om een achterhoedegevecht tegen deze technologieën te voeren. We moeten positieve argumenten gaan formuleren voor de waarde van wat we doen, en voor creativiteit in bredere zin, en nadenken over welke vorm dat zou kunnen aannemen in een wereld waarin AI een alomtegenwoordige realiteit is.
-
Dit is een bewerkte versie van de Colin Simpson Memorial Keynote-lezing van de Australian Society of Authors 2024, getiteld 'Creative Futures: Imagining a place for creativiteit in een wereld van kunstmatige intelligentie'
