Een rechtszaak van de rijkste man ter wereld tegen een van de snelst groeiende bedrijven aller tijden wel noodzakelijkerwijs interessante dingen. Maar hoewel de beschuldigingen nog moeten worden bewezen, heeft de zaak al een reeks e-mails blootgelegd tussen Elon Musk, Sam Altman en anderen tijdens de begindagen van OpenAI. Hier zijn enkele van de interessantere fragmenten die we hebben gevonden tijdens het doornemen van hun correspondentie.
Houd er rekening mee dat deze e-mails openbaar zijn gemaakt als onderdeel van een poging om te bewijzen dat OpenAI op de een of andere manier de antitrustwetgeving overtreedt (een ronduit onwaarschijnlijke bewering). Musk onthult tot op zekere hoogte ook zijn gevoel van verraad toen OpenAI zijn oorspronkelijke visie van een non-profitorganisatie verliet met de CEO van Tesla als leider.
Ze vertellen niet het hele verhaal, maar zijn op zichzelf nog steeds interessant.
Misschien wel de interessantste e-mail is die van voormalig hoofdwetenschapper Ilya Sutskever, waarin hij de twijfels van het team over Musk als leider van het bedrijf uitlegt:
De huidige structuur biedt jullie een pad waar jullie eindigen met eenzijdige absolute controle over de AGI (kunstmatige algemene intelligentie). U heeft verklaard dat u geen controle wilt hebben over de uiteindelijke AGI, maar tijdens deze onderhandelingen heeft u ons laten zien dat absolute controle uiterst belangrijk voor u is.
U zei bijvoorbeeld dat u CEO van het nieuwe bedrijf moest worden, zodat iedereen weet dat u degene bent die de leiding heeft, ook al zei u ook dat u het haat om CEO te zijn en dat u dat liever niet zou zijn.
Daarom zijn wij bezorgd dat naarmate het bedrijf echte vooruitgang boekt in de richting van AGI, u ervoor zult kiezen om uw absolute controle over het bedrijf te behouden, ondanks de huidige intentie om het tegendeel te bewijzen.
Het doel van OpenAI is om de toekomst goed te maken en een AGI-dictatuur te voorkomen. U bent bezorgd dat Demis (Hassabis, bij DeepMind, eigendom van Google) een AGI-dictatuur zou kunnen creëren. Wij ook. Het is dus een slecht idee om een structuur te creëren waarin je een dictator kunt worden als je dat wilt, vooral omdat we een andere structuur kunnen creëren die deze mogelijkheid vermijdt.
Dit gaat niet alleen maar over bedrijfscontrole; Sutskever maakt zich zorgen over het feit dat er een existentiële AI-dreiging ontstaat als er maar één persoon in de weg staat.
Sutskever uit ook zijn zorgen over Altman, waarbij hij woorden gebruikt die lijken op die van het bestuur, terwijl hij hem ervan beschuldigt niet “consequent openhartig” te zijn:
We hebben tijdens dit proces uw oordeel niet volledig kunnen vertrouwen, omdat we uw kostenfunctie niet begrijpen.
We begrijpen niet waarom de titel van CEO zo belangrijk voor u is. De door u aangegeven redenen zijn veranderd en het is moeilijk om echt te begrijpen wat hier de oorzaak van is.
Is AGI werkelijk uw voornaamste motivatie? Hoe sluit het aan bij uw politieke doelstellingen?
Gezien de manier waarop de zaken zich hebben ontwikkeld en Altman's sturing van het bedrijf in de richting van een veel traditionelere SaaS-positie voor ondernemingen, lijkt het erop dat zijn doel meer zakelijk dan filosofie was.
Een interessant weetje is dat al in 2017 OpenAI overweegt serieus chipmaker Cerebras over te nemenof er op de een of andere manier mee samensmelten, waarbij mogelijk op de een of andere manier de middelen van Tesla worden gebruikt. Zoals Sutskever het zegt:
Als we besluiten Cerebras te kopen, heb ik het sterke gevoel dat dit via Tesla zal gebeuren.
Ze hebben er uiteindelijk niet mee doorgegaan, hoewel de reden waarom niet in deze e-mails staat.
Dit was trouwens nog in de tijd dat Musk wilde dat OpenAI slechts een van zijn vele eigenschappen zou zijn, en de leiders stonden open voor die mogelijkheid. Zoals Andrej Karpathy, medeoprichter van OpenAI, schreef:
De meest veelbelovende optie die ik kan bedenken, zoals ik al eerder zei, zou zijn dat OpenAI zich aan Tesla hecht als zijn melkkoe. (…) Als we dit echt goed doen, is de transportsector groot genoeg om de marktkapitalisatie van Tesla te kunnen verhogen tot een hoge O (~100.000), en die inkomsten te gebruiken om het AI-werk op de juiste schaal te financieren.
Nogmaals, dit gebeurde niet om een heleboel redenen die achteraf gezien duidelijk lijken. De marktkapitalisatie van Tesla is inderdaad toegenomen, maar de zelfrijdende kant van de zaak – die Karpathy later wilde versnellen toen hij bij Tesla ging werken – bleek moeilijker dan verwacht en heeft nog niet betekenisvol bijgedragen aan de inkomsten van Tesla.
Wat het verdienen van geld betreft, zat Microsoft al in 2016 in de mix en bood OpenAI $60 miljoen aan rekenkracht op Azure aan in ruil voor, onder andere, de bedrijven die elkaar ‘evangeliseerden’. Niemand leek geïnteresseerd in dit soort bedrijfskritiek, en Musk schreef dat hij er ‘misselijk van werd’.
Uiteindelijk betaalden ze veel meer, maar zonder enige verplichting van beide kanten. “Het zou veel meer dan 50 miljoen dollar waard zijn als ik niet de marketing-bitch van Microsoft zou lijken”, schreef Musk.
Tenslotte nog een kleinigheidje genoemd door bestuurslid Shivon Zilis (die later moeder zou worden van drie van Musk’s kinderen): Valve-oprichter Gabe Newell was, naast donateur aan het project in de beginperiode, ook betrokken bij Altman en Greg Brockman’s “ informele adviesraad.” Het is onduidelijk welke rol hij daar in de dagelijkse praktijk had of heeft. Ik heb Newell om commentaar gevraagd.
