Suchir Balaji, een voormalige OpenAI-ingenieur en klokkenluider die hielp bij het trainen van de kunstmatige intelligentiesystemen achter ChatGPT en later zei dat hij geloofde dat deze praktijken in strijd waren met de auteursrechtwetgeving, is overleden, volgens zijn ouders en functionarissen in San Francisco. Hij was 26.
Balaji werkte bijna vier jaar bij OpenAI voordat hij in augustus stopte. Hij stond hoog aangeschreven bij collega’s van het bedrijf uit San Francisco, waar een mede-oprichter hem deze week een van de sterkste bijdragers van OpenAI noemde, die essentieel was voor de ontwikkeling van sommige van zijn producten.
“We zijn er kapot van om dit ongelooflijk trieste nieuws te vernemen en onze gedachten gaan uit naar de dierbaren van Suchir in deze moeilijke tijd”, aldus een verklaring van OpenAI.
Balaji werd op 26 november dood aangetroffen in zijn appartement in San Francisco. Volgens de politie leek het “een zelfmoord te zijn. Tijdens het eerste onderzoek zijn geen aanwijzingen voor kwaad opzet gevonden.” Het hoofd van de medische onderzoeker van de stad bevestigde dat de doodsoorzaak zelfmoord was.
Zijn ouders Poornima Ramarao en Balaji Ramamurthy zeiden dat ze nog steeds op zoek zijn naar antwoorden. Ze omschrijven hun zoon als een ‘gelukkige, slimme en moedige jongeman’ die graag wandelde en onlangs terugkwam van een reis met vrienden.
Balaji groeide op in de San Francisco Bay Area en arriveerde voor het eerst in het jonge AI-onderzoekslaboratorium voor een zomerstage in 2018, terwijl hij computerwetenschappen studeerde aan de University of California, Berkeley. Een paar jaar later keerde hij terug om bij OpenAI te gaan werken, waar een van zijn eerste projecten, WebGPT genaamd, de weg vrijmaakte voor ChatGPT.
“De bijdragen van Suchir aan dit project waren essentieel, en zonder hem zou het niet gelukt zijn”, zegt OpenAI-medeoprichter John Schulman in een post op sociale media ter herdenking van Balaji. Schulman, die Balaji voor zijn team rekruteerde, zei dat wat hem tot zo’n uitzonderlijke ingenieur en wetenschapper maakte, zijn aandacht voor detail was en zijn vermogen om subtiele bugs of logische fouten op te merken.
“Hij had een talent voor het vinden van eenvoudige oplossingen en het schrijven van elegante code die werkte”, schreef Schulman. „Hij dacht zorgvuldig en rigoureus over de details van de dingen na.“
Balaji schakelde later over op het organiseren van de enorme datasets van online geschriften en andere media die werden gebruikt om GPT-4 te trainen, de vierde generatie van OpenAI’s vlaggenschip grote taalmodel en een basis voor de beroemde chatbot van het bedrijf. Het was dat werk dat er uiteindelijk voor zorgde dat Balaji de technologie die hij hielp bouwen in twijfel trok, vooral na kranten en romanschrijvers en anderen begon OpenAI en andere AI-bedrijven aan te klagen wegens inbreuk op het auteursrecht.
Hij uitte zijn zorgen voor het eerst bij The New York Times, die er in oktober verslag van deed profiel van Balaji.
Later vertelde hij The Associated Press dat hij zou “proberen te getuigen” in de sterkste gevallen van inbreuk op het auteursrecht en overwoog een rechtszaak aangespannen De New York Times was vorig jaar de ‘meest serieuze’. Advocaten van de Times noemden hem in een rechtszaak van 18 november als iemand die mogelijk over “unieke en relevante documenten” beschikt die de beschuldigingen van OpenAI’s opzettelijke inbreuk op het auteursrecht ondersteunen.
Zijn gegevens werden ook door advocaten opgevraagd in een afzonderlijke zaak die was aangespannen door boekauteurs, waaronder de cabaretier Sarah Silverman, volgens een rechtszaak.
„Het voelt niet goed om te trainen op de gegevens van mensen en vervolgens met hen te concurreren op de markt“, vertelde Balaji eind oktober aan de AP. “Ik denk niet dat je dat zou moeten kunnen doen. Ik denk niet dat je dat legaal kunt doen.”
Hij vertelde de AP dat hij geleidelijk meer gedesillusioneerd raakte door OpenAI, vooral daarna de interne onrust Dat leidde ertoe dat de raad van bestuur vorig jaar CEO Sam Altman ontsloeg en vervolgens opnieuw aannam. Balaji zei dat hij zich in grote lijnen zorgen maakte over de manier waarop de commerciële producten zich ontwikkelden, inclusief hun neiging om valse informatie te verspreiden die bekend staat als hallucinaties.
Maar over de ‘zak met problemen’ waar hij zich zorgen over maakte, zei hij dat hij zich concentreerde op het auteursrecht, omdat het ‘eigenlijk mogelijk was er iets aan te doen’.
Hij erkende dat het een impopulaire mening was binnen de AI-onderzoeksgemeenschap, die gewend is gegevens van internet te halen, maar zei dat “ze zullen moeten veranderen en dat het een kwestie van tijd is.”
Hij was niet afgezet en het is onduidelijk in hoeverre zijn onthullingen na zijn dood als bewijs zullen worden toegelaten in eventuele rechtszaken. Hij publiceerde ook een persoonlijke blogpost met zijn mening over het onderwerp.
Schulman, die in augustus ontslag nam bij OpenAI, zei dat hij en Balaji toevallig op dezelfde dag vertrokken en die avond met collega’s vierden met een diner en een drankje in een bar in San Francisco. Een andere mentor van Balaji, medeoprichter en hoofdwetenschapper Ilya Sutskever, had OpenAI verlaten enkele maanden eerderwat Balaji zag als een nieuwe impuls om te vertrekken.
Schulman zei dat Balaji hem eerder dit jaar had verteld over zijn plannen om OpenAI te verlaten en dat Balaji niet dacht dat de beter dan menselijke AI, bekend als kunstmatige algemene intelligentie, “voor de deur stond, zoals de rest van het bedrijf leek te geloven. .” De jongere ingenieur toonde interesse in het behalen van een doctoraat en het onderzoeken van “nog meer buiten de gebaande paden gelegen ideeën over het opbouwen van intelligentie”, zei Schulman.
Balaji’s familie zei dat er later deze maand een herdenking gepland staat in het India Community Center in Milpitas, Californië, niet ver van zijn geboorteplaats Cupertino.
—————-
NOOT VAN DE REDACTIE — Dit verhaal bevat een discussie over zelfmoord. Als u of iemand die u kent hulp nodig heeft, kunt u in de VS de nationale zelfmoord- en crisishulplijn bereiken door 988 te bellen of te sms’en.
—————–
De Associated Press en OpenAI hebben een licentie- en technologieovereenkomst waardoor OpenAI toegang krijgt tot een deel van de tekstarchieven van de AP.
