BESTANDSFOTO: Voormalig OpenAI-werknemer, Suchir Balaji, werd op 26 november dood aangetroffen in zijn appartement in San Francisco. | Fotocredit: X
26 jaar oud Suchir Balaji werd dood aangetroffen in zijn appartement in San Francisco op 26 november. Hij was vier jaar onderzoeker bij OpenAI voordat hij de door Microsoft gesteunde startup verliet vanwege meningsverschillen over eerlijk gebruik en auteursrechtbeleid.
Zijn plotselinge dood heeft de industrie geschokt. Het nieuws komt drie maanden nadat Balaji sprak De New York Times, in een lang interview, tegen OpenAI’s onbeschaamde gebruik van auteursrechtelijk beschermde gegevens en hoe dit illegaal was en waarom het uiteindelijk het internet zou kunnen schaden.
Balaji onthulde dat hij in augustus was gestopt omdat hij niet achter de acties van OpenAI kon staan. Hij vertelde dat hij van plan was zijn eigen ambities in de AI-sector na te streven.
Tijdens zijn tijd bij OpenAI had Balaji ook anderhalf jaar aan het branchebepalende product van het bedrijf, ChatGPT, gewerkt.
Na zijn afstuderen aan Berkeley liep Balaji stage bij OpenAI en datalabeling startup Scale AI. In 2020 trad hij uiteindelijk fulltime in dienst bij OpenAI. Een paar jaar later begon hij gegevens te verzamelen om nieuwe vlaggenschip-AI-modellen voor te trainen bij OpenAI, waaronder GPT-4. Zolang zijn onderzoek beperkt bleef tot intern gebruik, vond Balaji het prima om digitale data te gebruiken om AI-modellen te trainen.
Maar zijn mening veranderde nadat OpenAI ChatGPT in november 2022 algemeen uitbracht. De AI-chatbot raakte een gevoelige snaar bij gebruikers en werd een groot succes, waardoor hij een winstgevende route nastreefde.
Eindelijk, nadat aan het licht kwam dat OpenAI zonder onderscheid gegevens had doorzocht, waaronder prominente nieuwsuitgevers De New York Times heeft zelf auteursrechtzaken aangespannen.
Vervolgens nam Balaji in oktober contact op met het verkooppunt om over zijn bevindingen te praten.
In een tweet zei Balaji dat hij aanvankelijk “niet veel wist over auteursrecht, redelijk gebruik, enz., maar nieuwsgierig werd na het zien van alle rechtszaken die tegen GenAI-bedrijven waren aangespannen. Toen ik het probleem beter probeerde te begrijpen, kwam ik uiteindelijk tot de conclusie dat redelijk gebruik een tamelijk onwaarschijnlijke verdediging lijkt voor veel generatieve AI-producten, om de fundamentele reden dat ze vervangers kunnen maken die concurreren met de gegevens die ze hebben getraind. op.“
Daarnaast plaatste hij een blog waarin hij zei dat bedrijven als OpenAI en Microsoft beweren dat ze hun AI-modellen zouden kunnen trainen met behulp van vrij beschikbare gegevens van internet, omdat ze voldoen aan de eis van ‘fair use’ in de Amerikaanse Copyright Act.
Volgens zijn blog zouden deze AI-modellen, ook al kopieerden ze de trainingsgegevens niet rechtstreeks, hoogstwaarschijnlijk uitgebraakte informatie bevatten die door de hele output heen gemengd is. Deze grote taalmodellen moesten herhaaldelijk en herhaaldelijk op elk datapunt worden getraind, en tegen het einde hebben ze meestal de neiging de tekst letterlijk uit het hoofd te leren.
Hij legde ook uit dat de AI-chatbot op deze manier eenvoudigweg verkeer van andere gemeenschappen, zoals Stack Overflow, een openbare vraag- en antwoordwebsite voor computerprogrammeurs, naar zichzelf toe trok. In wezen zou dit leiden tot duplicatie van gegevens online.
Ten slotte voegde hij er ook aan toe dat dit geen exclusief probleem was voor ChatGPT of OpenAI, maar een probleem waarmee elk ander generatief AI-product te maken heeft.
De dag voordat de politie van San Francisco het lichaam van Balaji in zijn appartement vond, had een rechtbank de onderzoeker genoemd in een auteursrechtzaak tegen OpenAI. Als compromis te goeder trouw stemde OpenAI ermee in om in Balaji’s dossier te zoeken naar documenten die verband hielden met de zorgen die hij had geuit.
In de tijd dat Balaji’s interview uitkwam, maakte OpenAI een nieuwe fase van onrust door. Investeerders hadden zojuist voor 6,6 miljard dollar aan fondsen gestort en het bedrijf werd geconfronteerd met een uittocht van talent. Leidinggevenden op hoog niveau, waaronder Chief Technology Officer Mira Murati, Chief Research Officer Bob McCrew en Vice President Research, Barret Zoph, waren allemaal gestopt.
Een rapport van Bedraad vertelde dat het vertrek het gevolg was van de koerswijziging van het bedrijf van onderzoek naar product, wat voor veel werknemers een controversiële mentaliteitsverandering was.
OpenAI is geleidelijk afgestapt van zijn oorsprong als non-profitorganisatie. In 2019 werd het omgezet in een ‘afgetopte winst’, waarbij de non-profitorganisatie de bestuursentiteit werd van een dochteronderneming met winstoogmerk. Vervolgens werd op 26 september gemeld dat OpenAI bezig was zich om te vormen tot een bedrijf met volledige winstoogmerk.
Gepubliceerd – 14 december 2024 15:29 uur IST
