Encode, de non-profitorganisatie die California’s mede sponsorde noodlottig SB 1047 De AI-veiligheidswetgeving heeft toestemming gevraagd om een amicusbrief in te dienen ter ondersteuning van die van Elon Musk bevel om de transitie van OpenAI naar een bedrijf met winstoogmerk een halt toe te roepen.
In een voorgestelde korte Vrijdagmiddag ingediend bij de Amerikaanse districtsrechtbank voor het noordelijke district van Californië, zei de raadsman van Encode dat de conversie van OpenAI naar een winstoogmerk de missie van het bedrijf zou “ondermijnen” om “transformatieve technologie te ontwikkelen en in te zetten op een manier die veilig en nuttig is. voor het publiek.”
“OpenAI en zijn CEO, Sam Altman, beweren dat ze technologie ontwikkelen die de samenleving transformeert, en die beweringen moeten serieus worden genomen”, aldus de brief. ‘Als de wereld werkelijk aan de vooravond van een nieuw tijdperk staat kunstmatige algemene intelligentie (AGI)dan heeft het publiek er groot belang bij dat die technologie wordt beheerd door een publieke liefdadigheidsinstelling die wettelijk verplicht is prioriteit te geven aan veiligheid en het algemeen belang, in plaats van een organisatie die zich richt op het genereren van financieel rendement voor een paar bevoorrechte investeerders.”
OpenAI werd in 2015 opgericht als een non-profit onderzoekslaboratorium. Maar naarmate de experimenten steeds kapitaalintensiever werden, werd het ook steeds kapitaalintensiever gemaakt de huidige structuur, waarbij externe investeringen van durfkapitaalfondsen en bedrijven worden overgenomen, inbegrepen Microsoft.
Tegenwoordig heeft OpenAI een hybride structuur: een kant met winstoogmerk die wordt gecontroleerd door een non-profitorganisatie met een ‘afgetopt winstaandeel’ voor investeerders en werknemers. Maar bij een blogpost vanochtend maakte het bedrijf bekend dat het van plan is zijn bestaande winstgevende onderneming om te vormen naar een Delaware Public Benefit Corporation (PBC), met gewone aandelen en de OpenAI-missie als zijn algemeen belang.
De non-profitorganisatie van OpenAI blijft bestaan, maar zal de controle afstaan in ruil voor aandelen in de PBC.
Musk, een van de eerste bijdragers aan de oorspronkelijke non-profitorganisatie, heeft in november een aanklacht ingediend waarin hij om een bevel verzocht om de voorgestelde verandering, die al lang in de maak is, stop te zetten. Hij beschuldigde OpenAI ervan zijn oorspronkelijke filantropische missie, namelijk het voor iedereen beschikbaar maken van de vruchten van zijn AI-onderzoek, op te geven en rivalen van kapitaal te beroven – inclusief zijn AI-startup, xAI – door middel van concurrentiebeperkende middelen.
OpenAI heeft genaamd De klachten van Musk zijn “ongegrond” en eenvoudigweg een geval van zure druiven.
Facebook’s moederbedrijf en AI-rivaal, Meta, ondersteunt ook pogingen om de conversie van OpenAI te blokkeren. In december heeft Meta verstuurd een brief aan de Californische procureur-generaal Rob Bonta, waarin hij betoogt dat het toestaan van de verschuiving ‘seismische gevolgen zou hebben voor Silicon Valley’.
Advocaten van Encode zeiden dat de plannen van OpenAI om de controle over zijn activiteiten over te dragen aan een PBC “een organisatie die aan de wet gebonden is om de veiligheid van geavanceerde AI te garanderen, zou veranderen in een organisatie die aan de wet gebonden is om de overweging van enig openbaar voordeel ‘in evenwicht te brengen’ met ‘de geldelijke belangen’. belangen van (haar) aandeelhouders.”
De raadsman van Encode merkt in de brief bijvoorbeeld op dat de non-profitorganisatie van OpenAI heeft beloofd te stoppen met concurreren met elk “op waarde afgestemd, veiligheidsbewust project” dat in de buurt komt van het bouwen van AGI voordat het dat doet, maar dat OpenAI als winstoogmerk dit zou hebben gedaan minder (of geen) prikkel om dit te doen. De brief wijst er ook op dat het bestuur van de non-profitorganisatie OpenAI niet langer in staat zal zijn om het eigen vermogen van investeerders in te trekken als dat nodig is voor de veiligheid zodra de herstructurering van het bedrijf is voltooid.
OpenAI blijft ervaren een uitstroom van hoog niveau talent deels vanwege de bezorgdheid dat het bedrijf voorrang geeft aan commerciële producten ten koste van de veiligheid. Een voormalige werknemer, Miles Brundage, een oude beleidsonderzoeker die OpenAI in oktober verliet, zei in een reeks berichten op X dat hij zich zorgen maakt dat de non-profitorganisatie van OpenAI een “bijzaak” wordt die de PBC toestemming geeft om als een “normaal bedrijf” te opereren zonder potentieel problematische gebieden aan te pakken.
“De aangeprezen fiduciaire plicht van OpenAI jegens de mensheid zou verdwijnen, aangezien de wet van Delaware duidelijk maakt dat de directeuren van een PBC helemaal geen plicht jegens het publiek verschuldigd zijn”, vervolgde Encode’s brief. “Het publieke belang zou worden geschaad als een op veiligheid gerichte non-profitorganisatie met beperkte missies de controle over zoiets transformatiefs tegen elke prijs zou opgeven voor een onderneming met winstoogmerk zonder afdwingbare toewijding aan veiligheid.”
Encode, opgericht in juli 2020 door middelbare scholier Sneha Revanur, omschrijft zichzelf als een netwerk van vrijwilligers dat erop gericht is ervoor te zorgen dat de stem van jongere generaties wordt gehoord in gesprekken over de impact van AI. Encode heeft naast SB 1047 bijgedragen aan verschillende stukken AI-staats- en federale wetgeving, waaronder die van het Witte Huis AI-Bill of Rights en die van president Joe Biden uitvoeringsbesluit op het gebied van AI.
TechCrunch heeft een AI-gerichte nieuwsbrief! Meld u hier aan om hem elke woensdag in je inbox te ontvangen.
