De invloed van Elon Musk op de regering van Donald Trump zou kunnen leiden tot strengere veiligheidsnormen voor kunstmatige intelligentie vooraanstaande wetenschapper die nauw heeft samengewerkt met de rijkste persoon ter wereld bij het aanpakken van de gevaren van AI.
Max Tegmark zei dat de steun van Musk voor een mislukte AI-wet in Californië de voortdurende bezorgdheid van de miljardair onderstreepte over een kwestie die niet prominent aan bod kwam in de campagne van Trump.
Musk heeft echter regelmatig gewaarschuwd dat de ongebreidelde ontwikkeling van AI – in het algemeen computersystemen die taken uitvoeren waarvoor doorgaans menselijke intelligentie nodig is – catastrofaal zou kunnen zijn voor de mensheid. Vorig jaar was hij er één van ruim 30.000 ondertekenaars op een brief waarin wordt opgeroepen tot een pauze in het werk aan krachtige AI-technologie.
Tegmark zei tegen The Guardian op de Web Summit in Lissabon dat Musk dat naar verwachting ook zal zijn zeer invloedrijk in de regering van de verkozen presidentzou Trump kunnen overtuigen om normen in te voeren die de ontwikkeling van kunstmatige algemene intelligentie (AGI) voorkomen, de term voor AI-systemen die het menselijke intelligentieniveau evenaren of overtreffen.
“Ik denk echt dat als Elon erin slaagt om Trump te horen over AI-kwesties, de kans groter is dat we een of andere vorm van veiligheidsnormen krijgen, iets dat AGI verhindert”, zei hij.
Tegmark, een professor gespecialiseerd in AI aan het Massachusetts Institute of Technology, voegde eraan toe: “Hij zou Trump kunnen helpen begrijpen dat een AGI-race een zelfmoordrace is.”
Tegmark zei dat Musk's steun voor het SB 1047-wetsvoorstel in Californië, ondanks tegenstand van veel van zijn technische collega's, een positief teken was voor AI-veiligheidscampagnevoerders. Het wetsvoorstel, dat bedrijven verplicht om grote AI-modellen aan een stresstest te onderwerpen voordat ze deze vrijgeven, kreeg een veto van de gouverneur van Californië, Gavin Newsom, nadat hij zei dat dit mogelijk zou zijn. drijven AI-bedrijven uit de staat en belemmeren innovatie.
“Elon Musk kwam naar buiten en zei: ik ben ervoor, ik wil de regelgeving. Ik denk dat het niet helemaal onwaarschijnlijk is dat hij Trump ervan kan overtuigen dat AI gecontroleerd moet worden”, aldus Tegmark.
Musk was een vroege voorstander en financieel terugeh van Tegmark's Future of Life Institute, dat campagne voert voor een veiliger gebruik van geavanceerde technologie. De CEO van Tesla en eigenaar van X's Het persoonlijke fortuin is aanzienlijk toegenomen sinds de overwinning van Trump vorige week.
na nieuwsbriefpromotie
Musk lanceerde vorig jaar zijn eigen AI-startup en zei dat de wereld dat nodig had zorgen maken over een “Terminator-toekomst” om het worstcasescenario te voorkomen waarin AI-systemen de menselijke controle ontwijken. Andere AI-professionals hebben betoogd dat het focussen op apocalyptische problemen de aandacht afleidt van de focus op kortetermijnproblemen met AI-systemen, zoals gemanipuleerde en misleidende inhoud.
Trump heeft gezworen een Biden in te trekken uitvoeringsbesluit van de regering inzake AI-veiligheid; Het verkiezingsprogramma van de Republikeinse partij omschreef het als een reeks beperkingen die “radicale linkse ideeën oplegt aan de ontwikkeling van deze technologie”.
Het bevel houdt onder meer in dat bedrijven die risicovolle systemen ontwikkelen – AI-modellen die een bedreiging vormen voor de nationale veiligheid, de economische veiligheid of de gezondheid en veiligheid – verplicht worden hun veiligheidstestresultaten met de overheid te delen.
