Wanneer tech verboden meer stimuleren dan stymie China

Het debuut van China’s Deepseek Chatbot bevestigt opnieuw dat een van de oudste maxima over menselijk gedrag van toepassing is op de nieuwste technologieën: noodzaak is de moeder van uitvinding en innovatie.

Zowel geopolitieke waanideeën en stockbellen barsten vorige week toen duidelijk werd dat het generatieve AI -model van Deepseek op gelijke voet stond met de beste van het Westen. Meer verbluffend is dat het blijkbaar meestal veel minder geavanceerde chips en kosten gebruikteS Slechts miljoenen te bouwen in vergelijking met de miljarden Amerikaanse grote technologie besteedt aan grote hoeveelheden van de krachtigste halfgeleiders die zijn verboden voor export naar China. De vindingrijkheid van Deepseek’s ingenieurs is grotendeels toegeschreven aan de noodzaak om erachter te komen hoe ze rond westerse beperkingen kunnen werken.

Deze paradox van westerse inspanningen om de technische ontwikkeling van China te belemmeren, is het daadwerkelijk stimuleren dat het niet nieuw is. Als Zheng Yongnian, a
De in Shenzhen gevestigde geleerde die goed naar het Chinese leiderschap luisterde schreef in Noema In 2018 kunnen de al opgelegde technische beperkingen het tempo van China’s sprong voorwaarts vertragen, maar zullen ‘niet in staat zijn om zijn hightech-inhaalslag te stoppen. China’s enorme reserves van staatskapitaal, de substantiële pool van klaar talent en de enorme markt zal het blijven voortzetten. “

Hij vervolgde: ‘Inderdaad, de Verenigde Staten schieten zichzelf in de voet. Amerikaanse handelshaviken kunnen het record van de hedendaagse geschiedenis niet begrijpen, die aantoont dat technologische verboden die door het Westen worden opgelegd, vaker wel dan niet contraproductief zijn wanneer gericht in een bekwaam land.

China was bijvoorbeeld gedwongen om solo te gaan over projecten zoals het bemande ruimtevaartprogramma nadat hij was afgesneden door rigoureus uitsluitingsbeleid dat door het Westen werd opgelegd. Ook hebben strikte technologische verbod van Amerika China gedwongen om enorme nationale investeringen op te stellen die hebben geleid tot zijn uitzonderlijke prestaties bij het bouwen van supercomputers die die van de Verenigde Staten overtreffen. En in de nasleep van de Tiananmen Square-beweging van 1989, heeft het volledige embargo over militaire technologie door het Westen door het Westen China opgelegd en gemotiveerd om onafhankelijke militaire wapensystemen te ontwikkelen. ”

Tegelijkertijd vormen geavanceerde generatieve AI -modellen zoals Deepseek, die piggyback op westerse trainingsgegevens, hun eigen gevaren in China vormen. Wat doen Chinese autoriteiten wanneer deze modellen iets genereren dat niet is toegestaan ​​in een anders strak gecontroleerde informatieruimte? Zullen altijd smarter chatbots uitzoeken hoe ze censoren kunnen omzeilen?

Open Source Vs. Gesloten modellen

Als een goedkoop open-source-model zal Deepseek overal ter wereld op grote schaal beschikbaar en toegankelijk zijn voor iedereen om op te bouwen. Dat zal ongetwijfeld nieuwe golven van innovatie over de hele planeet stimuleren die de dominantie van de gesloten, eigen modellen van grote technologie die AI-ontwikkeling in de LLAMA van de Amerikaanse meta stimuleren, eeuwig zal uitdagen, is de enige open-source uitzondering tussen deze grote Amerikaanse spelers .

Of het nu voor goed of voor zieke is, open-source software getrouwd met de vindingrijkheid van collectieve intelligentie, zullen weinig grenzen kennen.

Voor voormalig Google CEO Eric Schmidt is dit de reden waarom de komst van Deepseek een “keerpunt” is in de wereldwijde AI -competitie die de manier moet veranderen waarop Silicon Valley innoveert.

“De Verenigde Staten hebben al de beste gesloten modellen ter wereld. Om competitief te blijven, moeten we ook de ontwikkeling van een levendig open-source ecosysteem ondersteunen, ”Schmidt geschreven met Dhaval Adjodah in de Washington Post. “De race tussen open- en gesloten-source AI, evenals tussen de Verenigde Staten en China, heeft nog geen duidelijke winnaar. Maar er is duidelijk toenemende druk op de grote technische spelers van Amerika als Deepseek met hen kan concurreren met veel minder middelen.

Het is onwaarschijnlijk dat de Amerikaanse Frontier -modelbedrijven hun bedrijfsmodellen snel zullen veranderen, noch is het onmiddellijk duidelijk dat ze dat zouden moeten doen, ”gingen de auteurs verder. “Open en gesloten concurrentie zal hoogstwaarschijnlijk een natuurlijk evenwicht vinden, met een reeks verschillende aanbiedingen en prijspunten voor verschillende gebruikers.”

Het nadeel van open source

Wanneer Schmidt verwijst dat het geen goed idee is voor de ontwikkeling van gesloten grens AI -model om zich volledig te openen, verwijst hij naar de nadelen van open source.

In een gesprek met Noema Afgelopen mei legde hij zijn zorgen uit.

“Het is altijd handig om de techno-optimisten in mijn wereld eraan te herinneren dat er slechte mensen zijn. En ze zullen uw tools gebruiken om mensen pijn te doen. … Alle technologie is dubbel gebruik. Al deze uitvindingen kunnen worden misbruikt, en het is belangrijk voor de uitvinders om daar eerlijk over te zijn, ‘waarschuwde Schmidt, verwijzend naar allerlei bedreigingen van biowapons en geautomatiseerde oorlogvoering tot diepe desinformatie en gezichtsherkenning voor repressieve doeleinden.

Schmidt ging verder: “In open-source en open-weights modelleert de broncode en de gewichten In modellen (de cijfers die worden gebruikt om de sterkte van verschillende verbindingen te bepalen) worden aan het publiek vrijgegeven. Die gaan onmiddellijk de hele wereld over, en naar wie gaan ze? Ze gaan naar China, natuurlijk gaan ze naar Rusland, ze gaan naar Iran. Ze gaan naar Wit -Rusland en Noord -Korea. Toen ik het meest recent in China was, in wezen al het werk dat ik zag begonnen met open-source modellen uit het westen en werd vervolgens versterkt. ”

Dit is inderdaad het geval met Deepseek.

Terwijl Schmidt verwacht dat de toonaangevende AI -bedrijven in het Westen miljarden in eigen AI -modellen brengen “uiteindelijk strak gereguleerd zullen zijn als ze de capaciteitsladder opgaan (naar kunstmatige algemene intelligentie),” maakt hij zich zorgen “de rest zal het niet.”

Op de vraag naar de wijsheid om de opmars van China te stoppen door de export van chips te verbieden, antwoordde hij: “Ik maak me veel meer zorgen over de verspreiding van open-source. En ik weet zeker dat de Chinezen dezelfde bezorgdheid delen over hoe het kan worden misbruikt tegen zowel hun regering als de onze.

We moeten ervoor zorgen dat open-source modellen veilig worden gemaakt met vangrails in de eerste plaats door wat we noemen ‘Versterking leren van menselijke feedback'(RLHF) dat is verfijnd zodat die vangrails niet kunnen worden’ achteruit ‘door kwaadaardige mensen. Het moet niet gemakkelijk zijn om open-source modellen onveilig te maken zodra ze veilig zijn gemaakt. ”

Net zoals de noodzaak de moeder van de uitvinding is, betekent het karakter van het dubbele gebruik van intelligente technologie ook dat innovatie de moeder is van zijn eigen noodzakelijke regelgeving. Dat moet vooral het geval zijn wanneer de volledig capabele ketting van gedachte redenering AIS in staat stelt hun eigen bureau te verwerven.

“Voor het grootste deel van de geschiedenis”, Deepmind’s Mustafa Suleyman heeft gezegd“De uitdaging van technologie lag in het creëren en ontketenen van zijn kracht. Dat is nu omgedraaid; De uitdaging van technologie vandaag gaat over het bevatten van zijn ontketende kracht, zodat het ons en onze planeet blijft dienen. ”