De Brits-Canadese computerwetenschapper wordt vaak aangeprezen als een ‘peetvader’ van de kunstmatige intelligentie heeft de kans kleiner gemaakt dat AI de mensheid de komende dertig jaar zal uitroeien, waarbij wordt gewaarschuwd dat het tempo van de veranderingen in de technologie “veel sneller” is dan verwacht.
Prof Geoffrey Hinton, die dit jaar de prijs ontving Nobelprijs voor de natuurkunde voor zijn werk op het gebied van AIzei dat er een kans van “10% tot 20%” was dat AI binnen de komende drie decennia tot het uitsterven van de mens zou leiden.
Eerder had Hinton gezegd dat dat zo was een kans van 10% op de technologie met catastrofale gevolgen voor de mensheid tot gevolg.
Gevraagd in het Today-programma van BBC Radio 4 of hij zijn analyse van een potentiële AI-apocalyps en de kans van één op tien dat dit zou gebeuren, had veranderd, zei hij: “Niet echt, 10% tot 20%.”
De inschatting van Hinton bracht de gastredacteur van Today, de voormalige kanselier Sajid Javid, ertoe te zeggen “jij gaat naar boven”, waarop Hinton antwoordde: “Als er iets is. Zie je, we hebben nog nooit te maken gehad met dingen die intelligenter zijn dan wijzelf.”
Hij voegde eraan toe: “En hoeveel voorbeelden ken je van een intelligenter ding dat wordt bestuurd door een minder intelligent ding? Er zijn zeer weinig voorbeelden. Er is een moeder en een baby. De evolutie heeft veel werk gestoken in het toestaan dat de baby de moeder onder controle heeft, maar dat is ongeveer het enige voorbeeld dat ik ken.”
De in Londen geboren Hinton, emeritus hoogleraar aan de Universiteit van Toronto, zei dat mensen als peuters zouden zijn vergeleken met de intelligentie van zeer krachtige AI-systemen.
“Ik zie het graag als: stel jezelf voor met een driejarige. Wij zijn de driejarigen,‘ zei hij.
AI kan losjes worden gedefinieerd als computersystemen die taken uitvoeren waarvoor doorgaans menselijke intelligentie nodig is.
Vorig jaar haalde Hinton de krantenkoppen nadat hij zijn baan bij Google had neergelegd om openlijker te kunnen spreken over de risico’s van een onbeperkte AI-ontwikkeling, daarbij verwijzend naar de bezorgdheid dat ‘slechte actoren’ de technologie zouden gebruiken om anderen schade te berokkenen. Een belangrijke zorg van AI-veiligheidsactivisten is dat de creatie van kunstmatige algemene intelligentie, of systemen die slimmer zijn dan mensen, ertoe zou kunnen leiden dat de technologie een existentiële bedreiging vormt door de menselijke controle te ontwijken.
Terugkijkend op het punt waarop hij dacht dat de ontwikkeling van AI zou hebben bereikt toen hij voor het eerst met zijn werk aan de technologie begon, zei Hinton: “Ik had niet gedacht dat dit zou zijn waar we nu zijn. Ik dacht dat we hier op een bepaald moment in de toekomst zouden komen.
na nieuwsbriefpromotie
Hij voegde eraan toe: “Omdat de situatie waarin we ons nu bevinden, is dat de meeste experts in het veld denken dat we ergens, waarschijnlijk binnen de komende twintig jaar, AI’s gaan ontwikkelen die slimmer zijn dan mensen. En dat is een heel beangstigende gedachte.”
Hinton zei dat het tempo van de ontwikkeling “heel, heel snel, veel sneller was dan ik had verwacht” en riep op tot overheidsregulering van de technologie.
“Mijn zorg is dat de onzichtbare hand ons niet veilig zal houden. Dus het alleen maar overlaten aan het winstmotief van grote bedrijven zal niet voldoende zijn om ervoor te zorgen dat ze het veilig ontwikkelen”, zei hij. “Het enige dat deze grote bedrijven kan dwingen meer onderzoek naar veiligheid te doen, is overheidsregulering.”
Hinton is een van de drie “peetvaders van AI” die voor hun werk de ACM AM Turing-prijs hebben gewonnen – het computerwetenschappelijke equivalent van de Nobelprijs. Eén van het trio, Yann LeCun, de hoofd AI-wetenschapper bij Mark Zuckerberg’s Meta, heeft echter bagatelliseerde de existentiële dreiging en heeft gezegd dat AI “de mensheid daadwerkelijk van uitsterven zou kunnen redden”.
