iPod-maker, oprichter van Nest Labs en investeerder Tony Fadell waagden dinsdag een poging tot OpenAI-CEO Sam Altman tijdens een pittig interview op TechCrunch Disrupt 2024 in San Francisco. Sprekend over zijn begrip van de langere geschiedenis van AI-ontwikkeling vóór de LLM-rage en de ernstige problemen met LLM-hallucinaties, zei hij: “Ik doe al 15 jaar AI, mensen, ik spui niet alleen maar onzin – ik Ik ben Sam Altman niet, oké?'
De opmerking lokte een verbaasd gemompel van “ooh’s” uit de geschokte menigte, te midden van slechts een klein handjevol applaus.
Fadell was op dreef tijdens zijn interview, een aantal onderwerpen aansnijden variërend van wat voor soort 'klootzakken' geweldige producten kunnen produceren tot wat er mis is met de LLM's van vandaag.
Hoewel hij toegaf dat LLM’s ‘geweldig zijn voor bepaalde dingen’, legde hij uit dat er nog steeds ernstige problemen moesten worden aangepakt.
„LLM's proberen dit 'algemene' ding te zijn, omdat we science fiction proberen te verwezenlijken,“ zei hij. “(LLM’s zijn) een betweter… ik haat betweters.”
In plaats daarvan suggereerde Fadell dat hij liever AI-agenten zou gebruiken die in specifieke dingen zijn getraind en transparanter zijn over hun fouten en hallucinaties. Op die manier zouden mensen alles over de AI kunnen weten voordat ze hen ‘inhuren’ voor de specifieke taak die voorhanden is.
„Ik huur ze in om… mij te onderwijzen, ik huur ze in om co-piloot bij mij te zijn, of ik huur ze in om mij te vervangen“, legde hij uit. “Ik wil weten wat dit is”, en voegt eraan toe dat regeringen betrokken moeten worden om dergelijke transparantie af te dwingen.
Anders, zo merkte hij op, zouden bedrijven die AI gebruiken hun reputatie op het spel zetten vanwege ‘een of andere onzintechnologie’, zei hij.
“Op dit moment adopteren we dit ding allemaal en we weten niet welke problemen het veroorzaakt,” merkte Fadell op. Hij merkte ook op dat uit een recent rapport blijkt dat artsen die ChatGPT gebruikten om patiëntrapporten te maken bij 90% van hen hallucinaties hadden. ‘Die zouden mensen kunnen doden,’ vervolgde hij. “We gebruiken dit spul en we weten niet eens hoe het werkt.”
(Fadell leek te verwijzen naar het recente rapport waar onderzoekers hadden ontdekt dat onderzoekers van de Universiteit van Michigan die AI-transcripties bestudeerden een buitensporig aantal hallucinaties aantroffen, wat gevaarlijk zou kunnen zijn in medische contexten.)
De opmerking over Altman volgde toen hij met het publiek deelde dat hij al jaren met AI-technologieën werkt. Nest gebruikte bijvoorbeeld al in 2011 AI in zijn thermostaat.
“We konden niet over AI praten, we konden niet over machinaal leren praten,” merkte Fadell op, “omdat mensen doodsbang zouden worden – ‘Ik wil geen AI in mijn huis’ – nu wil iedereen overal AI. .”
