Graphics processing units (GPU’s), de chips waarop de meeste AI-modellen draaien, zijn energievretende beesten. Als gevolg van de steeds snellere integratie van GPU’s in datacenters zal AI tegen 2030 de vraag naar elektriciteit met 160% doen stijgen, aldus Goldman Sachs schattingen.
De trend is niet duurzaam, betoogt Vishal Sarin, een ontwerper van analoge en geheugencircuits. Na meer dan tien jaar in de chipindustrie te hebben gewerkt, lanceerde Sarin Sagence AI (voorheen heette het de naam Analoge gevolgtrekking) om energiezuinige alternatieven voor GPU's te ontwerpen.
“De toepassingen die praktische AI-computing echt alomtegenwoordig zouden kunnen maken, zijn beperkt omdat de apparaten en systemen die de gegevens verwerken niet de vereiste prestaties kunnen leveren”, aldus Sarin. “Onze missie is om de prestatie- en economische beperkingen te doorbreken, en wel op een milieuverantwoorde manier.”
Sagence ontwikkelt chips en systemen voor het draaien van AI-modellen, evenals de software om deze chips te programmeren. Hoewel er geen tekort is aan bedrijven die op maat gemaakte AI-hardware maken, is Sagence enigszins uniek omdat de chips analoog zijn en niet digitaal.
De meeste chips, inclusief GPU's, slaan informatie digitaal op, als binaire reeksen enen en nullen. Analoge chips kunnen daarentegen gegevens weergeven met behulp van een reeks verschillende waarden.
Analoge chips zijn geen nieuw concept. Ze beleefden hun hoogtijdagen van ongeveer 1935 tot 1980 en hielpen onder meer bij het modelleren van het Noord-Amerikaanse elektriciteitsnet. Maar de nadelen van digitale chips maken analoog weer aantrekkelijk.
Ten eerste digitale chips vereisen honderden componenten om bepaalde berekeningen uit te voeren die analoge chips met slechts een paar modules kunnen realiseren. Digitale chips moeten doorgaans ook gegevens heen en weer sturen van het geheugen naar de processors, waardoor knelpunten ontstaan.
“Alle toonaangevende leveranciers van AI-silicium gebruiken deze oude architectonische benadering, en dit blokkeert de voortgang van de adoptie van AI”, aldus Sarin.
Analoge chips zoals die van Sagence, 'in-memory'-chips, dragen geen gegevens over van het geheugen naar processors, waardoor deze mogelijk taken sneller kunnen voltooien. En dankzij hun vermogen om een reeks waarden te gebruiken om gegevens op te slaan, kunnen analoge chips een hogere gegevensdichtheid hebben dan hun digitale tegenhangers.
Analoge technologie heeft echter zijn nadelen. Het kan bijvoorbeeld moeilijker zijn om hoge precisie te bereiken met analoge chips, omdat deze een nauwkeurigere productie vereisen. Ze zijn ook vaak moeilijker te programmeren.
Maar Sarin ziet dat de chips van Sagence digitale chips aanvullen en niet vervangen, bijvoorbeeld om gespecialiseerde toepassingen in servers en mobiele apparaten te versnellen.
“Sagence-producten zijn ontworpen om de stroom-, kosten- en latentieproblemen die inherent zijn aan GPU-hardware te elimineren, terwijl ze hoge prestaties leveren voor AI-toepassingen”, zegt hij.
Sagence, dat van plan is zijn chips in 2025 op de markt te brengen, is bezig met ‘meerdere’ klanten omdat het lijkt te concurreren met andere AI-analoge chip-ondernemingen zoals Opladen En Mythischzei Sarin. „We zijn momenteel onze kerntechnologie aan het verpakken in producten op systeemniveau en zorgen ervoor dat we passen in de bestaande infrastructuur en implementatiescenario's“, voegde hij eraan toe.
Sagence heeft investeringen veiliggesteld van geldschieters, waaronder Vinod Khosla, TDK Ventures, Cambium Capital, Blue Ivy Ventures, Aramco Ventures en New Science Ventures, waardoor in de zes jaar sinds de oprichting in totaal $ 58 miljoen werd opgehaald.
Nu is de startup van plan opnieuw kapitaal aan te trekken om het 75-koppige team uit te breiden.
„Onze kostenstructuur is gunstig omdat we de prestatiedoelstellingen niet nastreven door te migreren naar de nieuwste (productieprocessen) voor onze chips“, aldus Sarin. “Dat is voor ons een grote factor.”
De timing zou wel eens in het voordeel van Sagence kunnen werken. Per Crunchbasislijkt de financiering van halfgeleiderstartups terug te keren na een matig 2023. Van januari tot juli haalden door durfkapitaal gesteunde chipstartups bijna 5,3 miljard dollar op – een aantal ruim vóór vorig jaar, toen dergelijke bedrijven in totaal minder dan 8,8 miljard dollar zagen opgehaald.
Als dit het geval is, is het maken van chips een dure aangelegenheid – die des te uitdagender wordt gemaakt door de internationale sancties en tarieven die zijn beloofd door de nieuwe regering-Trump. Het winnen van klanten die 'opgesloten' zijn geraakt in ecosystemen zoals die van Nvidia is weer een klim bergopwaarts. Vorig jaar, AI-chipmaker Grafcoredat bijna $700 miljoen ophaalde en ooit werd gewaardeerd op bijna $3 miljard, heeft faillissement aangevraagd nadat het worstelde om een sterke voet aan de grond te krijgen op de markt.
Om enige kans op succes te hebben, zal Sagence moeten bewijzen dat zijn chips inderdaad dramatisch minder stroom verbruiken en een hogere efficiëntie leveren dan alternatieven – en voldoende durfkapitaal moeten verwerven om op grote schaal te kunnen fabriceren.
