OpenAI heeft de ambitieuze gieterijplannen voorlopig laten vallen vanwege de kosten en tijd die nodig zijn om een netwerk op te bouwen. OpenAI is van plan zich in plaats daarvan te concentreren op interne inspanningen voor het ontwerpen van aangepaste chips.
OpenAI, Broadcom en TSMC werken samen om hun eerste interne chip te bouwen die is ontworpen ter ondersteuning van hun kunstmatige intelligentie (AI)-systemen. De bedrijven zullen AMD-chips naast Nvidia-chips toevoegen om aan de stijgende infrastructuureisen te voldoen, aldus bronnen.
OpenAI, het hoofd achter ChatGPT, heeft een reeks opties onderzocht om het chipaanbod te diversifiëren en de kosten te verlagen. OpenAI overwoog om alles in eigen huis te bouwen en kapitaal aan te trekken voor een duur plan om een netwerk van fabrieken op te bouwen die bekend staan als ‘gieterijen’ voor de productie van chips.
OpenAI aangepaste chip plannen
OpenAI heeft de ambitieuze gieterijplannen voorlopig laten vallen vanwege de kosten en tijd die nodig zijn om een netwerk op te bouwen. OpenAI is van plan zich in plaats daarvan te concentreren op interne inspanningen voor het ontwerpen van aangepaste chips.
TSMC en Broadcom werken samen met OpenAI
De strategie van het bedrijf, die hier voor het eerst wordt beschreven, benadrukt hoe de startup uit Silicon Valley gebruik maakt van industriële partnerschappen. OpenAI wil een mix van interne en externe benaderingen om de chipaanvoer veilig te stellen en de kosten te beheren, zoals de grotere rivalen Amazon, Meta, Google en Microsoft. Als een van de grootste kopers van chips zou de beslissing van OpenAI om bij de ontwikkeling van zijn op maat gemaakte chip in te kopen bij een breed scala aan chipfabrikanten bredere implicaties voor de technologiesector kunnen hebben.
OpenAI, AMD en TSMC weigerden commentaar te geven. Broadcom reageerde niet onmiddellijk op een verzoek om commentaar.
Belang van AI-chip voor OpenAI
Als een van de grootste afnemers van Nvidia's grafische verwerkingseenheden (GPU's) gebruikt OpenAI AI-chips zowel om modellen te trainen waarbij de AI leert van gegevens als om gevolgtrekkingen te maken, waarbij AI wordt toegepast om voorspellingen te doen of beslissingen te nemen op basis van nieuwe informatie.
Volgens bronnen werkt OpenAI al maanden samen met Broadcom aan de bouw van zijn eerste AI-chip die zich richt op gevolgtrekkingen. De vraag naar trainingschips is momenteel groter, maar analisten voorspellen dat de behoefte aan inferentiechips deze zou kunnen overtreffen naarmate er meer AI-toepassingen worden ingezet.
Samenwerking tussen OpenAI en Boradcom
Broadcom helpt bedrijven, waaronder Alphabet-onderdeel Google, bij het verfijnen van chipontwerpen voor productie en levert ook delen van het ontwerp waarmee informatie snel van en naar de chips kan worden verplaatst. Dit is belangrijk in AI-systemen waarin tienduizenden chips aan elkaar zijn geregen om samen te werken.
OpenAI beslist nog steeds of het andere elementen voor zijn chipontwerp zal ontwikkelen of verwerven, en kan mogelijk extra partners inschakelen, aldus twee bronnen.
OpenAI interne chiptijdlijn
OpenAI heeft een chipteam van ongeveer twintig mensen samengesteld, onder leiding van topingenieurs die eerder Tensor Processing Units (TPU's) bij Google hebben gebouwd, waaronder Thomas Norrie en Richard Ho.
Bronnen zeiden dat OpenAI via Broadcom productiecapaciteit bij TSMC heeft veiliggesteld om in 2026 zijn eerste op maat ontworpen chip te maken. Ze zeiden dat de tijdlijn zou kunnen veranderen.
De dominantie van Nvidia kan verdringen
Momenteel hebben de GPU's van Nvidia een marktaandeel van meer dan 80%. Maar tekorten en stijgende kosten hebben grote klanten als Microsoft, Meta en nu OpenAI ertoe gebracht interne of externe alternatieven te verkennen.
AMD's nieuwe MI300X-chips proberen een deel van de markt te veroveren die wordt gedomineerd door Nvidia. AMD verwacht in 2024 een omzet van $4,5 miljard aan AI-chips, na de lancering van de chip in het vierde kwartaal van 2023.
Kosten voor de aangepaste AI-chip van OpenAI
Het trainen van AI-modellen en operationele diensten zoals ChatGPT zijn duur. OpenAI heeft dit jaar een verlies van $5 miljard voorspeld op een omzet van $3,7 miljard. Computerkosten, of uitgaven voor hardware, elektriciteit en clouddiensten die nodig zijn om grote datasets te verwerken en modellen te ontwikkelen, vormen de grootste kostenpost van het bedrijf, wat aanleiding geeft tot inspanningen om het gebruik te optimaliseren en leveranciers te diversifiëren.
OpenAI is voorzichtig geweest met het wegstropen van talent van Nvidia omdat het een goede verstandhouding wil behouden met de chipmaker waarmee het blijft samenwerken, vooral voor toegang tot de nieuwe generatie Blackwell-chips, aldus bronnen.