Samsung und Hyundai unterstützen KI-Start-up Tenstorrent Jeder will Wettbewerb für Nvidia, sagt CEO Keller

Samsung und Hyundai unterstützen Tenstorrent, ein KI-Start-up. CEO Keller sagt, dass jeder Wettbewerb für Nvidia will.

Der Chip-Gigant Nvidia ist heute die mächtigste Kraft im Bereich der künstlichen Intelligenz, mächtiger als Microsoft, Google oder OpenAI. Seine GPU-Chips sind die dominierende Form der Berechnung in der Branche für Programme wie ChatGPT. Trotz jahrelanger Bemühungen ist es einer Vielzahl von Start-ups nicht gelungen, diese Dominanz einzudämmen.

Außerdem: Die besten KI-Chatbots

Und dennoch besteht immer noch ein Hunger nach Wettbewerb in der Welt, und Nvidia könnte verwundbar sein, weil, so glauben einige, die Wirtschaftlichkeit von Nvidias Dominanz nicht aufrechterhalten werden kann.

“Nvidia hat ein Monopol [Gewinnmargen]”, sagte Jim Keller, CEO des KI-Chip-Start-ups Tenstorrent, in einem exklusiven Interview mit ENBLE. “Wenn Sie eine High-Performance-Lösung mit KI darin entwickeln möchten, wird Nvidia den Großteil der Marge im Produkt beanspruchen. Das Problem mit der Alles-oder-Nichts-Strategie besteht darin, dass sie eine wirtschaftliche Umgebung schafft, in der die Menschen wirklich eine Alternative wollen.”

Keller ist ein Rockstar der Computerchip-Welt, bekannt für eine lange Reihe von Chip-Erfolgen, angefangen von der Wiederbelebung des Prozessorgeschäfts von Advanced Micro Devices (AMD) über die Schaffung der Grundlage für Apples individuelles Prozessorgeschäft bis hin zum Aufbau der Tesla Autopilot-Chip-Plattform. Er glaubt, dass die Frustration der Branche über Nvidias Kontrolle und die aufkommende Technologie von RISC-V einen Weg für Alternativen eröffnet haben.

• Künstliche Intelligenz-Bots könnten bald Ihr neuer Kundendienstmita...
• Datenverstöße wachsen fast um das Dreifache, wobei Konten aus den U...
• Uber arbeitet an seinem eigenen KI-Chatbot, enthüllt CEO

Einige mächtige Parteien glauben, dass er eine Chance hat.

Außerdem: Mac Renaissance: Wie Apples Chip-Übergang einen so eigenartig konfigurierten Mac Pro hervorgebracht hat

Am Mittwoch gab Keller bekannt, dass Tenstorrent eine Finanzierung in Höhe von 100 Millionen US-Dollar von der Hyundai Motor Group, dem drittgrößten Automobilhersteller der Welt, und dem Samsung Catalyst Fund, dem Risikokapitalarm des Elektronikriesen Samsung Electronics, erhalten hat, sowie Beteiligungen von Fidelity Ventures, Eclipse Ventures, Epiq Capital, Maverick Capital und mehr.

Das neue Kapital kommt zu einer früheren Finanzierung von fast 250 Millionen US-Dollar hinzu und gibt dem sieben Jahre alten Tenstorrent eine ausreichende Kriegskasse, um mehrere Chips für KI auf den Markt zu bringen.

Hyundai ist wie viele Unternehmen an Alternativen zu Nvidia interessiert, um beispielsweise KI in Autos einzusetzen, sagte Keller. Das Unternehmen hat auch einen Robotikarm, nachdem es 2020 den MIT-Robotik-Ableger Boston Dynamics gekauft hat.

“Sie sind ein Technologieführer”, sagte Keller über Hyundai, “Sie verdienen Geld und investieren es in Technologie, weil sie einen Weg sehen, zukünftige Produkte mit KI zu bauen.”

Außerdem: Wie man Hyper-Personalisierung mit generativen KI-Plattformen erreicht

Noch wichtiger ist, dass Hyundai “ihre eigenen Produkte entwickeln und die Kosten- und Leistungsziele erreichen möchten”, sagte Keller. “Man kann Nvidia für ein Standardprodukt keine 60% Bruttomarge geben, um ehrlich zu sein, und sie suchen nach Optionen.”

Heung-soo Kim, Executive Vice President und Leiter des Global Strategy Office von Hyundai, sagte in vorbereiteten Bemerkungen:

“Tenstorrents hohes Wachstumspotenzial und hochleistungsfähige KI-Halbleiter werden der Gruppe helfen, wettbewerbsfähige Technologien für zukünftige Mobilität zu sichern.

“Mit dieser Investition erwartet die Gruppe, optimierte, aber differenzierte Halbleitertechnologie zu entwickeln, die zukünftige Mobilität unterstützt und die internen Fähigkeiten in der Entwicklung von KI-Technologie stärkt.”

Die Beteiligung von Samsung macht besonders Sinn für einen der weltweit größten Auftragsfertiger von Halbleitern. Das Unternehmen hat viele der Chips produziert, für die Keller berühmt ist, darunter den Tesla Autopilot. Samsung weiß, dass aus kleinen Eicheln mächtige Eichen entstehen können, und das Startup von heute könnte der große Kunde für Chip-Herstellung von morgen sein.

Außerdem: Diese winzigen pilzbasierten Chips könnten Ihre Geräte antreiben und dabei helfen, unseren Planeten zu retten

Der Leiter des Semiconductor Innovation Center von Samsung, Marco Chisari, sagte in vorbereiteten Bemerkungen: “Tenstorrents branchenführende Technologie, das leitende Management und die aggressive Roadmap haben uns dazu motiviert, diese Finanzierungsrunde mitzuführen.” Er fügte hinzu: “Wir sind begeistert von der Möglichkeit, mit Tenstorrent zusammenzuarbeiten, um KI- und Computerinnovationen zu beschleunigen.”

In vorbereiteten Anmerkungen zur Ankündigung der Finanzierung lobte Keller beide Unternehmen: “Das Vertrauen, das Hyundai Motor Group und Samsung Catalyst Fund durch ihre Führung bei unserer Runde in Tenstorrent gezeigt haben, ist wirklich demütigend.”

Für Keller, der viele der schnellsten Chips der Welt entwickelt hat, ist das Argument hauptsächlich wirtschaftlich, aber auch stark technologisch. “Ich glaube nicht, dass dies – GPUs, die CUDA und PyTorch ausführen – das Endspiel für KI ist. “Wenn die Aliens landen, glaube ich nicht, dass sie uns fragen werden: ‘Haben wir CUDA erfunden?'”, witzelte Keller und bezog sich dabei auf die Softwareplattform von Nvidia zum Ausführen dieser neuronalen Netzwerke.

“Obwohl GPUs heute erfolgreich sind, sind sie nicht die offensichtlich beste Lösung, sondern eher die gute genug verfügbare Lösung”, sagte Keller in Bezug auf die Dominanz von Nvidia-Chips wie der H100 “Hopper” GPU, dem führenden Produkt von Nvidia zum Ausführen von neuronalen Netzwerken.

Außerdem: Generative KI und das vierte Warum: Vertrauen zum Kunden aufbauen

Die fortschrittlicheren generativen KI-Modelle, insbesondere solche aus der Open-Source-Software-Community, werden zu einer tiefgreifenden Veränderung in der Unterscheidung zwischen Training und Inferenz in diesem Bereich führen. “Ich denke, der KI-Motor der Zukunft wird eine ziemlich vielfältige Reihe von Fähigkeiten haben, die nicht wie Inferenz gegen Training aussehen werden, sondern eher wie eine Verschmelzung der beiden.”

Er gibt zu, dass Nvidia in der KI einen unglaublichen Vorsprung hatte, dank der Entscheidung von Mitbegründer und CEO Jensen Huang, frühzeitig die Bemühungen des Unternehmens auf Software zu konzentrieren.

“Die Herausforderung bei KI-Software ist ehrlich gesagt schwieriger als jeder gedacht hat”, beobachtete Keller. “Die meisten KI-Startups wurden von Hardware-Leuten gestartet.” Nvidia habe, so bemerkte er, “in diesen Software-Stack länger investiert, teilweise weil sie in HPC [High-Performance Computing für komplexe wissenschaftliche Arbeitslasten] investiert haben, als es niemand wollte”, sagte Keller. Dies erforderte die Entwicklung spezieller Programmierframeworks für die GPU. “Sie haben investiert und einige Dinge zum Laufen gebracht.”

Aber, so Keller, die Welt verändert sich. Das Aufkommen von Open-Source-Alternativen zu CUDA, den verschiedenen KI-Frameworks wie TensorFlow und PyTorch, und die von Unternehmen wie Stability.ai und MosaicML erstellten Open-Source-Modelle, die von Hubs wie Hugging Face gehostet werden, sind vielversprechend, sagte er. “Das Faszinierende ist die Menge an Open-Source-Zusammenarbeit, die auf der Softwareseite stattfindet, die wir auf der Hardwareseite erreichen müssen.”

Um diese Open-Source-Bemühungen in der Hardware zu unterstützen, setzt Keller auf RISC-V, den Open-Source-Chip-Befehlssatz, der vor mehr als einem Jahrzehnt an der University of California in Berkeley von einem Kollegen von Keller, dem renommierten Chip-Pionier David Patterson, und seinen Kollegen entwickelt wurde.

Außerdem: KI wird die Rolle von Entwicklern für immer verändern. Hier ist, warum das eine gute Nachricht ist

Für Keller, der ein kluger Problemlöser im großen Stil ist, kommt auf wirtschaftlicher und technologischer Ebene etwas Entscheidendes zusammen. “Ich erkunde gerne den Raum, verstehe ihn und dann tue ich etwas”, sagte er.

Bei der legendären Digital Equipment Corp. baute er in den 1980er und 1990er Jahren den damals schnellsten Chip der Welt. Eines von Kellers früheren Startups, P.A. Semi Inc., wurde 2008 von Apple gekauft und bildete die Grundlage für den “A-Series”-Siliziumchip, der heute alle Apple-Geräte antreibt, ein ungewöhnlicher Bruch mit Intel. Tesla war “nur ein kleines Ingenieurunternehmen”, das nicht mehr als eine Viertelmillion Autos produzierte, als Keller ein Team leitete, um die Hardware für Teslas Autopilot zu entwickeln, der jetzt in jedem Auto vorhanden ist.

Er belebte die sterbende Chipentwicklung von AMD wieder, als “Jeder mir gesagt hat, AMD wird bankrott gehen”, erinnerte sich Keller. Seine Bemühungen legten den Grundstein, der nicht nur das Unternehmen vom Abgrund zurückbrachte, sondern es zu einem Chip-Giganten machte.

In Tenstorrent, gegründet im Jahr 2016, sah Keller etwas Faszinierendes. Das Unternehmen hat sich auf die Chip-Chance in der Explosion der Größe von Deep-Learning-KI-Modellen wie OpenAI’s GPT konzentriert, Programme, die eine immer größere Leistung erfordern.

Außerdem: GPT-3.5 vs GPT-4: Ist ChatGPT Plus das Abonnement wert?

Keller, der noch bei Tesla ein Business Angel bei Tenstorrent war, kannte Gründer Ljubisa Bajic, der bei AMD für Keller gearbeitet hatte. “Ich hatte die Chance, mir eine ganze Reihe von Vorschlägen für KI-Engines anzusehen, und ich fand, was er tat, ziemlich interessant”, erinnerte sich Keller.

Im Januar 2021 war er interessiert genug, um den Spitzenplatz bei Tenstorrent zu übernehmen. “Es [Tenstorrent] war auf gewisser Ebene ein Forschungsprojekt, und ich hatte das Gefühl, dass wir langsam herausfanden, worum es bei dem Forschungsprojekt ging”, erklärte er.

Was klar ist, sagte Keller, ist, dass die Ankunft von KI mit der Ankunft von RISC-V und dem wirtschaftlichen Druck der Dominanz von Nvidia zusammenfällt.

In Zukunft wird “Berechnung von KI dominiert werden”, sagte Keller. Die generativen neuronalen Netzwerke, für die Tenstorrent entwickelt wurde, verlangen aufgrund ihrer zunehmenden Größe immer mehr Siliziumleistung und dominieren daher das gesamte Chip-Design.

Wie bei seinen früheren Bemühungen übernahm Keller das Playbook nicht einfach so, wie er es bei Tenstorrent vorfand. Er traf die überraschende Entscheidung, nicht nur bei den dedizierten KI-Chips zu bleiben, sondern auch eine allgemeine CPU zu bauen, die die Verwaltung der KI-Chips übernehmen kann.

“Wir haben uns entschieden, einen RISC-V-Prozessor zu bauen, der ein allgemeiner Berechnungsbegleiter für den KI-Prozessor sein soll, weil allgemeine Berechnung und KI zusammenarbeiten werden und eng miteinander verflochten sein müssen”, sagte er.

“Ich habe einige der besten Designer von AMD, Apple und Nvidia eingestellt”, sagte Keller, der sich für “das Teamabenteuer” begeistert. “Wir haben ein großartiges CPU-Team; ich bin wirklich, wirklich aufgeregt darüber.”

Außerdem: AMD vs. Intel: Die besten Gaming-CPUs für Profis, Kreative und Gelegenheitsspieler

Früher war ARM, die privat gehaltene Einheit der SoftBank Group, die sich auf einen Börsengang vorbereitet, ein potenzieller Retter für die Chipindustrie, die zwischen der Dominanz von Intel und Nvidia gefangen war. Das hat sich laut Keller geändert. “Ich habe viel mit ARM gesprochen, und ARM hatte zwei große Probleme”, beobachtete Keller.

“Erstens sind sie jetzt viel zu teuer”, sagte er. Was für Unternehmen, die ARM-Technologie lizenzierten, eine gangbare wirtschaftliche Situation war, hat sich zu einer ständigen Erhöhung der Preise entwickelt, wodurch ein immer höherer Prozentsatz der Produkte, die Kunden mit ARM-Technologie entwickeln, gefordert wird.

Das andere Problem, so Keller, ist, dass ARM keine Änderungen an den grundlegenden Befehlen vorgenommen hat, um neue Formen der Datenverarbeitung zu ermöglichen, die KI erfordert. “KI entwickelt sich schnell weiter”, beobachtete Keller. Er wandte sich an das Silicon Valley Startup SiFive, das eine Version von Chip-CPUs auf Basis von RISC-V lizenziert. “Sie [ARM] wollten die Änderungen, die ich für meinen nächsten Chip brauchte, nicht vornehmen; SiFive sagte: ‘Natürlich'”.

Dank der Offenheit von RISC-V können sowohl Tenstorrent als auch seine Kunden die Kontrolle behalten, betonte Keller, im Gegensatz zur Zusammenarbeit mit einem Monopolisten. “Eine weitere Designaufgabe bestand darin, wie man großartige Technologie entwickeln kann, bei der die Menschen die Rechte zur Lizenzierung haben”, sagte er.

Als Ergebnis der Offenheit von RISC-V wird “RISC-V langsam alles ersetzen”, sagte Keller, was ARM, Nvidias eigene Befehlssatzarchitektur und den Legacy-x86-Code betrifft, auf dem das Intel-Imperium aufgebaut ist.

Außerdem: Windows on Arm redux: Kann Microsoft vor Jahresende für eine Überraschung in der Silizium-Industrie sorgen?

Zusätzlich zum neuen auf RISC-V basierenden CPU wird der Tenstorrent AI-Beschleuniger einer massiven Veränderung unterzogen, um RISC-V-Funktionalität in sich zu integrieren. “Unser KI-Motor verfügt über einen großen Matrixmultiplizierer, einen Tensorprozessor, einen Vektorprozessor, aber er hat auch fünf kleine RISC-V-Prozessoren, die den KI-Befehlsstrom ausgeben”, erklärte Keller.

Das Unternehmen beginnt gerade damit, seine ersten beiden Generationen von Chips zu verkaufen, und arbeitet schnell daran, eine dritte Generation zu entwickeln und an der vierten zu arbeiten.

Das Tenstorrent-Geschäft wird mehrere Möglichkeiten haben, Geld zu verdienen. Die entwickelte allgemeine CPU ist ein “High-End-Prozessor”, der “Lizenzwert” hat, und dann gibt es den AI-Beschleunigerchip, der sowohl ein Teil ist, den das Unternehmen verkaufen kann, als auch ein RISC-V-KI-Motor, den andere lizenzieren könnten.

Es wird viele Interessenten geben, da die Branche unter der Nvidia-Steuer leidet, wie man die hohen Preise von H100 und den anderen Teilen nennen könnte.

“Ich habe mit vielen Leuten gesprochen, die nicht so sehr Nvidia als Technologie oder Jensen [Huang] nicht mögen”, sagte er. Es ist rein eine geschäftliche Angelegenheit.

Außerdem: 4 Möglichkeiten, generative KI-Hypes von der Realität zu unterscheiden

“Ich habe mit Stromversorgungsunternehmen, Mikrocontroller-Unternehmen, Startups für autonomes Fahren und Herstellern von Edge-Servern für Rechenzentren gesprochen”, sagte er. “Wenn Sie Ihren eigenen Chip herstellen und einen KI-Motor darin haben wollen, können Sie keine 2.000-Dollar-GPU darin platzieren”, stellte er fest. “Ich habe mit zwei Robotikunternehmen gesprochen, die im Grunde genommen dasselbe sagten: Ich kann keine 10.000-Dollar-GPU in einen 10.000-Dollar-Roboter einbauen.”

Natürlich scheint Nvidia heutzutage wie ein Unternehmen ohne Konkurrenz. Es dominiert routinemäßig Benchmark-Tests zur Leistung von Chips wie MLPerf. Das Rechenzentrumsgeschäft, das die KI-Chips beinhaltet, übertrifft die KI-Verkäufe von Intel und AMD. Die Einheit könnte sich in diesem Jahr in Bezug auf den Umsatz verdoppeln und 31 Milliarden US-Dollar erreichen, fast zwei Drittel des gesamten Jahresumsatzes von Intel.

Eine Reihe von Startups, die mit unglaublich talentierten Ingenieuren wie Cerebras Systems, Graphcore und Samba Nova Systems gefüllt sind, konnten Nvidia trotz der Tatsache, dass jeder eine Alternative zu Nvidia möchte, nicht beeinträchtigen.

Das alles beeindruckt Keller nicht, der in einem Leben voller Chipdesign viele Kämpfe geführt und gewonnen hat. Zum einen haben diese Unternehmen RISC-V nicht genutzt, was aus seiner Sicht ein Spielwechsler ist. “Wenn wir vor fünf Jahren den Open-Source RISC-V KI-Motor entwickelt hätten”, so Keller, “dann könnten jetzt 50 Startups darauf innovieren, anstatt das gleiche Problem auf 15 verschiedene Arten und 50 verschiedene Male zu lösen” wie es Cerebras und andere getan haben.

Auf einer einfacheren Ebene nehmen die Menschen immer an, dass der Status quo bestehen bleibt, was nie der Fall ist.

“Der Kampf um die Berechnung wurde schon oft entschieden”, sinnierte Keller. “Mainframes haben ihn gewonnen, dann haben Mini-Computer ihn gewonnen, dann haben Workstations ihn gewonnen, dann haben PCs ihn gewonnen und dann hat mobile gewonnen – der Krieg ist gewonnen, also lasst uns die nächste Schlacht beginnen!”

Auf einer noch einfacheren Ebene sagte er: “Ich denke, Computer sind ein Abenteuer. Ich entwerfe gerne Computer; ich bin in das Abenteuer verliebt.”

• Artificial intelligence
• Innovation