Die 10 heißesten Nvidia-Herausforderer - CRN stellt Halbleiter-Startups vor
Von Celestial AI bis Taalas: CRN präsentiert Startups aus der Chipbranche und ihre Investoren, die Nvidias KI-Dominanz herauszufordern versuchen. Oder sie besetzen (noch) Nischen, bevor sie möglicherweise die Riesen der Halbleiterindustrie - Nvidia, Intel, ADM oder Arm – aufschrecken. Wo sie ansetzen und warum das gelingen könnte.
Vor fast zwei Jahren erfuhr die Halbleiterindustrie einen kräftigen Aufmerksamkeitsschub: Die Welt schaute auf die bahnbrechenden Fähigkeiten der generativen KI und die leistungsstarken Chips, ohne die ChatGPT und andere KI-Bots nicht funktionieren. Der größte Nutznießer dieses Interesses war Nvidia, doch eine Reihe von Startups hat versucht, den KI-Chipgiganten herauszufordern oder andere Bereiche zu finden, die reif für eine Disruption sind.
Auch wenn das Risiko des Scheiterns für Halbleiter-Startups nach wie vor hoch ist - haben sie doch in der Regel viel höhere Kosten als Softwarefirmen in der Frühphase -, könnten sie von den Erwartungen profitieren, dass die Branche in diesem Jahr um bis zu 20 Prozent wächst, zum Teil aufgrund der starken Nachfrage nach KI-Chips.
Dies lässt Raum für KI-Chip-Startups wie Cerebras Systems, Hailo und Kneron, um einen Teil des prognostizierten Ausgabenwachstums abzuschöpfen, das vom Forschungsunternehmen IDC im Dezember prognostiziert wurde. Andere Halbleiter-Startups, die die Art und Weise, wie Chips für KI-Computing entwickelt werden, verändern wollen, sind Celestial AI, Eliyan, Rivos und Tenstorrent.
Im Folgenden finden Sie die 10 heißesten Halbleiter-Startups des Jahres 2024 von CRN, zu denen neben den oben genannten Startups auch MetisX, SiMa.ai und Taalas gehören.
Celestial AI
Top-Executive: David Lazovsky, Gründer und CEO
Celestial AI ebnet nach eigenen Angaben den Weg für Fortschritte im KI-Computing, indem es Latenz- und Bandbreitenengpässe mit seiner optischen Verbindungstechnologie Photonic Fabric überwindet.
Das in Santa Clara, Kalifornien, ansässige Startup gab im März bekannt, dass es eine "stark überzeichnete" Serie-C-Finanzierungsrunde in Höhe von 175 Mio. US-Dollar abgeschlossen hat, die vom U.S. Innovative Technology Fund angeführt und von mehreren anderen Investoren unterstützt wurde, darunter die Venture-Arme von AMD, Samsung sowie die Holdinggesellschaft des Volkswagen-Konzerns, Porsche SE.
Im selben Monat teilte das Silizium-Photonik-Startup mit, dass Hyperscaler-Firmen - die weltweit größten Verbraucher von Rechenzentrumsinfrastruktur, gefolgt von Halbleiterfirmen - "jetzt in einer ersten Phase der Technologieübernahme optische Chiplets der Photonic Fabric entwickeln". Diese Integration optischer Chiplets in Multi-Chip-Gehäuse, die bei Hochleistungsprozessoren immer mehr zur Norm wird, könnte laut Celestial AI eine bis zu 25-mal höhere Bandbreite außerhalb des Gehäuses im Vergleich zu "anderen modernen Technologien" ermöglichen.
Cerebras Systeme
Top-Führungskraft: Andrew Feldman, Mitbegründer und CEO
Cerebras Systems fordert Nvidias KI-Dominanz mit seinem Wafer-Scale-Engine-Chip heraus, der nach eigenen Angaben eine "überragende Leistung pro Watt und eine noch nie dagewesene Skalierbarkeit" ermöglichen soll.
Im März stellte das in Sunnyvale, Kalifornien, ansässige Startup seinen Chip der dritten Generation vor, die Wafer Scale Engine 3, die nach eigenen Angaben "die doppelte Leistung" des Vorgängers "bei gleichem Stromverbrauch und zum gleichen Preis" bietet. Der WSE-3 besteht aus 4 Billionen Transistoren und verwendet den 5-Nanometer-Prozess von TSMC. Er verfügt über 900.000 KI-Kerne und 44 GB On-Chip-SRAM, wodurch er eine 16-Bit-Gleitkomma-Leistung von 125 Petaflops erreichen kann.
Zwei weitere Meilensteinen in diesem Jahr meldete Cerebras Systems: nternehmen: eine mehrjährige strategische Zusammenarbeit mit dem US-Gesundheitsriesen Mayo Clinic zur Entwicklung multimodaler großer Sprachmodelle zur Verbesserung von Patientenergebnissen und Diagnosen sowie eine mehrjährige Partnerschaft mit dem Heidelberger KI-Startup Aleph Alpha. Gemeinsam wollen die Partner sicherer, souveräner KI-Lösungen entwickeln und den Grundstein legen für die Entwicklung des Supercomputers Condor Galaxy 3 für die in Abu Dhabi ansässige Technologieholding G42.
Eliyan
Top Executive: Ramin Farjadrad, Mitbegründer und CEO
Eliyan will Chipdesignern helfen, leistungsfähigere Chiplet-basierte Prozessoren zu entwickeln, indem es mit seiner NuLink PHY-Interconnect-Technologie die Grenzen der Bandbreite von Chip zu Chip durchbricht.
Das in Santa Clara, Kalifornien, ansässige Startup gab im März den Abschluss einer Finanzierungsrunde in Höhe von 60 Mio. US-Dollar bekannt, die von Samsung Catalyst und Tiger Global Management angeführt und von anderen Investoren, darunter dem Venture Arm von Intel und SK Hynix, unterstützt wurde.
Anfang des Jahres gab Eliyan bekannt, dass es die "leistungsstärkste" Lösung für die physikalische Schicht zur Verbindung mehrerer Chips in einer einzigen Chip-Architektur entwickelt hat und den 3-Nanomter-Fertigungsprozess von TSMC verwendet, der bis zu 64 Gbit/s pro Verbindung ermöglicht.
Hailo
Top-Führungskraft: Orr Danon, Mitbegründer und CEO
Hailo nimmt es mit Nvidia auf, indem es generative KI-Workloads im Edge-Bereich mit Chips beschleunigt, die bei der Optimierung von Leistung, Kosten und Stromverbrauch führend sind.
Das in Tel Aviv, Israel, ansässige Startup gab im April bekannt, dass es 120 Mio. US-Dollar von Investoren als Erweiterung seiner Serie-C-Finanzierungsrunde erhalten hat und zusätzlich seinen neuen Hailo-10-Beschleunigunger auf den Markt gebracht habe, der "maximale GenAI-Leistung bei minimalem Energiebedarf" für Geräte wie PCs und Infotainment-Systeme in Fahrzeugen ermöglichen soll.
Laut dem Unternehmen kann Hailo-10 beispielsweise ein Llama-2-Modell mit 7 Milliarden Parametern mit bis zu 10 Token pro Sekunde ausführen und verbraucht dabei nur 5 Watt Strom. Der Chip kann auch ein Bild in weniger als 5 Sekunden mit dem gleichen Energieaufwand für das Modell Stable Diffusion 2.1 erstellen.
Kneron
Top Executive: Albert Liu, Gründer und CEO
Kneron versucht, den Einfluss von Nvidia mit KI-Chips zu schwächen, die darauf ausgelegt sind, die Serverkosten für Unternehmen zu senken und den Preis und den Energieverbrauch von PCs zu reduzieren, wenn es um generative KI geht.
Das in San Diego, Kalifornien, ansässige Startup kündigte im Juni die Markteinführung von KNEO 330 an, seinem "Edge-GPT"-Server der zweiten Generation, der nach eigenen Angaben die KI-Kosten für kleine Unternehmen um 30-40 Prozent senken kann. Er ist in der Lage, 48 Tera-Operationen pro Sekunde (TOPS) und bis zu acht gleichzeitige Verbindungen zu bewältigen. Er unterstützt große Sprachmodelle; die Abrufgenauigkeit soll vergleichbar sein mit Cloud-Lösungen.
Kneron, das 190 Mio. US-Dollar von Investoren, darunter Qualcomm und Foxconn, erhalten hat, stellte außerdem seine neuronale Verarbeitungseinheit (NPU) der dritten Generation, die KL830, vor, die kostengünstige KI-PCs und KI-fähige IoT-Anwendungen ermöglichen soll.
MetisX
Top-Führungskraft: Jim Kim, Mitbegründer und CEO
MetisX hat sich zum Ziel gesetzt, Rechenzentren "intelligenter, schneller und kostengünstiger" zu machen, indem es innovative Speichersysteme auf der Grundlage der Compute Express Link (CXL)-Technologie entwickelt.
Das in Seoul, Südkorea, ansässige Startup gab im Mai bekannt, dass es eine Serie-A-Finanzierungsrunde in Höhe von 44 Mio. US-Dollar von einer Reihe von Investoren erhalten hat. Man habe vor, eine US-Präsenz aufzubauen und im nächsten Jahr einen Chip für Hyperscaler-Kunden einzuführen.
Das Unternehmen hat nach eigenen Angaben bereits Prototypen für Anwendungsfälle in der groß angelegten Datenverarbeitung wie Vektordatenbanken, Big-Data-Analysen und DNA-Analysen fertiggestellt. Laut MetisX sollen solche Prototypen die Leistung von herkömmlichen Server-CPUs verdoppeln können.
Rivos
Top-Führungskraft: Puneet Kumar, Mitbegründer und CEO
Rivos will den Markt für Rechenzentren mit Chips aufmischen, die leistungsstarke RISC-V-CPUs und einen parallelen Datenbeschleuniger für Datenanalysen und generative KI-Workloads kombinieren.
Das von ehemaligen Google-, Apple- und Intel-Ingenieuren gegründete Startup mit Sitz in Santa Clara, Kalifornien, gab im April bekannt, dass es in einer überzeichneten Serie-A-3-Finanzierungsrunde mehr als 250 Mio. US-Dollar von mehreren Investoren, darunter die Venture-Arme von Intel und Dell Technologies, erhalten hat.
Das Unternehmen gab die Finanzierung bekannt, die es für die Entwicklung seines ersten Siliziumprodukts und die Erweiterung seines Teams verwenden will, nachdem es im Februar einen Rechtsstreit mit Apple beigelegt hatte. Apple hatte das Startup beschuldigt, Geschäftsgeheimnisse gestohlen zu haben, indem es Dutzende von Ingenieuren des Tech-Giganten abgeworben hatte, woraufhin Rivos eine Gegenklage wegen unlauteren Wettbewerbs eingereicht hatte.
SiMa.ai
Top-Führungskraft: Krishna Rangasayee, Gründer und CEO
SiMa.ai hofft, Nvidia bei generativen KI-Workloads im Edge-Bereich mit leistungsstarken und effizienten Chips zu verdrängen, die eine Vielzahl von Modalitäten in einer einzigen, "softwarezentrierten" Plattform verarbeiten können.
Das in San Jose, Kalifornien, ansässige Startup-Unternehmen gab im April bekannt, dass es 70 Mio. US-Dollar von Investoren erhalten hat, darunter die Venture-Sparte von Dell Technologies und Lip-Bu Tan, Executive Chairman von Cadence Design Systems.
Das Unternehmen sagte, es werde die Finanzierung nutzen, um die Kundennachfrage nach seinem Machine Learning System-on-Chip (MLSoC) der ersten Generation zu befriedigen, das auf Computer Vision spezialisiert ist. Außerdem will SiMa.ai die Entwicklung seines MLSoC der zweiten Generation beschleunigen, der multimodale generative KI-Workloads unterstützt, einschließlich Sprache, Audio, Text und Bilder.
Tenstorrent
Top-Führungskraft: Jim Keller, CEO
Tenstorrent will einen neuen Weg im Chipdesign für KI-Computing einschlagen: Das Geschäftsmodell des in Toronto, Ontario, ansässigen Startups sieht vor, den Verkauf spezialisierter Prozessoren mit der Lizenzierung von Chiptechnologien zur Nutzung durch andere Unternehmen zu kombinieren.
Im Februar gab Tenstorrent bekannt, dass es eine "mehrstufige Partnerschaft" mit dem japanischen Leading-Edge Semiconductor Technology Center eingegangen ist, das die RISC-V- und Chiplet-Technologie von Tenstorrent für seinen 2-Nanometer-KI-Beschleuniger nutzen will. Das Startup wird auch als Co-Design-Partner für den Chip fungieren.
Das Unternehmen, das im vergangenen Jahr eine Finanzierungsrunde in Höhe von 100 Mio. Dollar unter der Leitung der Hyundai Motor Group und des Samsung Catalyst Fund abschloss, sammelt in einer neuen Runde unter der Leitung von Samsung mindestens weitere 300 Mio. Dollar ein, wodurch Tenstorrent eine Bewertung von 2 Mrd. Dollar erhält, wie The Information im Juni berichtete. LG Electronics, ein weiteres großes südkoreanisches Unternehmen, ist Berichten zufolge ebenfalls an Tenstorrent beteiligt.
Taalas
Oberste Führungskraft: Ljubisa Bajic, Gründer und CEO
Taalas will Nvidias Allzweck-GPU-Strategie durchbrechen, indem es Beschleuniger-Chips entwickelt, die ganze KI-Modelle direkt implementieren und so die Kosten um das bis zu 1.000-fache senken können.
Das vom Tenstorrent-Gründer Llubisa Bajic geführte Startup mit Sitz in Toronto, Ontario, gab im März eine Finanzierungsrunde in Höhe von 50 Mio. US-Dollar bekannt und enthüllte seinen Plan, einen automatisierten Arbeitsablauf für die Festverdrahtung aller Arten von Deep-Learning-Modellen in Chips zu entwickeln.
Dank dieses Designansatzes war Taalas nach eigenen Angaben in der Lage, einen Chip zu entwickeln, der ein ganzes großes KI-Modell enthält, "ohne externen Speicher zu benötigen". Infolgedessen soll das Chipdesign mehr Leistung als ein kleines GPU-Rechenzentrum bieten, so das Startup, was den Weg für eine Senkung der KI-Berechnungskosten um mehr als das 1.000-fache eröffnen soll.
Das Unternehmen plant, seinen ersten großen Sprachmodell-Chip im dritten Quartal auf zu fertigen und ihn im ersten Quartal des nächsten Jahres für Kunden verfügbar zu machen.