Zurück zur Übersicht
OpenAI Jalapeño: Der neue KI-Inferenz-Chip übertrifft Nvidia Blackwell in ersten Benchmarks
BranchennachrichtenOpenAIKI-HardwareHalbleiter

OpenAI Jalapeño: Der neue KI-Inferenz-Chip übertrifft Nvidia Blackwell in ersten Benchmarks

OpenAI hat auf der Hot Chips-Konferenz seinen ersten eigens entwickelten Inferenz-Chip namens „Jalapeño“ vorgestellt. Der in Zusammenarbeit mit Broadcom entwickelte ASIC (Application-Specific Integrated Circuit) markiert einen Wendepunkt in der KI-Hardware-Landschaft. Trotz einer außergewöhnlich kurzen Entwicklungszeit von nur 16 Monaten zeigt Jalapeño in ersten Tests der InferenceX-Suite eine überlegene Performance gegenüber etablierten Lösungen wie Nvidias Blackwell-Architektur sowie Chips von AMD und Google. Der Fokus liegt dabei auf einem generalisierten Design für die Inferenz großer Sprachmodelle (LLMs), unterstützt durch modernste HBM4-Speichertechnologie. Mit beeindruckenden Werten bei den Gesamtbetriebskosten (TCO) und dem Durchsatz pro Megawatt positioniert sich OpenAI als ernsthafter Konkurrent im Halbleitermarkt.

Hacker News

Die wichtigsten Punkte

  • Vorstellung auf der Hot Chips: OpenAI präsentiert mit „Jalapeño“ seinen ersten selbst entwickelten Inferenz-Chip.
  • Rekordverdächtige Entwicklung: In Kooperation mit Broadcom wurde der Chip in nur etwa 16 Monaten vom ersten Team-Hiring bis zum Tape-out fertiggestellt.
  • Überlegene Performance: Benchmarks der InferenceX-Suite zeigen, dass Jalapeño aktuelle Chips von Nvidia (Blackwell), AMD und Google bei Top-Open-Source-Modellen schlägt.
  • Generalisiertes Design: Entgegen der Erwartungen ist der Chip nicht nur auf OpenAI-interne Modelle spezialisiert, sondern als allgemeiner Inferenz-Chip konzipiert.
  • Technologische Speerspitze: Der Einsatz von HBM4-Speicher und ein extremes Hardware-Software-Codesign sorgen für marktführende Effizienz.

Analyse

Ein neuer Maßstab in der Chip-Entwicklung

Die Ankündigung von OpenAI Jalapeño auf der Hot Chips-Konferenz hat die Branche überrascht, insbesondere aufgrund des extrem beschleunigten Entwicklungszyklus. OpenAI begann Mitte 2024 mit dem Aufbau des Teams und erreichte das Manufacturing Tape-out in nur rund 16 Monaten. Dieser Zeitraum gilt für die Entwicklung eines High-End-ASICs als außergewöhnlich kurz. Laut dem Bericht bestätigt dieser Erfolg die Annahme, dass der Einsatz von Künstlicher Intelligenz im Chip-Design-Prozess zu massiven Zeitgewinnen führt.

Die Partnerschaft mit Broadcom, die im Juni offiziell bekannt gegeben wurde, ermöglichte es OpenAI, ein Design „from a blank slate“ – also von Grund auf neu – zu entwerfen, das exklusiv auf die Anforderungen der LLM-Inferenz zugeschnitten ist. Während erste Generationen neuer Chips oft mit Kinderkrankheiten zu kämpfen haben oder nicht konkurrenzfähig sind, scheint OpenAI diesen Trend zu durchbrechen. Jalapeño wird bereits jetzt als branchenführend eingestuft.

Generalisierung statt Spezialisierung

Ein wesentlicher Aspekt der Jalapeño-Architektur ist ihre Flexibilität. Entgegen weitverbreiteter Gerüchte, OpenAI würde Hardware entwickeln, die ausschließlich auf die eigenen GPT-Modelle optimiert ist, handelt es sich bei Jalapeño um einen generalisierten Inferenz-Chip. Das Ziel war es, eine hohe Performance in allen Inferenz-Szenarien zu liefern, anstatt sich auf spezifische Teilbereiche der Modellberechnung zu versteifen.

Diese Entscheidung ist strategisch bedeutsam: Durch ein breiteres Einsatzspektrum kann der Chip eine Vielzahl von Open-Source-Modellen effizient verarbeiten. Die Kombination aus pragmatischen Design-Entscheidungen und einem hochkarätigen Entwicklungsteam hat dazu geführt, dass der Chip sofort als ernsthafter Konkurrent zu Nvidias Blackwell- und Rubin-Architekturen sowie zu den Angeboten von AMD und Google wahrgenommen wird.

Effizienz und technologische Details

Technisch sticht Jalapeño besonders durch die Integration von HBM4-Speicher hervor, was ihn von vielen aktuellen Wettbewerbern abhebt. Das Hauptaugenmerk bei der Entwicklung lag auf der Optimierung der Total Cost of Ownership (TCO) und dem Durchsatz pro Megawatt (MW). In einer Zeit, in der der Energieverbrauch von Rechenzentren ein kritisches Nadelöhr darstellt, ist die Effizienz pro Stromeinheit ein entscheidender Wettbewerbsvorteil.

Das „extreme Hardware-Software-Codesign“ ist laut den Testern von SemiAnalysis der Schlüssel zum Erfolg. Indem die Software-Stacks direkt auf die Hardware-Architektur abgestimmt wurden, konnte OpenAI eine Leistung erzielen, die in den Benchmarks der InferenceX-Suite die gesamte Konkurrenz hinter sich lässt. Die Tester konnten den Chip bereits in den Laboren von OpenAI validieren und bestätigen, dass die theoretischen Versprechen in realen Szenarien Bestand haben.

Bedeutung für die KI-Branche

Der Vorstoß von OpenAI in den Hardware-Markt verändert die Dynamik zwischen KI-Entwicklern und Chip-Herstellern grundlegend. Bisher war OpenAI massiv von Nvidias Lieferketten abhängig. Mit Jalapeño demonstriert das Unternehmen, dass es in der Lage ist, innerhalb kürzester Zeit eigene Hardware zu entwickeln, die nicht nur mithalten kann, sondern die etablierten Marktführer übertrifft.

Dies setzt insbesondere Nvidia unter Druck, da OpenAI nun zeigt, dass spezialisierte (und dennoch generalisierte) Inferenz-ASICs eine höhere Effizienz bieten können als universelle GPUs. Für die Branche bedeutet dies einen verstärkten Fokus auf TCO und Energieeffizienz sowie eine mögliche Beschleunigung der Innovationszyklen durch KI-gestütztes Hardware-Design.

Häufig gestellte Fragen

Wie schnell wurde OpenAI Jalapeño entwickelt?

Die Entwicklung dauerte von der ersten Einstellung des Teams bis zum Tape-out etwa 16 Monate. Dies ist ein extrem schneller Zyklus für einen ASIC der ersten Generation, der durch den Einsatz von KI im Designprozess ermöglicht wurde.

Ist Jalapeño besser als Nvidia Blackwell?

Laut den Benchmarks der InferenceX-Suite von SemiAnalysis übertrifft Jalapeño die Chips von Nvidia (einschließlich Blackwell), AMD und Google in Bezug auf Performance und Effizienz bei der Inferenz von Open-Source-Modellen.

Warum ist der Chip als „generalisiert“ eingestuft?

Obwohl viele Experten eine Spezialisierung auf OpenAI-eigene Modelle erwarteten, wurde Jalapeño so konzipiert, dass er in allen Inferenz-Szenarien eine hohe Leistung erbringt. Er ist somit für eine breite Palette von KI-Modellen einsetzbar.

Ähnliche Nachrichten

Google Duplex in Gemini: Wie sich der Dienst für Anrufe bei Unternehmen weiterentwickelt hat
Branchennachrichten

Google Duplex in Gemini: Wie sich der Dienst für Anrufe bei Unternehmen weiterentwickelt hat

Google Duplex wurde laut einer Überschrift im Google Research Blog so weiterentwickelt, dass es in Gemini auch im Auftrag von Nutzern bei Unternehmen anrufen kann. Die Meldung ist dem Thema generative KI zugeordnet. Der bereitgestellte Originalinhalt besteht allerdings nur aus dieser Themenangabe. Die Information über die Anrufe stammt daher aus der Überschrift. Sie benennt das Ergebnis der Weiterentwicklung, beschreibt aber weder die einzelnen Schritte noch die technische Umsetzung. Auch zur Verfügbarkeit, zu den Voraussetzungen für die Nutzung und zu konkreten Anwendungsfällen liegen keine Angaben vor. Entsprechend lässt sich die genannte Funktion einordnen, ohne daraus Rückschlüsse auf ihren Umfang oder ihre Funktionsweise zu ziehen.

Formale Verifikation von Software: Wie KI und Lean bei mathematischen Korrektheitsbeweisen helfen
Branchennachrichten

Formale Verifikation von Software: Wie KI und Lean bei mathematischen Korrektheitsbeweisen helfen

Softwarekorrektheit mathematisch nachzuweisen, war traditionell eine Aufgabe für Fachleute. Richard MacManus beschreibt bei Latent Space, wie KI und Lean heute dabei helfen, diesen Prozess zu automatisieren. Im Mittelpunkt steht die formale Verifikation: Der Nachweis, dass Software korrekt ist, wird mit mathematischen Mitteln geführt. Die Veränderung betrifft laut Meldung den Weg zu diesem Nachweis. KI und Lean unterstützen die Automatisierung eines Prozesses, für den bislang spezialisierte Arbeit nötig war. Der Titel rahmt die formale Verifikation als Mittel gegen minderwertige Inhalte. Die Kurzmeldung selbst bleibt beim konkreten Anwendungsfall Software. Sie nennt weder einzelne automatisierte Arbeitsschritte noch das Ausmaß der Automatisierung. Von einem vollständig automatisierten Verfahren ist nicht die Rede.

Riemannsche Vermutung: Eine KI und ein Mensch beanspruchen jeweils eine Lösung
Branchennachrichten

Riemannsche Vermutung: Eine KI und ein Mensch beanspruchen jeweils eine Lösung

Eine KI und ein Mensch beanspruchen laut TechCrunch AI jeweils, die Riemannsche Vermutung gelöst zu haben. Die Meldung bezeichnet die Vermutung als 167 Jahre alt und berichtet, dass das jüngste KI-gestützte Ergebnis unter Mathematikerinnen und Mathematikern für Erstaunen sorgt. Dem KI-gestützten Ergebnis steht ein konkurrierender menschlicher Lösungsanspruch gegenüber. Entscheidend ist die Unterscheidung zwischen dem Anspruch, eine Lösung gefunden zu haben, und der Bestätigung, dass die Vermutung tatsächlich gelöst wurde. Der vorliegende Meldungstext bestätigt weder den KI-gestützten noch den menschlichen Lösungsanspruch und erläutert auch nicht, worin die beiden Ansätze bestehen. Damit berichtet der Beitrag von Tim Fernholz über zwei konkurrierende Ansprüche, ohne über deren Gültigkeit zu entscheiden.