Die KI-Infrastruktur stößt auf eine „Mauer“! Marvell: Kupferverbindungen und Speicherengpässe werden zum Schlüssel für die nächste Expansionsphase der Rechenleistung

Der Wettbewerb um AI-Rechenleistung entwickelt sich von einem reinen Chip-Wettstreit zu einem systemischen Wettstreit, der Interconnect, Speicher und Netzwerk umfasst.

Marvell-Manager betonten kürzlich auf dem Six Five Summit 2026, dass mit der explosionsartigen Zunahme des Speicherbedarfs durch Inferenz-Modelle und dem Überschreiten physikalischer Grenzen in Rechenzentren Kupferverbindungen an ihre Leistungsobergrenze stoßen. Optische Interconnects und Technologien zur Speichereerweiterung werden zum Kern der nächsten Wachstumsphase der Rechenleistung. Will Chu, Executive Vice President für das Geschäft mit kundenspezifischen Cloud-Lösungen bei Marvell, erklärt: Der Markt konzentriert sich langfristig auf das XPU selbst, vernachlässigt jedoch die umgebende "Attachment-Layer", zu der Netzwerk, Speicher, Storage und Sicherheit gehören. "Hinter jedem XPU gibt es drei bis vier oder noch mehr begleitende kundenspezifische Möglichkeiten," so Chu, "Die AI-Infrastruktur geht umfassend in Richtung Individualisierung."

Dave Lazovsky, Executive Vice President für das Netzwerkgeschäft in Rechenzentren, merkt an, dass der Aufstieg von Inference Time Compute den Bedarf an KV-Caches in den vergangenen neun Monaten etwa verzehnfacht hat und die Speicherkapazität innerhalb eines einzelnen Racks nicht mehr ausreicht – großflächige Implementierungen müssen in größere Interconnect-Domänen vorstoßen.

Diese Einschätzung hat unmittelbare Investitionsimplikationen: Speicherhersteller, Anbieter optischer Interconnects und Unternehmen für kundenspezifisches Silizium werden weiterhin von dieser strukturellen Nachfrage profitieren. Analysten schätzen die kumulierten Investitionsausgaben für globale Rechenzentrums-Infrastrukturen zwischen 2025 und 2030 auf 4 bis 5 Billionen Dollar.

Dave Lazovsky bezeichnet den Wechsel von Kupfer zu optischen Interconnects als „Zwangsfunktion“ der AI-Infrastruktur und nicht als optionales Upgrade. Die treibenden Faktoren liegen im Modellentwicklungsprozess: Die ersten großformatigen Grundmodelle bestimmten den Bedarf an Gesamtspeicherkapazität, während die zunehmende Nutzung von Inferenzmodellen und das explosive Wachstum des KV-Caches dafür sorgen, dass die HBM-Kapazität innerhalb eines einzelnen Racks für die Ausführung von Spitzenmodellen nicht mehr ausreicht.

"Es bleibt keine Wahl," sagt er, "die Interconnect-Domäne muss von 144 XPU auf etwa 576 XPU-Pods erweitert werden und danach stetig weiter wachsen." Die physikalische Voraussetzung für diese Erweiterung ist der Wechsel von Kupfer-basierten Interconnects zum optischen Interconnect.

Marvell treibt aktuell parallel On-Board Optics (NPO) und Co-Packaged Optics (CPO) voran und hat CPO-Lösungen bereits in Ethernet- und UAL-Protokoll-Switches implementiert. Will Chu ergänzt, dass Marvell Kunden eine komplette Migrationsstrategie von traditionellen Kupferlösungen über NPO bis CPO bieten kann und die Individualisierung bis hin zu Compute-Einheiten, IO-Schnittstellen und Switchports erweitern kann.

Dave Lazovsky hebt die differenzierende Bedeutung von Marvells analogen SerDes-Technologien hervor: Im Vergleich zu herkömmlichen 2.4T SerDes-Optikverbindungen kann das Netzwerk mit Scale-up auf Basis von analogen SerDes den Stromverbrauch um etwa das Vierfache senken und bei vollständiger Implementierung eine Verringerung des Gesamtenergieverbrauchs im Rechenzentrum von mehr als 25% erreichen. Angesichts akuter Engpässe in der Energieinfrastruktur gewinnt dieser Effizienzvorteil strategisch schnell an Bedeutung.

Will Chu bezeichnet das Speicher-Bottleneck als die zentrale technische Herausforderung der aktuellen AI-Infrastruktur und erklärt Marvells Strategie als einen mehrstufigen Ansatz von Chip-intern bis außerhalb des Racks.

Im Chip setzt Marvell spezielle high-density SRAM IP ein und verbessert durch enge Kopplung mit den Compute-Einheiten die Leistung und unterstützt größere Modelle als On-Chip-Residency. Die Nachfrage der Kunden lässt sich mit herkömmlichen SRM-Komplilern kaum noch bedienen.

Außerhalb des Chips erfolgt die Entwicklung in Stufen: Integration von kundenspezifischem HBM zur Steigerung von Bandbreite und Kapazität; 3D-Stapeltechnologie, die Speicher direkt auf den Logikchip platziert; Speichererweiterung mittels CXL oder proprietärer Protokolle als Kapazitätstausch gegen Bandbreite; und die Photonic Fabric Memory-Geräte, die Marvell auf der FMS vorgestellt hat, bieten ein externes Speichermodul von 32TB innerhalb eines eigenen Racks.

Dave Lazovsky erklärt weiter, dass dieses Photonic Fabric Memory-System die Vorteile von DDR in Kapazität und Kosten sowie die hohe Bandbreite und Parallelität von HBM kombiniert und erstmals die unabhängige Erweiterung von Speicherkapazität und Bandbreite ermöglicht – völlig entkoppelt von Rechenressourcen.

Will Chu weist zudem darauf hin, dass die aktuellen Speicherpreise große Cloud-Anbieter zwingen, ihre Infrastruktur grundlegend zu überdenken. Marvells CXL-Produkte stoßen auf große Nachfrage, auch von Kunden, die alte Speicher in neue Server integrieren und durch Speicherkompression effektiv doppelte Kapazität erzielen wollen. Flash-basierte Speicherhierarchien rücken ebenfalls ins Blickfeld der Anbieter als kostengünstige Erweiterung.

Dave Lazovsky erklärt, dass aktuell etwa vier Unternehmen mehr als 75% des adressierbaren Marktes für Rechenzentrumsinfrastrukturen dominieren. Diese hochgradig konzentrierte Marktstruktur ermöglicht Marvell ein Geschäftsmodell, das sich fundamental von dem eines breit diversifizierten Kundenstamms unterscheidet – Marvell wird zum integralen Bestandteil der Entwicklungsteams und arbeitet Jahre im Voraus an künftigen Switchanforderungen.

Er beschreibt drei Hauptwege für scale-up Netzwerke: Einige Anbieter bevorzugen Ethernet-Lösungen; eine andere Route setzt auf das UAL-Protokoll, das wie NVLink auf speichersemantischer Load-Store-Logik basiert und laut Lazovsky effizienter als Ethernet-Paketübertragung ist; ein dritter Anbieter implementiert eine vollständige proprietäre Netzwerktopologie.

Will Chu ergänzt, dass die enge Kopplung zwischen XPU und scale-up Netzwerk notwendigerweise zur tiefgehenden Protokoll- und Optimierungskundenspezialisierung führt und am Ende in kundenspezifischem Silizium mündet. "Nicht jedes Unternehmen kann End-to-End liefern," sagt er, "aber wir können das, und als Erweiterung der Entwicklerteams unserer Kunden direkt an deren Kerninfrastruktur mitarbeiten."

Dave Lazovsky betont ebenfalls, dass das über Jahre gewachsene Vertrauensverhältnis zu führenden Hyperscale-Unternehmen und GPU-Herstellern zu den wichtigsten Assets von Marvell zählt. "Vertrauen entsteht über viele Jahre – und wir haben das aufgebaut."

Nachfolgend das vollständige Interview:

Patrick Moorhead｜00:17

Willkommen zum Six Five Summit 2026. Das diesjährige Motto lautet "Entfesselung des AI-Potenzials". Mit mir moderiert Daniel Newman. Wie geht es dir, mein Freund?

Daniel Newman｜00:38

Sehr gut. Die Veränderungen dieses Jahr sind wirklich beeindruckend: Rechenleistung ist natürlich immer noch wichtig, aber die Verbindungstechnologien stehen im Mittelpunkt und werden intensiv diskutiert.

Wir wechseln ständig von einem Engpass zum nächsten. Wie du gesagt hast, ist Connect im Fokus, aber dieses Jahr haben wir fast alle Engpässe durchlebt – zuerst Rechenleistung, dann wurde die CPU wichtiger als GPU, dann wurde Speicher zum Schlüssel. Schließlich verschob sich der Fokus auf Connect und dann noch weiter auf optische Interconnects. Wenn du möchtest, können wir auch noch über Energie sprechen. Pat, ein Hotspot folgt dem nächsten – wirklich ein spannendes Jahr.

Patrick Moorhead｜01:02

Wir sind jetzt am Hauptsitz von Marvell und diskutieren gleich Custom-Chips, Speicher und Interconnect-Technologien. Hier sind Will und Dave, schön euch beide zu sehen.

Dave Lazovsky｜01:14

Vielen Dank für die Einladung.

Patrick Moorhead｜01:16

Ich freue mich auf den Austausch. Ich habe eure Bühnenpräsentationen gesehen und Analysten- und Produktbriefings besucht. Toll, euch beim Six Five dabei zu haben.

Daniel Newman｜01:26

Auch schön, euch hier zu haben – und Glückwunsch. Ich weiß, ihr habt gerade eine Übernahme abgeschlossen, das klingt nach erfolgreichem Fortschritt. Natürlich gibt es noch vieles zu tun.

Pat, du hast Connect angesprochen. Marvell ist interessant, weil sie in allen Bereichen aktiv sind: Chips, Speicher, Connect sowie Scale-up, Scale-out und Scale-across. Sie engagieren sich überall dort, wo etwas zu tun ist.

Daniel Newman｜01:49

Denkst du, viele kennen den Film „Mr. Mom“? Ich glaube schon. Wir werden sehen.

Will, zuerst eine Frage an dich. Dein Segment zählt zu den am schnellsten wachsenden im Halbleiterbereich. Jensen Huang hat euch als nächstes Unternehmen mit einer Billionen-Dollar-Marktkapitalisierung bezeichnet. Das setzt natürlich etwas unter Druck – aber ihr steuert darauf zu.

Daniel Newman｜02:12

In den vergangenen Jahren wurde Marvells Erfolg stark vom Custom-Chip-Geschäft getragen. Aber ihr macht auch Speichererweiterungsarchitektur, Scale-up-Interconnect-Netzwerke und Scale-across-Connectivity – sehr viele Bereiche.

Ich würde gerne deinen Blick aufs Gesamtgeschäft hören. Der Markt fokussiert sich stark auf XPU und Custom-Chips – was daran ist richtig und was wird übersehen? Wie angesprochen, gibt es viele Faktoren, die die AI-Welle vorantreiben, nicht nur XPU.

Will Chu｜02:52

Eine gute Frage, Daniel.

Daniel Newman｜02:54

Ich habe lange darauf hingeführt.

Will Chu｜02:55

Danke auch, dass ihr zu Marvell gekommen seid. Der Markt betrachtet XPU zweifelsohne als das zentrale Bauteil für AI-Infrastruktur-Individualisierung. Deshalb sprechen wir viel über "XPU Attach", also alles, was das XPU unterstützt.

Aus einer ganzheitlichen Perspektive beobachten wir, dass alle Bereiche der AI-Infrastruktur zu Custom-Lösungen übergehen. Das XPU selbst wird natürlich für die verschiedenen Workloads angepasst, aber das gilt ebenso für das Netzwerk, Speicher, Storage, sogar Security. Das sind die wichtigsten Bereiche – wir sind an allen relevanten Technologien beteiligt, um dem XPU Rückhalt zu geben und die Infrastruktur zu optimieren.

Es gibt viele Möglichkeiten. Allein an der Zahl, pro XPU entstehen drei bis vier, manchmal mehr XPU Attach-Chancen für kommende Produktgenerationen, kombiniert mit unseren Connect-Technologien und Netzwerkprodukten. So können wir End-to-End-Lösungen anbieten.

Daniel Newman｜04:06

Wenn der Markt euch nur auf XPU beschränkt, wird vieles übersehen.

Dave Lazovsky｜04:10

Stimmt, das ist bemerkenswert. Eine wichtige Gelegenheit liegt darin, dass Wills Team viel bei custom-XPU macht – dazu gehören auch Input/Output-Schnittstellen, also I/O. Marvell zählt zu den führenden Unternehmen für I/O-Technologien.

Medien und Markt interessieren sich aktuell stark für optische Interconnects. Wir denken, unser Team ist das stärkste weltweit auf diesem Gebiet. Ergänzend dazu verfügen wir über SerDes – Serialisierungs-/Deserialisierungstechnologie: aktuell bei 224 Gbps, bald 448 Gbps. Integriert man das ins XPU, kann das gesamte Netzwerksystem optimiert werden, inklusive Scale-up-Connect.

Dave Lazovsky｜04:55

Der Markt ist riesig – es ist die größte Infrastrukturinvestition der Menschheitsgeschichte. Und es ist sehr konzentriert: Vier Unternehmen bedienen mehr als 75% des adressierbaren Rechenzentrumsmarkts.

Dadurch können wir anders arbeiten als mit 40 Kunden. Wir können Produkte ganz nach Kundenvorgaben liefern, nicht nur für XPU, sondern auch für Scale-out und Scale-up-Netzwerke.

Das ist eine einzigartige Chance: Wir arbeiten eng mit den Kunden zusammen. Sie betrachten uns als Erweiterung ihres Entwicklerteams.

Daniel Newman｜05:43

Interessant. Wir haben gerade eine Prognose veröffentlicht zu den kumulierten Ausgaben bis 2030. Was schätzt ihr?

Dave Lazovsky｜05:57

Ich würde sagen 4,5 Billionen Dollar.

Daniel Newman｜05:59

Vier bis fünf Billionen, richtig. Gesamtinvestitionsvolumen sind aber 12 Billionen Dollar. Du hast Chips geschätzt, wir haben alles gerechnet – Chips passt aber.

Vor einem Quartal lag unsere Schätzung noch bei 10,7 Billionen Dollar. Das Wachstum ist atemberaubend.

Patrick Moorhead｜06:19

Ich hatte das eingangs angesprochen – die Balance zwischen Netzwerk und anderen Systemteilen war immer wichtig, die Frage war nur, welcher Teil limitierend ist.

Grundsystemarchitektur: Ob GPU oder XPU, wenn ein Tray nicht reicht, muss man aufs Rack ausweiten – reicht ein Rack nicht, verbindet man weitere. Bei großen Clustern braucht man eventuell sogar externe Verbindungen, auch zu anderen Rechenzentren, um Aufgaben zu erledigen.

Patrick Moorhead｜06:52

Aktuell gibt es eine Debatte – auch auf X und in Earnings-Calls – darüber, wann co-packaged optics, also CPO, wirklich durchstarten. Die Frage ist: Wird das XPU zum maßgeblichen Treiber der CPO-Adoption?

Dave Lazovsky｜07:16

Wesentlich ist, dass der Treiber AI-Infrastruktur ist. Was bringt Scale-up-Netzwerke dazu, von Kupfer auf optische Interconnects zu wechseln – nicht nur als Bonus, sondern als Notwendigkeit? Die Antwort liegt im Modell.

Zunächst kamen großformatige Grundmodelle mit Billionen Parametern und setzten den Speicherbedarf. Die Veränderung der letzten 24 Monate kam durch Inferenzmodelle und Inference Time Compute: Neben Model-Parameter-Storage wächst das KV-Cache. Mehr Inferenz, mehr Compute, mehr KV-Cache – im letzten neun Monaten hat sich der KV-Cache etwa verzehnfacht und verlangt viel Speicher. Darum sind Speicherunternehmen wie Micron und SK Hynix jetzt Billionen-Dollar-Unternehmen.

Die einzige Möglichkeit, den benötigten Speicher in High Bandwidth Memory (HBM) unterzubringen, ist das System über das Rack hinaus zu erweitern. Man muss die Skalierung von 144 auf 576 XPU und dann weiter ausbauen.

Patrick Moorhead｜08:35

Welche Rolle nimmt Marvell hierbei ein – speziell im Bereich CPO für Scale-up?

Dave Lazovsky｜08:45

Wir implementieren CPO auf verschiedene Weise. Aktuell beschäftigt sich der Markt mit dem Unterschied zwischen near-packaged optics (NPO) und CPO – also Onboard-Optik oder NPO versus CPO. Uns ist das Format egal: Wir bieten ein komplettes Portfolio für optische Interconnects.

Bei unseren eigenen Switch-Chips deployen wir CPO direkt im Package – sowohl für Ethernet-Systeme als auch für Scale-up-UALink-Systeme.

Auch XPU-Endpunkte werden von uns vernetzt – dazu laufen CPO-Projekte, ebenso NPO-Projekte. NPO als Option für optische Interconnects hilft Kunden beim Umstieg. Je nach Variante gibt es verschiedene Kompromisse.

Will Chu｜09:47

Ergänzend zu Daves Punkt: Traditionell entwickelt man Kupferverbindungen wie I/O-Chips. Wenn Kupfer-Interconnects an Grenzen stoßen und man auf Optik umsteigen muss, können die Lösungen, die wir bereits für Switch-Chips anbieten, auch für das XPU eingesetzt werden: Übergang von Kupfer zu NPO und dann CPO.

Kunden können Transformationstempo, Geschwindigkeit und spezifische Anforderungen mit uns anpassen – von Compute zu I/O, bis zum Switch-Chip auf der Gegenseite und retour. Wir verfügen über eine umfassende Produkt- und Technologiepalette.

Dave Lazovsky｜10:24

Ein weiterer Aspekt: Identische I/O an beiden Enden ist für Kunden besonders bei Scale-up-Verbindungen wertvoll. Die Stabilität der Scale-up-Netzwerkverbindung ist entscheidend.

Ob zwischen XPU und unserem Scale-up-Switch beide Enden 224 Gbps Kupfer-SerDes nutzen, oder unsere optische Verbindung – beides funktioniert.

Unsere Optik beinhaltet das „Fast Pipe“-Design mit derzeit 200 Gbps, geplant bis 400 Gbps; dazu das „Flat Pipe“-Konzept mit 56 Gbps NRZ, geplant bis 112 Gbps. Analoge SerDes sind dabei besonders energieeffizient.

Will Chu｜11:05

Noch ein Punkt: Es gibt nur wenige Unternehmen, die End-to-End-Lösungen bieten, wir gehören dazu. Wir erarbeiten mit Kunden gemeinsam die Designs für beide Enden, um zu gewährleisten, dass die kommende Infrastruktur ihren Anforderungen gerecht wird – weshalb wir mehr sind als nur ein XPU-Unternehmen.

Daniel Newman｜11:25

Der Markt hat lange fast ausschließlich das XPU betrachtet.

Patrick Moorhead｜11:27

Das war eine intensive Zeit. Nach mehreren Fokuswechseln ist das Verständnis dafür gewachsen.

Daniel Newman｜11:35

Wir haben bei Six Five Chris Koopmans, Präsident und COO, mehrfach zu diesem Thema interviewt – unbedingt anschauen.

Sie haben gerade die Memory Wall angesprochen. Das Timing ist bemerkenswert: Speicher war bis vor kurzem homogenes Commodity mit niedrigen, zum Teil negativen Margen – jetzt erzielt er die höchsten Margen der Branche.

Daniel Newman｜12:02

Diese Unternehmen sind zu würdigen – insbesondere die, die nicht nur NAND/DRAM machen, sondern auch HBM entwickeln, denn sie ermöglichen diese Fortschritte.

Ihr setzt viele Methoden ein – High-Density SRAM, Memory Pooling, kreative Architekturen. Aktuell sucht jedes Chip-Design-Unternehmen nach Wegen, die Memory Wall zu umgehen. Selbst wenn der Flaschenhals überwunden wird, steigert sich der Speicherbedarf weiter – gute Aussichten für Speicherunternehmen, was sicher Konsens ist.

Könnt ihr die verschiedenen eingesetzten Technologien und ihre jeweiligen Vor- und Nachteile erläutern? Besonders interessiert den Markt, wie Marvell diese Problematik betrachtet.

Will Chu｜12:41

Daniel, ich beantworte das: Wie Dave eben sagte – je größer das Modell, desto mehr Speicher wird gebraucht. Gleichzeitig steigen Preise; klassische Technologien werden zum Systembottleneck.

Will Chu｜13:00

Intern wie in Zusammenarbeit mit Kunden forschen wir nach mehreren Wegen durch die Memory Wall.

Erstens: High-Density Static RAM, also SRAM. Im Chip werden spezialisierte IP eingesetzt, um die Speicherdichte stark zu steigern. Die enge Kopplung mit Compute bringt Performance – größere Modelle passen zumindest chipintern rein.

Das ist eine Custom-Lösung. Mit klassischen Compiler-Ansätzen erreichen wir die Kundenanforderungen kaum noch; daher investieren wir stark. Das gilt für den Chip selbst.

Will Chu｜13:35

Darüber hinaus: Rund um oder oberhalb des Chips befindet sich selbstverständlich HBM. Wo möglich, treiben alle Custom-HBM voran, um Bandbreite und Kapazität zu steigern.

Weitere entwickelte Technik ist 3D-Stacking: Speicher direkt auf den Chip stapeln, um noch enger zu koppeln.

Dann kommen klassische Speichererweiterungen, etwa per CXL oder proprietär, wo primär Kapazität und weniger Bandbreite priorisiert werden, weil Platz nicht begrenzt ist; und last but not least diverse Formen von Off-Tray-Speicher.

Will Chu｜14:26

Als Beispiel: Unser Photonic Fabric Memory Device – vorgestellt auf der FMS – bietet 32 TB Speicher im separaten Rack. Wir haben also End-to-End-Ansätze.

Hinzu kommt Near-Memory Compute: CPU nah am Speicher, damit Workloads, die einst auf CPU/GPU liefen, nun mit enger Speicher-Ankopplung laufen, was die Ressourceneffizienz erhöht.

All das passiert aktuell. Dave hat angesprochen, dass Speichererweiterungen und Pooling wieder I/O- und Connectbedarf erzeugen – am Ende muss der Datentransport innerhalb der Infrastruktur gelöst werden.

Daniel Newman｜15:19

Sie arbeiten eng zusammen und sind gegenseitig abhängig. Auf Social Media wurde diskutiert, ob Speicher vorbei sei und das Zeitalter der Optik beginne. Wie gesagt: Kein Entweder-Oder – beides wird gebraucht.

Will Chu｜15:35

Ich würde sagen, sie treiben sich gegenseitig an.

Patrick Moorhead｜15:36

Solange alle ihren Part gut machen, gehen Compute, Speicher und Storage immer wieder in Wechselwirkung und Evolution.

Noch nie stand CXL so im Fokus. Einer unserer Analysten schrieb vor drei, vier Jahren ein Whitepaper dazu – damals war die Spezifikation neu, aber Pooling gab es kaum. Jetzt ist die Nachfrage enorm, und ihr investiert seit vier, fünf Jahren, sogar noch länger. Es scheint die technische Reife zu erreichen.

Dave Lazovsky｜16:07

CXL läuft an, vor allem getrieben durch Inferenzmodelle und Inference Time Compute. Die Nutzer wollen mit geringster Latenz große, hochbandbreitige Speicher schnell nutzen.

Wie Will erwähnte: Beim Photonic Fabric Memory müssen sich Kunden nicht zwischen DDR-Kapazität & Kostenstruktur und HBM-Bandbreite & Parallelität entscheiden – beide Vorteile werden integriert: DDR für Volumen und Kosten, HBM für höchste Bandbreite und parallele Transaktionen, um Latenz zu verstecken.

So vereint das System beide Welten und ermöglicht erstmals unabhängige Skalierung von Kapazität und Bandbreite – ohne Compute-Erweiterung.

Patrick Moorhead｜17:04

Fantastisch. Wer hätte das vor fünf, sechs Jahren gedacht, als die erste Norm kam – ohne die heutige LLMs, Agents & Co?

Will Chu｜17:14

Ganz klar: Die hohen Speicherpreise zwingen die Cloud-Giganten, die Architektur ihrer Infrastruktur zu überdenken, gerade wenn man davon ausgeht, dass die Preise dauerhaft hoch bleiben.

Darum gibt es viel Nachfrage nach unseren CXL-Produkten. Einige Kunden wollen alte Speicher weiter nutzen, aber die lassen sich nicht direkt an neue Server/CPU/GPU anschließen – wir können da vermitteln.

Wir unterstützen auch Speicherkürzung und Deep Compression, bei der mit der realen Menge an Speicherchips doppelte nutzbare Kapazität erzielt wird. Wie angesprochen: Pooling erhöht die Effizienz.

Der Bedarf reicht inzwischen bis in die Flash-Ebene – der äußere Layer. Ob High Bandwidth Flash (HBF) oder klassische Varianten – es gibt viel Nachfrage. Kunden bauen praktikable Hierarchien auf Basis von Flash, nutzen dessen günstigen Preis (im Vergleich zu DRAM) für mehr Volumen, was wiederum Connect antreibt.

Daniel Newman｜18:21

Das bestätigt: Notwendigkeit ist die Mutter der Erfindung. Die treibende Kraft kommt aus dem Wunsch nach verbesserten Margen – beim Anbieter wie beim Nutzer, denn jede neue Technologie, die effizienter rechnet, wird intensiver genutzt.

Daniel Newman｜18:37

Und das Wachstum ist enorm. Google hat beim Six Five Summit gesagt, man verarbeite jeden Monat 40 Billiarden Tokens – allein Google: 40 Billiarden.

Will Chu｜18:49

Absolut beeindruckend.

Patrick Moorhead｜18:51

Auch bei Netzwerken erleben wir Custom-Zyklen: Zuerst skaliert man, setzt auf Standards und Templates, dann stößt man auf Engpässe und muss anpassen.

Jeder Cloud-Gigant hat eine eigene Architektur, muss sie managen und will sie weiterentwickeln. Warum also braucht Scale-up-Netzwerke Customisierung? Die Gründe sind offensichtlich, aber ihr sprecht auch über End-to-End-Wert – gemeint ist wohl ein einziger Anbieter für die gesamte Lösung. Dave, wie siehst du das?

Dave Lazovsky｜19:37

Noch einmal: Der Markt ist extrem konzentriert – nur wenige Hyperscale-Anbieter dominieren und jede setzt eigene, nicht identische Standards für die AI-Infrastruktur. Gerade bei Scale-up-Netzwerken entwickeln sie ihre eigenen Custom-Lösungen – sowohl physisch als auch logisch.

Es entsteht eine gewisse Konvergenz – nicht Standardisierung, aber Annäherung. Zwei, vielleicht vier Anbieter setzen eher auf Ethernet-basierte Scale-up-Netzwerke. Andere gehen über UALink, was ähnlich wie NVLink ist: eine speichersemantische Load-Store-Mechanik, effizienter als Ethernet.

Und ein Anbieter verwendet eine vollkommen proprietäre, individuell entwickelte Netzwerktopologie.

Dave Lazovsky｜20:41

Wir entwickeln unsere Lösungen immer vollständig individuell: XPU-Attach bis I/O-Chip – häufig auch Protokoll-Layer, nach Kundenvorgabe.

Wir analysieren die Kanalanforderungen, optimieren Forward Error Correction (FEC), stellen Balance zwischen Bitfehlerrate, Stabilität, Energieverbrauch und Switch-Latenz her.

Auch Switch-Chips werden mit den Hyperscalern viele Jahre im Voraus gemeinsam spezifiziert. Kommerzielle Standardchips genügen nicht mehr; stattdessen entwickeln wir die Architektur zeitlich parallel zur Kundenevolution, um genau dann liefern zu können, wenn sie es benötigen.

Will Chu｜21:29

Noch eine Ergänzung: Dan, du hast von einer Investition im Umfang von mehreren zehn Billionen Dollar gesprochen. Mit so viel Geld gibt es starke Gründe, die Infrastruktur zu optimieren.

Will Chu｜21:41

XPU und zugehörige Scale-up-Netzwerke sind eng gekoppelt, um die vom Kunden gewünschten Leistungsziele zu erreichen. Dadurch entstehen Custom-Protokolle und Optimierungen, die am Ende in unseren Chips landen.

Will Chu｜22:01

Das ist unser Mehrwert für die Kunden: Wir können das leisten – das macht uns einzigartig.

Offen gesagt, das ist sehr herausfordernd. Aber wir investieren laufend in Engineering, haben Erfolgsausweise und Kundenzustimmung – was uns befähigt, diese Kernelemente zu liefern.

Daniel Newman｜22:22

Ich knüpfe daran an. Das Summit-Motto ist „Entfesselung des AI-Potenzials“ – und ihr entfesselt die Lösungen durch die Zusammenarbeit mit den Kunden.

Kurz zur Info: Die Kunden werden kaum – oder nie – direkt genannt; es sind die weltgrößten Hyperscale-Unternehmen. Marvell entwickelt Custom-Lösungen, was viele Insights bietet.

Daniel Newman｜22:46

Will, zu einer offenen Frage: Was sind die größten Durchbrüche, die dem enormen Wachstum von AI-Kapazitäten und Möglichkeiten gerecht werden? Ihr macht bei Marvell so vieles – es ist schwer, das zu beantworten.

Will Chu｜23:15

Der Umfang der Frage ist enorm – schwer, nur eines zu benennen.

Daniel Newman｜23:19

Nenne ruhig mehrere – ich bitte auch Dave zu ergänzen.

Will Chu｜23:27

Im Prinzip sind drei Elemente zentral: Connect (überlasse ich Dave), wo wir viel machen.

Im Speicherbereich arbeiten wir an zahlreichen Durchbrüchen – besonders bei hochverdichteten, optimierten Lösungen, die die Memory Wall aufbrechen.

Compute ist inzwischen besser verstanden und engineering-technisch einfacher zu lösen. Die eigentliche Veränderung kommt vom Speicher.

Und mit unserer I/O-Technologie – wie Dave sie gleich vorstellt – können wir alle drei Bereiche kombinieren, was uns einzigartig macht.

Dave Lazovsky｜24:15

Wir haben noch kaum über Scale-out und Scale-across gesprochen, dabei sind sie wichtige Wachstumsfelder. Die Rechenzentren werden immer größer.

Dave Lazovsky｜24:27

Mark Zuckerberg sagte einmal, das neue Meta-Rechenzentrum sei so groß wie Manhattan. Die Connect-Bedürfnisse sind gigantisch. Das treibt schnelle Entwicklung einer neuen Optikgeneration – Coherent-lite für Strecken unter 10 km.

Unser Coherent Optics-Team ist das beste, das ich je erlebt habe. Wir bringen 1.6 Tbps-Optik auf den Markt – beeindruckend. Der Scale-across-Markt boomt, Scale-out wächst rasant.

Aber aus unserer Sicht gibt es eine potenziell disruptive Innovation.

Dave Lazovsky｜25:17

Zentral im Scale-up: Rund 85% des Datenverkehrs in Rechenzentren fließen zwischen internen Prozessoren, nur 15% laufen horizontal.

Wenn sich die Effizienz, vor allem Energieeffizienz, dort verbessert, reduziert das den gesamten Energieverbrauch massiv. Strom ist jetzt schon knapp – in drei bis fünf Jahren wird es kritisch. In den USA reicht die bestehende Infrastruktur längst nicht für die neuen Rechenzentren.

Darum setzen wir, beziehungsweise haben entwickelt und implementieren, Scale-up-Netzwerke mit analogen SerDes und Optik. Im Vergleich zu klassischen 224 Gbps SerDes mit direkter Optik sinkt der Stromverbrauch auf etwa ein Viertel.

Wir glauben, das hat große Wirkung: Nach vollständiger Einführung kann der Stromverbrauch eines Rechenzentrums um mehr als 25% sinken.

Daniel Newman｜26:34

Ich wollte fragen, wie viel – wir brauchen hunderte Gigawatt mehr Strom. Brennstoffzellen bieten begrenzt Strom, andere auch; Kernenergie ist noch Zukunftsmusik. Sieben Jahre Wartezeit für Netzanschluss, vier Jahre für Gasturbinen – unzählige Engpässe.

Jede Effizienzsteigerung ist ein gigantisches Geschäft.

Kurz: Terafab ist kein Rechenzentrum. Verglichen wurde mit dem Central Park, und die Silhouette wurde nebeneinandergelegt.

Will Chu｜27:02

Stimmt, genau so.

Daniel Newman｜27:03

Die Gebäude wachsen enorm – da sind wir uns wohl einig? Hast du noch Anmerkungen?

Will Chu｜27:10

Ich will Daves Punkt ergänzen. Der eigentliche Wettbewerbsvorteil ist, dass wir sämtliche Grundlagentechnologien besitzen und sie zusammenbringen können.

Manche Anbieter liefern einzelne IP, aber für echte Integration braucht man das komplette Portfolio – Speicher, I/O und Netzwerk – und muss sie entweder zusammen oder auf verschiedene Chips verteilen, die dann harmonisch zusammenspielen.

Will Chu｜27:39

End-to-End-Koordination ist eine enorme Herausforderung. Unser wirklicher Vorteil sind exzellente IP und die Fähigkeit, sie für AI-Infrastrukturen synchron zu betreiben. Wir setzen das täglich um.

Daniel Newman｜27:55

Dass man das Geschäft auf Attach-Komponenten neben dem Core-Chip ausweitet, ist eine Erfolgsspur.

Dave Lazovsky｜27:59

Zur technischen Tiefe und Breite, zum Produktportfolio und zum hervorragenden Team kommt oft etwas übersehenes: die Tiefe der Kundenbeziehungen.

Dave Lazovsky｜28:12

Als jemand, der noch nicht lange bei Marvell ist, halte ich das für das wichtigste Asset. Solches Vertrauen baut man über viele Jahre auf.

Wir haben jetzt mit den vier größten Cloud-Giganten und GPU-Anbietern langjährige, vertrauensvolle Partnerschaften. Wie eine Erweiterung der Entwicklerteams der weltgrößten Unternehmen zu arbeiten, ist etwas Besonderes.

Patrick Moorhead｜28:42

Auch Kunden haben das bestätigt – und gegenüber Daniel, nur wird das selten offen gesagt. Es gab überraschende Pressemitteilungen, die offen Marvell unterstützen. Glückwunsch! Die enge Zusammenarbeit schafft beeindruckende Ergebnisse.

Daniel Newman｜29:03

Will, Dave, vielen Dank für die ausführliche Diskussion – das war großartig für das Six Five Summit-Publikum. Glückwunsch zu euren Fortschritten und zur erfolgreichen Integration. Wir werden Marvell weiter beobachten und berichten.

Dave Lazovsky｜29:20

Danke für die Einladung.

Daniel Newman｜29:22

Danke auch an die Teilnehmer unseres Six Five Summit 2026 „Halbleiterfokus“-Specials. Bleiben Sie dran, abonnieren Sie uns und schauen Sie die übrigen Summit-Debatten. Vielen Dank fürs Mitmachen – bis zum nächsten Mal!