Neuestes Interview von SemiAnalysis: Speicher hat noch Verdopplungspotenzial, CPU ist nur eine Nebenrolle, CPO-Implementierung auf 2029 verschoben

Jede Ebene der KI-Infrastruktur steht gleichzeitig unter Druck, wobei Chancen und Fehleinschätzungen nebeneinander bestehen. Dylan Patel, Gründer von SemiAnalysis, gab kürzlich ein Podcast-Interview, in dem er die wichtigsten aktuellen Dynamiken und Investitionslogiken des KI-Infrastruktur-Stacks systematisch zusammenfasste. Seine Einschätzungen umfassen die Ökonomie von Modellen, den Superzyklus beim Speicher, die Neupreisgestaltung von CPUs, das Timeline-Risiko bei CPOs sowie strukturelle Chancen im Bereich der Energieversorgung von Datenzentren.

Angesichts der weitverbreiteten Skepsis am Return on Investment (ROI) im Bereich KI-Investitionen verriet Dylan, dass Anthropic im zweiten Quartal dieses Jahres einen positiven freien Cashflow vorweisen konnte, mit einem jährlich wiederkehrenden Umsatz von über 50 Milliarden US-Dollar,mit einer Bruttomarge von über 70%. Auf Unternehmensebene übersteigt der Produktivitätszuwachs durch die neuesten KI-Modelle den Anstieg der Rechenkosten deutlich, weshalb Unternehmen andere Softwareausgaben reduzieren, um explosive Wachstumsbudgets für KI zu erhalten.

Auf der Ebene der Hardwareentwicklung wird durch den Paradigmenwechsel zu Inferenzmodellen die Marktnachfrage neu definiert. Dylan betont, dass Speicher einem mehrjährigen strukturellen Engpass unterliegt, mit weiterem Potenzial von 2- bis 3-facher Steigerung; gleichzeitig treiben Agents und Reinforcement Learning den Bedarf an CPUs, doch die Markteinschätzung und Preisbildung sind überhöht. Das Wachstum der CPUs stammt vor allem aus historischer "Nachholung", ihr absoluter Wert in KI-Servern bleibt weit hinter dem von GPUs zurück.

Dylan sieht den breit erwarteten Durchbruch der Co-Packaged Optics (CPO) in großem Maßstab erst explizit für Ende 2028 bis 2029 verschoben, was den Boom für Kupferkabel-Verbinder überraschend verlängert. Das begrenzte Netz für Stromverteiler zwingt Datenzentren zum Umstieg auf "Behind-the-Meter"-Stromquellen (eigene Energieerzeugung), was jenseits klassischer Chip-Investments große Investitionsmöglichkeiten in industrielle Energie und Stromumwandlung eröffnet.

Anthropic erzeugt eigenständig Einnahmen, die Nachfrage-Narrative für KI werden Realität

Für die marktüblichen Zweifel am ROI von KI-Unternehmen liefert Dylan Patel konkrete Zahlen.

"Anthropic hat im zweiten Quartal bereits einen positiven freien Cashflow erzielt, April profitabel, Mai profitabel, und Juni sieht ebenfalls so aus." Er bestätigt, dass Anthropic mit einem jährlich wiederkehrenden Umsatz von mehr als 50 Milliarden US-Dollar und einer Bruttomarge von mehr als 70% reüssiert. Auch OpenAI wächst rasant mit der steigenden Nutzung von Codex.

Auch die eigene Ausgabenentwicklung bei SemiAnalysis bestätigt diesen Trend. Im November letzten Jahres lagen die jährlichen KI-Ausgaben des 90-köpfigen Teams bei unter 100.000 US-Dollar; Ende Januar dieses Jahres explodierte dieser Wert durch umfassende Einführung von Claude Code auf 4 Millionen US-Dollar jährlich; jetzt sind es schon 11 Millionen US-Dollar, die Spitzenwoche hochgerechnet erzielte sogar 14 Millionen US-Dollar jährlich. "Personalkosten plus KI-Kosten – der KI-Anteil liegt inzwischen bei über einem Drittel, bis Ende des Jahres womöglich sogar bei der Hälfte."

Er hebt hervor, dass neuere und stärkere Modelle nicht zwingend teurer sind. Ein älteres Modell benötigt vielleicht 100.000 Tokens und 10 Interaktionen für einen Aufgabenabschluss, ein neues Modell hingegen nur 25.000 Tokens und eine Interaktion. "Jedes Mal, wenn wir von 4.6 Opus auf 4.7 Opus upgraden, sinken unsere Ausgaben zunächst für eine Woche und steigen dann wieder – denn plötzlich kann man Aufgaben erledigen, die vorher unmöglich waren." Dies ist seiner Ansicht nach einer der Hauptvorteile von Anthropic im Wettbewerb mit OpenAI:höhere Token-Effizienz, niedrige Gesamtkosten für den Nutzer.

Speicher: Struktureller Mangel statt gewöhnlicher Zyklus

Von allen Hardware-Kategorien hat Dylan Patel die klarste Einschätzung für Speicher.

"Das ist kein kurzfristiger Engpass, hier handelt es sich um einen strukturellen Mangel, der über Jahre anhält."Er betont, dass die Speicherproduktionskapazitäten jährlich lediglich um 20% bis 30% steigen, während die KI-Nachfrage sich vervielfacht und die Lücke kontinuierlich größer wird.

Der Kerngedanke dahinter resultiert aus dem Einfluss von Inferenzmodellen auf KV-Caches. Die Kontextlänge traditioneller Dialoginferenz lag bei wenigen Tausend Tokens – KV-Cache-Verbrauch limitiert; doch seit Auftreten von o1-Inferenzmodellen explodiert die Kontextlänge, die KV-Caches wachsen dramatisch, Speicher profitiert unmittelbar. SemiAnalysis wies bereits im Dezember 2024 in einem Bericht explizit auf diesen Trend hin.

Rigiditätsfaktoren auf der Angebotsseite zwingen den nachgelagerten Markt dazu, begrenzte Speicherressourcen neu zu verteilen. Er prognostiziert, dass konsumorientierte Elektronik mit geringer Preiselastizität zuerst unter Druck gerät – die Auslieferungen von mittleren und niedrigen Smartphone-Herstellern sind bereits um 40% gesunken, iPhone und MacBook werden nächstes Jahr teurer. "Speicherpreise werden weiter steigen, der Konsumelektronikmarkt wird auf einen neuen Pegel eingedampft, bis KI den benötigten Speicher erhalten hat." Auch wenn der Zyklus irgendwann unten ankommt, "vom Tal zum Tal – das langfristige Wachstum ist unbestritten."

CPU: Auffüll-Rally begrenzt, nicht übertrieben extrapolieren

Die CPU ist in diesem Jahr das neue Highlight der KI-Infrastruktur-Narrative, doch Dylan Patel warnt explizit.

Der Erholungsmechanismus für CPUs ist klar: Reinforcement Learning benötigt viele CPUs für Umgebungsprüfungen (Unittesting, Simulation); die Inferenz von Agents erfordert häufige Werkzeugaufrufe und Interaktion mit der realen Welt – alles hoch CPU-abhängig. Gleichzeitig wurden in den letzten Jahren viele KI-Chips ausgeliefert, passende CPUs fehlten, aktuell werden diese Lücken geschlossen – ARM, Intel, AMD profitieren, Nvidia Vera CPU prognostiziert 20 Milliarden US-Dollar Umsatz.

"Aber ich muss warnen: Hier steckt viel Nachholeffekt drin." Wenn die historischen Defizite ausgeglichen sind, bleibt nur noch Zusatzbedarf, die Nachfrage normalisiert sich. In absoluten Zahlen: Eine Blackwell kostet ca. 50.000 US-Dollar pro Stück, eine CPU etwa 5.000 US-Dollar – selbst wenn der CPU-Anteil größer wird, ist das Dollarvolumen weit unter dem der KI-Beschleunigerchips."Speicher und KI-Beschleunigerchips sind das Kerngeschäft, CPUs wurden nach einer Unterbewertung neu bewertet und sind jetzt angemessen eingepreist – sie werden jedoch nicht dauerhaft schneller wachsen als KI-Chips."

Optische Verbindungen: langfristiges Potenzial, kurzfristig Vorsicht bei CPO

Netzwerk und Optik sind weitere Felder mit viel Markteuphorie, doch Dylan Patel beurteilt das Timing der CPO-Einführung (Co-Packaged Optics) vorsichtig.

"Ich glaube, CPO wird wirklich erst Ende 2028 oder 2029 im großen Maßstab produziert."Momentan erfüllen Herstellungsqualität, Chipdesign und Supply-Chain-Maturität nicht die Standards für eine breitflächige Einführung. Nvidia Rubin und die Folgearchitektur Feynman setzen weiter auf Kupfer; auf GPU-Seite braucht CPO noch mehrere Chipgenerationen.

Er berichtet, dass SemiAnalysis vergangene Woche einen Bericht an institutionelle Kunden versandt hat – mittelfristig sehen sie Kupferkabel und nicht-CPO-Optiklösungen optimistischer, CPO bleibt unter Beobachtung. Designänderungen bei Chips downstream (wie Kyber auf Rubin Ultra entfallen 800V-Design) verschieben das CPO-Datum weiter nach hinten. Firmen wie Amphenol werden von Kupferkabeln länger profitieren als gedacht.

"CPO wird langfristig kommen, Kupfer wird langfristig ersetzt, doch das Timing verzögert sich – kurzfristig und mittelfristig bleiben Kupferkabel sehr relevant."

Strom: Eigenversorgung wird Mainstream, viele Innovationswege

Die Stromversorgung von Datenzentren ist aktuell die härteste physische Grenze für KI-Wachstum. Laut Dylan Patel wird der zusätzliche Strombedarf von Datenzentren in diesem Jahr 20 GW betragen, nächstes Jahr 30 GW, übernächstes 50 GW – fast explosionsartiges Wachstum.

Er zerlegt Energiefragen in drei Dimensionen: Übertragung, Erzeugung und Konversion. Die Übertragung ist am schwierigsten zu überwinden, da sie Regulierung, lokale Versorgermonopole und Kostenteilung betrifft – kurzfristig kaum änderbar. Erzeugung und Konversion bieten dagegen viele Chancen.

Er prognostiziert, dass in den kommenden Jahren die Hälfte des neuen Strombedarfs von Datenzentren aus "Behind-the-Meter"-Energie (eigenerzeugtem Strom) kommt statt aus dem öffentlichen Netz. Mainstream-Lösungen sind derzeit Gas-Kraftwerke im Kombikreislauf (CCGT) von GE Vernova, Mitsubishi, Siemens; daneben gibt es Kolbenmaschinen, industrielle Gasturbinen und sogar modifizierte Motoren aus Schiffen, Zügen oder Lkw – "das klingt grob, läuft aber und ist bereits in Gebrauch."

Langfristig sieht er kombinierte Kosten für Solar plus Speicher in etwa zwei Jahren unter denen von Gasstrom, noch weiter in der Zukunft den Trend zu Weltraum-Datenzentren – Chips im Orbit, Solarpanels ohne Atmosphärendurchdringung, stark höhere Energiedichte als am Boden, keine Speicher nötig.

Auch die Konversionsseite birgt große Investitionschancen: Von IGBT, Siliziumkarbid bis GaN-MOSFET, Feststofftransformatoren, USV und Superkondensatoren – die komplette Spannungskonversionskette entwickelt sich rasant. SemiAnalysis hat aktuell die größte Forschungsabteilung nicht im Bereich Halbleiter, sondern im internen "DEI"-Team (Datenzentren, Energie, Industrie), das weltweit den Einsatz jedes Datenzentrums und Kraftwerks verfolgt.

Das vollständige Interview folgt:

Moderator:Willkommen zurück zum Podcast "The Next Big Thing". Ich bin Moderator, heute begleiten mich Kollege Klay Hyman und unser neuer Partner, Gründer von SemiAnalysis, Dylan Patel. Heute ist ein besonderer Tag – wir tauchen gemeinsam mit Dylan tief in die Welt der aktuellen KI-Infrastruktur ein. Die Podcasts mit Dylan verfolge ich schon lange, der Newsletter von SemiAnalysis ist Pflichtlektüre für mich. Ihr aktueller Report zu Weltraum-Datenzentren ist besonders detailliert – schaut gern mal rein.

Dylan, mich interessiert deine Geschichte rund um die Entstehung von SemiAnalysis. Im Substack-Community reden alle gerade über Erfolg und Umsatz, aber oft vergisst man die Reise und den Aufwand dahinter.

Die Entstehung von SemiAnalysis

Dylan Patel:Der Ursprung von SemiAnalysis liegt tatsächlich in Online-Postings – etwas laienhaft könnte man "Spamming" sagen. Rückblickend war mein erster Post zur Halbleiterbranche, im Teenageralter begann ich, über Chips, Smartphones und deren Displays und SoCs zu schreiben, obwohl ich selbst noch kein Smartphone hatte – ich war einfach besessen von Technik. Das gleiche galt für Gaming-Hardware, PC-, Konsolen-Hardware – überall postete ich online.

Unser Team – inzwischen sind es 90 Leute und wir haben sogar eine eigene Marketing-Abteilung – mahnt oft: "Dylan, hör auf, online auf die Trolle zu antworten, das schadet unserer professionellen Außendarstellung." Aber tief in mir habe ich den Drang, auf Kritik direkt zu reagieren. Vielleicht keine gute Eigenschaft – aber so ist es.

Meine ganze Jugend verbrachte ich mit der Administration von Foren, später begann ich mit Investments. Ich arbeitete als Quant-Trader, gründete dann meine eigene Firma, doch selbst auf diesem Weg postete ich immer weiter online – sogar anonym auf Blogs. 2020 wurde mir mein Job als Trader langweilig – ich war ernüchtert, denn das viele Geld war am Ende gar nicht so aufregend. Also kündigte ich praktisch und begann mit meiner Unternehmung.

Damals wusste ich nicht, wie weit ich damit kommen würde, aber ich begann auf meiner eigenen WordPress-Seite, unter echtem Namen, über Technik, Business, Finanzmarkt, Supply Chain zu schreiben – Themen, die mich faszinierten, weil ich aus einer Unternehmerfamilie stamme. In einem Motel im ländlichen Georgia, das meine Eltern betrieben, lebten wir im Motel. Später eröffneten wir eine Tankstelle – Unternehmertum war mir vertraut und ich liebte es.

Später wurde aus der WordPress-Seite eine Substack, ab dann kostenpflichtig, und ich schrieb über die gesamte Semiconductor- und KI-Supply-Chain. Vier Jahre lang reiste ich um die Welt, besuchte jährlich 40 Konferenzen – von Top-Konferenzen der KI-Forschung bis zu Branchentreffen für spezifische Chemikalien, von Servern bis Netzwerken bis Wafer-Fabriken, die ganze Stack. Manche Konferenzen waren nur mit 300 Leuten, meist auf Japanisch, nur fünf konnten Englisch; andere hatten 10.000 Teilnehmer. Nach mehreren Jahren auf Konferenzen wird man Insider, versteht die Sprache, trifft die Menschen, kann wirkliche Fachfragen stellen und begreift das Ökosystem.

Wachstum und Aufbau des SemiAnalysis-Teams

Dylan Patel:Ich verfolgte immer die "Kipppunkte" der Technik – konnte anhand von Supply-Chain-Änderungen und Technologiefortschritt abschätzen, wie sich das auf den Markt oder die Finanzen auswirkt. Manche Reports waren rein technisch, für die Finanzwelt uninteressant; andere Reports zeigten Engpässe oder Trends und prognostizierten Marktanteile schon viel früher als Branchen und Hedgefonds.

Der dritte im Team war Myin, vormals in Hedgefonds tätig und zog für seine Frau nach Japan, ein "Freelancer". Er brachte Hedgefonds-Erfahrung ins Team, die anderen beiden waren technisch. Mit ihm bauten wir Finanzmodelle, das Geschäft ging von Newsletter auf Informationsservice, zu Research-Reports und Data-Sets.

Ab dann rollte der Schnee: 2023-2024 gingen wir von 2 auf 7 Leute, Ende 2024 bis Anfang 2025 auf 20, dann auf 60, dieses Jahr kamen nochmals 30 dazu – jetzt sind wir 90.

Das Spannendste bei SemiAnalysis ist die Talentdichte – ich kenne kein Unternehmen mit so einer fachlichen Konzentration. Bei uns arbeiten Leute von ASML, Applied Materials, Lam Research, von Intel, TSMC, Nvidia, Microsoft, Amazon, OpenAI, Tesla FSD, Cohere, Datenzentrumspezialisten, einer, der in Kasachstan ein Kraftwerk gebaut hat – diese Talentdichte ist verrückt. Etwa die Hälfte sind Ingenieure aus verschiedenen Ebenen der Branche, die andere Hälfte Ex-Hedgefonds oder online entdeckte, leidenschaftliche Menschen.

Wir haben mittlerweile viele Geschäftsbereiche: Datenservice, Beratung, Informationsdienst, Newsletter, Medien; bald starten wir eine große Konferenz – eine sehr spannende Reise.

Nvidia GTC Vor-Ort und der "Champions-Gürtel der Rechenleistung"

Moderator:Eine mutige Reise – dazu fällt mir ein besonders beeindruckender Moment ein. WisdomTree und SemiAnalysis arbeiten nun schon mehrere Monate zusammen. Bei der Nvidia GTC im März dieses Jahres, schaute ich den Stream in Charlotte, North Carolina – angeblich sahen 55.000 Menschen online zu, im Stadion waren noch einmal 20.000 vor Ort.

Dylan Patel:Ja, unter den Erwachsenen waren tatsächlich 20.000.

Moderator:Jensen Huang erwähnte dich auf der Bühne, meinte, du hättest bestimmte Zahlen "versteckt", deine Grafik wurde projiziert – ich war sogar etwas aufgeregt, den CEO des wertvollsten Konzerns der Welt auf der Bühne zu sehen, wie er deine Forschung und deine kritischen Daten direkt adressiert. Kannst du die Szenerie schildern? Du warst wohl vor Ort.

Dylan Patel:Dieser Moment war wirklich surreal. SemiAnalysis macht unter anderem Open-Source-Benchmarking von allen KI-Modellen und Hardware, was in der Branche wenig auffällt. Wir arbeiten eng mit wichtigen Partnern – von OpenAI, Microsoft, Amazon, Google, Coreweave, Nebius, Crusoe haben wir Hardware im Wert von über 5.000 US-Dollar gespendet bekommen, auch Oracle stellte Hardware für Benchmark-Tests bereit.