Останнє інтерв’ю SemiAnalysis: зберігання має ще подвоїтися, CPU лише другорядний гравець, впровадження CPO відкладено до 2029 року

Кожен рівень інфраструктури AI зараз одночасно перебуває під тиском, а можливості й помилки співіснують. Засновник SemiAnalysis Dylan Patel нещодавно дав інтерв’ю для подкасту, систематично виклавши основні тенденції поточної інфраструктурної стеки AI та логіку інвестицій у цій сфері. Його оцінки охоплюють економіку моделей, суперцикли пам’яті, переоцінку CPU, ризики часової лінії CPO та структурні можливості енергопостачання дата-центрів.

Щодо поширених сумнівів ринку стосовно рентабельності інвестицій (ROI) в AI, Dylan повідомив, що Anthropic у другому кварталі цього року вийшов на позитивний грошовий потік, річний регулярний дохід перевищив 50 млрд доларів США,маржа брутто понад 70%. На корпоративному рівні, підйом продуктивності, принесений новітніми моделями AI, значно перевищує приріст витрат на обчислювальні потужності, змушуючи компанії скорочувати інші програмні витрати для підтримки вибухового зростання бюджету AI.

На рівні еволюції апаратного забезпечення, перехід до парадигми моделей inference трансформує ринковий попит. Dylan підкреслив, щопам’ять переживає багаторічний структурний дефіцит, її потенціал зростання становить ще 2–3 рази; водночас, хоча агенти й підсилююче навчання підвищили попит на CPU, ринок продавця завищує ціни, зростання CPU переважно обумовлюється "історичним компенсаційним попитом", і їх абсолютна цінність у AI-серверах набагато нижча, ніж у GPU.

Dylan вважає, що масштабне впровадження спільно-інкапсульованої оптики (CPO), на яке чекає ринок,було чітко відкладено до кінця 2028 – початку 2029 року, що несподівано пролонгувало період вигоди для з’єднувачів на базі мідних кабелів. Складності електричної передачі та розподілу змушують дата-центри переходити до "джерел живлення за лічильником" (самостійного генерації енергії), що поза традиційними інвестиціями в чипи відкриває значні можливості для інвестування в промислові енергетичні та електричні конверсійні ланцюги.

Anthropic першою запустила генерацію прибутку, попит на AI починає реалізовуватися

На критику ринку щодо ROI компаній у сфері AI Dylan Patel відповів конкретними даними.

"Anthropic у другому кварталі вже отримала позитивний вільний грошовий потік: прибуток у квітні, прибуток у травні, і, схоже, червень теж буде таким же." Він зазначає, що річний регулярний прибуток Anthropic вже перевищив 50 млрд доларів США, маржа понад 70%. Дохід OpenAI також швидко зростає завдяки збільшенню використання Codex.

Власні витрати SemiAnalysis підтверджують цю тенденцію. Минулого листопада команда з 90 осіб витрачала на AI менше 100 тисяч доларів США в річному вимірі; до кінця січня цього року, через масштабне розгортання Claude Code, ця цифра підскочила до 4 млн доларів на рік; зараз це вже 11 млн доларів, а максимальний тижневий еквівалент досягав 14 млн доларів на рік. "Сукупні витрати на персонал та AI – вже більше третини, до кінця року, ймовірно, половина."

Він також зазначив, що оновлені, потужніші моделі не обов’язково дорожчі у використанні. Стара модель могла потребувати 100 тисяч token і 10 взаємодій для виконання одного завдання, нова – лише 25 тисяч token та одну взаємодію. "Коли модель оновлюється з 4.6 Opus до 4.7 Opus, наші витрати спочатку падають на тиждень, а потім різко ростуть – бо користувачі бачать, що тепер можуть робити те, що раніше було неможливо." Dylan вважає, що саме це є однією з основних конкурентних переваг Anthropic у боротьбі з OpenAI:ефективність token вища, загальні витрати користувача нижчі.

Пам’ять: структурний дефіцит, а не типова циклічність

Серед усіх апаратних категорій Dylan Patel найбільш впевнено оцінює пам’ять.

"Це не тимчасовий дефіцит, а багаторічний структурний дефіцит."Він зазначає, що виробництво пам’яті зростає лише на 20–30% на рік, а попит зі сторони AI швидко подвоюється, і цей розрив буде лише збільшуватись.

Основна логіка таких оцінок полягає у впливі моделей inference на KV-кеш. У традиційному діалоговому inference довжина контексту вимірюється тисячами token – споживання KV-кешу незначне; проте із появою моделей типу o1 довжина контексту зросла вибухово, об’єм KV-кешу також значно збільшився, і пам’ять стала найбільшим бенефіціаром. SemiAnalysis ще у грудні 2024 року випустила звіт, спеціально присвячений цій тенденції.

Жорсткі обмеження пропозиції змушують ринок нижчого рівня перерозподіляти наявні ресурси пам’яті. Dylan прогнозує, що першими постраждають категорії зі слабкою ціновою еластичністю – постачання середньо- та бюджетних смартфонів вже впало на 40%, ціна на iPhone та MacBook наступного року зросте. "Вартість пам’яті зростатиме й надалі, споживча електроніка буде витиснута до нового рівня, доки AI не отримає потрібний обсяг – тільки тоді дефіцит можна буде вважати подоланим." Він додає, що навіть із циклікою ринку: "Від низини до низини – довгострокове зростання незаперечне."

CPU: компенсуючий попит обмежений, не варто переставати надмірно

CPU – новий головний герой у цьогорічній інфраструктурній розповіді про AI, але Dylan Patel обережний у своїй оцінці.

Логіка відновлення попиту на CPU очевидна: підсилююче навчання потребує значної кількості CPU для валідації середовища (юніт-тестування коду, симуляція операцій тощо); inference агентів передбачає часте використання інструментів і взаємодію з реальним світом, що сильно залежить від обчислювальної потужності CPU. Останні роки масові поставки чипів AI супроводжувались дефіцитом компаньйонів CPU, зараз відбувається масштабна компенсація попиту, виграють ARM, Intel, AMD, а Nvidia Vera CPU дала орієнтир на 20 млрд доларів доходу.

"Але я хочу зробити важливе попередження: тут багато компенсуючого попиту." Він зазначає, що після ліквідації "історичної заборгованості" залишиться лише приріст, і попит повернеться до нормального рівня. Якщо брати абсолютні суми, Blackwell коштує близько 50 тисяч доларів, CPU – близько 5 тисяч, навіть якщо пропорційно CPU буде комплектуватись частіше, обсяги у доларах все одно значно нижчі за AI-акселератори."Пам’ять і AI-акселератори – головні гравці, CPU була недооцінена і зараз отримає більш справедливу оцінку, але не зростатиме необмежено швидше за AI-чипи."

Оптичне з'єднання: довгостроково перспективне, у коротко-/середньостроковій перспективі – обережність щодо CPO

Мережа та оптичне підключення – ще одна зона високих очікувань, але Dylan Patel обережний щодо темпів впровадження CPO (спільно-інкапсульованої оптики).

"Дійсно масштабне виробництво CPO, на мою думку, буде не раніше кінця 2028 – початку 2029 року."Він зазначає, що поточний рівень виходу, дизайн чипів і зрілість ланцюга поставок не відповідають стандарту для масштабної імплементації, а Nvidia Rubin і наступна архітектура Feynman усе ще користуватимуться мідними підключеннями, ймовірність CPO для GPU потребує ще декількох поколінь чипів.

Він повідомив, що SemiAnalysis минулого тижня опублікувала звіт для інституційних клієнтів, і наразі в середньостроковій перспективі більше розцінює перспективи мідних кабелів та не-CPO оптичних рішень, до CPO ставиться обережно. Деякі зміни дизайну downstream-чипів (наприклад, Kyber у Rubin Ultra позбавлений 800V) додатково відтерміновують впровадження CPO. Такі компанії, як Amphenol, отримають більше вигоди, ніж очікувалось, завдяки мідним кабелям.

"CPO обов’язково буде в перспективі, мідні кабелі рано чи пізно будуть витіснені, але терміни змістилися – у коротко- і середньостроковій перспективі мідні кабелі залишаються перспективними."

Електроенергія: власні джерела стануть мейнстрімом, інновації різноманітні

Електропостачання дата-центрів стає найжорсткішим фізичним обмеженням для зростання AI. За оцінкою Dylan Patel, приріст споживання енергії дата-центрами цього року становитиме 20 ГВт, наступного року — 30 ГВт, у наступні — 50 ГВт, майже вибуховий темп зростання.

Він розділяє енергетичну проблему на три компоненти:трансмісія, генерація та конверсія.Трансмісія — найскладніший етап, пов’язаний із регуляторною політикою, монополіями місцевих енергетичних компаній та механізмами розподілу витрат, у короткостроковій перспективі важко змінити. Генерація та конверсія ж — багатопрофільні можливості.

Він прогнозує, що протягом найближчих кількох років половина нової електроенергії для дата-центрів буде отримана з "джерел за лічильником" (behind the meter) — тобто від власних джерел підприємств, а не від традиційної мережі. Основна схема зараз — комбіновані циклічні газові турбіни (CCGT) від GE Vernova, Mitsubishi, Siemens тощо; також з’явилися поршневі двигуни, промислові газові турбіни, а також нестандартні модифікації на основі суднових, залізничних або вантажних двигунів. "Це здається грубим, але працює, і вже використовується."

У довгостроковій перспективі, за його оцінками, через два роки сумарна вартість сонячної енергії плюс накопичення буде нижчою, ніж генерація з газу; у перспективі — космічні дата-центри: розміщення обчислювальних чипів на орбіті, сонячні батареї без атмосфери мають щільність енергії набагато вищу, й не потребують акумуляції.

Конверсія також багата на інвестиційні можливості: від IGBT, SiC до GaN MOSFET, а також твердотільні трансформатори, UPS та суперконденсатори – весь ланцюг конверсії напруги швидко розвивається. Найбільший зараз департамент SemiAnalysis — вже не напівпровідниковий, а внутрішній "DEI" (data center, energy, industry), що слідкує за кожним дата-центром і електростанцією у світі.

Нижче наведено повний текст інтерв'ю:

Ведучий:Вітаю знову у подкасті "Наступна велика справа". Я — ведучий, зі мною сьогодні колега Klay Hyman та наш новий партнер, засновник дослідницького інституту SemiAnalysis Dylan Patel. Сьогодні особливий день: ми разом з Dylan заглибимося у всі аспекти поточної інфраструктури AI. Я вже давно слідкую за матеріалами Dylan, його часто запрошують у подкасти, а розсилки SemiAnalysis у мене завжди серед must-read. Останнім часом у них був докладний звіт про космічні дата-центри, рекомендую ознайомитись — дуже глибоко.

Dylan, мені хотілося б почути від тебе історію появи SemiAnalysis. Я знаю, що в Substack-спільноті всі останнім часом говорять про доходи й успіхи компанії, але часто всі бачать лише момент успіху, забуваючи про той шлях і зусилля, які були вкладені.

Походження SemiAnalysis

Dylan Patel: Походження SemiAnalysis насправді — від постів онлайн, якщо чесно — просто "флуду". Згадую свій перший пост про напівпровідники: ще у підлітковому віці я почав писати про чипи, смартфони, екрани смартфонів і SoC, навіть коли в мене самого не було смартфону, але це було моєю пристрастю. Ігрове, ПК-апаратне забезпечення, консолі – я завжди публікував у форумах.

У нашій команді — зараз наша компанія вже має 90 людей і навіть окремий відділ маркетингу — часто жартують: "Ділан, перестань відповідати всім хейтерам у мережі, це шкодить професійному іміджу." Але я все одно відчуваю тривогу і хочу відповісти кожному, хто критикує мене онлайн. Можливо, це не добре, але так і є.

Весь підлітковий вік я керував форумами. Почав заробляти — почав інвестувати. Далі працював кілька років у кількох хедж-фондах як квант-трейдер, потім створив свою компанію — і весь цей шлях супроводжував постинг. Бували анонімні блоги, анонімні пости, а у 2020 я втомився від своєї роботи в хедж-фонді — розчарування в цій сфері: ти реально можеш заробляти, але не маєш того гламурного життя, про яке всі мріють, тож я фактично звільнився й став підприємцем.

Я тоді не був упевнений, чи буде ця дорога довгою, але зробив сайт на WordPress, почав постити під своїм справжнім ім’ям матеріали про технології, бізнес, фінанси, ланцюги поставок — те, що мені справді цікаво, бо я з родини малого бізнесу: у сільській Георгії жив у мотелі, яким керували мої батьки, потім наша сім’я відкрила автозаправку — у мене бізнес всередині, я дуже люблю бізнес.

Пізніше сайт переїхав на Substack, з’явилась платна підписка, і з’явились пости про всю напівпровідникову й AI-ланцюг поставок. За чотири роки я відвідав конференції по всьому світу — сорок заходів на рік: від академічних AI-конференцій до індустріальних креативних заходів по конкретних хімічних матеріалах ланцюга постачання, від серверів, мереж до виробництва кремнієвих пластин — я був на кожному рівні. Деякі конференції були вузькоспеціалізовані, триста людей, лише японською, лише п’ятеро можуть говорити англійською — я все одно їхав. На великі конференції — одна-дві тисячі людей — теж. Після трьох таких зустрічей ти вже розумієш "мову" сфери, знаєш людей, можеш ставити глибокі питання — у тебе формується цілісний екосистемний погляд.

Зростання SemiAnalysis та формування команди

Dylan Patel:Я завжди шукаю технічні "повороти": коли на конференції бачиш, як технологія або ланцюг поставок змінюється, я можу передбачити, який вплив ця зміна матиме на ланцюг або на фінансовому рівні. Деякі звіти чисто технічні, фінансисти їх не читають, але є звіти, які чітко вказують: це вузьке місце, це переломний момент, ця компанія завдяки наступній технологічній хвилі отримає великий ринковий шматок — і я можу сказати це раніше за всіх інших на ринку, включно з хедж-фондами.

Третій учасник — Myin: він раніше працював у хедж-фонді, потім переїхав до Японії з дружиною, став "вільним агентом". Він був першим із фінансовим бекграундом, решта — технічні. З його приходом ми почали будувати фінансові моделі — з чистої розсилки новин перейшли до інформаційних послуг, продажу дослідницьких звітів, продажу датасетів.

З того часу справа пішла як сніжна куля. 2023–2024: з 2 людей команда виросла до 7; з кінця 2024 – початку 2025: з 7 до 20; 2025–2026: з 20 до 60; цьогоріч ще на 30 людей більше – зараз нас уже 90.

Найцікавіше у SemiAnalysis — це концентрація талантів, я не знаю іншої компанії з такою глибокою спеціалізацією. У нас люди з ASML, Applied Materials, Lam Research; з Intel, TSMC, Nvidia, Microsoft, Amazon; є ті, хто працював з моделями в OpenAI, FSD у Tesla, Cohere; спеціалісти з дата-центрів; один навіть будував електростанцію в Казахстані — це неймовірна концентрація досвіду. Приблизно половина — інженери з галузі, решта — колишні хедж-фондовики або ентузіасти, знайдені онлайн.

Зараз у SemiAnalysis багато бізнес-напрямів: дата-сервіси, консалтинг, інформаційні послуги, розсилка новин, медіа, ще й скоро ми організовуємо велику конференцію — це дуже крута подорож.

Живе включення з Nvidia GTC та "пояс короля обчислювальної потужності"

Ведучий:Говорячи про сміливу подорож, згадую один особливий момент. WisdomTree і SemiAnalysis вже співпрацюють кілька місяців. У березні цього року на GTC Nvidia я дивився трансляцію з Шарлотти, штат Північна Кароліна — тоді онлайн було 55 тисяч глядачів, у спорткомплексі ще 20 тисяч наживо.

Dylan Patel:Так, серед дорослих дійсно було 20 тисяч.

Ведучий:Jensen Huang на сцені прямо згадав тебе, сказав, що ти обвинувачуєш, ніби він "заздалегідь приховує" певні цифри, а твої графіки прямо вивели на екран. Я тоді — навіть думаю, за тебе — був збуджений, дивлячись, як CEO найбільшої компанії світу публічно реагує на твої дослідження та обговорює твої критичні дані. Як це було у живу? Ти справді був у центрі подій?

Dylan Patel:Цей момент був справді сюрреалістичний. Одна з речей, яку ми робимо в SemiAnalysis — у нас команда інженерів запускає всі open-source AI-моделі та апаратні рішення для відкритого бенчмаркінгу — це досить скромна робота. Ми підтримуємо тісні відносини із цією сферою — з боку hardware отримали від OpenAI, Microsoft, Amazon, Google, Coreweave, Nebius, Crusoe понад 5000 доларів на обладнання для бенчмарків, а Oracle теж надала машини для запуску тестів.