Згідно з науковою статтею, опублікованою минулого місяця Інститутом штучного інтелекту China Telecom (TeleAI), моделі TeleChat3, що мають від 105 мільярдів до трильйонів параметрів, були навчені на чипах Huawei Ascend 910B та з використанням відкритої AI-фреймворку глибокого навчання MindSpore.
Дослідники TeleAI заявили, що стек Huawei відповідав “суворим вимогам” навчання великих моделей MoE різного масштабу. “Ці досягнення колективно вирішують критичні вузькі місця у тренуванні моделей фронтирного масштабу, створюючи зріле повноцінне рішення, адаптоване до вітчизняних обчислювальних екосистем,” вони додали.
Модель China Telecom поступається OpenAI GPT-OSS-120B
Архітектура MoE розподіляє завдання між кількома спеціалізованими підмоделями, або “експертами”. Тому моделі ШІ, розроблені з її допомогою, можуть нарощувати потужність без значного збільшення обчислювальних витрат. MoE стала популярною завдяки моделі DeepSeek V3, випущеній у грудні 2024 року, і відтоді стала стандартом для передових китайських AI-моделей.
Однак моделі MoE вважалися більш технічно складними для навчання і запуску. За власними оцінками China Telecom, продуктивність їхніх моделей TeleChat3 відставала від OpenAI GPT-OSS-120B, випущеної у серпні, за кількома бенчмарками.
Минулого тижня стартап із Цінхуа повідомив, що його нову модель генерації зображень було навчено на чипах Huawei, що зробило її першою відкритою моделлю, розробленою повністю на вітчизняному стеку навчання, яка досягла провідних галузевих результатів у генерації зображень.
Пекінська компанія Zhipu AI була занесена до чорного списку Вашингтону у січні минулого року. США внесли кілька китайських технологічних компаній, включаючи Huawei та iFlytek, до експортних чорних списків. Це фактично забороняє їм отримувати чипи, напівпровідникові інструменти та інші передові технології американського походження.
Дослідники Ant Group, фінтех-підрозділу Alibaba Group Holding, також заявили, що їм вдалося навчити модель MoE з 300 мільярдами параметрів “без преміальних GPU”. Проте вони не уточнили, чи використовували виключно чипи вітчизняної розробки.
Акції Nvidia падають, оскільки Пекін оголошує про самостійність
Nvidia заявила, що її передові GPU і фреймворки машинного навчання є найкращими у світі інструментами для навчання великомасштабних моделей MoE. Проте Пекін зробив незалежність по всьому AI-стеку ключовим пріоритетом країни на найближчі п’ять років через торгові обмеження США, які блокують доступ китайських компаній до передових американських чипів.
Нещодавно уряд США дав дозвіл Nvidia продавати H200, другий за потужністю чип компанії, у Китай. Однак Китай вирішив заблокувати постачання передових чипів. За повідомленням Cryptopolitan, Пекін може розглядати питання обмежень для просування локальної розробки чипів або посилення своїх переговорних позицій із США.
У результаті постачальники призупинили виробництво компонентів H200 після блокування. Nvidia очікувала понад 1 мільйон замовлень від китайських клієнтів, а постачальники готувалися до березневих поставок, але, за повідомленнями, митні органи відмовили у ввезенні чипів.
Після цих повідомлень акції Nvidia знизилися приблизно на 3%. За словами аналітиків, Nvidia стикається з очевидним ризиком. Якщо Китай продовжить блокувати постачання H200, акції можуть пробити важливий рівень підтримки найближчим часом. Якщо ж обмеження послаблять, зростання може бути швидким, але політична невизначеність діє в обидва боки.
З іншого боку, інші виробники чипів показали змішані результати: AMD піднялась на 1,7%, Intel впала на 2,8%, у той час як S&P 500 ETF SPY знизився приблизно на 0,1%. Тим часом аналітики ринку очікують квартальний звіт NVDA, запланований на 25 лютого, і будь-які нові подробиці щодо експорту до Китаю.
Відточіть свою стратегію з наставництвом + щоденними ідеями – 30 днів безкоштовного доступу до нашої трейдингової програми
