Постоянно обучающийся искусственный интеллект продолжает расширять рынок полупроводников для хранения данных
- Несмотря на недавние призывы к замедлению темпов развития AI, технология непрерывного обучения, позволяющая искусственному интеллекту постоянно осваивать новую информацию, становится новым двигателем роста рынка полупроводников памяти.
- Международный инвестиционный банк Citi прогнозирует, что мировой спрос на HBM в следующем году вырастет на 62% по сравнению с текущим и достигнет 75,2 миллиарда Gb.
- Citi называет непрерывное обучение одной из основных причин стремительного роста спроса на HBM, анализируя, что по мере многократного проведения обучения и инференса увеличивается спрос не только на HBM, но также на серверную DRAM и корпоративные SSD.
- В настоящее время большинство генеративных AI работают по схеме предварительного обучения с последующим ответом, при которой новая информация не интегрируется автоматически в долгосрочные знания, что приводит к снижению эффективности.
- В рамках непрерывного обучения грань между обучением и инференсом становится размытой: цель состоит в том, чтобы AI мог обучаться новым данным и опыту в процессе предоставления услуг, объединяя их с уже имеющимися знаниями.
- Поскольку требуется постоянный доступ к уже существующим огромным массивам данных при одновременном обучении новым сведениям, необходима более высокая ёмкость памяти, и помимо HBM становится важным одновременное использование серверной DRAM и eSSD на базе NAND.
- Так как обучение происходит и в процессе инференса, одних высоких показателей пропускной способности недостаточно для устранения узких мест, поэтому спрос на такие технологии, как PIM (вычисления вблизи памяти), также может увеличиться.
- Samsung Electronics предложила zHBM — технологию непосредственного наслоения HBM на AI-ускорителе, тогда как SK hynix представила структуры PIM, SALT-KV и HBF, стремясь преодолеть ограничения существующей архитектуры GPU-HBM.
Дисклеймер: содержание этой статьи отражает исключительно мнение автора и не представляет платформу в каком-либо качестве. Данная статья не должна являться ориентиром при принятии инвестиционных решений.
Вам также может понравиться
Meta (META.US): Первая партия высокодоходных облигаций для соответствующего дата-центра получила подписку более чем в четыре раза выше, высокий спрос способствовал выпуску с премией.
Первый выпуск высокодоходных облигаций от дата-центра, принадлежащего Meta Platforms, привлек спрос, превышающий объем сделки в четыре раза, а привлекательная доходность также заинтересовала инвесторов.
Изменения в индексе фондового рынка США вступят в силу в следующий понедельник: Bloom Energy (BE.US) и Everpure (P.US) будут включены в S&P 500, также произошли изменения среди средних и малых компаний.
Bloom Energy, Illumina и Everpure будут включены в индекс S&P 500, а также ряд других компаний будут включены в индексы S&P 100, S&P Midcap 400 и S&P Smallcap 600.
Федеральная резервная система повторит повышение процентных ставок как в 2022 году? Bank of America предупреждает: прогнозирует возврат ставок выше 5%, рекомендует сокращать позиции по двухлетним облигациям США
Bank of America предупреждает: Федеральная резервная система под руководством Waller может повысить ставки выше 5%, повторяя сценарий 2022 года.
Цены на крипто
Далее
