KI mit kontinuierlichem Lernen erweitert weiterhin den Markt für Speicherhalbleiter.

Trotz der Diskussion über eine Verlangsamung der KI-Entwicklung expandiert das kontinuierliche Lernen von KI weiterhin den Markt für Speicherhalbleiter. 1/ Obwohl es in letzter Zeit Stimmen gibt, die eine Verlangsamung der Entwicklung von künstlicher Intelligenz fordern, wird die Technologie des kontinuierlichen Lernens, bei der KI ständig neue Informationen aufnimmt, zu einem neuen Wachstumsmotor für den Markt der Speicherhalbleiter.2/ Die globale Investmentbank Citigroup schätzt, dass im kommenden Jahr die weltweite HBM-Bit-Nachfrage im Vergleich zu diesem Jahr um 62 % auf 75,2 Milliarden Gb steigen wird.3/ Citigroup nennt das kontinuierliche Lernen als einen der Hauptgründe für den sprunghaften Anstieg der HBM-Nachfrage und analysiert, dass mit der wiederholten Durchführung von Training und Inferenz nicht nur HBM, sondern auch die Nachfrage nach serverbasiertem DRAM und Enterprise-SSDs synchron wachsen wird.4/ Derzeit verwenden die meisten generativen KI-Modelle das Prinzip, nach einem einmaligen Training Antworten zu liefern, wobei neue Informationen nicht automatisch in das Langzeitwissen integriert werden, was zu Effizienzproblemen führt.5/ Beim kontinuierlichen Lernen verschwimmen die Grenzen zwischen Training und Inferenz, das Ziel ist es, dass KI auch während der Dienstbereitstellung neue Daten und Erfahrungen erlernt und sie mit bestehendem Wissen kombiniert.6/ Da beim ständigen Lernen neuer Informationen gleichzeitig auf riesige vorhandene Datenmengen zugegriffen werden muss, ist eine größere Speicherkapazität erforderlich. Neben HBM gewinnen der gleichzeitige Einsatz von serverbasiertem DRAM und auf NAND basierenden eSSDs zunehmend an Bedeutung.7/ Da auch während der Inferenzphase gelernt wird, lässt sich der Engpass nur schwer allein über Bandbreite lösen, weshalb die Nachfrage nach Technologien wie PIM, die Berechnungen in der Nähe des Speichers ermöglichen, ebenfalls steigen könnte.8/ Samsung Electronics hat zHBM vorgestellt, bei dem HBM direkt auf dem KI-Beschleuniger gestapelt wird, während SK Hynix PIM, SALT-KV und HBF-Strukturen präsentiert hat, um die Grenzen bisheriger GPU-HBM-Strukturen zu überwinden.