zHBM! Samsung annuncia una nuova roadmap per la memoria 3D, puntando alla leadership nel settore della tecnologia AI

Samsung Electronics sta promuovendo attivamente i miglioramenti in termini di prestazioni ed efficienza energetica dei suoi più avanzati componenti di memoria, al fine di superare la concorrenza di SK hynix e Micron Technology.

Il 4 agosto, ora locale, durante il vertice annuale del settore dello storage FMS, Samsung Electronics ha annunciato ufficialmente due prodotti concettuali, zHBM e zNAND-O, oltre al primo V10 BV-NAND del settore che adotta la tecnologia di wafer bonding e oltrepassa i 400 strati.

In particolare, zHBM impila verticalmente la memoria ad ampia banda direttamente sopra il chip acceleratore AI, offrendo prestazioni stimate circa 8 volte superiori alla prossima generazione di HBM5.

Il lancio di queste tecnologie arriva in un momento di fortissima competizione nell’industria della memoria. Wall Street News ha evidenziato che SK hynix e SanDisk hanno presentato congiuntamente, durante la conferenza, il primo standard globale per la memoria flash ad ampia banda (HBF).

La tecnologia HBF si posiziona come un nuovo livello di memoria tra la memoria ad ampia banda (HBM) e gli SSD, con l'obiettivo di risolvere simultaneamente i colli di bottiglia della larghezza di banda e le difficoltà di espansione della capacità negli scenari di inferenza AI.

zHBM è la visione tecnologica che ha attirato il maggior interesse dal mercato in questa presentazione.

Nell’attuale design, la memoria HBM e il chip AI sono integrati in parallelo nello stesso package tramite un interposer in silicio, noto nel settore come package 2.5D. Aziende come AMD e Nvidia utilizzano questa soluzione per applicazioni AI di fascia alta.

Il progetto zHBM di Samsung rompe questo paradigma, impilando direttamente l’HBM in verticale sopra il chip acceleratore AI.

Secondo Samsung, riducendo drasticamente la distanza di trasferimento dei dati tra il processore AI e la memoria, zHBM può offrire una maggiore larghezza di banda e una migliore efficienza energetica, soddisfacendo la domanda di elaborazione dati ultra-veloce tipica dell’addestramento e inferenza AI su larga scala.

Secondo le specifiche rivelate da Samsung, grazie alla prossima generazione di tecnologia di wafer bonding, la densità di memoria di zHBM può superare di oltre 10 volte quella di HBM5, con un aumento dell’efficienza energetica di 3 volte e una resistenza termica ridotta di oltre il 50%.

Questa tecnologia supporta inoltre l’integrazione di IP personalizzati, consentendo l’inserimento di design custom tra la memoria e l’acceleratore AI, ampliando ulteriormente la capacità di memoria e migliorando le prestazioni dell’acceleratore.

Samsung prevede di avviare la produzione di massa di questa tecnologia intorno al 2029, ma non ha ancora fornito una tabella di marcia precisa per la produzione di massa di HBM5 o zHBM.

Nel frattempo, Samsung ha affermato di essere stata la prima, lo scorso febbraio, a realizzare la produzione di massa di HBM4 basata sul processo DRAM 1c e su un die di base a 4 nanometri, spedendo i primi campioni di HBM4E ai clienti globali già a maggio.

Samsung ha presentato anche zNAND-O, la prossima generazione di soluzioni NAND ad alte prestazioni basata sulla tecnologia V-NAND, con produzione prevista per il 2028 e disponibili in varianti a quattro e otto strati.

Dal punto di vista tecnico, zNAND-O è simile al concetto di memoria flash ad ampia banda (HBF) sviluppato in precedenza da SK hynix e SanDisk, utilizzando anch’essa interfacce TSV e UCIe.

Tuttavia, secondo funzionari Samsung, vi sono differenze sostanziali nella destinazione applicativa delle due tecnologie:

HBF è stato progettato per colmare il vuoto nella stratificazione della memoria accanto agli acceleratori AI lato server, mentre zNAND-O è destinato a conservare grandi modelli nell’edge device, permettendo l’interazione con NPU.

Samsung sottolinea che zNAND-O, grazie all’elevata efficienza spaziale, alle prestazioni I/O migliorate e alla bassa latenza, è ottimizzato specificamente per ambienti Edge AI che richiedono supporto in tempo reale per applicazioni AI data-intensive.

Samsung ha anche presentato V10 BV-NAND, il suo primo prodotto 3D NAND della storia che adotta l’architettura wafer bonding (Bonding V-NAND).

Sono passati 13 anni da quando, al Flash Memory Summit del 2013, Samsung presentò la prima tecnologia V-NAND del settore; ora questa pietra miliare è stata ufficialmente svelata.

V10 BV-NAND supera i 400 strati impilati, sfruttando il wafer bonding per impilare verticalmente le celle di memoria, aumentando la densità di storage di circa il 58% rispetto alla precedente generazione V9.

Inoltre, il prodotto offre migliori performance in lettura, scrittura e I/O rispetto alla generazione precedente, per supportare in maniera ottimale i futuri sistemi e applicazioni AI con prestazioni elevate e ampia capacità di storage NAND.

Oltre ai concetti pionieristici sopra menzionati, Samsung ha presentato in modo sistematico, in questa esposizione, la sua gamma attuale di prodotti e roadmap per la memoria e lo storage AI, includendo linee come HBM4E, HBM5, LPDDR5X-PIM e PM1763.

Tra questi, LPDDR5X-PIM è la prima memoria LPDDR del settore che integra la tecnologia Processing-in-Memory (PIM), consentendo l’elaborazione dati direttamente all’interno della memoria e migliorando simultaneamente l’efficienza di trasporto dati e il consumo energetico.

Per quanto riguarda lo storage enterprise, Samsung ha mostrato le soluzioni PM1763 e BM1773, pensate per soddisfare la crescente domanda di storage nei data center AI.

In quanto unico IDM integrato al mondo con capacità leader sia nella memoria che nel wafer foundry e nel packaging avanzato, Samsung posiziona questi prodotti come soluzioni infrastrutturali AI complete end-to-end, mirate ad aiutare i clienti ad abbreviare i cicli di sviluppo e accelerare l’immissione sul mercato dei prodotti semiconduttori AI differenziati.