HBM (High Bandwidth Memory)
Gestapeld supergeheugen dat tegen de AI-chip aan wordt geplakt; slechts drie bedrijven kunnen het maken.
HBM is werkgeheugen waarbij meerdere geheugenlagen als een flatgebouw op elkaar worden gestapeld en vlak naast de GPU in dezelfde verpakking worden gemonteerd. Daardoor kan de rekenchip extreem snel bij zijn data, en dat is bij AI de flessenhals: het model "onthouden" kost meer tijd dan het rekenen zelf.
Slechts drie bedrijven ter wereld kunnen HBM op schaal maken: SK Hynix (marktleider), Samsung en Micron. Toen de AI-vraag explodeerde, werd HBM dé schaarse grondstof van de keten en explodeerde de winst van deze drie mee.
De keerzijde: geheugen is historisch de meest cyclische hoek van de chipwereld, periodes van tekort en overvloed wisselen elkaar hard af. Zie DRAM & NAND voor het bredere geheugenverhaal.