GPU
Een processor die duizenden berekeningen tegelijk doet, toevallig precies wat AI nodig heeft.
Een GPU (graphics processing unit) is oorspronkelijk ontworpen om beeldpixels te berekenen voor games. Het toeval van de eeuw: dezelfde eigenschap die daarvoor nodig is, duizenden simpele berekeningen tegelijk uitvoeren, is exact wat AI-modellen vragen.
Een gewone processor (CPU) doet een paar dingen heel snel na elkaar; een GPU doet duizenden dingen tegelijk wat langzamer. AI-training en inference bestaan uit miljarden gelijksoortige sommen naast elkaar, dus de GPU won. NVIDIA domineert deze markt, met AMD als uitdager en maatwerkchips (ASIC's) van techreuzen als opkomend alternatief.
Eén moderne AI-GPU kost tienduizenden dollars, en een groot datacenter bevat er honderdduizenden, vandaar dat de GPU het epicentrum van de hele AI-investeringsgolf is.