SK hynix HBM4E: 16Gbps și 48GB per stivă pentru AI

Memoria devine, pe nesimțite, gâtul de sticlă în cursa pentru inferențe AI mai rapide. SK hynix a făcut un pas important, trimițând mostre ale noii sale memorii HBM4E către parteneri și punând mai multă presiune pe lățimea de bandă a memoriei în proiectarea acceleratoarelor.

Pe scurt: este mai rapidă. HBM4E de la SK hynix atinge 16Gbps pe pin, față de 10Gbps la specificația HBM4 anterioară. Samsung, ca să nu rămână pe dinafară, a început să trimită mostre ale unei variante de 14Gbps cu aproximativ o lună mai devreme, dar saltul SK hynix este remarcabil, deoarece îmbunătățirile de performanță vin adesea cu compromisuri dureroase. De data aceasta nu.

HBM4E de la SK hynix atinge 16Gbps pe pin și 48GB per stivă de 12 cipuri.

Compania stivuiește 12 cipuri într-un singur pachet, obținând 48GB pe stivă. Asta contează deoarece majoritatea acceleratoarelor AI nu se bazează pe o singură stivă; ele leagă mai multe stive HBM pentru a alimenta matrici masive pe cip. Mai multă capacitate per stivă simplifică proiectarea plăcilor și reduce complexitatea ambalării pentru module dense de acceleratoare.

Puterea este domeniul în care această generație face o declarație pragmatică. SK hynix spune că HBM4E este aproximativ cu 20% mai eficientă din punct de vedere energetic decât HBM4 anterior. Eficiența îmbunătățită este eroul nevăzut al implementării AI; poți adăuga lățime de bandă, dar dacă nu poți elimina căldura, câștigurile practice dispar. SK hynix folosește un proces Mass Reflow Molded Underfill (MR-MUF), injectând un lichid protector între cipurile de siliciu pentru a stabiliza pachetul. Rezultatul: aproximativ 17% rezistență termică mai mică comparativ cu abordarea veche, ceea ce ajută sistemele de răcire să funcționeze mai ușor.

De ce contează atât de mult rezistența termică? Pentru că într-o lume în care rack-urile sunt umplute cu acceleratoare, fiecare watt economisit și fiecare grad tăiat din temperatura joncțiunii extind fiabilitatea și simplifică bugetele de răcire ale centrelor de date. Inginerii urăsc surprizele. Rezistența termică mai mică este tipul de îmbunătățire predictibilă pe care își pot baza planurile de produs.

Există și implicații mai largi. Pinii mai rapizi și stivele cu densitate mai mare permit arhitecților de cipuri să regândească așezarea interposer-elor și canalele de memorie. Ei pot fie să forțeze mai mult performanța brută, fie să scaleze modele care anterior se loveau de plafonul memoriei. În termeni simpli: modele mai mari, inferență mai densă sau aceleași modele care rulează mai ieftin și mai rece.

SK hynix a prezentat expedierea mostrelor ca un reper la termen, susținut de experiența sa de producție. Mesajul este clar: compania se așteaptă ca partenerii să înceapă lucrările de calificare și să avanseze spre producția în masă. Timpul contează pentru clienții care planifică lansări de siliciu și module; accesul timpuriu la mostre scurtează acest ciclu.

Nu fiecare task AI are nevoie de ultimul răcnet. Dar pentru hyperscaleri și startup-urile hardware AI care urmăresc debitul maxim, combinația HBM4E de lățime de bandă, capacitate și câștiguri termice va fi tentantă. Va remodela valul următor de acceleratoare? Poate. Următoarea întrebare este cât de rapid se adaptează ecosistemul, interposer-ele, sistemele de răcire și arhitecții de sistem pentru a exploata marja oferită de aceste stive.

Dacă te interesează viitorul hardware-ului AI, urmărește memoria. Ea schimbă adesea cursa fără prea mult tam-tam, până când, brusc, nu mai e așa.