SK Hynix förutspår: AI-infrastrukturens prestanda kan växa 20 gånger till 2030

SK Hynix chef för utveckling, Ahn Hyun, har förutspått vid ett evenemang i Seoul att prestandaskalan för AI-infrastruktur kan växa med cirka 20 gånger fram till 2030. Denna prognos baseras på en snabb expansion inom tre dimensioner för AI-inferensmarknaden: ökande uppgiftskomplexitet, en signifikant ökning av informationsmängden per transaktion (kontextlängd) och en explosion av inferensförfrågningar.

Denna ökning av AI-inferensbehov driver en kraftig tillväxt i efterfrågan på AI-beräkningsinfrastruktur. Minnesenheternas roll blir allt viktigare för att lagra och överföra enorma datamängder. Speciellt "Key-Value Cache" (KV Cache) växer, vilket kräver att data sprids över olika lagringsmedier som HBM, DRAM och SSD. Datamigreringen som uppstår blir en ny flaskhals som begränsar prestanda och ökar energiförbrukningen.

För att möta dessa utmaningar utvecklar SK Hynix nya lagringstekniker. Företaget arbetar på 3D-stackad DRAM, som staplas direkt ovanpå logikkretsar som GPU:er och NPU:er, vilket dramatiskt ökar överföringsprestandan och minskar energiförbrukningen. Man utvecklar också High Bandwidth Flash (HBF), som applicerar tekniker från HBM på NAND-flashminnen för att skapa ett nytt lagringslager mellan HBM och DRAM.

SK Hynix strävar efter att HBF ska uppnå cirka 50 procent av bandbredden hos HBM i samma generation, samtidigt som kapaciteten ökar tiofaldigt. Dessa teknologiska framsteg är avgörande för att stödja den exponentiella tillväxten inom AI-området.