Sam Altman ifrågasätter effektiviteten med lokal AI-bearbetning
OpenAI:s vd Sam Altman anser att det är ineffektivt att köra AI-modeller lokalt på användarnas datorer när resurserna behövs i datacenter.
I en intervju i podcasten Cheeky Pint uttryckte Sam Altman, vd för OpenAI, skepsis mot trenden att köra stora språkmodeller lokalt på konsumenthårdvara. Enligt Altman är det en suboptimal användning av globala resurser, särskilt minneskapacitet (RAM), att sprida ut beräkningskraft på miljontals individuella enheter istället för att samla den i storskaliga datacenter.
Uttalandet belyser den pågående debatten om hur AI bäst bör levereras till användare. Medan intresset för lokal inferens ökar, drivet av behovet av integritet och oberoende från molntjänster, betonar Altman de logistiska och ekonomiska fördelarna med centraliserad infrastruktur.
Denna position illustrerar hur OpenAI ser på framtidens AI-landskap, där stordriftsfördelar i datacenter anses överlägsna decentraliserade lösningar. Debatten speglar också den bredare utmaningen med globala hårdvarubristen som industrin just nu står inför.