Kehittäjä käyttää hakkerointia Sonyn PS5:ttä AI-palvelimena

Kehittäjä abhi245y on muokannut hakkeroidun PlayStation 5 -konsolin toimimaan paikallisena tekoälypalvelimena. Projekti, nimeltään PS5LM Plus, mahdollistaa suurten kielimallien, kuten 27 miljardin parametrin Qwen3.8-27B, ajamisen suoraan konsolin GPU:lla.

Alkuperäiset versiot PS5LM-projektista käyttivät pääasiassa suoritinta, ja 27 miljardin parametrin mallin nopeus oli vain noin yksi tokenia minuutissa. Uudistuksessa on hyödynnetty AMD:n avoimen lähdekoodin ajureita ja Vulkan-rajapintaa, mikä on kasvattanut käytettävissä olevaa muistia noin 6 gigatavusta 11,4 gigatavuun. Tämä mahdollistaa suurten, kvantisoitujen mallien ajamisen.

Korkean muistikaistanleveyden ansiosta (448 Gt/s) Qwen3.8-27B-mallin generointinopeus yltää 20,9 tokeniin sekunnissa. GPU:n käyttöaste oli testien aikana 100 %, kun taas suorittimen käyttöaste oli vain 2 %. Pienemmille malleille, kuten Gemma 4 E4B, nopeus voi olla jopa 61 tokenia sekunnissa.

PS5LM Plus tarjoaa myös verkkopohjaisen käyttöliittymän ja API-palvelun, jonka kautta malleja voi käyttää etänä. Se on yhteensopiva OpenAI- ja Anthropic API -rajapintojen kanssa. Vaikka projekti osoittaa PS5:n potentiaalin muuhunkin kuin pelaamiseen, 16 Gt yhtenäismuisti rajoittaa mallien valintaa. Konsolin hakkerointi voi myös aiheuttaa riskejä käyttäjätilille.