Utvecklare använder hackad PS5 som lokal AI-server
En utvecklare har modifierat en PlayStation 5-konsol för att fungera som en lokal AI-server, med hjälp av dess GPU för att köra stora språkmodeller.
Utvecklaren abhi245y har modifierat en hackad PlayStation 5-konsol för att agera som en lokal AI-server. Projektet, kallat PS5LM Plus, gör det möjligt att köra stora språkmodeller, som Qwen3.8-27B med 27 miljarder parametrar, direkt på konsolens GPU.
Tidigare versioner av PS5LM-projektet använde främst CPU:n, med en hastighet på endast cirka en token per minut för en modell med 27 miljarder parametrar. Den nya modifieringen utnyttjar öppen källkods-drivrutiner från AMD och Vulkan-gränssnittet, vilket ökar det tillgängliga minnet från cirka 6 GB till 11,4 GB. Detta möjliggör körning av stora, kvantiserade modeller.
Dank vare den höga minnesbandbredden (448 GB/s) kan Qwen3.8-27B-modellen generera 20,9 tokens per sekund. Under testerna var GPU-användningen 100%, medan CPU-användningen endast var 2%. För mindre modeller, som Gemma 4 E4B, kan hastigheten nå upp till 61 tokens per sekund.
PS5LM Plus inkluderar ett webbaserat gränssnitt och en API-tjänst för fjärråtkomst till modellerna. Det är även kompatibelt med OpenAI och Anthropic API. Trots projektets förmåga att visa PS5:s potential bortom spel, begränsar konsolens 16 GB enhetligt minne modellval och prestanda. Hackning av konsolen medför också risker för användarkonton.