Gcore förbättrar AI-inferens med ny routingteknik

Gcore Labs, en leverantör av globala moln- och edge computing-tjänster, har lanserat en ny funktion kallad Global Inference Routing. Denna teknik utnyttjar NVIDIA Dynamo, som är designad för att optimera prestandan hos AI-modeller.

Den nya routingmekanismen syftar till att påskynda AI-inferens, vilket är ett kritiskt steg i många maskininlärningsapplikationer. Målet är att erbjuda lägre latens och bättre prestanda för tjänster som använder AI i realtid.

Implementeringen av denna teknik stöder Gcore Labs ambition att stärka sitt erbjudande inom edge computing. Företaget strävar efter att ge företag mer effektiva verktyg för att köra AI-arbetsbelastningar så nära användarna som möjligt. Detta är särskilt viktigt för applikationer som kräver omedelbar respons, såsom autonom körning eller realtidsdataanalys.

Gcore Labs har nyligen fokuserat på att utöka sina AI- och GPU-baserade tjänster. Den nya routingtekniken är en del av en bredare strategi för att möta den ökande globala efterfrågan på AI-kapacitet.