Microsofts AI-verktyg blir snabbare och mer resurseffektivt

Microsoft har lanserat en ny teknik som signifikant förbättrar prestandan hos dess AI-verktyg, såsom Copilot, i företagsspecifika kunskapsintensiva miljöer. Utan behov av att uppgradera de underliggande stora modellerna har tekniken ökat svarshastigheten upp till fyra gånger och minskat token-förbrukningen med cirka 30 procent.

I traditionella företagsmiljöer är information ofta spridd över olika källor som e-post, mötesanteckningar och tekniska dokument. Tidigare AI-verktyg behövde söka igenom och bearbeta dessa fragmenterade datakällor individuellt, vilket ledde till hög latens och betydande beräkningskostnader.

Den nya tekniken bygger på Microsofts "Work IQ knowledge compilation engine". Den omvandlar automatiskt spridd organisationsövergripande information till en strukturerad kunskapsbas som AI-verktygen kan komma åt direkt och effektivt. Detta underlättar uppgifter som att besvara frågor baserade på flera dokument, hämta teamkontext, sammanfatta mötespunkter och förbereda kommunikationsmaterial.

Funktionen har börjat rullas ut till "Frontier Preview"-klienter. Organisationer kan integrera dessa kunskapsbaser i befintliga SharePoint-webbplatser, vilka även kan stödja Teams-kanaler och Microsoft 365-grupper. Microsoft planerar att utöka funktionen till anpassade agenter via Copilot Studio och utveckla automatiserad underhållsförmåga för att hålla kunskapsbaserna uppdaterade med företagets innehåll.