Forskningslabbet Prefrontal presenterar ny metod för AI-processering

Professor James Whittington och Dr. Ruairidh Battleday, grundare av det brittiska AI-labbet Prefrontal, har introducerat en teknik kallad Latent Sparse Attention (LSA). Syftet med metoden är att minska de beräkningsmässiga flaskhalsar som uppstår i AI-modellers så kallade uppmärksamhetsmekanismer när de hanterar omfattande mängder data.

Genom att gruppera information baserat på semantisk betydelse snarare än sekventiell ordning, uppnår LSA upp till 72,4 gånger snabbare bearbetning i uppmärksamhetslagret jämfört med konventionella metoder, enligt forskarnas data. Detta adresseras som en kritisk utmaning för framtida AI-system som kräver stora kontextfönster för att utföra vetenskapliga analyser.

Tekniken bygger vidare på teamets tidigare projekt, DiG-bench, som utvärderade AI-modellers förmåga att utföra självständig upptäcktsresa genom experiment. Resultaten från DiG-bench visade på betydande skillnader i förmåga mellan maskiner och människor när det gäller att dra logiska slutsatser i okända miljöer.

Prefrontal, som för närvarande verkar i stealth-läge, fokuserar sin forskning på AI-arkitekturer inspirerade av mänsklig kognition. Genom att optimera hur modeller bearbetar information avser företaget att möjliggöra mer avancerad användning inom vetenskaplig forskning och dataanalys.