Goodfire lanserar nya övervakningsmonitorer för AI-agenter

Goodfire har presenterat en ny lösning för övervakning av AI-agenters beteende. Företaget hävdar att dess nya "inifrån och ut"-monitorer kan upptäcka skadliga eller oväntade AI-agenter till en betydligt lägre kostnad än traditionella metoder.

Traditionellt har övervakning av AI-agenter krävt att en annan AI läser all data som agenten genererar. Detta tillvägagångssätt kan vara kostsamt och resurskrävande. Goodfires nya teknologi observerar istället AI-modellens interna funktioner medan den arbetar. Systemet larmar och tillkallar förstärkning endast när det upptäcker misstänkt eller avvikande beteende.

Tekniken sägs erbjuda ett mer kostnadseffektivt alternativ för att säkerställa säkerheten i AI-system. Genom att integrera övervakningen direkt i modellens interna processer syftar Goodfire till att minska övervakningskostnaderna och samtidigt förbättra detektionsförmågan. Företaget menar att detta tillvägagångssätt kan vara särskilt användbart för övervakning av storskaliga AI-system eller flera agenter.

Goodfire har ännu inte publicerat detaljerad information om den tekniska implementeringen eller prissättningen av teknologin, men företaget har meddelat att den är betydligt billigare än befintliga lösningar. Den nya övervakningsmetoden förväntas förbättra metoder för AI-kontroll och säkerhet inom flera branscher.