CHAI AI når 100 miljoner dollar i årsomsättning under granskning av App Store

Palo Alto, Kalifornien – AI-företaget CHAI AI har meddelat att de har nått en årlig återkommande omsättning (ARR) på 100 miljoner dollar. Grundaren och VD:n William Beauchamp uppgav att företagets senaste version av appen för närvarande genomgår granskning av Apples App Store. Beauchamp hävdar att den senaste versionen representerar den säkraste versionen som företaget någonsin har släppt, med betydande och meningsfulla förbättringar i säkerhet.

CHAI, som har funnits i över fem år och har miljontals användare, har vuxit från ett litet team i Cambridge, Storbritannien, till ett företag baserat i Palo Alto, Kalifornien. Trots att företaget har en liten personalstyrka på cirka 15 medlemmar, har man fokuserat starkt på att implementera AI-säkerhetstekniker. Beauchamp beskriver målet som att skapa ett holistiskt säkerhetssystem som både tillfredsställer kunder och skyddar välbefinnandet för användare och samhället på lång sikt.

Bland de stora utmaningarna med säkerhet nämner Beauchamp moderering av användargenererat innehåll och säkerheten hos själva AI-modellerna. "Red teaming"-processer, där teammedlemmar aktivt försöker kringgå befintliga säkerhetssystem för att identifiera och stärka deras begränsningar, är en central del av utvecklingen. Denna metodik är vanlig inom AI-forskning.

Den senaste säkerhetsuppdateringen har lett till ett nytt AI-ledningssystem som Beauchamp menar avsevärt höjer ribban för företagets sociala AI. Systemet är inte bara en uppgradering av befintliga protokoll utan inkluderar även verktyg för att öka den mänskliga övervakningen. CHAI AI betonar att dess produktutveckling och AI-styrning styrs av principen att sätta mänskligt välbefinnande i centrum, i linje med visionen från professor Fei-Fei Li.