AI-säkerhetsgranskare träder fram
En liten grupp tredjepartsutvärderare har blivit centrala i den växande AI-industrin. I avsaknad av federal reglering ökar deras betydelse för att bedöma och övervaka AI-modellers säkerhet.
En grupp tredjepartsutvärderare har fått en allt viktigare roll inom den mångmiljarddollarstora AI-industrin. Organisationer som METR och Transluce kallas nu in för att övervaka och granska AI-modeller, särskilt då federal reglering släpar efter.
Dessa utvärderare, som ofta verkar som ideella organisationer, befinner sig fortfarande i uppbyggnadsfasen i en bransch som präglas av enorma kapitalflöden och snabb utveckling. Deras primära uppgift är att bedöma AI-modellers kapacitet och risker samt att uppmärksamma när tekniken beter sig oönskat.
I avsaknad av statliga regleringsinitiativ har utvärderarna fått utökad betydelse. Anthropic och OpenAI söker stöd från dessa mindre tredjepartsgrupper. Anthropic utlovas att integrera oberoende utvärderare i företaget, ett initiativ som även OpenAI:s VD Sam Altman har stöttat.
Frågor kring finansiering, åtkomstnivå och rapporteringsstruktur kvarstår dock. Suresh Venkatasubramanian, professor i datavetenskap vid Brown University, betonar vikten av att etablera hållbara affärsmodeller för dessa organisationer för att säkerställa deras långsiktiga funktion och upprätthålla ett fungerande ekosystem.