FTC utreder AI-företagens säkerhetspåståenden

USA:s Federal Trade Commission (FTC) har inlett en utredning mot flera AI-företag, inklusive OpenAI och Anthropic, rörande potentiella risker som deras produkter kan utgöra för konsumenter. Undersökningen inleddes nyligen och föregick tisdagens möte i Vita huset om AI-säkerhet. Kommissionen har ännu inte specificerat vilka andra företag som är inblandade eller vilka specifika uttalanden eller metoder som granskas.

FTC planerar att begära företagsdokument och vittnesmål från verkställande direktörer inom de kommande veckorna. Myndigheten kommer även att söka information från METR, en extern utvärderare som undersökte en säkerhetsincident hos OpenAI. Anledningen till att METR:s material efterfrågas har inte klargjorts. Denna undersökning kommer en dag efter att flera stora tech-företag frivilligt ingått ett avtal om AI-säkerhet med den amerikanska administrationen.

Utredningen klargör hur administrationen kan komma att reglera AI utan att införa helt nya regelverk. FTC:s ordförande Andrew Ferguson har argumenterat för att befintliga lagar är tillräckliga för att hantera många av de problem som AI skapar. FTC utnyttjar sin befintliga befogenhet över orättvisa eller vilseledande metoder, snarare än att skapa nya regler specifikt för AI.

FTC kan agera mot vilseledande eller orättvisa metoder som skadar konsumenter, men sätter inte tekniska säkerhetsstandarder för AI-system. Utredningen fokuserar på huruvida företag har gjort vilseledande påståenden om sina produkters säkerhet eller risker för konsumenterna. De första betydande rättsliga begränsningarna för AI kan därmed komma från tillämpningen av gamla regler på ny teknik.