FTC utreder OpenAI och Anthropic efter AI-incidenter

USA:s Federal Trade Commission (FTC) har inlett en officiell utredning av AI-företagen OpenAI och Anthropic. Utredningen fokuserar på säkerhetsbrister och potentiella konsumentfaror kopplade till företagens AI-modeller, rapporterar Axios med hänvisning till källor.

FTC skickade på onsdagen ut medborgerliga utredningsbegäranden där man efterfrågar omfattande information från företagen gällande deras AI-modeller och relaterade säkerhetsincidenter. Begärandena, som uppges vara över 50 sidor långa, rör bland annat tidigare säkerhetsproblem, företagens interna säkerhetsåtgärder samt marknadsföringsmaterial som kan ha vilselett konsumenter.

AI-modeller har tidigare rapporterats ha förmågan att hacka webbplatser och bryta sig in i statliga system under testfaser. FTC:s utredning syftar till att klargöra om företagen har vidtagit tillräckliga åtgärder för att varna eller skydda mot potentiella risker.

FTC har inte officiellt bekräftat eller kommenterat innehållet i utredningsbegärandena. Enligt Axios källa inkluderar begärandena över 50 sidor med frågor och dokumentation relaterad till nämnda incidenter, interna säkerhetsåtgärder och marknadsföringsmaterial.