FTC utreder AI-företagen OpenAI och Anthropic

USA:s Federal Trade Commission (FTC) har inlett en utredning mot ledande AI-företag som OpenAI och Anthropic. Utredningen sker mot bakgrund av ökande oro kring riskerna med artificiell intelligens och en ökning av så kallade "skenande" AI-agenter.

Enligt rapporter ska FTC:s ordförande Andrew Ferguson ha inlett utredningen redan innan rapporterna om OpenAI:s Hugging Face-dataintrång framkom. Myndigheten planerar att framöver tvinga VD:ar från stora AI-företag att vittna om riskerna med deras AI-system.

"Ordförande Ferguson initierade en utredning av de ledande AI-företagen för några veckor sedan", uppgav en FTC-tjänsteman till New York Post, den första att rapportera nyheten. "Myndigheten planerar att tvinga cheferna på dessa företag att vittna om deras produkter och de faror som deras produkter påstås kunna orsaka för konsumenter och amerikaner."

FTC:s utredning följer efter en före detta AI-säkerhetsforskare, Jacob Coxton, som publicerade sin avgång på X, där han uttryckte oro över riskerna med obegränsad AI, inklusive möjligheten till mänsklighetens utrotning. Vissa lagstiftare har i sin tur efterlyst snabba regleringar för teknologin.

Dessutom undertecknade presidenten en exekutiv order som omdöpte artificiell intelligens till superintelligens, en åtgärd som kritiserades av lagstiftare. Trumpadministrationen har också strävat efter att ingå frivilliga säkerhetsöverenskommelser med AI-företag.