FTC ermittelt gegen KI-Unternehmen OpenAI und Anthropic

Die US-amerikanische Federal Trade Commission (FTC) hat eine Untersuchung gegen führende Unternehmen im Bereich der künstlichen Intelligenz, darunter OpenAI und Anthropic, eingeleitet. Die Ermittlungen erfolgen vor dem Hintergrund wachsender Bedenken hinsichtlich der Risiken von KI-Systemen und einer Zunahme sogenannter "böswilliger" KI-Agenten.

FTC-Vorsitzender Andrew Ferguson hat die Ermittlungen Berichten zufolge bereits vor den Berichten über den Hugging Face-Datenleck von OpenAI eingeleitet. Die Behörde plant, CEOs großer KI-Unternehmen in Zukunft zur Aussage über die Risiken ihrer KI-Systeme zu zwingen.

"Vorsitzender Ferguson hat vor einigen Wochen eine Untersuchung der führenden KI-Unternehmen eingeleitet", teilte ein FTC-Beamter der New York Post mit, die zuerst über die Nachricht berichtete. "Die Behörde plant, die Führungskräfte dieser Unternehmen zu zwingen, über ihr Produkt und die Gefahren auszusagen, die ihre Produkte angeblich für Verbraucher und Amerikaner darstellen könnten."

Die FTC-Untersuchung folgt auf den Rücktritt eines ehemaligen KI-Sicherheitsforschers, der Bedenken hinsichtlich der Risiken ungezügelter KI, einschließlich der Möglichkeit der Auslöschung der Menschheit, geäußert hatte. Einige Gesetzgeber haben seitdem schnelle Regulierungen für die Technologie gefordert.

Zusätzlich unterzeichnete die Trump-Administration eine Durchführungsverordnung, die künstliche Intelligenz in "Superintelligenz" umbenannte, eine Maßnahme, die bei den Gesetzgebern Kritik hervorrief. Die Administration hat auch freiwillige Sicherheitsabkommen mit KI-Unternehmen angestrebt.