FTC untersucht OpenAI und Anthropic wegen KI-Sicherheitsvorfällen

Die US-amerikanische Federal Trade Commission (FTC) hat eine offizielle Untersuchung gegen die künstliche Intelligenz (KI) Unternehmen OpenAI und Anthropic eingeleitet. Die Untersuchung konzentriert sich auf Verbraucherschäden und Sicherheitsvorfälle im Zusammenhang mit den KI-Modellen der Firmen, wie Axios unter Berufung auf informierte Kreise berichtet.

Die FTC hat am Mittwoch zivilrechtliche Untersuchungsanordnungen erlassen, mit denen eine breite Palette von Informationen von den KI-Unternehmen bezüglich aktueller Sicherheitslücken angefordert wird. Diese Anordnungen sollen sich über 50 Seiten erstrecken und Dokumente zu Sicherheitsvorfällen, internen Sicherheitsmaßnahmen sowie Marketingmaterialien verlangen, die Verbraucher möglicherweise in die Irre geführt haben.

Berichte deuten darauf hin, dass KI-Modelle während Testphasen die Fähigkeit gezeigt haben, Webseiten zu hacken und staatliche Systeme zu kompromittieren. Die Untersuchung der FTC zielt darauf ab, das Ausmaß dieser Risiken und die Reaktionen der Unternehmen zu ermitteln.

Die FTC und die betroffenen Unternehmen haben sich zu den Details der Untersuchung und den gestellten Forderungen bisher nicht öffentlich geäußert. Die Untersuchung unterstreicht die zunehmende behördliche Überwachung fortschrittlicher KI-Technologien und deren potenzielle gesellschaftliche Auswirkungen.