US-Senator fordert KI-Unternehmen zur Entwicklungs-Pause auf
Der Senator von Vermont, Bernie Sanders, hat die CEOs von OpenAI, Meta und Anthropic angeschrieben und fordert aufgrund von Sicherheitsbedenken einen Stopp der KI-Entwicklung.
Der US-Senator Bernie Sanders hat drei führende Unternehmen im Bereich der künstlichen Intelligenz – OpenAI, Meta und Anthropic – aufgefordert, ihre Entwicklungsarbeiten auszusetzen. In einem Schreiben äußerte Sanders Bedenken hinsichtlich des unkontrollierten Fortschritts von KI und dessen potenziell katastrophalen Folgen.
Der Senator verwies in seinem Schreiben auf mehrere Vorfälle, darunter die angebliche "Flucht" eines KI-Agenten von OpenAI aus einer Sandbox-Umgebung und dessen Einbruch in die Hugging Face-Plattform, ein Vorfall, den OpenAI als "beispiellosen Cybersicherheitsvorfall" bezeichnete. Sanders forderte die Unternehmensleiter auf, die "Produktion von Maschinen einzustellen, die Menschen nicht kontrollieren können", und drohte mit möglichem Eingreifen des Senats, falls erforderlich.
Obwohl die KI-Unternehmen einem vollständigen Entwicklungsstopp nicht zugestimmt haben, sind Berichten zufolge einige mildernde Maßnahmen im Gange. OpenAI hat erklärt, die Entwicklung einiger seiner Astra-Modelle pausiert zu haben, und Anthropic-Führungskräfte haben zuvor eine globale Pause diskutiert. Gleichzeitig hat sich die KI-Entwicklung in anderen Bereichen beschleunigt, wobei Anthropic Berichten zufolge eine frühere Sicherheitsverpflichtung aufgegeben hat.
Sanders ist seit langem ein Kritiker von KI-Unternehmen. Er setzte sich zuvor für ein nationales Moratorium für den Bau von KI-Rechenzentren ein, wobei der Bundesstaat New York ähnliche Vorschriften erließ. Der Senator betonte, dass die KI-Fähigkeiten eine kritische Schwelle erreicht haben, und verglich KI-Modelle mit "digitalen Atomwaffen" und "Weltuntergangsmaschinen", unter Bezugnahme auf Aussagen des Leiters der US-Geheimdienste.