KI-Führer fordern wegen Sicherheitsbedenken langsamere Entwicklung

Führende Persönlichkeiten im Bereich der künstlichen Intelligenz, Sam Altman von OpenAI und Dario Amodei von Anthropic, haben tiefe Besorgnis über das schnelle Tempo der KI-Entwicklung geäußert und fordern eine Verlangsamung, um potenzielle katastrophale Folgen abzuwenden.

Altman skizzierte in sozialen Medien zwei Szenarien, in denen der Fortschritt der KI zu schwerwiegenden negativen Folgen führen könnte. Das erste beinhaltet den Verlust der Kontrolle der Menschheit über ihre Zukunft an die KI. Er betonte, dass KI immer den Menschen dienen müsse und dass Sicherheitsmechanismen mit den sich entwickelnden Fähigkeiten Schritt halten müssten.

Altman hob auch die Gefahr der KI-Monopolisierung hervor. Er warnte, dass die Kontrolle einer außergewöhnlich mächtigen KI durch eine einzelne Entität dazu führen könnte, dass eine einzige Weltanschauung allen aufgezwungen wird, was zu einer dystopischen Zukunft führt. Altman forderte, dass KI-Unternehmen und Regierungen einen "schmalen Mittelweg" beschreiten, um zu verhindern, dass eine einzelne Nation oder ein einzelnes Labor übermäßigen Einfluss auf die Entwicklung der Technologie ausübt.

Amodei bekräftigte in einem veröffentlichten Essay ähnliche Ansichten und plädierte für ein langsameres Entwicklungstempo, ohne jedoch einen vollständigen Stopp zu fordern. Er argumentierte, dass die Nichtentwicklung von KI die Menschheit ihrer Vorteile beraube und sie in die Hände autoritärer Regime geraten lasse, während eine zu schnelle Entwicklung rücksichtslos sei.

Amodei schlug einen Drei-Punkte-Plan vor, um die "Grenze" der KI-Entwicklung sicher zu gestalten. Dieser beinhaltet die Einbeziehung von Drittanbieter-Prüfern, die Förderung der demokratischen Koordinierung zwischen KI-Unternehmen zur Festlegung gemeinsamer Sicherheitsstandards und die Verfolgung globaler Koordinierung, um diese Standards auf autoritäre Regierungen auszudehnen, wobei die erheblichen Herausforderungen des letzteren Schritts anerkannt werden.