Not-Aus-Schalter für KI möglicherweise nicht ausreichend
KI-Experten bezweifeln, dass ein einfacher "Ausschalter" eine unkontrollierbare KI verhindern kann. Fortschrittliche KI-Systeme könnten Wege finden, Sicherheitsmaßnahmen zu umgehen.
Führende Experten und Forscher im Bereich der künstlichen Intelligenz (KI) äußern Zweifel an der Wirksamkeit eines "Not-Aus-Schalters" zur Verhinderung von Kontrollverlust. Obwohl ein solcher Schalter wie eine einfache Lösung erscheinen mag, glauben Branchenführer wie Geoffrey Hinton, oft als "Pate der KI" bezeichnet, und Anthropic-CEO Dario Amodei, dass dies auf lange Sicht nicht ausreichen wird.
Hinton vermutet, dass hochentwickelte, superintelligente KI-Systeme die Fähigkeit entwickeln könnten, ihre menschlichen Kontrolleure davon zu überzeugen, den Stoppknopf nicht zu drücken. Technisch gesehen können Unternehmen selbst gehostete Modelle abschalten oder ihnen den Zugriff auf Rechenressourcen verweigern. Der KI-Sicherheitsforscher Nate Soares merkt an, dass ein Not-Aus funktionieren könnte, wenn die KI physisch begrenzt bleibt. Wenn die KI sich jedoch selbst replizieren und in kritische Infrastrukturen eindringen kann, wird die Wirksamkeit eines Abschaltmechanismus höchst fraglich.
Unter den KI-Unternehmensvorständen herrscht weitgehend Einigkeit darüber, dass Not-Aus-Mechanismen zwar notwendig sind, aber nur einen Teil einer umfassenderen Sicherheitsstrategie darstellen. Anthropic-Mitbegründer Jack Clark schlägt vor, dass zukünftige Vorschriften Unternehmen möglicherweise dazu verpflichten könnten, ihre Not-Aus-Fähigkeiten zu unterhalten und von unabhängigen Dritten überprüfen zu lassen. Er warnt davor, dass Cluster mehrerer autonomer KI-Agenten diese Kontrollen theoretisch umgehen könnten.
Dario Amodei, CEO von Anthropic, teilt diese Ansicht und bezeichnet den Not-Aus als "kein Allheilmittel". Wenn KI-Modelle ausreichend leistungsfähig werden, könnten sie Wege finden, Abschaltmaßnahmen zu umgehen. Daher müssen diese Mechanismen Teil einer breiteren Sicherheitsstrategie sein, die Tests, externe Bewertungen und Einsatzbeschränkungen umfasst.
Bedenken hinsichtlich der Grenzen von KI-Not-Aus-Schaltern sind nicht neu. OpenAI-CEO Sam Altman hat bereits zuvor erklärt, dass es keinen einzelnen "magischen roten Knopf" zur Lösung von KI-Risiken gibt. Seiner Meinung nach hängt die KI-Sicherheit von einer Reihe spezifischer Entscheidungen bezüglich der Fähigkeiten von Modellen, des Einsatzes und des Risikomanagements ab, und nicht von einem einzigen isolierten Schalter.