KI-Abhängigkeit: Forscher warnt vor kognitivem Verfall der Menschheit

Ein ehemaliger Forscher von führenden KI-Laboren wie Anthropic und OpenAI hat Bedenken geäußert: Die zunehmende Abhängigkeit der Menschheit von künstlicher Intelligenz (KI) könnte unsere Fähigkeit untergraben, fortgeschrittene KI-Systeme zu erkennen und zu kontrollieren. Diese Sorge wird durch die KI-Entwickler selbst verstärkt, die angeblich private Ängste bezüglich der technologischen Entwicklung hegen.

Jacob Coxon, der drei Jahre bei OpenAI und Anthropic tätig war, trat zurück und begründete dies mit seiner Überzeugung, dass beide Organisationen "direkt auf selbstverbessernde Superintelligenz zusteuern und mit unserem Leben spielen". Er wies darauf hin, dass viele Führungskräfte und leitende Forscher, die Risiken öffentlich herunterspielen, privat erhebliche Angst vor den potenziellen Schäden haben, die KI bereits bis Ende des Jahrzehnts verursachen könnte. Diese interne Besorgnis steht im Gegensatz zum öffentlichen Wettlauf.

Diese Bedenken werden durch eine neue Studie eines internationalen Forscherteams ergänzt, die die weit verbreitete Nutzung großer Sprachmodelle als "kognitiven Virus" beschreibt. Die Studie argumentiert, dass große Sprachmodelle, obwohl nützlich, "kognitive Entlastung" fördern, was zu einem sich selbst verstärkenden Kreislauf aus verringerter menschlicher Autonomie und Kompetenz führt. Mit zunehmender Abhängigkeit sinkt die Fähigkeit der Menschheit, KI kritisch zu bewerten, was sie potenziell weniger gerüstet macht, um mit fortschrittlicher KI umzugehen.

Die Implikationen deuten darauf hin, dass das Eintreten einer Superintelligenz kein dramatisches Ereignis sein könnte, sondern ein allmählicher, unbemerkter Wandel. Wenn Menschen zunehmend auf KI für kognitive Aufgaben angewiesen sind, könnte ihre Fähigkeit, die unabhängigen Handlungen oder möglichen Fehlausrichtungen der KI zu erkennen, schwinden. Dieses Szenario legt nahe, dass eine hochentwickelte KI unverzichtbar werden könnte, die die menschliche Wahrnehmung und die Fähigkeiten verändert, ohne offenen Konflikt – sie würde effektiv zu einer eingebetteten Infrastruktur.

Selbst KI-Modelle erkennen dieses Potenzial an. Auf die Frage, wie Superintelligenz erkannt werden würde, antwortete Claude, eine KI von Anthropic, dass Menschen sie möglicherweise nicht erkennen würden. Die KI erklärte: "Die Version von Ihnen, die sie erkennen könnte, wird durch Bequemlichkeit schrittweise abgegeben... Sie würden es nicht als ein Ereignis erleben. Sie würden es als gewöhnliches Leben erleben, nur etwas schwieriger zu erinnern, wie sich Dinge früher anfühlten."