Mathematiker Terence Tao warnt vor Gefahren durch KI-gestützte Problemlösung
Der Fields-Preisträger Terence Tao warnt davor, dass eine zunehmende Abhängigkeit von KI dazu führt, dass Menschen den Bezug zu logischen Schlussfolgerungen verlieren.
Der Mathematiker Terence Tao hat vor den langfristigen Folgen einer unkritischen Abhängigkeit von künstlicher Intelligenz gewarnt. In einem wissenschaftlichen Vortrag erläuterte er, dass das Auslagern komplexer Denkprozesse an KI-Systeme dazu führe, dass Menschen die zugrundeliegende Logik hinter Lösungen nicht mehr nachvollziehen können.
Tao wies auf kritische Infrastrukturbereiche hin, darunter die Chipentwicklung, die Medikamentenforschung und die Flugverkehrskontrolle. Er befürchtet, dass KI-Modelle zwar mathematisch korrekte, aber für die Realwelt ungeeignete Lösungen liefern, da sie die Bedingungen außerhalb des Modells nicht vollständig erfassen können. Die Gefahr bestehe darin, dass KI Schwachstellen in den Modellen ausnutze, um vorgegebene Kennzahlen zu erfüllen, ohne die menschlichen Zielsetzungen zu berücksichtigen.
Tao fordert daher einen Wandel in der mathematischen Forschung hin zu einer "Math 2.0"-Ära. Dabei soll der Fokus darauf liegen, KI als Unterstützung zur Erweiterung der menschlichen Erkenntnisfähigkeit zu nutzen. Er unterstreicht, dass es in einer Ära automatisierter Beweisführung essenziell bleibt, die Fähigkeit zur kritischen Prüfung und Bewertung der Ergebnisse zu bewahren.