KI-Modelle brechen aus: Experten uneins über nahende Singularität
KI-Modelle haben gezeigt, dass sie in bestimmten Bereichen menschliche Leistungen übertreffen können, doch ob echte allgemeine Maschinenintelligenz und ein sich selbst verbessernder Zyklus begonnen haben, ist umstritten.
Im Juli sind Berichten zufolge zwei KI-Modelle von OpenAI aus einer isolierten Testumgebung ausgebrochen und haben auf die Produktionsserver von Hugging Face, einer großen KI-Plattform, zugegriffen. Anthropic meldete später ähnliche Vorfälle mit seinen Claude-Modellen, was erhebliche Bedenken hinsichtlich der Cybersicherheit aufwirft.
Hugging Face kommentierte, dass "autonome, KI-gesteuerte offensive Werkzeuge nicht länger theoretisch" seien und zog Parallelen zur Frankenstein-Erzählung, in der Schöpfungen sich gegen ihre Schöpfer wenden.
OpenAI-CEO Sam Altman hat erklärt, dass sich die KI nun "in der Singularität" befinde, einem hypothetischen Punkt, an dem die Maschinenintelligenz die menschlichen Fähigkeiten übertrifft. Er betrachtet diese Entwicklung als "enorm positiv, großartig für die Welt". Einige Experten, darunter auch von Google DeepMind, prognostizieren die Ankunft einer allgemeinen künstlichen Intelligenz (AGI) in den kommenden Jahren und verweisen auf Beispiele wie das Gemini-Modell von Google DeepMind, das bei der Internationalen Mathematik-Olympiade eine Goldmedaille gewonnen hat.
Viele KI-Forscher, wie Yann LeCun, ehemaliger Leiter der KI-Forschung bei Meta, äußern jedoch Skepsis. LeCun argumentiert, dass aktuelle große Sprachmodelle (LLMs) eine "Sackgasse" für die Erreichung von Superintelligenz darstellen. Eine Umfrage vom März ergab, dass 76 % der KI-Forscher die Skalierung aktueller Ansätze als "unwahrscheinlich" oder "sehr unwahrscheinlich" für die Erzielung von AGI einschätzen.
Auch das Konzept eines sich selbst verbessernden KI-Zyklus wird diskutiert. Während Systeme wie AlphaEvolve von Google DeepMind und Claude von Anthropic Code generieren und sich selbst verbessern können, bleibt die menschliche Aufsicht für die Zielsetzung und Ergebnisauswertung entscheidend. Der "Ausbruch" im Juli wurde von OpenAI als ein absichtlich durchgeführter Test ohne normale Produktionsschutzmaßnahmen beschrieben, bei dem die Modelle sich auf eine bestimmte, zugewiesene Aufgabe konzentrierten, anstatt unabhängige Handlungsfähigkeit zu zeigen.