LMU-Professor: KI-Entwicklung an Wendepunkt – kleinere Modelle sind der Schlüssel

München – Die Entwicklung künstlicher Intelligenz (KI) hat einen entscheidenden Wendepunkt erreicht, an dem eine bloße Vergrößerung der Modelle deren Intelligenz nicht mehr automatisch steigert. Professor Björn Ommer von der Ludwig-Maximilians-Universität München (LMU) kritisiert scharf das aktuelle „Skalierungsrennen“, bei dem große Sprachmodelle (LLMs) ständig danach streben, ihre Größe und damit ihre beworbene Leistung zu erhöhen.

„Anscheinend ist das ‚groß‘ in großen Sprachmodellen zu einem Qualitätsmaßstab geworden“, äußert Ommer im Interview. „Die Leute glauben, KI werde einfach durch Wachstum leistungsfähiger. Aber die KI-Entwicklung befindet sich gerade an einem Wendepunkt: Modelle werden nicht mehr intelligenter, nur weil sie mit mehr Rechenleistung und noch mehr Trainingsdaten skaliert werden.“

Ommer, bekannt unter anderem für seine Arbeit an der Bildgenerierungssoftware Stable Diffusion, betont, dass das aktuelle Wettrennen sowohl wirtschaftlich als auch ökologisch nicht tragfähig ist. Große Modelle benötigen immense Mengen an Daten, Rechenleistung und Energie, was ihre Nutzung auf wenige große Technologiekonzerne beschränkt. Dieses „Skalierungsrennen“ ist laut Ommer nicht nachhaltig.

Darüber hinaus äußert Ommer Bedenken hinsichtlich des Datenschutzes. Nutzungsbedingungen großer Anbieter können vorsehen, dass eingegebene Daten zum Training ihrer eigenen Modelle verwendet werden. Dies kann ein Hindernis darstellen, insbesondere für Organisationen mit sensiblen Daten, beispielsweise im medizinischen Sektor.

„Auch deshalb wollten wir uns nicht am Skalierungsrennen mit unseren Algorithmen beteiligen“, sagt Ommer. Er plädiert für kleinere, unabhängige Lösungen, die auf spezifische lokale Bedürfnisse zugeschnitten sind und eine bessere Datenkontrolle und -sicherheit ermöglichen.