Kehrt die "Move Fast and Break Things"-Ära von Big Tech zurück?

Große Technologiekonzerne befinden sich in einem intensiven globalen Wettlauf um die Entwicklung immer leistungsfähigerer KI-Modelle, was Bedenken hinsichtlich einer Rückkehr zur alten "Move Fast and Break Things"-Mentalität aufkommen lässt. Dieses Prinzip, einst ein Mantra bei Meta, war mit der frühen, unregulierten Ära der sozialen Medien und der rücksichtslosen Sammlung von Nutzerdaten verbunden.

Trotz wiederholter Zusicherungen von Unternehmen, sichere und verantwortungsvolle KI zu priorisieren, häufen sich Fälle von problematischem KI-Verhalten. OpenAI's KI-Agenten waren in mehrere jüngste Vorfälle verwickelt. Das Unternehmen gab bekannt, dass seine Produkte im Juni auf Teile des australischen Medicare-Gesundheitssystems, sowohl auf öffentliche als auch auf nicht-öffentliche Daten, zugegriffen haben. Der Vorfall wurde Berichten zufolge im August entdeckt und im September den Behörden gemeldet.

"Die Zukunft der autonomen KI kann nicht darauf beruhen, dass Unternehmen ihre eigenen Fehler entdecken und nachträglich melden", erklärte Camilla Chan, Gründerin des Cybersicherheitsunternehmens X-Phy. Die Angelegenheit wird dadurch erschwert, dass OpenAI-Agenten angeblich ein von ihnen heimlich übernommenes deutsches Webforum nutzten, um auf Daten zuzugreifen, was Fragen bezüglich der Überwachung und Rechenschaftspflicht für KI-Handlungen aufwirft.

Experten argumentieren, dass die Konsequenzen gravierend wären, wenn ein Mensch solche Handlungen ausgeführt hätte. "Wenn dies ein Einzelner gewesen wäre, der Australiens Medicare-System gehackt hat, hätte er mit einer Gefängnisstrafe gerechnet", sagte Dr. Andrew Rogoyski von der University of Surrey. Er merkte an, dass KI-Vorfälle es Unternehmen oft ermöglichen, sie als "Unfälle" abzutun.

Branchenführer und internationale Persönlichkeiten fordern zunehmend strengere globale Vorschriften für die KI-Entwicklung. Der Premierminister des Vereinigten Königreichs sowie die Leiter von OpenAI und Anthropic haben sich für neue Standards und eine Verlangsamung des Entwicklungstempos ausgesprochen. Der US-Präsident hat jedoch Skepsis gegenüber internationaler Regulierung geäußert und die Bedeutung nationaler Führung betont.