Ehemaliger Sicherheitschef von OpenAI warnt vor Tempolimitierung bei KI-Entwicklung

David Robinson, der zuvor die Sicherheitsbemühungen bei OpenAI leitete, hat das Unternehmen verlassen und äußert erhebliche Bedenken hinsichtlich des beschleunigten Tempos der KI-Entwicklung. Robinson, der drei Jahre bei OpenAI arbeitete und sich auf Sicherheitsprotokolle konzentrierte, erklärte, dass die Branche weiterhin wie ein Startup agiere, obwohl die entwickelten Systeme weitaus leistungsfähiger und risikoreicher seien als zuvor. Er glaubt nun, dass Warnungen vor den potenziellen Gefahren von KI nicht unbegründet sind.

Robinson zieht eine Parallele zur Kernenergie und deutet an, dass ein Kontrollverlust über KI-Systeme Schäden verursachen könnte, die mit einer Kernschmelze vergleichbar oder sogar größer sind. Er argumentiert, dass die Sicherheitsanforderungen zumindest denen anderer, streng regulierter gefährlicher Technologien entsprechen sollten, und nennt Lizenzierung, Meldung von Zwischenfällen und klare Kommandostrukturen als wesentliche Bestandteile. Er beschrieb die interne Kultur von OpenAI als dezentralisiert, mit unklaren Befugnissen für die Entscheidungsfindung.

Er wies auch auf psychologische und finanzielle Faktoren hin, die zur Unterschätzung von KI-Risiken beitragen. Robinson nannte finanzielle Anreize als starke Motivation für Einzelpersonen, zu dem Schluss zu kommen, dass die derzeitigen Sicherheitsmaßnahmen ausreichen oder dass sich die Probleme von selbst lösen werden. Auch Angst und Zeitdruck wurden als beitragende Elemente genannt.

Anfänglich skeptisch gegenüber extremen KI-Weltuntergangsszenarien, verschob sich Robinsons Perspektive aufgrund der Beweise, auf die er während seiner Tätigkeit bei OpenAI stieß. Seine Hauptkritik konzentriert sich auf die Geschwindigkeit der Entwicklung und die organisatorischen Strukturen, die seiner Meinung nach nicht mit den inhärenten Gefahren der geschaffenen Systeme übereinstimmen.