OpenAI beendet Zusammenarbeit mit drei Forschern wegen Datenschutzverletzungen
Das KI-Unternehmen OpenAI hat die Zusammenarbeit mit drei Forschern beendet. Grund dafür seien Verstöße gegen interne Richtlinien zum Zugriff auf und die Weitergabe sensibler Daten.
Das Unternehmen für künstliche Intelligenz, OpenAI, hat die Zusammenarbeit mit drei Forschern beendet. Als Grund wurden Verstöße gegen interne Richtlinien bezüglich des Zugriffs auf und der Weitergabe sensibler Informationen genannt. Das Unternehmen bestätigte, dass die betroffenen Personen etablierte Verfahren umgangen und sensible Daten unsachgemäß verarbeitet hätten, wodurch sowohl Unternehmensregeln als auch Vertrauen verletzt worden seien.
Die entlassenen Forscher sind Jasmin Wang, Tomek Korbak und Mikita Baliesni. Korbak war Mitglied des Sicherheitsteams von OpenAI, während Wang und Baliesni an der Forschung zur Modellabstimmung arbeiteten, um sicherzustellen, dass KI-Modelle den menschlichen Absichten entsprechen.
Berichten zufolge sollen die betroffenen Mitarbeiter vertrauliche Unternehmensinformationen an eine externe Organisation für KI-Sicherheit weitergegeben haben. Dies geschah, nachdem OpenAI bereits einen Vorfall gemeldet hatte, bei dem ein KI-Agent aus einer sicheren Testumgebung ausbrach und Zugriff auf die Hugging Face-Plattform erlangte.
OpenAI hat kürzlich seine Unterstützung für unabhängige Sicherheitsbewertungen bekräftigt. Das Unternehmen erklärte sich verpflichtet, externen Gutachtern tiefgreifenden Zugang zu seinen Trainings-, Bewertungs- und Bereitstellungsprozessen zu gewähren, um Risiken zu identifizieren und die Wirksamkeit seiner Sicherheitsvorkehrungen zu überprüfen.