ByteDances Seed AI-Labor richtet Abteilung für Modellsicherheit und -ausrichtung ein

ByteDances Seed AI-Labor richtet eine eigene Abteilung für die Ausrichtung und Vorbereitung von KI-Modellen ein. Yan Lin wird diese neue Einheit leiten, die an den Leiter von Seed, Wu Yonghui, berichten wird. Die Abteilung wird Mitglieder aus dem bestehenden Responsible AI-Team sowie Personal aus dem Chat-Team übernehmen.

Die neu geschaffene Abteilung wird für die Entwicklung von Modellspezifikationen, Sicherheitsbewertungen, Ausrichtungsschulungen sowie den Aufbau von Schutzsystemen und Risikomonitoring zuständig sein. Ihr Aufgabenbereich umfasst die Gewährleistung, dass KI-Agenten im Einklang mit menschlichen Absichten und autorisierten Grenzen agieren, sowie die Bewältigung potenzieller chemischer, biologischer, radiologischer und nuklearer Risiken, die mit fortschrittlichen KI-Modellen verbunden sind.

Seed AI beabsichtigt außerdem, die öffentliche Zusammenarbeit mit externen Forschern und unabhängigen Gutachtern zu verstärken. Diese organisatorische Maßnahme schafft eine dedizierte Struktur für Sicherheits- und Ausrichtungsbemühungen, während das Labor fortschrittlichere und autonomere KI-Systeme entwickelt.