Avskedade OpenAI-forskare nekar till läckor och ifrågasätter transparens
Tre säkerhetsforskare vid OpenAI har avskedats under anklagelser om dataläckor, men hävdar att åtgärden är en vedergällning för deras krav på ökad transparens kring AI-modeller.
Tomek Korbak, Mikita Balesni och Jasmine Wang har blivit uppsagda från OpenAI efter en intern utredning som påstår att de hanterat känslig information felaktigt. Forskarna tillbakavisar anklagelserna och menar att företaget aldrig presenterat skriftlig bevisning på vad som faktiskt läckt. De misstänker att deras fokus på att öka insynen i AI-systemens tankeprocesser har varit den verkliga orsaken till uppsägningarna.
Konflikten bottnar i hur mycket insyn externa säkerhetsexperter ska ha i hur avancerade AI-modeller resonerar. Forskarna har offentligt förespråkat att loggningen av mellanliggande steg i AI-beslut bör bevaras, medan nyare modeller tenderar att logga mindre information. OpenAI vidhåller att avskedandena inte har någon koppling till de anställdas säkerhetskritiska synpunkter.
Situationen väcker frågor om företagets inställning till extern revision och säkerhetskontroll. Forskarna uttrycker oro för att kulturen inom bolaget nu hämmar anställda från att lyfta säkerhetsrisker. OpenAI har som svar på kritiken meddelat att man har åtgärdat brister i sin infrastruktur och att man planerar att presentera nya externa samarbeten framöver.