AI-insiders varnar för risker och lämnar sina företag

Flera framstående AI-experter har nyligen lämnat sina anställningar hos ledande teknikföretag, inklusive OpenAI och Google DeepMind. Avgångarna motiveras av en växande oro kring hastigheten på AI-utvecklingen, otillräckliga säkerhetsprotokoll och upplevda intrång i upphovsrätten. Bland dessa finns bland annat David Robinson, tidigare säkerhetschef hos OpenAI, och Jan Leike, tidigare ledare för Superalignment-teamet.

Robinson har kritiserat den "trial and error"-metod som används i AI-utvecklingen och uppmanar branschaktörer att överge den. Leike å sin sida konstaterade att säkerhetskulturen har fått stå tillbaka för produktutvecklingen. Andra anställda har också lämnat företag som Stability AI och Anthropic, med hänvisning till oro för intrång i upphovsrätten och potentiella skadliga effekter av AI, såsom desinformation och ökad ojämlikhet.

Den interna oron har även manifesterats i kollektiva uttalanden. I maj publicerade 13 nuvarande och före detta anställda ett brev där de varnar för riskerna med avancerad AI för mänskligheten, inklusive potentiell förlust av kontroll. Framstående AI-forskare som Yoshua Bengio och Geoffrey Hinton har stöttat uppropet. Ett uttalande från över 1300 AI-anställda, "Pacing the Frontier", understryker behovet av att bromsa AI-utvecklingen för att ge mer tid för säkerhetsåtgärder.

Vissa av de avgående forskarna är även involverade i juridiska processer. Suchir Balaji, en tidigare OpenAI-anställd, trädde fram med anklagelser om upphovsrättsintrång och var en potentiell vittne i New York Times stämning mot OpenAI. Alex Turner har vittnat inför den amerikanska senaten om AI-risker, särskilt i samband med dess användning för militära ändamål och massövervakning.

Dessa avgångar och offentliga varningar belyser en ökande spänning mellan snabb AI-utveckling och en säker, etisk implementering. Inom branschen finns en tydlig splittring mellan dem som prioriterar snabb framgång och dem som förespråkar en mer försiktig och reglerad strategi.