OpenAI:s före detta säkerhetschef varnar för risker i snabb AI-utveckling
En tidigare chef för säkerhet på OpenAI, David Robinson, har lämnat företaget och uttrycker oro över AI-branschens snabba takt och bristande kontroll. Han jämför riskerna med kärnkraft.
David Robinson, som tidigare ledde säkerhetsarbetet vid OpenAI, har lämnat företaget och varnar nu för de risker som är förknippade med den snabba utvecklingen av artificiell intelligens. Robinson, som arbetade på OpenAI i tre år, menar att branschen fortfarande agerar som ett startup, trots att de system som utvecklas är betydligt mer kapabla och farliga än tidigare. Han uppger att han nu anser att varningarna för AI:s potentiella destruktiva krafter inte längre är överdrivna.
Han jämför utvecklingen med kärnkraft, där kontrollförlust kan leda till omfattande skador. Robinson anser att säkerhetskraven för AI-system bör motsvara åtminstone de som ställs på andra potentiellt farliga teknologier, med tydliga licensieringskrav, incidentrapportering och kommandostrukturer. Han beskriver OpenAI:s interna kultur som decentraliserad och otydlig gällande beslutsbefogenheter.
Robinson lyfter fram flera faktorer som bidrar till att risker underskattas, inklusive ekonomiska incitament, rädsla och tidspress. Enligt honom ger den stora ekonomiska insatsen i AI-utvecklingen en stark drivkraft för individer att se positivt på situationen och bortse från potentiella faror.
Ursprungligen skeptisk till de mest dystra scenarierna kring AI, ändrade Robinson sin uppfattning baserat på den evidens han samlade under sin tid på OpenAI. Hans kritik fokuserar på takten i utvecklingen och de organisatoriska strukturerna, som han menar inte står i proportion till den potentiella faran hos de system som utvecklas.