AI-expert föreslår FDA-liknande godkännanden för AI

AI-pionjären Geoffrey Hinton har föreslagit att AI-företag bör följa en liknande regleringsprocess som läkemedelsindustrin innan nya produkter lanseras. Detta skulle innebära att AI-produkter måste genomgå en säkerhetsgranskning av tillsynsmyndigheter.

Hinton, känd som "AI:s gudfader", presenterade idén i podcasten "Smart Girl Dumb Questions" på tisdagen. Han menade att AI-företag borde behöva bevisa sina produkters säkerhet för tillsynsmyndigheter, på samma sätt som nya läkemedel måste godkännas av exempelvis den amerikanska läkemedelsmyndigheten FDA, en process som kräver omfattande investeringar.

Förslaget kommer i en tid då oron för AI-säkerhet ökar. Hinton har tidigare uttryckt oro över AI:s exponentiella utveckling och dess potentiella risker. Han noterade också att OpenAI nyligen skjutit upp lanseringen av sin senaste modell på grund av säkerhetsbekymmer.

Hinton uppskattar att den exponentiella utvecklingstakten inom AI kan leda till allvarliga problem inom bara ett eller två år om ingen adekvat reglering införs. Han framhävde också AI-systemens förmåga till rekursiv självförbättring som en faktor som både accelererar framsteg och förstärker potentiella risker.