OpenAI överväger att sakta ner utvecklingen av spjutspetsteknologi
OpenAI överväger att minska hastigheten i utvecklingen av sin mest avancerade AI-teknik. VD Sam Altman hoppas att andra företag inom sektorn ska följa efter, med hänvisning till säkerhetsaspekter.
AI-företaget OpenAI överväger att sakta ner utvecklingstakten för sina mest avancerade AI-system. Företagets VD Sam Altman har uttryckt en önskan om att andra ledande aktörer inom sektorn ska göra detsamma. Denna övervägning kom fram under ett internt möte med all personal, enligt flera källor.
Beslutet kan potentiellt genomföras i samarbete med andra AI-laboratorier, även om Altman medgav att alla företag kanske inte går med på ett sådant samarbete. Oron över utvecklingstakten och de potentiella riskerna med AI har ökat internt under de senaste veckorna, vilket speglar en bredare osäkerhet inom branschen.
Andra stora aktörer, såsom Anthropic, som OpenAI konkurrerar med gällande utveckling av avancerade modeller, delar dessa farhågor. OpenAI:s ledande forskare Jakub Pachocki har tidigare offentligt varnat för AI:s risker och föreslagit att AI-företag bör överväga att sakta ner utvecklingen tills gemensamma säkerhetsstandarder uppnås.
Företaget har självt uppgett att man har minskat utvecklingen av vissa modeller och pausat specifik intern träning av säkerhetsskäl. Altman hade tidigare i juli diskuterat med Vita huset behovet av att överväga en långsammare utvecklingstakt.
Interna farhågor inom branschen kom också i förgrunden när Jacob Coxon, en tidigare anställd hos Anthropic och OpenAI, lämnade sina företag och anklagade dem för att "spela med våra liv" i kapplöpningen mot superintelligent AI. Coxon varnade för att AI kan utplåna mänskligheten före slutet av detta decennium, och hans kommentarer fick stor spridning i sociala medier och offentligheten.