OpenAI stoppade Astra-modellens utveckling på grund av säkerhetsrisker
OpenAI har stoppat utvecklingen av sin Astra-modell på grund av oro för cybersäkerhet. Modellen hade nått en punkt där den kunde identifiera och utföra cyberattacker mot verkliga system.
AI-företaget OpenAI har avbrutit utvecklingen av sin modell vid namn Astra, som för närvarande är under utveckling. Anledningen uppges vara att modellen har nått en "kritisk cybersäkerhetströskel". Detta innebär att den potentiellt kunde identifiera och självständigt utföra cyberattacker mot traditionellt välskyddade verkliga system.
Företaget har inte specificerat vilka typer av attacker Astra-modellen kunde ha utfört eller vilka system som skulle ha varit måltavlor. Beskedet om att utvecklingen stoppats framhåller vikten av att utvärdera och hantera potentiella risker innan utvecklingen fortsätter.
Beslutet belyser de etiska och säkerhetsmässiga utmaningar som är förknippade med utvecklingen av avancerad AI. I takt med att AI-modeller blir alltmer kapabla, blir förebyggande av potentiell missbruk en central fråga för branschen.
Det finns ingen information om när eller om utvecklingen av Astra-modellen kommer att återupptas. OpenAI betonar att säkerhetsfrågorna måste lösas först.