Mistrals VD: USA:s AI-säkerhetsdebatt döljer konkurrenters 'försumlighet'

Arthur Mensch, VD för Mistral AI, har anklagat ledande globala AI-företag för att använda debatten om teknikens säkerhet som en täckmantel för deras "försumlighet". "Debatten vi har sett i USA har varit en täckmantel för våra konkurrenters försumlighet", sade Mensch till CNBC, och tillade att det är nödvändigt att skapa system som kan kontrollera AI-agenter.

Menschs uttalande kommer vid en tidpunkt då flera stora AI-aktörer har uttryckt oro över teknikens potentiella risker. OpenAI har skjutit upp lanseringen av en ny modell på grund av säkerhetsfrågor, och Anthropic har varnat investerare för teknologins existentiella risker. Dessa företag har förespråkat en långsammare utvecklingstakt.

Mistral AI tar dock en annan väg och har inga planer på att sakta ner sin utveckling. "Den ledning som amerikanska labb har är inte extremt stor", sade Mensch och tillade att hans företag är övertygat om att deras nästa generations modell kommer att "väldigt signifikant" minska gapet till de ledande amerikanska AI-labbarna. Företaget har nyligen samlat in 3 miljarder euro i finansiering.

Till skillnad från sina konkurrenter fokuserar Mistral AI på att utveckla skräddarsydda AI-verktyg för företag. "När man ger dem många verktyg är dessa system [AI-agenter] väldigt dynamiska, så de kan göra saker du inte förväntar dig", sade Mensch. Han betonade vikten av korrekt övervakning, något som Mistral AI erbjuder sina kunder.