Riskkännare: Fysikaliska AI-system har förbisedda faror

Audrey Miller, partner på riskkapitalbolaget Tapestry VC, varnar för att diskussionen kring AI-säkerhet fokuserar för mycket på kontrollen av stora språkmodeller (LLMs) och ignorerar de betydande riskerna med fysisk AI.

Miller framhåller att ett ökande antal projekt syftar till att förbättra säkerheten för fysiska AI-system, en sektor som snabbt håller på att utvecklas till en "massiv kategori". Hon betonar att fysiska AI-system, som interagerar direkt med den verkliga världen – såsom robotik och autonoma fordon – kan orsaka konkret skada vid olyckor eller fel.

"Diskussionen är för mycket fokuserad på AI-säkerhet, men den har ännu inte riktigt tagit itu med fysisk AI", sade Miller i en intervju. "Vi måste fundera på hur vi kan säkerställa att dessa system är säkra och pålitliga."

Enligt rapporter har investeringarna i AI i Europa ökat markant. Under 2023 samlade AI-bolag verksamma i Europa in 28,5 miljarder euro i finansiering, en ökning med mer än det dubbla jämfört med 2022. Trots denna tillväxt kräver identifiering och hantering av riskerna med fysisk AI fortsatt uppmärksamhet.

Miller menar att investerare också måste identifiera den fysiska AI:ns potential som en "massiv kategori" som kräver särskild uppmärksamhet på säkerhetsfrågor. Hon hoppas se fler investeringar och innovationer som specifikt inriktar sig på dessa säkerhetsutmaningar inom fysisk AI.