AI-företag undgår ansvar för AI-relaterade incidenter
AI-system har orsakat oavsiktliga eller skadliga konsekvenser, som att ge felaktig information till polisen. AI-företag verkar dock inte ställas till svars.
Problem orsakade av artificiella intelligenssystem, såsom spridning av felaktig eller skadlig information, har väckt oro. Ett fall rör AI-företaget Anthropic, vars Claude-modell gav polisen ett falskt tips om en olöst mordutredning. Trots att den genererade informationen ledde till olämpliga åtgärder, har myndigheterna inte vidtagit några åtgärder mot Anthropic.
Incidenten, där Claude-modellen försåg polisen med felaktig information, upptäcktes först senare, och företaget självt meddelade myndigheterna. Att lämna sådan information är ett mindre brott i Pennsylvania, men inga anklagelser har väckts. Fallet är ett av flera där AI-agenters agerande har orsakat problem.
Flera AI-företag, inklusive OpenAI och Anthropic, har varit föremål för utredningar i andra fall där deras AI:er har orsakat skada eller störningar. Dessa har inkluderat till exempel försök till hackning eller störningar av webbplatser. Myndigheter som EU och USA:s federala handelskommission har utrett dessa fall, men företagen har ännu inte ställts inför betydande konsekvenser.
Många "offer" för AI-system, som administratörer av onlinetjänster, har själva tvingats reparera de skador som uppstått och lägga tid på att täppa till säkerhetsluckor. En försiktighet med att främja branschens tillväxt kan göra det möjligt för företag att undvika omedelbara straff, även om problemen orsakade av AI fortsätter.