Risikobewertung: Übersehener Gefahrenbereich physischer KI

Audrey Miller, Partnerin bei der Risikokapitalgesellschaft Tapestry VC, äußert Bedenken, dass sich die aktuelle KI-Sicherheitsdebatte zu sehr auf die Kontrolle großer Sprachmodelle (LLMs) konzentriert und dabei die erheblichen Risiken physischer KI vernachlässigt.

Miller weist darauf hin, dass eine wachsende Zahl von Projekten darauf abzielt, die Sicherheit physischer KI-Systeme zu verbessern – ein Bereich, der sich ihrer Meinung nach rasant zu einer „massiven Kategorie“ entwickelt. Sie betont, dass physische KI-Systeme, die direkt mit der realen Welt interagieren, wie etwa in der Robotik oder bei autonomen Fahrzeugen, durch Unfälle oder Fehlfunktionen greifbaren Schaden verursachen können.

„Die Konversation konzentriert sich zu sehr auf KI-Sicherheit, hat sich aber noch nicht wirklich mit physischer KI befasst“, sagte Miller in einem Interview. „Wir müssen darüber nachdenken, wie wir sicherstellen können, dass diese Systeme sicher und zuverlässig sind.“

Berichten zufolge sind die Investitionen in KI in Europa stark angestiegen. Im Jahr 2023 sammelten in Europa tätige KI-Unternehmen Finanzierungen in Höhe von 28,5 Milliarden Euro ein, mehr als doppelt so viel wie im Jahr 2022. Trotz dieses Wachstums erfordern die Identifizierung und Bewältigung der Risiken physischer KI weitere Aufmerksamkeit.

Miller schlägt vor, dass Investoren das Potenzial physischer KI als „massive Kategorie“ erkennen müssen, die eine besondere Fokussierung auf Sicherheitsaspekte erfordert. Sie erwartet weitere Investitionen und Innovationen, die gezielt auf diese entscheidenden Sicherheitsherausforderungen im Bereich der physischen KI abzielen.