Professor Sabelfeld referiert über digitale Sicherheit und KI

Andrei Sabelfeld, Professor für Cybersicherheit an der Chalmers University of Technology, wird am 12. November den diesjährigen William Chalmers Vortrag halten. Der Vortrag mit dem Titel "Können wir den Hackern einen Schritt voraus sein? Sicherer Code, sichere KI und eine sicherere Zukunft" befasst sich mit den Sicherheitsherausforderungen in digitalen Systemen und künstlicher Intelligenz.

Sabelfelds Forschungsgruppe konzentriert sich darauf, Sicherheit von Anfang an in das Design zu integrieren, anstatt nur auf Schwachstellen zu reagieren. "Anstatt Schwachstellen einzeln zu jagen, wollen wir Software so bauen, dass ganze Angriffskategorien nicht mehr funktionieren", erklärte Sabelfeld. Die Gruppe hat im Bereich der Websicherheit gearbeitet und bösartige Browser-Erweiterungskampagnen aufgedeckt, die Millionen von Nutzern betrafen.

Der zunehmende Einsatz von KI-Agenten birgt neue Sicherheitsrisiken, da diese Agenten im Namen von Benutzern handeln können. Die Forschung zielt darauf ab sicherzustellen, dass KI-Agenten nur begrenzten Zugriff haben und Daten nur autorisiert fließen, um mögliche Schäden bei Kompromittierung eines Agenten zu mindern.

Der Vortrag wird die Integration von sicherem Code, KI und zukünftigen digitalen Systemen untersuchen. Sabelfeld betont die Bedeutung der Priorisierung von Sicherheit während des Designprozesses. "KI ist nur so gut wie ihre Sicherheit. Unser Aufruf ist, die Sicherheit von Anfang an einzubauen, anstatt sie nachträglich zu flicken", sagte er.

Der William Chalmers Vortrag ist eine jährliche öffentliche Veranstaltung zu Ehren des Gründers der Universität. Er ist für die Öffentlichkeit zugänglich und soll Wissen über die Bedeutung und die zukünftige Ausrichtung der Forschung in diesem Bereich vermitteln.