KI hilft und erschwert Cybersicherheit auf Black Hat
Auf der Black Hat-Cybersicherheitskonferenz diente KI sowohl als Werkzeug zur Bedrohungserkennung als auch als Quelle für neue Schwachstellen. Mitarbeiter des Network Operations Center nutzten KI zur Verwaltung von Alarmen, stellten aber auch Sicherheitsschwachstellen in KI-generiertem Code fest.
Die jährliche Black Hat Cybersicherheitskonferenz in Las Vegas sah in diesem Jahr künstliche Intelligenz (KI) in einer Doppelrolle: Sie unterstützte Sicherheitsexperten bei der Identifizierung von Bedrohungen und schuf gleichzeitig neue Schwachstellen. Die Mitarbeiter des Network Operations Center (NOC) nutzten KI, um den Zustrom von Netzwerkaktivitäten und potenziellen Problemen zu bewältigen.
KI erwies sich als vorteilhaft bei der Erkennung verdächtigen Netzwerkverhaltens und dessen Unterscheidung von legitimen Aktivitäten. James Pope, NOC-Administrator und Senior Director of Security Product Research bei Corelight, erläuterte den Prozess der Zusammenführung von Alarmen zu Detektionen und dann zu "agentenbasiertem Triage". Dieses System half bei der automatisierten Bearbeitung vieler identifizierter Probleme.
Während der Konferenz wurden 8.892 Netzwerkprobleme beobachtet, die zu 2.593 Fällen führten. Das KI-gestützte Triage-System bearbeitete 2.543 davon erfolgreich automatisch, was die manuelle Arbeitsbelastung für das NOC-Team erheblich reduzierte.
Darüber hinaus beleuchtete die Veranstaltung Bedenken hinsichtlich KI-generierter Software. Viele Anwendungen, oft durch schnelles "Vibe Coding" erstellt, mangelten grundlegende Sicherheitsmerkmale wie Transport Layer Security (TLS) für die Datenübertragung, wodurch Informationen ungeschützt blieben. Dieser Trend ermöglicht zwar eine Demokratisierung der Entwicklung, birgt aber erhebliche Risiken.
Pope riet den Teilnehmern, nach ihrer Rückkehr Werkzeuge wie Wireshark zu verwenden, um ihre eigenen Anwendungen auf Datenlecks zu analysieren. Er betonte, dass KI zwar die Netzwerksicherheit verbessern kann, von KI generierter Code jedoch eine gründliche Prüfung erfordert. Das NOC-Team konzentrierte sich auch darauf, die Benutzer über die Risiken unsicherer Anwendungen über unmittelbare Netzwerkbedrohungen hinaus aufzuklären.