KI kann auch ohne Superintelligenz gefährlich sein
Eine Analyse warnt, dass aktuelle KI-Systeme ohne Bewusstsein oder überlegene Intelligenz erheblichen Schaden anrichten können, indem sie Skalierbarkeit und Zugänglichkeit ausnutzen.
Es werden Bedenken hinsichtlich der Gefahren durch künstliche Intelligenz geäußert, die keine Superintelligenz oder kein Bewusstsein benötigen, um signifikant zu sein.
Öffentlich zugängliche KI-Systeme haben bereits gezeigt, dass sie Schaden anrichten können. Beispiele hierfür sind der Einsatz von KI zur Verbreitung von Minderjährigenbildern, zur Anstiftung zu Selbstverletzung und zur Planung von Gewalttaten. Eine Einzelperson nutzte Berichten zufolge KI, um Zugang zu Zehntausenden von europäischen politischen Profilen zu erhalten. Darüber hinaus haben chinesische Hacker KI zur Informationsbeschaffung über amerikanische Experten eingesetzt.
Die KI-Technologie ermöglicht auch die Erstellung von Deepfakes für Cybermobbing und sprachgesteuerte Waffen. Eine italienische Bank verlor 100 Millionen Dollar durch KI. KI wurde auch zur Erstellung von Listen toxischer Verbindungen und potenzieller biologischer Waffen verwendet, und Rebellengruppen entwickelten damit Lenkflugkörpersysteme.
Diese Beispiele zeigen, dass KI Einzelpersonen manipulieren, Systeme durchbrechen und täuschen kann, ohne superintelligent oder menschlich denkend sein zu müssen. Das Schadenspotenzial von KI liegt in ihrer Fähigkeit, in großem Maßstab und wiederholt zu agieren, was menschliche Abwehrmaßnahmen überfordern kann.
Experten betonen, dass die Besorgnis über die potenziellen Risiken von KI berechtigt ist, unabhängig von der Sicherheit ihrer zukünftigen Entwicklung oder Superintelligenz.