Banken warnen vor Risiken durch KI-Shopping-Agenten

Mehrere Großbanken, darunter die Bank of America und NatWest, haben vor den wachsenden Risiken durch den Einsatz von künstlicher Intelligenz (KI) im Online-Handel gewarnt. Die Hauptsorge besteht darin, dass KI-Agenten, die im Namen von Verbrauchern handeln, das Risiko von Betrug, Täuschung und Datenschutzverletzungen erhöhen könnten.

Technologieunternehmen wie OpenAI, Google und Meta integrieren aktiv KI-Chatbots in E-Commerce-Plattformen. Die Vision ist, dass Verbraucher die Produktauswahl und den Einkauf an KI-Agenten delegieren können, während Einzelhändler versuchen, diese KI-gesteuerten Empfehlungen zu beeinflussen.

Anzeichen für diesen Trend sind bereits sichtbar. Das britische Kaufhaus John Lewis meldet, dass die von KI-Agenten initiierten Suchanfragen im Vergleich zum Vorjahr von 0,3 % auf 2,5 % gestiegen sind. Dieses schnelle Wachstum übersteigt laut den beteiligten Banken die Entwicklung von Industriestandards und Verbraucherschutzmechanismen.

Es wurden Bedenken von Verbrauchern geäußert, die unsicher sind, ob KI-Agenten wirklich in ihrem besten Interesse handeln. Mögliche Risiken umfassen Fehlkäufe, übermäßige Ausgaben oder finanzielle Verluste durch betrügerische Aktivitäten. Auch die Frage des verfügbaren Schutzes und der Anlaufstellen für Abhilfe ist unklar.

Als Reaktion darauf planen mehrere Banken, mit politischen Entscheidungsträgern Gespräche aufzunehmen, um Vorschläge zur Verbesserung der Transparenz bei KI-gesteuerten Transaktionen und zur Stärkung des Datenschutzes zu diskutieren. Diese Vorschläge umfassen Anforderungen für klare Offenlegung der Beteiligung von KI-Agenten, erhöhte Transparenz bei Entscheidungsprozessen und robuste Schutzmaßnahmen für Kundendaten.