Des banques alertent sur les risques des agents d'achat par IA
Plusieurs banques, dont Bank of America et NatWest, ont averti que l'utilisation d'agents IA pour les achats en ligne pourrait accroître les risques de fraude et de violation de données.
Plusieurs grandes institutions financières, dont Bank of America et NatWest, ont émis des avertissements concernant l'utilisation croissante de l'intelligence artificielle dans le commerce en ligne. La principale préoccupation est que les agents IA, agissant au nom des consommateurs, pourraient augmenter les risques de fraude, d'escroquerie et de violation de la vie privée des données personnelles.
Des entreprises technologiques telles qu'OpenAI, Google et Meta intègrent activement des chatbots IA dans les plateformes de commerce électronique. La vision est que les consommateurs délèguent la sélection de produits et les achats à des agents IA, tandis que les détaillants cherchent à influencer ces recommandations pilotées par l'IA.
Des preuves de cette tendance émergent, le détaillant britannique John Lewis rapportant que les recherches provenant d'agents IA ont augmenté de 0,3 % à 2,5 % du total de leurs recherches au cours de la dernière année. Cette croissance rapide dépasse le développement des normes industrielles et des mécanismes de protection des consommateurs, selon les banques impliquées dans le rapport.
Des préoccupations ont été soulevées par les consommateurs qui ne sont pas certains que les agents IA agissent véritablement dans leur meilleur intérêt. Les risques potentiels incluent des achats incorrects, des dépenses excessives ou des pertes financières dues à des activités frauduleuses. L'incertitude plane également quant au niveau de protection disponible et aux canaux pour demander réparation.
En réponse, plusieurs banques prévoient d'engager des discussions avec les décideurs politiques pour examiner des propositions visant à améliorer la transparence des transactions pilotées par l'IA et à renforcer la protection des données. Ces propositions comprennent des exigences de divulgation claire de l'implication des agents IA, une transparence accrue des processus de décision et des mesures de protection robustes pour les données clients.