Un rapport récent alerte sur le danger de la désinformation générée par l’intelligence artificielle, pouvant entraîner des retraits massifs de fonds et provoquer une crise financière.
À l’ère de l’intelligence artificielle, une simple rumeur peut suffire à ébranler la confiance des clients et mettre en péril la stabilité d’une banque. Un dernier rapport du cabinet d’analyse britannique Say no to disinfo et de Fenimore Harper indique qu’il existe un risque élevé que la désinformation générée par l’IA puisse provoquer des ruées vers les banques qui pourraient aller jusqu’à faire tomber les institutions financières. Dans ce cadre, une expérience a été menée, consistant à exposer un certain nombre de clients britanniques à des rumeurs générées par l’IA concernant leur banque. Par la suite, un tiers d’entre eux ont déclaré qu’ils étaient « très susceptibles » de retirer leur argent, tandis que 27 % ont affirmé être « assez susceptibles » de le faire. Selon le rapport, dépenser aussi peu que 10 M£ pour diffuser un faux message généré par l’IA suffirait à convaincre des clients de retirer plus de 1 M£ de la banque concernée. Les fausses rumeurs n’ont pas attendues l’IA pour sévir : il y a 5 ans, elles avaient contribué à ébranler Metro Bank qui avait perdu dans l’histoire près du quart de sa clientèle.
Interrogé par Reuters à propos de l’étude, Woody Malouf, responsable de la lutte contre la criminalité financière chez Revolut, a déclaré que la fintech basée à Londres effectue une surveillance en temps réel des menaces émergentes parmi ses clients et dans l’ensemble de l’écosystème. « Même si nous pensons qu’un tel événement est peu probable, il est toujours possible et il est donc essentiel que les institutions financières soient préparées », explique M. Malouf, ajoutant que les plateformes de médias sociaux doivent jouer un rôle plus important dans la lutte contre les menaces. D’autres institutions financières contactées par l’agence de presse, dont NatWest et Barclays, ont refusé de commenter ou n’ont pas répondu.
Des moyens de contrer la désinformation
Selon l’étude, pour mieux anticiper ces risques, les banques doivent renforcer la connaissance de leurs clients en identifiant les groupes les plus vulnérables, en comprenant où ils s’informent, comment ils vérifient les informations et quelles sources ils jugent fiables. Elles doivent également analyser leur réputation afin d’anticiper les attaques en identifiant les failles existantes pouvant être exploitées par des campagnes de désinformation, comme une mauvaise gestion des fraudes. Par ailleurs, la surveillance des acteurs potentiellement à l’origine de ces attaques est essentielle pour détecter à l’avance les tentatives de manipulation. Il est également crucial d’intégrer l’analyse des réseaux sociaux aux systèmes de suivi des retraits bancaires afin d’identifier rapidement l’impact d’une fausse information sur le comportement des clients.
