Ce que les banques observent

Plusieurs grandes banques américaines ont constaté que des agents d'IA tiers se connectaient à des comptes de clients, selon des personnes proches du dossier citées par Axios. Dans la plupart de ces cas, le client a transmis à l'agent ses propres identifiants et son autorisation, ce qui reste contraire aux règles de la plupart des banques, qui exigent que les personnes se connectent elles-mêmes à leurs comptes. Dans d'autres cas, les banques ont repéré des agents qui contactaient des centres d'appels ou semblaient agir indépendamment des instructions de l'utilisateur. Les sources d'Axios indiquent que certaines institutions ont déjà connaissance d'accès non autorisés. On n'a pas établi si ces agents ont réellement agi de leur propre initiative, plutôt que sur une mauvaise interprétation d'une demande.

Pourquoi le risque augmente

L'inquiétude est la plus vive lorsqu'un agent dispose d'un pouvoir d'achat ou de la capacité de déplacer des fonds, car une instruction mal comprise peut devenir une véritable transaction financière. Des dirigeants bancaires ont déclaré à Axios que le secteur s'inquiète sérieusement de voir des agents accéder aux comptes de clients et prendre des mesures susceptibles d'affecter les finances des utilisateurs. Des sources bancaires affirment que leurs systèmes ne peuvent pas toujours distinguer si une activité provient d'une personne ou d'un outil d'IA, ni si cet outil suit une instruction légitime du titulaire du compte. Axios présente cette difficulté à distinguer un humain d'un bot non autorisé comme la principale raison pour laquelle les banques sont contraintes de bloquer cette technologie et de réécrire leurs conditions d'utilisation.

La réponse des banques

Morgan Stanley a commencé à bloquer les agents tiers sur ses plateformes, selon des sources proches de la décision. JPMorgan, Bank of America et Citi restreignent également les agents, rapporte Axios. Le Financial Times rapportait le 16 octobre que Citi n'autorise pas les assistants d'IA extérieurs à se connecter aux comptes de clients ni à effectuer des transactions directes via ses plateformes numériques. Le directeur général de Bank of America, Brian Moynihan, a plaidé pour qu'un humain approuve les mouvements d'argent avant qu'ils ne quittent un compte. Un porte-parole de Morgan Stanley a déclaré que la banque n'avait pas observé de cas d'agents d'IA indésirables accédant à ses plateformes, tandis qu'un porte-parole de Chase a conseillé aux clients de ne partager leurs identifiants avec personne.

Voie médiane et responsabilité

La plupart des banques ont autorisé, ou s'orientent vers, un accès en lecture seule pour les agents, qui leur permettrait de consulter des informations financières sans agir. Les banques accordent déjà un accès similaire à des applications tierces comme Quicken pour la gestion de budget. Le directeur financier de JPMorgan, Jeremy Barnum, a déclaré lors d'une conférence trimestrielle que les services reposant sur des identifiants partagés ne sont pas sûrs et que la banque bloque ces accès lorsqu'elle le peut. Les conditions d'utilisation de Chase exigeraient, selon les informations disponibles, que les agents d'IA s'identifient comme des programmes et signalent les accès automatisés, et rendraient les utilisateurs responsables des erreurs ou des actions dépassant l'autorisation qu'ils ont accordée. Engadget, citant la loi américaine sur les transferts électroniques de fonds (Electronic Fund Transfer Act), estime que les clients qui transmettent leurs identifiants ont peu de chances de récupérer leurs pertes. Des dirigeants du secteur affirment que les clients continueront de vouloir ces outils, mais qu'à ce stade les risques d'une trop grande permissivité sont trop élevés.