L’intelligence artificielle en financ e : nouvelle zone de non-droit ? 🐎🌾

Alors que l’IA prend déjà des décisions financières graves, les décideurs affaiblissent les règles.

À l’heure où l’intelligence artificielle (IA) révolutionne le secteur financier, son encadrement législatif suscite de vives préoccupations. Le règlement européen sur l’IA – une loi pionnière en matière d’intelligence artificielle, vise à s’assurer que les systèmes d’intelligence artificielle sont sûrs, équitables et respectent les droits humains. Pourtant, après avoir introduit cette réglementation majeure en août 2024, l’Union européenne (UE) fait déjà marche arrière pour éviter les « lourdeurs administratives » aux entreprises du secteur technologique, dans l’espoir de devenir le « continent de l’intelligence artificielle ».

Le règlement sur l’IA examine les risques associés à certaines utilisations de l’IA et les classe selon quatre niveaux de risque : inacceptable, élevé, limité et minimal. Cette approche fondée sur les risques vise à promouvoir le recours à des systèmes d’IA centrés sur l’humain et dignes de confiance. Le règlement devait être mis en œuvre progressivement entre 2025 et 2027 et complété d’une directive sur la “responsabilité en matière d’IA” (AI liability directive). Mais comme nous le verrons ci-dessous, la Commission européenne vient d’abandonner cette directive complémentaire ce qui compliquera la tâche des citoyens de l’UE qui souhaitent obtenir réparation dans les cas où le déploiement de l’IA dans le secteur financier entraînerait des préjudices pour les consommateurs.

L’IA est appelée à perdurer : il est indispensable que les règles qui la régissent protègent l’intérêt général, et pas uniquement les résultats financiers des entreprises qui l’utilisent. L’Europe ne peut pas se permettre de sacrifier la protection des consommateurs et la stabilité financière au profit d’une course effrénée à l’IA.

« Si une IA refuse un crédit, déclenche un effondrement du marché ou prive un consommateur vulnérable de services de base, qui est responsable ? ».

Les efforts de simplification de la réglementation ont fait une nouvelle victime : la directive sur la responsabilité en matière d’IA, une proposition législative qui prévoyait des règles claires pour déterminer les responsabilités lorsque les systèmes d’IA causaient des préjudices.

Thierry Philipponnat et Max Kretschmer, de Finance Watch, expliquent en quoi l’abandon de cette directive crée une faille inquiétante dans la réglementation européenne en matière d’IA et appellent les décideurs politiques à réexaminer les règles relatives à l’IA afin de protéger les citoyens. Le marché de l’IA est déjà un oligopole dominé par un petit nombre d’entreprises américaines. Or, un marché dérégulé, sans obligation de rendre des comptes, est la porte ouverte à tout type d’abus.

Dans son nouveau rapport, Finance Watch appelle les décideurs politiques européens à garantir la responsabilité et la transparence.

L’utilisation de l’IA en finance est loin d’être anodine. Si l’on ne revoit pas en profondeur les règles qui la régissent, l’IA pourrait signifier la fin du principe de responsabilité dans le secteur financier. L’IA est en contradiction avec les principes fondamentaux qui sous-tendent le système financier et la réglementation financière existante, tels que l’obligation de rendre des comptes, la responsabilité et la transparence. En l’absence de règles strictes en matière d’explicabilité et de gouvernance des données, les décisions pilotées par l’IA pourraient saper la confiance dans les marchés financiers.

🛡️Une menace pour la protection des consommateurs
Dans le domaine de la finance de détail, le déploiement de l’IA pourrait conduire à des évaluations de solvabilité opaques, à des pratiques discriminatoires en matière de tarification et d’octroi de prêts, ou encore à des conseils financiers trompeurs, autant de pratiques qui contribuent à l’exclusion financière, qui touche de manière disproportionnée les citoyens les plus vulnérables.

👮 Un défi sans précédent pour les autorités de surveillance financière
Les instances de réglementation ont du mal à suivre le rythme du déploiement de l’IA, notamment en raison du manque de transparence de son infrastructure et de ses processus décisionnels, qui rend tout contrôle difficile, voire impossible.

📉 De nouveaux risques pour la stabilité financière
De plus en plus dépendantes de fournisseurs d’IA tiers, les institutions financières sont confrontées à des risques opérationnels liés au manque de réglementation des systèmes externes. Les risques systémiques doivent également être pris en compte, dans la mesure où les modèles et les infrastructures critiques sont contrôlés par un petit nombre d’entreprises qui dominent le marché de l’IA.

Finance Watch recommande aux décideurs politiques de réviser la réglementation européenne, notamment d’élargir le champ d’application du règlement sur l’IA à tous les services financiers, de mener une analyse complète des lacunes existantes dans la réglementation concernant les applications financières de l’IA, et de réintroduire la directive sur la responsabilité en matière d’IA. Il est indispensable de mettre en place des garde-fous réglementaires pour éviter que l’IA ne vienne menacer la stabilité des marchés, dégrader la confiance du public dans le système financier et compromettre la protection des consommateurs.