L’IA, une opportunité à encadrer pour les acteurs financiers

3 questions à Anne-Cécile Krieg, Responsable adjointe du département en charge de la gestion du risque de modèle. La publication, en juillet dernier, du livre blanc « Opérationnaliser la gestion des risques des systèmes d’intelligence artificielle » montre, s’il en était encore besoin, combien le sujet de l’Intelligence Artificielle (IA) constitue un accélérateur de compétitivité et, dans le même temps, un accélérateur de risques pour les établissements financiers.

Alors, comment aborder ce défi ? Le point avec Anne-Cécile Krieg, Responsable adjointe du département en charge de la gestion du risque de modèle, qui intervenait ce 26 novembre à la conférence ACPR sur ces mêmes sujets.

Anne-Cécile, quels sont les grands bénéfices en matière de compétitivité que l’IA offre aux acteurs du secteur financier ?

Je crois que les bénéfices de l’IA dans notre univers ne sont plus à démontrer ! Des processus comme l’examen de documents et la classification des données sont grandement accélérés par l’intelligence artificielle. C’est également une technologie que nous utilisons et qui a fait ses preuves notamment dans les filtrages de conformité. De grands projets phares ont également apporté des bénéfices à nos clients tout en renforçant notre gestion des risques. Je pense, notamment, à la refonte de l’encadrement des découverts autorisés pour les clients particuliers ou au chantier MOSAIC (More Security With Artificial Intelligence) qui permet d’automatiser des process en matière de détection de fraude sur les moyens de paiement, avec une analyse des flux, et le déclenchement d’alertes dès l’identification d’événements anormaux ou suspects. 

Et en corollaire, quels en constituent les risques majeurs ?

L’intelligence artificielle induit deux grands types de risques, qui sont les deux faces d’une même pièce : le risque de se priver de l’IA par crainte et le risque de ne pas suffisamment en encadrer l’usage. 

Cet encadrement doit notamment tenir compte des enjeux techniques amplifiés par des approches plus sophistiquées (par exemple, les biais encodés) ou nouvelles dans le contexte de l’IA (comme la cybersécurité). Il passe également par une analyse pluridisciplinaire des risques (risques IT, de modèle, opérationnels).

Comment un groupe comme le nôtre s’organise-t-il pour intégrer l’IA avec un risque maîtrisé ?

Par rapport aux autres industries, nous avons la chance de déjà disposer d’un cadre sur lequel nous pouvons capitaliser ; celui-ci est fondé sur les attentes réglementaires, par exemple en matière de modélisation, de données ou de contrôle. Nous l’enrichissons pour faire face aux enjeux spécifiques induits par l’IA, notamment sur la base d’une démarche collective entreprise avec nos pairs afin d’identifier les meilleures pratiques. Cette collaboration fructueuse s’est concrétisée par la rédaction d’un livre blanc sur le sujet, embarquant BNPP, La Banque Postale et Société Générale. Ce document passe en revue l’ensemble des risques identifiés et propose une sorte de « boite à outils » pour chacun d’eux.

La formation interne est également un enjeu clé, nécessitant de multiplier les canaux afin d’impliquer toutes les strates hiérarchiques, la mise à disposition de formations généralistes comme expertes. L’apprentissage et la connaissance fonctionnant, on le sait, comme des garde-fous.

Partage de bonnes pratiques, retours d’expérience, formations – ce sont assurément ces dimensions empiriques qui assureront un déploiement raisonné des bénéfices, indéniables, de l’IA.

En savoir plus : le livre blanc dédié à l’IA gen (juillet 2024)