Réinventer la gestion des risques à l’ère de l’IA dans le secteur bancaire

L’intelligence artificielle (IA) s’impose rapidement comme un élément essentiel du secteur bancaire, favorisant des prévisions plus précises et des analyses plus réactives. Des opérations telles que la notation de crédit, la détermination des prix, la détection des fraudes et la prise de décisions clients reposent de plus en plus sur des modèles qui apprennent des données et s’adaptent à de nouveaux schémas.

Les régulateurs suivent cette évolution de près. La Loi sur l’IA de l’UE, soutenue par les attentes déjà définies par la Banque centrale européenne (BCE), l’Autorité de régulation prudentielle (PRA) et la Réserve fédérale, envoie un message clair : l’IA requiert une gouvernance traçable, explicable et cohérente.

L’IA peut automatiser la gestion des risques de modèles et accroître l’efficacité de la validation. Toutefois, les modèles d’IA sont plus complexes à tester, expliquer et surveiller, pouvant afficher des comportements moins intuitifs qui nécessitent une compréhension et un encadrement appropriés.

À mesure que les banques accélèrent l’adoption de l’IA et de l’apprentissage automatique, le besoin d’une supervision structurée des décisions algorithmiques grandit. L’objectif n’est pas de créer complètement de nouveaux cadres, mais d’appliquer les principes de la gestion des risques de modèles (MRM) déjà existants.

Opportunités et défis

L’IA offre une opportunité manifeste pour les fonctions de validation, permettant de simplifier ou d’automatiser des tâches essentielles et de rendre les processus plus efficaces et robustes.

Dans le même temps, un défi important se pose : les approches de validation traditionnelles peuvent s’avérer insuffisantes pour les modèles basés sur l’IA, ce qui rend nécessaire le dévéloppement de techniques de validation inédites.

La Loi sur l’IA de l’UE introduit de nouvelles obligations, notamment l’identification et la gouvernance des systèmes d’IA à haut risque. Ces exigences ne nécessitent pas forcément un cadre indépendant, mais plutôt une adaptation des structures de MRM existantes.

Adaptation du MRM à la gestion du risque de l’IA

Les fondements du MRM – gouvernance, validation, surveillance et documentation – s’appliquent de façon pertinente au domaine de l’IA. Le défi réside dans l’extension de ces pratiques pour tenir compte des risques et comportements spécifiques de ces modèles.

Parmi les principes partagés, la transparence, l’explicabilité et la traçabilité se démarquent. L’inventaire traditionnel des modèles pourrait évoluer vers un registre des modèles d’IA, intégrant cas d’utilisation, niveaux de risque, sources de données et métriques d’explicabilité.

La supervision proportionnelle, fondée sur la criticité, la sensibilité des données et l’impact sur l’entreprise, permet de soumettre les algorithmes à haut risque à des validations approfondies et à une surveillance continue, tandis que les modèles de moindre risque suivent des processus simplifiés.

Le suivi continu doit inclure des métriques spécifiques à l’IA, telles que la dérive des données, la détection des biais et le suivi de l’importance des variables, intégrées dans les tableaux de bord habituels du MRM.

D’un point de vue organisationnel, une gouvernance intégrée, avec des comités d’IA relevant de l’Autorité de risque de modèles, prévient la fragmentation et renforce l’idée que le risque de l’IA est un risque de modèle, soumis au même niveau de contrôle et de responsabilité.

Perspectives d’avenir

L’IA transforme la façon dont les modèles fonctionnent et sont validés, mais l’objectif fondamental du MRM demeure inchangé : garantir que les modèles utilisés pour la prise de décision soient solides, explicables et correctement encadrés.

Les entités qui considéreront l’IA comme une extension de leur écosystème de modèles, et non comme une discipline à part, seront mieux placées pour respecter la Loi sur l’IA de l’UE et d’autres régulations émergentes, tout en favorisant une innovation sûre, évolutive et responsable.