L’éthique comme accélérateur de l’Intelligence Augmentée

Share this post:

L’intelligence artificielle est un vecteur incontournable de la transformation digitale des entreprises, notamment dans le secteur bancaire. Promesse d’une révolution dans la valorisation des données et du big data, l’Intelligence Artificielle – ou devrait-on dire « l’Intelligence Augmentée » – nous place aussi devant de nouveaux défis, dont celui de la transparence et de l’éthique. Explications, illustrations et recommandations.

Artificielle, Augmentée : qu’y a-t-il concrètement sous ce terme IA ?

Lorsqu’on parle d’Intelligence Artificielle, on pense forcément aux techniques informatiques et aux algorithmes qui sont englobés dans ce qu’on nomme la Data Science. C’est l’orchestration de ces techniques, des données, de la puissance de calcul et de l’intelligence que l’humain y infuse qui va donner naissance à de nouvelles fonctionnalités dans une application ou mettre à disposition de nouvelles informations.

Grâce à cela, l’humain dispose, par exemple, de nouvelles informations à interpréter pour élargir sa vision et exercer son esprit critique. C’est bien l’intelligence de l’homme qui est enrichie, voire « augmentée », par les apports de la technologie, et non remplacée « artificiellement ». L’IA va se mettre au service de l’homme, non pas pour s’y substituer mais pour le guider, le soulager de certaines tâches fastidieuses. Ces techniques vont ajouter de la rapidité à ses analyses, sans pour autant le remplacer dans sa prise de décision finale. On parle alors plus d’Intelligence Augmentée que d’Intelligence Artificielle, en n’opposant pas la machine à l’homme, mais en y associant le meilleur des deux.

Cette Intelligence Augmentée, si elle est promesse d’une révolution dans la valorisation des données, nous place aussi devant de nouveaux défis, en particulier liés à la responsabilité et au respect de la diversité et de la liberté d’action. Ces défis se regroupent dans la notion d’éthique et de transparence, désormais incontournable dans l’adoption massive de ces techniques d’IA. Ne pas prendre en compte ces critères d’éthique et de transparence devient désormais un risque qu’il faut gérer et atténuer dans toute mise en place d’IA, sous peine de voir les projets associés mis en échec mais aussi l’entreprise prise en défaut.

Quelle révolution l’IA amène dans l’utilisation des données ? Comment le secteur bancaire se positionne dans cette révolution ?

La prise de conscience de la valorisation des données entraîne les entreprises dans une accélération de l’utilisation de l’IA. Elle se caractérise par l’exploitation d’algorithmes très puissants qui vont permettre de traiter des données massives provenant de différentes sources et circulant à des vitesses souvent très rapides, de créer des assistants virtuels ou encore de mettre en place des processus d’optimisation et de prédiction basés sur de l’analytique prescriptif et prédictif. Grâce à l’Intelligence Augmentée, les entreprises peuvent davantage se concentrer sur leur cœur de métier et gagner en productivité, tout en étant technologiquement innovantes.

Le secteur bancaire se prête naturellement à l’application de l’Intelligence Augmentée du fait de l’abondance des données dont il dispose : tout d’abord celles provenant des systèmes transactionnels, qui génèrent de grands nombres d’évènements informatiques : paiements par carte bancaire, prélèvements, virements, etc. Les interactions multicanales avec les clients sont aussi à l’origine d’évènements qui viennent enrichir ce capital de données. Enfin, les emails, les SMS, les messageries instantanées contribuent à l’augmentation des données du secteur bancaire.

L’Intelligence Augmentée permet de traiter ce volume croissant et cette diversité de données en apportant notamment de l’automatisation dans la classification, la réconciliation et le traitement des évènements. Elle aide également à la détection d’évènements potentiellement frauduleux, dans les demandes de paiement ou de crédit par exemple, et tout cela en temps réel.

Mais si ces nouvelles technologies permettent d’accélérer la valorisation des données, elles ne doivent pas dépasser certaines limites. Il est du devoir des entreprises de s’assurer de l’intégrité des informations utilisées ainsi que de l’éthique dans l’utilisation qui en est faite.

Ethique, transparence, explicabilité… Quels défis à relever pour accélérer l’adoption de l’IA et la révolution du secteur bancaire ?

La notion d’éthique devient un catalyseur de l’Intelligence Augmentée. Sa prise en compte est garante d’une utilisation transparente de l’IA. Elle restaure la confiance dans les techniques qui sont employées et permet dès lors le passage à l’échelle de la phase d’industrialisation. Former, éduquer, sensibiliser sur les bonnes pratiques éthiques d’une entreprise se fait en amont de tout projet d’IA ; et tous les profils sont concernés, de l’utilisateur métier au développeur. La prise en compte de l’alignement des valeurs va permettre ce difficile équilibre entre connaître tout sur mon client et connaître uniquement ce qu’il souhaite que je connaisse et ce dont j’ai besoin pour le faire bénéficier d’un service et d’une offre personnalisé. Il est encore plus délicat dans le secteur bancaire : trouver l’équilibre entre la meilleure connaissance client possible, tout en restant le tiers de confiance que doit être le banquier. C’est là que les notions d’explicabilité et de transparence de l’Intelligence Augmentée jouent un rôle crucial.L’explicabilité sous-entend le fait de rendre explicite le résultat d’un algorithme d’IA. Prenons l’exemple d’une application qui vous permet l’octroi ou non d’un crédit de manière automatisé. Le fait d’expliquer pourquoi un crédit n’est pas accordé, en étant transparent sur les critères qui ont joué en votre défaveur, vous permet d’en comprendre le résultat (pas forcement de l’accepter). Cela impacte donc toute la chaîne de création de l’IA dans l’entreprise et nécessite notamment :

• une traçabilité des données utilisées dans les apprentissages des algorithmes,
• une complétude dans la représentativité de chaque situation durant cette phase d’entraînement,
• Et surtout une surveillance des résultats de ces mêmes algorithmes lorsqu’ils sont exploités.

Les biais ne peuvent pas toujours être évités. C’est pour cela que la représentativité de chaque situation dans l’échantillonnage des données servant à entraîner les algorithmes, et la traçabilité des données deviennent essentielles dans la recherche d’atténuation de biais. Prendre conscience de leur existence, être transparent sur eux et les surveiller lorsque les algorithmes sont exploités permettent de gérer et de minimiser le risque induit par ces biais : le risque lié à la réputation et à l’éthique de l’entreprise. Dans bien des cas, cette transparence est également mise en avant dans le respect de la réglementation sur les données personnelles (RGPD) – qui renforce la mise en œuvre d’explications explicites.

3 recommandations pour conjuguer Ethique et Intelligence Augmentée :

1. Les détections de biais en amont mais aussi en aval, une explicabilité des algorithmes mis en place et une transparence des processus constituent les bons réflexes à avoir dans la gestion du risque potentiel introduit par l’utilisation de l’Intelligence Augmentée.
2. La sensibilisation et l’information sur les notions d’éthique, qui doivent être perçues comme un accélérateur et non comme un frein, sont aussi des bonnes pratiques à mettre en œuvre pour aider au développement des projets utilisant l’IA.
3. Enfin, ces processus d’IA doivent être gouvernés au même titre que les données dans l’entreprise, au plus haut niveau. La mise en place d’un comité d’éthique, dont le cœur de mission serait de s’assurer de ces bons réflexes, pourrait en être le garant.

Pour en savoir plus, consultez nos pages Internet : Banque et Analytics

Pour aller plus loin et découvrir quelques solutions technologiques pour une IA transparente, équitable et explicable : Lire le point de vue de Vincent Perrin

Accédez aux ressources ci-dessous :