Éthique de l’intelligence artificielle : enjeux, évolutions possibles et limites

Crédit : Adobe Stock

Pourquoi voulons-nous créer des machines éthiques ? Il semble a priori important de rendre les machines capables de résoudre des problèmes éthiques. En effet, des machines, algorithmes et intelligences artificielles prennent de plus en plus de place dans nos vies. Des robots traders prennent des décisions qui impactent l’économie, des algorithmes sur internet nous recommandent des vidéos en fonction de nos recherches. Bientôt, des intelligences artificielles proposeront des diagnostics médicaux, conduiront nos voitures, feront la guerre. Au vu de la place qu’occupe et occupera la technologie dans nos vies, il est plus que crucial de leur donner la capacité de distinguer le bien du mal, le juste de l’injuste, l’équitable de l’inéquitable.

De la possibilité de tester des systèmes avec l’IA

Lors de son intervention, dans le cadre du séminaire « Aux limites de l’humain » organisé par le pôle Risques de la MRSH, M. Bonnet (docteur en Intelligence Artificielle, Professeur associé au Groupe de Recherche en Informatique, Image Automatique et Electronique (GREYC) a expliqué qu’il était intéressant de se servir des systèmes éthiques déjà organisés[1] afin de les intégrer directement dans les IA, sous forme algorithmique. Cela aiderait au développement rapide d’une éthique des IA. Mais une autre expérience, allant au sens inverse, pourrait aussi être envisagée. Ne peut-on pas se servir des IA comme un laboratoire d’expérimentation, une mise à l’épreuve des valeurs à faire primer en société ? C’est sur cette idée que nous réfléchirons ici.

Friedrich Nietzsche vers 1875

Dans son ouvrage Oui, l’homme fut un essai, La philosophie de l’avenir selon Nietzsche, Patrick Wotling explique que pour Nietzsche le monde humain est un laboratoire : l’homme est un cobaye qu’on doit utiliser pour mettre à l’épreuve des valeurs afin de voir si elles sont en accord avec la vie. Les religions, dont le christianisme en Europe, ont prouvé que les valeurs qu’elles avaient instaurées sont issues du ressentiment ainsi que du travestissement de la réalité par les faibles[2], des valeurs qui déprécient la vie. Nietzsche souhaite faire advenir des surhumains[3], voie d’affirmation de la vie. Tandis que la voie actuelle est celle du Dernier homme[4], qui nie la vie. Nietzsche pensait que les valeurs et les systèmes philosophiques étaient des manières d’éduquer et de cultiver l’homme. Il faut alors, selon lui, trouver et encourager celles qui sont en faveur de la vie, afin de dépasser l’homme, le rendre indépendant ; c’est cela le devoir des vrais philosophes, des philosophes authentiques[5]. Néanmoins, la mise en place de ces valeurs et les expériences qui permettraient de les mettre à l’épreuve, devraient se faire sur une longue période. Tout comme la morale issue du christianisme s’était faite chair en chaque homme par une longue insémination, il en fallait de même pour les nouvelles valeurs.

En effet Nietzsche ne pouvait pas prévoir nos problèmes actuels. L’avènement de la bombe atomique, l’environnement mis en péril… Si des valeurs doivent être intégrées et, avant cela si elles doivent être « testées », il n’est plus question d’attendre un millénaire d’évolution[6]. Nous nous sommes mis en sursis nous-mêmes, et avons nous-mêmes compromis notre avenir. Mais c’est là que le rôle des IA peut être très intéressant. En effet, il serait opportun de faire ces expérimentations en accéléré grâce aux IA. Il s’agirait certainement d’un long travail, mais pas impossible. Nous pourrions effectivement essayer des systèmes de valeurs et des règles éthiques à travers des IA afin d’en observer rapidement les limites et d’en corriger les imperfections. Nous verrions ainsi si elles sont en faveur de la vie ou si la simulation[7] faite avec les IA se solde par une dépréciation de la vie. Il n’y aurait de plus, grâce à cela, aucun dégât sur l’homme. C’est une idée à approfondir ; des jeux[8] de simulation de vie sur lesquels nous pourrions prendre appui pour démarrer existent[9].

Quelle morale donner aux machines ?

En attendant, l’IA, outil d’aide à la prise de décision ne peut faire l’économie d’une éthique. Si dans l’avenir la voiture autonome circule sans conducteur, devrait-elle dévier de sa trajectoire au risque d’écraser une personne afin d’éviter de tuer deux personnes qui surgissent sur sa route ? Peut-on quantifier la valeur de la vie humaine ? Et, laisser mourir et tuer est-ce la même chose ? Le déontologisme hérité de Kant prône le respect des normes indiscutables : la vie humaine n’est guère quantifiable, c’est un droit inaliénable. Face à un dilemme, une machine programmée par de telles normes morales resterait paralysée, car elle ne reconnaîtrait pas la dimension éthique du dilemme. En effet, Kant lui-même refusait l’existence de dilemmes moraux : le devoir est toujours limpide. Pour la morale kantienne tuer et laisser mourir n’ont pas la même valeur éthique : si deux personnes surgissent sur le chemin d’une voiture autonome, leur mort est inévitable mais celle-ci est due à un accident. A contrario, en déviant de sa trajectoire et en tuant une personne l’IA serait impliquée dans un acte intentionnel[10] et répréhensible. Cependant si la vie humaine est admise comme la valeur suprême pour les théories morales normatives, ne pas préférer le respect de deux vies humaines à une seule paraît absurde[11]. Au contraire, selon l’utilitarisme de J.S. Mill ce sont les conséquences qui font la valeur morale d’un acte ; il s’agirait donc d’opter pour la sauvegarde de deux vies, au détriment d’une seule, même si cela impliquait une déviation intentionnelle de sa trajectoire. Mais n’y a-t-il pas des limites dans la quantification des conséquences ? Les conséquences immédiates ou présumées sont calculées mais qu’en est-il des conséquences à moyen et long terme ? D’ailleurs même si la grande majorité des personnes ont une vision conséquentialiste dans la présentation générale du dilemme en acceptant de dévier le véhicule pour sauver cinq personnes en tuant une seule (89% des personnes sont d’accord avec cela), elles sont très peu nombreuses à accepter de le faire en utilisant autrui comme moyen[12]. Une troisième théorie, celle du double effet, inspiré par Thomas d’Aquin semble plus congruente avec nos intuitions morales pour la programmation des machines : ce ne sont pas uniquement les effets qui comptent mais aussi la façon dont ils adviennent. Tuer et laisser mourir ne sont donc pas deux actes identiques. Infliger délibérément un mal et accepter un mal comme conséquence inévitable diffèrent éthiquement : la justification d’un acte est donc une dimension éthique que l’intelligence artificielle doit prendre en compte[13].

Un problème éthique soulevé par l’IA est le risque de prophétie autoréalisatrice qu’elle peut provoquer. Cela est visible avec les logiciels de prédiction des récidives qui sont utilisés par les tribunaux pénaux aux États-Unis. Ces logiciels calculent à partir des caractéristiques sociales et les antécédents du prévenu la probabilité de récidive. L’efficacité du logiciel repose sur le recueil des données sociales et l’établissement des corrélations. Or, il paraît problématique de prédire le comportement individuel à partir des données collectives. Par ailleurs, en logique modale le possible s’oppose au réel et au nécessaire. Mais l’utilisation de tels logiciels peut induire l’effet Pygmalion ou Rosenthal[14] : les attentes sociales (ici les prévisions) risquent de créer une réalité ou renforcer une réalité déjà existante.

Une autre difficulté dans la programmation de l’IA repose sur les choix axiologiques en vue d’une prise de décision. Les valeurs ont une certaine constance interculturelle mais leur hiérarchie change[15]. L’intelligence artificielle doit donc être programmée pour prioriser les valeurs prépondérantes à une société donnée[16]. Cependant en ce faisant elle éliminerait les valeurs des minorités présentes au sein de chaque société. Comment l’IA peut-elle s’aligner sur les valeurs dominantes tout en respectant les valeurs des minorités ? Entériner les valeurs dominantes en les intégrant dans l’IA peut contribuer à freiner leur changement éventuel en les inscrivant de façon fixiste. Les valeurs promues déterminent la décision prise. Dans le cas des logiciels de prédiction de récidives, le calcul de probabilités une fois fait, la présentation des résultats par le système n’est pas neutre mais révèle les valeurs induites dans sa programmation : un même risque peut être interprété comme élevé ou bas en fonction du cadre d’interprétation. Si l’accusé présente 70% des risques de récidiver et la valeur dominante du système est la sécurité, le risque sera considéré par l’IA comme élevé. Si l’IA est programmée à favoriser les valeurs associées à l’ouverture au changement (comme « self-direction »), le 30% des chances de non-récidive sera jugé comme plus probant que le 70% de risque de récidive. Nous pouvons objecter que l’interprétation incombe à l’usager et non au programmateur. Or, la présentation même des résultats peut induire un biais de cadrage que l’usager ne peut neutraliser constamment (en présentant un risque comme « élevé » le biais de cadrage est déjà présent). Les logiciels étant utilisés pour aider à une prise de décision rapide, quelle serait leur efficacité si pour éviter les biais de cadrage ils présentaient les données de façons multiples afin de ne pas induire une décision biaisée ? Le débat entre efficacité et éthique doit donc être soulevé afin de ne pas devoir choisir entre les deux. 

L’impact rétroactif de l’IA sur la société est ainsi à questionner. L’implémentation en outre de capacités morales soulève donc des questions d’ordre psychologiques. Quel serait l’impact de l’entrée de machines « éthiques » dans notre rapport avec le monde ? Pour y voir plus clair, il nous faut connaître l’attitude que nous adoptons envers les machines. Le psychologue Bertram Malle a présenté le dilemme du tramway, en y ajoutant une variable.[17] Cette fois-ci, l’aiguillon est commandé par un être plus ou moins humanoïde, allant de l’humain à la boite noire, en passant par un robot humanoïde et un simple robot. Plus l’acteur est physiquement proche de l’homme, et plus on la blâme dans le cas où elle agit. Inversement, moins elle est proche de l’homme et plus on le blâme de ne pas avoir agi. On réprouve une machine robotoïde qui refuse de s’impliquer, on attend d’elle qu’elle agisse, sans état d’âme et en calculant l’option aux conséquences les moins graves. A contrario, on attend d’une machine anthropomorphe qu’elle agisse en humain, émotivement, qu’elle ait de grande difficulté à choisir de donner la mort à quelqu’un, tant et si bien qu’elle nous apparaîtra comme inhumaine s’il choisit de le faire. Chez l’homme, la répulsion à se salir les mains, résulte d’un biais d’omission : dans les situations où l’on considère que notre intervention serait nuisible, on tend à préférer l’inaction (dans le dilemme du tramway, il y aura des pertes quoi qu’on fasse, alors autant ne rien faire)[18].

Si on met la conclusion de l’expérience de Malle en parallèle avec l’importance croissant des machines dans tous les aspects de notre existence, on peut déduire qu’on attendra plus d’actions motivées par un conséquentialisme computationnel et moins d’actions d’un autre ordre. On peut donner l’exemple de la venue des voitures autonomes, qui placerait la sécurité des piétons et des passagers entre les mains de logiciels. Cette évolution sur la courbe de laquelle nous sommes déjà, requiert qu’on s’interroge sur les attentes qu’on nourrit envers les machines. Il est clair qu’outre les intérêts pratiques et économiques, les recherches dans l’éthique de la robotique sont mues par la volonté d’innover, d’aller plus loin. Mais ne désirons-nous pas aussi le secours de machines éthiques pour d’autres raisons ?

Il a été montré que nous pouvons être biaisés dans notre rapport à la causalité : ainsi avons-nous tendance à expliquer nos propres actions par des facteurs situationnels, externes (« je vais au casino pour gagner de l’argent ») tandis que nous expliquons celles des autres par des facteurs dispositionnels, internes (« il va au casino car il aime jouer »)[19]. Nous estimons que les humanoïdes peuvent être mus par des facteurs internes et externes, tandis que nous considérons les machines robotoïdes comme mues que par des facteurs situationnels. Or une machine agit selon un programme, qui propose un résultat selon les données qu’elle reçoit et les buts qu’on lui fixe. Ce mode de fonctionnement a trait à celui des penseurs conséquentialistes qui voient le bien comme la maximisation positive des conséquences (davantage de plaisir, moins de peine, etc.) et donc permise par l’équation donnant les meilleurs résultats, ceci quel que soit la nature du moyen-terme (une mort vaut bien la survie de cinq hommes). Si les machines (quel que soit leur forme) sont programmées à avoir un fonctionnement conséquentialiste, il n’en reste pas moins que nous surestimons l’importance des facteurs internes dans les actions des humanoïdes. En cela consiste l’erreur fondamentale d’attribution. Nous sommes déjà sujet à ce biais envers nos congénères : nous avons tendance à penser qu’une personne qui paraît renfrognée et laconique a un caractère ombrageux, alors qu’elle est peut-être simplement fatiguée. Si ce biais est déjà problématique dans les rapports interhumains, il se trouve renforcé dans le rapport humain-machine, puisque l’écart entre nos conceptions et la réalité est encore plus grand.

On peut donc interroger la pertinence du dessein de créer des machines imitant l’apparence humaine (géminoïdes) ou encore des robots simulant des émotions de façon si convaincante qu’en situation de jeu, nous perdons notre vigilance s’ils expriment de la tristesse. Outre les manipulations dont nous pourrions être victimes de la part de telles machines (pour nous pousser à acheter tel produit, par exemple), pourrait nous conduire à des aberrations éthiques.

Surévaluer la responsabilité d’une simple machine, peut créer des freins à la résolution juridique d’incidents dans lesquels seraient impliquées ces machines. Aussi, compte tenu de la faillibilité de l’esprit humain, ne devrions-nous pas réglementer la morphologie des machines, pour que la perception que nous en avons soit le plus proche possible de ce qu’elles sont ? Une interdiction totale des caractéristiques humaines n’est pas possible : Les machines émotives sont importantes dans toutes les tâches que vont accomplir les robots sociaux (assistanat, soins, etc.), qui sont déjà sur le marché. Mais combien-même serait proscrit la production de robots anthropomorphes, subsisterait le problème de la responsabilité. Car si nous attendons des machines qu’elles agissent en bon conséquentialiste, ce n’est pas parce qu’elles auraient lu avec ferveur les thèses de Ruwen Ogien, mais parce qu’elles ne sont pas responsables. Une machine ne choisit pas l’option la plus juste parce qu’elle est la plus juste, mais suite à un calcul. Un acte de machine n’est éthique que dans la mesure où des humains le conçoivent ainsi. La robotisation croissante de notre quotidien ne nous conduirait-elle pas à évacuer peu à peu la question de la responsabilité, du dilemme éthique, jusqu’à ce que la plupart des situations se réduisent à un problème technique ?

Dimitra Dardagani, Dan Duchateau et Nicolas M’Tima
Étudiants en philosophie


[1] Il parle notamment de Kant et de St Thomas D’Aquin.

[2] Voir la Généalogie de la morale de Nietzsche, notamment la métaphore des bêtes de proies.

[3] Le surhumain est décrit dans Ainsi parlait Zarathoustra au §3 du prologue.

[4] Idem.

[5] Voir le Gai Savoir §98 ou encore les sections I, II et VII de Par-delà bien et mal.

[6]Par exemple, le principe de responsabilité de Hans Jonas prône un système éthique face aux enjeux contemporains (surtout le dérèglement climatique), pour lesquels les anciens systèmes éthiques sont inopérants.

[7] Notre idée serait en effet de faire des simulations de vie en société et d’en voir les conséquences.

[8] L’exemple le plus connue est surement Les sims.

[9] Nous n’avons effectivement pas trouvé de recherche de ce genre.

[10] La question de la possibilité d’une intentionnalité de l’IA doit être débattue, mais ne peut être évincée puisqu’il s’agit pour l’IA de prendre de décisions qui exigent une certaine réflexivité, due aux algorithmes.

[11] C’est une critique que R.Ogien et Tappolet C. émettent dans leur ouvrage Les concepts d’éthique, Faut-il être conséquentialiste ? Hermann, 2008.

[12] En poussant par exemple une personne sur les rails pour faire dévier le tramway. Cité par R.Ogien, L’influence de l’odeur des croissants chauds sur la bonté humaine. Grasset, 2011.

[13] Dignum, V. Responsible artifical intelligence, Springer, 2019.

[14] Cité par Legal, J.B. et Delouvée, S. Stéréotypes, préjugés et discrimination, Paris, Dunod, 2008. Dans une classe d’élèves les chercheurs ont présenté aux enseignants 20% des élèves choisis aléatoirement comme élèves intellectuellement précoces, les autres enfants étaient présentés comme ayant une intelligence normale. A la fin de l’année scolaire non seulement les enfants présentés comme précoces avaient des évaluations plus positives mais leur performance à un teste de QI était significativement plus élevé que celle des autres. Les attentes sur les caractéristiques, les compétences ou les performances de quelqu’un provoque chez cet individu des comportements congruents avec ces attentes. Ensuite, en fonction des feedbacks reçus la personne adapte son comportement de façon à correspondre à ce qu’on attend d’elle. La confirmation des attentes initiales à son égard, ne peut-il pas être le risque des logiciels de prédiction de récidives ou des troubles de santé ?

[15] Schwartz, cité par Dignum, V. Responsible artifical intelligence, Springer, 2019, p.41.

[16] Ainsi les algorithmes d’une voiture autonome doivent pouvoir évaluer l’âge des personnes, et dans le cas d’un dilemme choisir d’épargner la plus jeune. Mais pour certaines cultures l’âge avancé étant preuve de sagesse, le choix de préserver la personne âgée peut être fait. Qu’en est-il d’autres caractéristiques ? Certaines cultures privilégieraient le sexe féminin, en tant que capable de procréer. Mais si le choix doit être étendu à d’autres caractéristiques, cela peut soulever des problèmes de discrimination.

[17] Bertram Malle et al, “Sacrifice One for the Good of Many? People Apply Different Moral Norms to Human and Robot Agents” 2015.

[18] David Gal et al, « The Loss of Loss Aversion: Will It Loom Larger Than Its Gain? ». Journal of Consumer Psychology, 2018.

[19] Il s’agit là de l’erreur fondamentale d’attribution, démontrée en premier par John et Harris, cf. E. E. Jones, V. A. Harris, « The attribution of attitudes ». Journal of Experimental Social Psychology, 1967.


Vous aimerez aussi...

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search