Médecine et intelligence artificielle

L’IA en médecine, un symptôme du passage d’une modernité classique à une modernité réflexive ?

Introduction

Nombreux sont les domaines où l’intelligence artificielle (IA) se développe, mais celui de la santé semble y trouver un intérêt particulier puisqu’elle représenterait un réel atout pour la médecine. L’IA, qui peut se définir comme étant “l’ensemble des théories et des techniques mises en œuvre en vue de réaliser des machines capables de simuler l’intelligence humaine”1, semble donc être un outil intéressant pour la médecine. En effet, la médecine n’est ni plus ni moins que “l’ensemble des connaissances scientifiques et des moyens de tous ordres mis en œuvre pour la prévention, la guérison ou le soulagement des maladies, blessures ou infirmités.”2. L’intelligence artificielle en santé serait donc le fait d’accorder une place aux machines dites “intelligentes” afin qu’elles puissent contribuer au bon fonctionnement de l’organisme humain, c’est-à-dire à la bonne santé des patients. Pourtant, l’IA et la médecine semblent être, par nature, deux choses assez différentes puisque la première a pour objet l’étude des machines et la seconde celle des êtres humains. Or, les machines, les technologies anciennes ou nouvelles et tout ce qui a trait au progrès, semblent comporter des risques. En effet, il n’y a qu’à voir toutes les dérives négatives survenues à la suite de grandes découvertes technologiques comme le sont par exemple les catastrophes nucléaires ou le changement climatique. Certes, nous pouvons considérer cela comme étant un mal pour un bien. Si l’on prend l’exemple du nucléaire, nous pouvons dire que, sans lui, la médecine ne serait pas aussi avancée qu’elle ne l’est. Sans le nucléaire nous n’aurions pas l’IRM, la scintigraphie ou le traitement par radiothérapie. Cependant, nous ne sommes plus dans cette modernité dite “industrielle” où les risques importaient peu tant qu’il y avait un minimum de bénéfices. À en croire Ulrich Beck, il semble que nous soyons plutôt rentrés — depuis les années 1970 — dans une modernité dite “réflexive” qui se pose beaucoup plus de questions sur les dangers et les risques liés aux nouvelles technologies et cela est d’autant plus vrai lorsque l’on s’attache à la santé. De ce fait, la solution serait donc de se prémunir des dangers des nouvelles technologies ; mais comment ? La solution pourrait être toute trouvée avec l’IA, car elle permettrait de mesurer les bénéfices / risques dans le secteur de la santé et donc d’éviter au maximum les désagréments. Or, nous pouvons nous demander s’il est sans danger de placer aveuglement notre confiance dans l’IA pour qu’elle anticipe les risques au sein du secteur médical. Pour le dire autrement, l’IA est-elle un progrès sans danger pour l’homme lorsqu’elle est utilisée dans le domaine de la santé ? En effet, cela soulève des problèmes d’ordre éthique puisque si l’intelligence humaine des professionnels de santé est remplacée partiellement ou totalement par l’intelligence artificielle, cela implique que notre santé se trouve plus ou moins entre les mains de machines et non plus d’êtres humains. Cela semble de ce fait avoir des points positifs puisque l’être humain est par nature imparfait et source d’erreur. Dans ce sens, il est raisonnable de penser qu’une machine pourra faire le bon diagnostic et prendre la meilleure décision en fonction de la situation du patient qu’elle aura en face d’elle. Or, la machine dotée d’une IA reste l’œuvre de l’homme. Comment cet outil pourrait-il être parfait ? N’y a-t-il pas des chances pour que l’IA soit à l’image de son créateur : imparfaite ? De plus, dans le domaine de la santé, le relationnel, l’écoute et la considération du patient par le personnel soignant sont des valeurs clefs pour qu’il ait confiance, guérisse plus vite et dans les meilleures conditions. Or, toutes ces choses sont le propre de l’humain et non de la machine qui ne peut pas faire preuve d’empathie.

Examen de médecine nucléaire, Mco44, Wikipedia

Dès lors, l’essor de l’IA en médecine est-elle un symptôme du passage d’une modernité classique à une modernité réflexive ? En effet, l’IA qui permettrait de prévenir de nombreux risques en médecine serait paradoxalement une technologie qui pourrait également en créer de nouveaux, d’où le fait qu’elle pourrait apparaître comme un « symptôme » dans le sens où, voulant prévenir les maladies, elle pourrait également en favoriser, voire, dans le pire des cas, en être une pour le milieu médical. Afin d’éclaircir toutes ces interrogations et pour résoudre ce paradoxe, nous verrons dans un premier moment ce qu’est concrètement l’IA en médecine, en traitant de ses bienfaits et de ses méfaits. Puis, dans un second moment, nous nous intéresserons à la prévention des risques afin de pouvoir terminer notre travail en montrant les limites de  l’IA en santé tout en apportant des éléments de réponses au problème. L’enjeu est donc éthique puisqu’il s’agit de savoir si l’on peut faire confiance ou non à cette création humaine, cette nouvelle technologie qu’est l’IA lorsque celle-ci se retrouve liée à notre santé, c’est-à-dire au plus près de l’humain, de notre corps et de notre esprit.

1.  Intelligence artificielle et santé

L’intelligence semble être notre capacité à résoudre des problèmes ou à s’adapter à un environnement, aussi bien mentalement que cognitivement, et ce, autant chez l’homme que chez l’animal. Les scientifiques ont tendance à réduire l’intelligence au cerveau, car chez l’animal, l’intelligence se fait par le biais des systèmes neuronaux. L’intelligence est étudiée par diverses sciences, partant de la biologie à la philosophie, en passant par nombre d’autres domaines. Sans surprise, aucune n’est d’accord pour s’entendre sur une définition de l’intelligence, sans parler des différentes cultures qui considèrent tout autant différemment le concept d’intelligence. Avec l’intelligence artificielle, nous allons actuellement réduire l’intelligence à la capacité d’apprentissage et d’exécution, aux facultés d’apprendre et de répondre logiquement à des attentes, sur les bases des capacités du cerveau. Pourtant, nous allons constater que nous n’allons pas nous arrêter à cela : les mystères des données absorbées, l’influence du développement de la neuroscience, les machines qui pensent, le libre-arbitre, la conscience, etc. Jusqu’où peut s’étendre l’intelligence artificielle, dans quel domaine peut-elle être utilisée, et surtout, quels risques représente-t-elle ? L’étude de l’intelligence artificielle dans le milieu médical peut nous aider à y voir plus clair dans cette avancée dans la modernité qu’est le développement de l’IA.

L’intelligence artificielle “faible” est l’IA que nous sommes capables de créer actuellement. Comme son nom l’indique, elle est faible, face à un idéal d’une intelligence artificielle. L’IA faible est une intelligence artificielle qui se focalise sur une tâche précise : mission donnée, réponse à la mission donnée. Elle n’est pas capable d’émotion ou de sentiment, elle n’est pas sensible. Aujourd’hui, toutes les intelligences artificielles sont considérées comme faibles. Le cas le plus mûr d’IA aujourd’hui est la reconnaissance d’images de mélanomes ; le champ de développement de l’IA en France est l’IA de pointe, spécialisée dans le vieillissement par exemple. Le projet pour ces prochaines années serait de passer à l’intelligence artificielle « générale » ou « forte », une IA qui ne fonctionnerait pas que dans une gamme prédéfinie limitée. Aussi , afin de développer l’intelligence artificielle et de passer d’une IA faible à une IA appelée “générale” ou “forte”, les chercheurs ne se basent pas seulement sur le passage direct de l’IA faible à l’IA forte. Pour développer l’IA forte, ils essaient de mettre en commun, de fusionner d’autres sortes d’intelligences artificielles qui sont complémentaires : notamment l’IA dite connexionniste et l’IA dite symbolique. Ces IA sont déjà comprises dans l’IA faible qui se développe de plus en plus ces dernières années, et permettent aux machines médicales d’effectuer un grand nombre de choses, et ce, car elles sont dotées de bien plus d’informations et de données que l’homme, qui serait, de toute façon, dépassé et submergé par l’analyse — qui devrait en plus être rapide — de ces données. Ces dernières années, l’IA a été rendu capable de plusieurs choses : la reconnaissance et l’interprétation des données et l’aide à la décision ou la planification d’actions. Or, même si l’utilisation du terme “intelligence artificielle” semble émettre la théorie d’une intelligence à part entière, il ne faut pas oublier que l’IA des machines médicales est en réalité une reproduction du système intelligible et logique humain, qui fonctionne sur la base de deux champs d’apprentissage principaux que sont le connexionnisme et le symbolisme.

L’intelligence artificielle connexionniste a eu d’avantage de succès que l’IA symbolique, même si elles sont toutes deux appréhendées de manière équivalente désormais. Avec l’IA connexionniste, nous sommes face à une approche “modeling the brain” : “modeler le cerveau”. Comme son nom l’indique, cette IA consiste en l’appropriation et l’inspiration du cortex cérébral. Cette IA se base sur un neurone formel (proposé par le neurologue MCCULLOCH et le psychologue cognitif PITTS), ce qui a donné lieu à la neuromimétique actuelle (l’imitation de réactions de neurones). Cela reviendrait à apprendre à partir d’exemples donnés. Ici, la machine devra réagir correctement en fonction de données exemplaires. L’intelligence artificielle symbolique, elle, est l’approche “making a mind” : « faire un esprit ». Cette approche consiste à donner à un système d’IA un mécanisme de raisonnement capable de manipuler les données dites symboliques qui constituent les connaissances d’un domaine ; c’est une approche essentiellement basée sur les méthodes de la logique. L’IA symbolique, c’est apprendre, par exemple, à une machine les bases de l’arithmétique, puis lui demander de les appliquer en raisonnant par elle-même en lui posant un problème. Ici, nous ne sommes plus dans le domaine de la tâche apprise à effectuer et l’application de celle-ci apprise également, mais dans l’apprentissage seulement de bases ; c’est la machine seule qui se débrouillera pour résoudre le problème posé selon les bases que nous lui aurons transmises, c’est à elle de trouver la solution, la “sortie” correcte.

Nous parlons d’IA fonctionnant avec le connexionnisme, le symbolique ou encore à partir de statistiques, mais avant de pouvoir raisonner, imiter, appréhender, appliquer ou tout simplement apprendre, il faut justement qu’elle ait quelque chose à apprendre, or ce que nous lui faisons ingérer pour ensuite digérer et pouvoir produire, ce sont des données. L’intelligence artificielle ne part que de cela : les données, et ces données proviennent bien d’un esprit humain faillible. Grâce au “data meaning”, l’homme fait assimiler à la machine autant de données qu’il le peut, pour lui permettre ensuite de faire un choix correct parmi ce grand nombre de données en fonction de la situation. Actuellement, ce “meaning” va bien plus loin, puisque la machine n’absorbe pas seulement les données que lui prescrit l’homme, elle continue d’apprendre seule via le machine learning et à conserver tout cet apprentissage via le deep learning. Dans le domaine médical, comme nous allons le voir par la suite, cela soulève des questions éthiques : peut-on laisser la vie d’un individu dans les “mains” d’une machine presque autonome et pourtant sans conscience d’elle-même et de ses actes ? Dans le cadre d’un accident, quel est le responsable ? Si ces questions se posent c’est bien parce que le champ d’étude de l’IA s’agrandit avec le “machine learning” ou le “deep learning”. Le machine learning, c’est l’apprentissage automatique, c’est confier à l’IA un certain nombre de données et lui faire confiance. Autrement dit, c’est lui laisser apprendre seule, sans que des tâches explicitement programmées ne lui aient été confiées. Tout repose sur la déduction et la prédiction de l’IA elle-même. Ici, on ne peut plus faire appel à des résultats certains, nous ouvrons littéralement le champ des possibles en terme de productions de l’IA. L’apprentissage peut être supervisé en tant que les données sont étiquetées et que la bonne réponse à la tâche est connue par le système. Mais, l’apprentissage peut très bien être non-supervisé,  et seulement la structure sous-jacente des données sera déterminée, ce qui renvoie à de l’autonomie.

Dans le domaine médical, les machines avec une IA développée permettent d’opérer avec plus de précisions. Au-delà de l’opération, des chercheurs de l’Université d’Indiana ont collecté des données de santé auprès de 500 véritables patients. L’IA et des médecins, chacun de leur côté, ont établi des diagnostics et un traitement pour chacun des cas. Le résultat a été que les diagnostics et les traitements prescrits par l’IA étaient 42% plus justes que ceux prescrits par les médecins. Néanmoins, L’IA dans le milieu médical soulève des problèmes éthiques. Premièrement, cela soulève la question de la responsabilité du professionnel de  santé versus celle de la machine, aussi appelée “responsabilité du fait et des choses”, ce qui sous-entendrait une responsabilité juridique propre aux machines. Deuxièmement, que faire dans le cas du dysfonctionnement d’une machine ? La question du fonctionnement des machines, qui, dans le cas d’un produit défectueux, aussi appelé “le régime de la responsabilité du fait des produits défectueux” fait reposer la responsabilité du dysfonctionnement sur le producteur de l’algorithme. Cependant, il y a des cas où le risque ne pouvait être anticipé en fonction des connaissances scientifiques disponibles au moment de sa mise sur le marché, il y donc une exception qui se nomme “risque de développement”. Néanmoins, le problème est qu’à travers le machine learning, la machine auto-apprend, il y a donc forcement un moment ou la machine sera bien loin de son état d’algorithme du début au moment de sa mise sur le marché, alors  comment porter la faute au producteur ? Troisièmement et évidemment, la machine ne risque t-elle pas de supprimer le travail de l’homme ? Avec l’arrivée de l’IA en médecine mais aussi dans de nombreux autres domaines, il y a un très grand risque de délégation, le risque que le médecin ne devienne qu’un presse- bouton” et délègue sa décision médicale à la machine. Mais cela ne s’arrêterait pas seulement au cas du médecin, comme nous l’a expliqué le sociologue David Gruson, le patient pourrait aussi bien déléguer et c’est ce que l’on appelle la “délégation du consentement”, c’est-à-dire ne suivre que les recommandations selon un passif, ce qui reviendrait à commencer à perdre son esprit critique. Même si l’IA n’est pas une intelligence consciente (et c’est peut-être pour cela même qu’elle pose quelques problèmes) elle soulève plusieurs questions éthiques et plusieurs risques sont déjà envisagés: peut-on les prévenir lorsqu’elle a été elle-même créer pour prévenir les risques ? En effet, l’expansion de l’IA en médecin s’insère dans le passage qualifié par Ulrich Beck d’une modernité “classique” à une modernité “réflexive” ; c’est la médecine prédictive.

2.  Médecine prédictive et société du risque

Jean Dausset photographié par Studio Harcourt Paris. Licen CC via Wikipedia

Le concept de médecine prédictive a été employé pour la première fois en 1972 par l’immunogénéticien Jean Dausset, Prix Nobel de médecine. Pour le professeur Veroles cela devait “changer la nature de la consultation médicale du XXIe siècle”3. En effet, il considère qu’aujourd’hui “les principes de ce type de médecine ont été posés et les perspectives qu’elle ouvre sont très claires”4. Mais nous allons voir que la médecine prédictive n’en est qu’au commencement. D’abord à quoi correspond la médecine prédictive ? Prenons la définition du site de l’association pour le progrès de la biologie médicale,  la médecine «  prédictive  constitue  le  grand  champ  ouvert  par  les  nouvelles  techniques  de  séquençage  du génome humain. Si l’objectif de la médecine curative est de soigner, diminuer les souffrances et guérir, celui de la médecine prédictive repose sur la détection chez un individu de prédispositions biologiques à telle ou telle maladie, afin de retarder, atténuer, voire prévenir son apparition”5. Alors, pour résumer, la médecine prédictive à pour but d’anticiper les risques de certaines maladies en analysant les gènes, voire même les soigner et les éviter. Elle relève du domaine de la médecine personnalisée, selon l’Inserm cela correspond à “traiter chaque patient de façon individualisée en fonction de ses spécificités génétiques et environnementales”6. Pour le Professeur Verloes “depuis une vingtaine d’années, des tests sont réalisés chez des patients ayant de fortes prédispositions familiales à développer certaines maladies à révélation tardive telles que les maladies neurodégénératives du système nerveux central – certaines formes de la maladie d’Alzheimer, la chorée de Huntington etc – ou encore certains cancers. Il s’agit de tests bien précis, ciblant une mutation génétique spécifique chez des patients dont, généralement, l’un des parents est porteur. Une altération au niveau des gènes BRCA1 et BRCA2, gènes principaux de prédisposition aux cancers du sein, par exemple”7. Le but est de connaître à quel niveau est le risque pour proposer un suivi adapté. De plus, elle permet de voir la sensibilité des individus pour éviter les effets secondaires avec les traitements utilisés, cela permet de les remplacer ou de les ajuster. C’est surtout dans le cadre de cancer que cette technique génomique est utilisée “celle-ci permet en effet d’améliorer le diagnostic et de décider de la chimiothérapie la plus adéquate en fonction des altérations génétiques identifiées dans la tumeur, notamment pour les cancers du sein”8.

La médecine prédictive s’applique aux maladies polygéniques et polyfactorielles, elle étend ces tests à d’autres variantes du génome pour détecter d’autres prédispositions comme l’hypertension, le diabète, etc. Le Professeur Verloes affirme que “Depuis la fin des années 1990, des études, telles que “HapMap“ ou “1000 genomes“, sont menées à l’échelle internationale pour essayer de cartographier les variations courantes du génome humain”9. Une technique d’analyse biostatistique est utilisée depuis 2005, appelé le Genome-wide Association Study (GWAS) essaie de corréler certaines de ces variantes et l’apparition de maladies “courantes”. Donc, pour le moment nous ne pouvons pas prédire l’avenir médical d’une personne, c’est-à-dire les maladies qu’elle pourrait développer “car nous ne connaissons pas l’ensemble des loci qui correspondent à l’emplacement précis des gènes sur chaque chromosome et qui confèrent un risque accru ou sont protecteurs, et nous ne disposons pas d’un modèle biostatistique capable d’intégrer les effets de l’ensemble des variants modificateurs identifiés par le GWAS”10. Donc, comme nous avons pu le voir, le but de la médecine prédictive est surtout de détecter des prédispositions lors de développement de maladies pour les prévenir. Ces diagnostics sont encadrés par des lois de bioéthique de 1994, revisitées en 2004 et 2011. Tout le procédé allant de la prescription à la réalisation est donc encadré par des décrets. Il y a des conditions précises comme un consentement du patient, les laboratoires doivent avoir une autorisation pour réaliser ces tests et les praticiens doivent avoir un agrément. Toutes ces obligations ne sont pas anodines ; en effet, selon le résultat, cela peut avoir des effets psychologiques sur les patients, et, d’autre part, ces résultats peuvent être utilisés à d’autres fins. On peut se poser des questions sur l’impact de la médecine prédictive concernant l’individu, le social et l’éthique. Comment une personne réagit face aux résultats ? Surtout s’il apprend que rien n’est possible pour guérir ? La question essentielle est celle de l’information, puisqu’on est  généralement impuissant pour empêcher l’apparition d’une maladie.

Exemple d’un diagramme de Manhattan représentant les résultats d’une GWAS By M. Kamran Ikram et al – Ikram MK et al (2010), CC BY 2.5, https://commons.wikimedia.org/w/index.php?curid=18056138

Dans  un  avis  d’Octobre  1995,  le  Comité  consultatif  national  d’éthique  (CCNE)  signale  que “l’ignorance est rarement facteur de liberté”. Mais s’interroge sur l’exercice de sa liberté par une personne « dont les prédispositions génétiques ne laissent que le choix entre une existence terriblement contrainte ou des mutilations à visée préventive, et le risque d’une maladie incurable »11. Dans cet avis il est cas d’une personne en bonne santé qui peut apprendre qu’elle est porteuse du gène et doit organiser sa vie autour. Donc, “les personnes à risque pour des maladies génétiques dominantes sans traitement préventif ou curatif, telle la maladie de Huntington, sont confrontées à des interrogations hors normes, dignes d’une tragédie  shakespearienne : savoir ou ne pas savoir ?”12. Le questionnement autour du fait de demander un test présymptomatique est complexe parce que la personne peut apprendre qu’elle a une maladie pour laquelle il n’y a pas de traitement. Cela pousse la réflexion chez ces personnes puisque tout est remis en question sur la liberté de savoir ou non. En effet, “la médecine prédictive est devenue pour certains l’occasion d’une prise de ‘conscience brutale de sa propre finitude’”13. En cas de test défavorable on peut constater une transformation du rapport au temps par le malade décrit par le sujet dépressif par Alexandre Triandafillidis : “le dépressif anticipe, il ne prévoit pas : lorsqu’il immobilise le temps, lorsqu’il le suspend, lorsqu’il vit dans l’attente – dans l’attente de rien – ne serait-ce pas parce qu’il ne peut pas imaginer un à-venir différent du passé, c’est-à-dire un à-venir qui ne soit pas hanté par le disparaître et sidéré par l’anéantissement”14.

Mais les malades ne sont pas les seuls intéressés par ces résultats, le sont également les assureurs et les employeurs. Avoir connaissance du futur médical peut être intéressant par exemple pour les assurances puisqu’elles peuvent moduler et ajuster les tarifs comme l’assurance vie. Pour l’employeur cela constitue une information majeure puisqu’il choisira d’avantage un collaborateur qu’il sait en bonne santé, performant et qui prendra peu de congés maladies que l’inverse. L’industrie pharmaceutique sera aussi intéressée puisque “la médecine prédictive pourrait s’avérer être une “poule aux œufs d’or” puisque le diagnostic de chaque prédisposition nécessite un ou plusieurs tests. Le résultat de ces tests devrait de plus conduire à la mise en place de traitements. Enfin, “toute la population est concernée”15. Prenons l’exemple d’une maladie, la chorée de Huntington que nous avons déjà énoncé. Il s’agit d’une maladie neurologique dégénérative qui intervient entre 30 et 60 ans qui peut être prédite par un test génétique. Faut-il savoir ? Parce que la prédiction peut être une réelle prévention dans certains cas mais cela en fait un enjeu de santé publique majeur, et, comme nous l’avons dit, intéresse les assurances, la médecine du travail, les employeurs, etc. “Les assurances après réflexion sont favorables à un moratoire, car elles se sont aperçues que la discrimination non seulement était mal vécue mais risquait de se retourner contre elles, encourageant les personnes ayant un risque faible à exiger des primes allégées”16.

D’autre part, même sans le savoir les médecins pratiquaient déjà la médecine prédictive, avec par exemple la glycémie post-prandiale et l’hyperglycémie, ces données peuvent prédire le risque de développer un diabète de type 2 chez un sujet obèse d’une cinquantaine d’années. On voit donc que le développement de la médecine prédictive est difficile parce que “ce sont des maladies qui impliquent la conjonction de facteurs environnementaux défavorables et des variations de séquence dans plusieurs gènes. Pour être capable de faire une prédiction fiable, il faudrait pouvoir analyser simultanément, et dans toutes leurs composantes, ces deux facteurs”17. Les tests génétiques constituent en majorité le premier outil du diagnostic biologique de la médecine prédictive même si d’autres tests biologiques permettent d’analyser une prédisposition. Cela pose des problèmes d’ordre économique et d’organisation de l’offre de soin puisque les tests génétiques sont complexes à utiliser et leur réalisation manuelle l’est tout autant. Cela ne peut pas être assimilé avec un dépistage de masse.

La question se pose donc maintenant de savoir si le jeu en vaut réellement la chandelle. En effet, faut-il prévoir au mieux et le plus les risques en santé ? Faut-il tout faire pour devancer la maladie au risque de s’en rendre malade ? Autrement dit, la prévention des risques en médecine via l’IA, symptôme d’une modernité réflexive visant à prédire tous les risques dans tous les domaines, n’est-elle pas un trop gros risque à courir ?

3.  L’IA en médecine : limites et risques

“Entre inconscience technophile et négation technophobe, seule une réflexion gouvernée avec bon sens et retenue permettra à l’humanité de bénéficier pleinement de ces progrès technologiques.”

(Duguet, 2019, p. 36)
Concept de technologie médicale, metamorwoks, istockphoto.com

3.1   Collèges d’EVI ou collèges de médecins ?

L’intelligence artificielle floue augmentée utilisée en médecine est née de la rencontre des forces de l’intelligence artificielle cognitisviste qui, “sous la houlette de McCarthy, l’IA cognitiviste prétend que la pensée de l’Homme se fonde sur sa capacité à manipuler des symboles  par  application  de  règles  formelles.”18 et de l’intelligence artificielle connexionniste dont les neurobiologistes qui la soutiennent, notamment Minsky et Rosenblatt, pensent qu’elle “se devrait d’intégrer un modèle artificiel du cerveau.”19 en ce sens que, pour eux, l’intelligence de l’Homme émanerait plutôt de la structure neuronale de son cerveau. En soi, l’IAFA adjoint à ces deux types d’IA “une évaluation systématique et intensive de la robustesse des systèmes décisionnels flous qu’il crée”20, c’est-à-dire une évaluation systématique et  intensive de “la métrique estimant la capacité prédictive du modèle, c’est-à-dire la fiabilité de ses réponses sur des situations inconnues.”21. Or, selon Zyed Zalila, un patient aurait ainsi près de 50 % de chances supplémentaires d’avoir un bon diagnostic s’il rencontrait le médecin le plus qualifié que s’il se faisait diagnostiquer par le médecin le moins qualifié quand “le British Medical Journal a publié en mai 2016, sous la plume de Makary et Daniel, un article indiquant que la 3e cause de mortalité aux États-Unis consistait en des erreurs médicales.”22, ce qui porte à croire que la médecine traditionnelle apporte des réponses variables à de situations identiques avec des niveaux de robustesse pour le moins éclectiques et, dans le même temps, “dans l’exemple du diagnostic anatomo-pathologique du cancer du sein, la performance du robot d’IAFA sur des dossiers de tests totalement inconnus est de 97,57 % de vrais positifs et de 99,15 % de vrais négatifs. À titre de comparaison, le système expert Mycin, pour identifier les bactéries causant des infections sévères et recommander des antibiotiques, n’avait eu en 1979 que 65 % de bons diagnostics, et avait déjà réussi à battre les cinq experts en maladies infectieuses du Stanford University Medical Center, jugés dans les mêmes conditions, avec des performances individuelles s’échelonnant de 42,5 % à 62,5 % de diagnostics corrects.”23. En effet, un robot d’IAFA découvre plusieurs modèles robustes qui correspondent chacun à un “expert virtuel individuel” (EVI) et “chaque EVI dispose d’une stratégie de décision qui lui est propre, même si tous les EVI sont experts du même domaine. Ils utiliseront certainement un sous-groupe commun de variables prédictives, mais les compléteront par d’autres variables prédictives qui leur sont personnelles.”24. Ainsi, les collèges d’EVI pourraient remplacer à plus ou moins long terme les collèges de médecins et cela semblerait signifier une meilleure prévention des patient.e.s et un meilleur contrôle des risques ayant trait à  la santé.

Cependant, selon Julien Duguet, Gauthier Chassang, et Jérôme Béranger, le recours à un système expert d’aider à la décision médicale comporte en lui-même de nombreux risques. D’une part, le risque est de faire disparaître la place du malade dans le dispositif de la décision médicale. D’autre part, le médecin utilisateur pourrait finir par se sentir remplacé par une machine intelligente plus efficace que lui et infaillible ce qui aurait pour conséquence d’évincer le médecin du système décisionnel. Aussi la question de la responsabilité est centrale : responsabilité du médecin qui refuse de s’appuyer sur les solutions proposées par l’IA, ou, au contraire, sentiment d’irresponsabilité du médecin s’appuyant sur le diagnostic du logiciel d’aide à la décision médicale. Or, il est à noter qu’en cas de problème induit par les solutions apportées par l’IA, le clinicien reste responsable juridiquement… Enfin, il est fort compliqué pour les médecins, au vu de l’immense base de données toujours réassortie sur laquelle se base l’IA, d’expliquer les résultats qu’elle obtient aux patients, “d’où l’expression ‘boîte noire’, souvent utilisée pour qualifier l’opacité de certains systèmes et agents intelligents. L’opacité épistémique pose des limites majeures à la faculté d’un clinicien à donner aux malades des explications significatives quant au fonctionnement des IA et sur la façon dont elles parviennent à des conclusions sur des patients individuels.”25. Or, les quatre grands piliers de l’éthique biomédicale sont le respect de l’autonomie de la personne, la bienfaisance, la non-malfaisance et la justice, ainsi, “dans le domaine de la santé, une décision médicale doit être rationnelle et doit être construite de façon méthodique par quelques principes éthiques simples, cohérents, clairs et définis à l’avance.”26 et, en  ce sens, l’IA dénature et obscurcit le travail médical.

3.2  Vers une IA éthique ?

Le propre de l’IA est sa capacité non négligeable à obtenir rapidement et de manière très précise des résultats à partir de bases de données gigantesques et surtout sa capacité d’auto-apprentissage qui lui confère le pouvoir de s’auto-perfectionner en apprenant de ses manques et faiblesses et également en interagissant avec le monde qui l’entoure. Or, les machines douées d’IA partent de bases qui leur sont données par les hommes, ainsi, “il apparait primordial que les concepteurs d’algorithme soient conscients des jugements de valeur qui impactent leur élaboration. La manière dont se construit l’algorithme est soutenu par des valeurs et imaginé par des personnes. Pour cela, il est essentiel d’avoir une approche basée sur l’éthique de l’IA en fonction de leur finalité afin de mieux les comprendre, les challenger, les ajuster pour les améliorer.”27. En effet, l’exemple type est celui de la criminalité aux États-Unis : les statistiques sont entrées par les hommes ; les afros-américains sont sept fois arrêtés que les blancs. Ainsi, ces statistiques sont utilisées par la police : les afros-américains ont sept fois plus tendance à commettre des actes sujets à répression policière, ainsi, il faut les arrêter sept fois plus. Or, le racisme original voire originel à le base des données entrées dans la machine d’IA et donc à la base du nombre d’arrestations d’afro-américains sept fois supérieur à celui d’arrestations de blancs n’a pas été questionné et donne donc des résultats biaisés qui entretiennent le racisme policier aux États-Unis. Cependant, pour revenir à l’IA en médecine, il faut admettre que “les résultats thérapeutiques fondés sur des statistiques de 500 000 malades lui confèrent une puissance de feu sans pareille.”28. Mais le fait le plus notable ici reste encore que “les données publiques non liées au marché restent peu accessibles ou, en tout cas, d’une accessibilité sans rapport avec leur intérêt réel (exemple de l’alcool). En revanche, les algorithmes privés issus d’entreprises lucratives ou de données venant des diverses connections de dispositifs privés, dits connectés, pullulent. Ce sont eux qui sont destinés à orienter les malades (Internet) ou les comportements des médecins.”29.

Mais ce n’est pas le seul problème fondamental induit par l’utilisation de l’IA dans le domaine de la médecine. En effet, dans l’exemple du type de prothèse de hanche ou de stent pourrait bénéficier, dans ses indications et dans sa pose, de l’IA fondée sur une puissance statistique très utile. Mais cet usage va dépendre de facteurs multiples comme le confort, l’âge, l’activité professionnelle, le poids, les comorbidités, etc. Autrement dit, il est essentiel de complexifier les bases algorithmiques, sinon les résultats seront biaisés, or, “les algorithmes n’aiment pas la complexité infinie des bases de départ, trop consommatrices de temps et d’énergie. Il ne faut pas que la machine, pour autoapprendre, soit perturbée par trop de singularités de différences ethniques, de conditions sociales, de survie d’un hôpital en faillite, en un mot, par la Vie.”30. En soi, avec l’IA, et notamment en médecine, si les inputs sont biaisés, les outputs le seront aussi, les variables à la base des algorithmes sont encore trop peu nombreuses et laissent de côté les aspects purement sociaux et les sentiments des patients. D’autre part, l’IA en médecine — comme ailleurs pourrait-on se risquer à affirmer — est au service du marché et notamment du marché privé et c’est en ce sens qu’il est pratique qu’elle ne raisonne pas mais calcule uniquement ; en somme : “l’IA privilégie les faits apparemment objectifs et non les sentiments ressentis. Ceux-ci ne s’expriment jamais en chiffres, pas plus que la complexité de l’environnement, de l’épigénétique, ou de la narration d’une histoire.”31.

Conclusion

L’IA pourrait donc être un atout majeur pour la médecine sans pour autant remplacer tout les aspects “humains”. Les limites à ne pas franchir semblent donc se trouver ici. S’en servir comme d’un outil en complément d’un avis médical humain serait positif mais il ne faudrait pas que ce soit, à terme, pour les remplacer définitivement. De plus, en tant qu’outil, le professionnel de santé ne devrait pas se reposer entièrement sur l’IA car par définition, elle est une machine et donc elle ne peut pas voir ce que l’homme peut voir notamment lorsqu’il s’agit de réalités sociales et de sentiments. L’inverse étant vrai également  dans la mesure où le cerveau humain est limité, il apparaît nécessaire de trouver le juste équilibre entre les deux afin de pouvoir bénéficier au maximum des bienfaits et au minimum des dangers. La solution ici proposée, dans la veine de Didier Sicard, serait donc d’intégrer l’éthique à l’IA dès sa conception en purgeant les bases de données premières des IA de tout préjugé et en veillant par la suite à ce que cette dernière ne les développe pas au contact du monde qui l’entoure et dont elle apprend.

Mathilde Plassard
Cameron Gramond
Lisa Quillard
Elisa Levacher
Etudiants en Master – Université de Caen Normandie


Bibliographie

Articles

Cachan, Lavoisier, « Traités », 2016, p. 595-599. DOI : 10.3917/lav.bourd.2016.01.0620.

URL : https://www.cairn.info/architecture-et-ingenierie-a-l-hopital–9782810907113-page-271.htm

Sites internet


  1. Larousse, « intelligence artificielle » https://www.larousse.fr/dictionnaires/francais/intelligence/43555#180249 []
  2. Larousse, « médecine » https://www.larousse.fr/dictionnaires/francais/m%c3%a9decine/50082 []
  3. Professionnels Roche, “Médecine prédictive : où en est la science ?”, 28/02/2017 []
  4. ibid., Professionnels Roche, “Médecine prédictive : où en est la science ? []
  5. Association pour le progrès de la biologie médicale, “La médecine prédictive”, 02/11/2020 URL : https://lapbm.org/la-medecine-predictive/ []
  6. op. cit., Professionnels Roche, “Médecine prédictive : où en est la science ? []
  7. ibid []
  8. op. cit., Association pour le progrès de la biologie médicale, “La médecine prédictive []
  9. op. cit., Professionnels Roche, “Médecine prédictive : où en est la science ? []
  10. ibid. []
  11. Gargiulo Marcela, Herson Ariane, “Le risque de la prédiction”, Contraste, 2007/1 (N° 26), p. 221-231. DOI : 10.3917/cont.026.0221. []
  12. ibid. []
  13. ibid. []
  14. ibid []
  15. Delpech Marc, « 63. Médecine prédictive », dans : François Bourdillon éd., Traité de santé publique. Cachan, Lavoisier, “Traités”, 2016, p. 595-599. DOI : 10.3917/lav.bourd.2016.01.0620. []
  16. Sicard Didier, “Les perspectives de la médecine préventive et prédictive”, Revue française d’administration publique, 2005/1 (no113), p. 121-125. DOI : 10.3917/rfap.113.0121. []
  17. op. cit., Delpech Marc, “63. Médecine prédictive” []
  18. Zalila, Zyed. « Chapitre 36. L’intelligence artificielle floue augmentée : vers une médecine prédictive personnalisée », François Langevin éd., Architecture et ingénierie à l’hôpital. Le défi de l’avenir. Presses de l’EHESP, 2018, pp. 271-282., p. 271. DOI : 10.3917/ehesp.lange.2018.01.0271. []
  19. ibid., p. 272 []
  20. ibid., p. 279 []
  21. ibid., p. 278 []
  22. ibid., p. 281 []
  23. ibid., p. 282 []
  24. ibid., p. 280 []
  25. Duguet, Julien, Gauthier Chassang, et Jérôme Béranger. « Enjeux, répercussions et cadre éthique relatifs à l’Intelligence Artificielle en santé. Vers une Intelligence Artificielle éthique en médecine », Droit, Santé et Société, vol. 3, no. 3, 2019, pp. 30-39, p. 31. DOI : 10.3917/dsso.064.0030. []
  26. ibid., p. 31 []
  27. ibid., p. 35 []
  28. Sicard, Didier. « Chapitre VI. Les problèmes éthiques posés par l’usage de l’intelligence artificielle en médecine », Didier Sicard éd., L’éthique médicale et la bioéthique. Presses Universitaires de France, 2020, pp. 101-106, p. 101 []
  29. ibid., p. 102 []
  30. ibib., p.103 []
  31. ibid., p. 105 []

Vous aimerez aussi...

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search