L’Intelligence artificielle au cœur de la connexion homme-machine

Le 10 mars 2020, dans le cadre de la troisième édition du séminaire « Aux limites de l’humain : Cohabiter avec les machines ? » (Pôle Risque de la MRSH et Master de Sociologie de l’Université de Caen – animé par Frédéric Lemarchand), la MRSH a reçu Hélène Jeannin, Sociologue à l’Orange Labs de Châtillon, pour une intervention sur l’Intelligence Artificielle et la connexion homme-machine.

« La recherche en Intelligence Artificielle est une quête de l’incorporation des différents aspects de l’intelligence humaine dans des machines »

Alors que de plus en plus d’entreprises technologiques (dont Orange) font appel aux « solutions de l’IA » pour perfectionner les produits et services qu’elles proposent aux consommateurs, une première question se pose : pour quoi faire ? Selon Hélène Jeannin, la première intention de ces entreprises qui investissent dans l’IA est d’imiter, d’étendre et/ou d’augmenter l’intelligence humaine en ayant recours à des machines. C’est précisément le sens du nouvel assistant vocal ou « Speaker » lancé par Orange, « Djingo ». Ces nouveaux objets connectés qui colonisent notre quotidien nous sont vendus comme indispensables, car ils ont pour but de nous décharger de tout un tas de micro-tâches quotidiennes que l’ « assistant » se propose de faire à votre place, sur simple commande vocale de votre part (faire la liste des courses, éteindre une lumière, etc.). La technologie est alors un économiseur de temps pour une vie humaine : en prenant la charge de tâches chronophages pour l’homme, elle lui libère du temps qu’il peut consacrer à d’autres activités plus essentielles. La technologie de l’IA se propose, dans le cas des « Speaker », d’accroître nos potentialités en prenant la charge de certaines tâches (imitation). Mais le projet de l’IA est aussi de dépasser l’intelligence humaine dans des tâches très spécifiques comme le stockage de données et la mémoire. Hélène Jeannin précise cependant que l’IA demeure lacunaire face aux capacités intégratives humaines : elle ne produit par exemple pas de raisonnements généralistes, qui requièrent un discernement et une complexité fondamentalement humains. L’un des principaux domaines de recherche en IA est pourtant « l’aide à la décision »…

« Les promesses captent des financements ! »

D’autres domaines que la technologie, l’informatique et la robotique sont impliqués dans la recherche sur l’IA. C’est par exemple le cas des neurobiologies pour qui l’IA est prometteuse de nombreuses avancées orientées vers la santé humaine. Les nombreuses perspectives et promesses de l’IA attirent les financements, même s’il ne s’agit parfois que de promesses fondées sur aucune avancée concrète. « L’augmentation des performances humaines », « l’adaptation du corps humain à des situations extrêmes » ou encore « une croissance économique durable et quasi-illimitée » sont autant de perspectives vectrices d’espoirs pour lesquels certains sont prêts à investir massivement. La science-fiction a beaucoup alimenté ce type de promesses, d’abord issues d’imaginaires dont celui de « l’intelligence humaine augmentée ».

Si de nombreuses promesses, pour beaucoup transhumanistes, figurent aujourd’hui à l’agenda de la recherche en IA sans pour autant générer d’évolutions concrètes visant à simplifier et améliorer la vie humaine sur Terre, il est légitime de s’interroger sur la véritable ambition de tels projets. L’un des points communs de nombreuses technologies ayant investi notre quotidien est la collecte de données.

« Un carburant : la data »

Hélène Jeannin met en évidence l’une des grandes idées reçues au sujet des technologies numériques : alors que nous parlons quotidiennement de « dématérialisation numérique » (l’image du « cloud » est évocatrice), la réalité du stockage des données, quelles qu’elles soient, se situe dans d’immenses « data centers » dont l’impact environnemental est conséquent (notamment du fait de la chaleur dégagée par ces milliers d’ordinateurs qui nécessitent un refroidissement).

Les données alimentent les IA. Les réseaux sociaux, les « assistants vocaux », ou encore les caméras de surveillance sont des outils de collecte idéaux car ils ne font que récolter des données obtenues gratuitement et avec le consentement (voir la complicité) des individus (on peut y voir une forme de  « servitude volontaire » selon Hélène Jeannin). Les applications créées uniquement pour récolter de la donnée (sans aucune utilité pour ces utilisateurs) ne manquent pas. La Silicon Valley, premier pôle technologique mondial, est au cœur de cette économie de la donnée. On comprend que la maîtrise des datas devient aujourd’hui la principale préoccupation de ces pôles géostratégiques, et devient alors sujet de préoccupations éthiques nombreuses. A quelles fins ces « informations personnelles » publiquement diffusées sont-elles achetées, vendues, employées ?

Le scandale du marché conclu entre Donald Trump et l’entreprise Cambridge Analytica (spécialisée dans l’analyse de données) lors de la campagne pour l’élection présidentielle américaine de 2016 a été le déclencheur de nombreuses initiatives en faveur d’une IA maîtrisée suscitant la confiance de ces utilisateurs. L’aspiration des données Facebook par cette entreprise, à des fins de manipulation politique, a en effet généré une prise de conscience de ces derniers quant à la non-protection de leurs données personnelles présentes sur l’Internet. Sont aussi considérées les méfiances (voir défiances) de l’opinion quant à l’idée de voir l’IA s’immiscer dans notre vie quotidienne et restreindre notre liberté sous couvert de plus de sécurité (on pense bien sûr au « scoring social » désormais devenu une réalité pour des millions de chinois). Le marché des données doit être maîtrisé, encadré, et éthique pour susciter la confiance de l’opinion publique et ainsi « maximiser les bénéfices de l’IA en en minimisant les risques » pour citer Hélène Jeannin. Mais que cela signifie-t-il concrètement ?

« Une science responsable est une science capable d’anticiper les impacts de ses applications techniques sur la nature et sur la société, de façon à opter en amont pour un design technologique qui maximise les bénéfices et minimise les risques encourus. »

Xavier Guchet

Pour une éthique des données, des algorithmes et des pratiques, de nombreux acteurs se sont organisés. C’est le cas de l’ONU qui, en 2017, organise un sommet autour de « L’IA for good » prônant les investissements dans une IA orientée vers l’amélioration de la vie humaine sur Terre et la protection de l’environnement tout en œuvrant à la transparence et à l’explicabilité des algorithmes. De plus en plus de grandes entreprises publient aussi des chartes éthiques quant à l’usage de l’IA en leur sein. On y retrouve des principes récurrents comme la transparence, l’équité, la non-malfaisance et la responsabilité. Chaque entreprise de recherche en IA est invitée à intégrer un certain nombre de recommandations éthiques. On assiste aujourd’hui à la formulation d’une éthique de l’intention quant à l’orientation qui sera donnée aux recherches en IA.

Le terrain de ces orientations se situe aussi dans le codage algorithmique de ces Intelligences Artificielles qui, on le sait, orientent nos choix et nos comportements. Le risque de nous voir enfermés dans des « bulles de filtres » est réel. En effet, l’IA se nourrie de bases de données. Elle peut donc avoir tendance à reproduire des réalités sociales (donc humaines) qui ne sont pas souhaitables : des inégalités et stéréotypes par exemple. Il est là un biais dont il faut avoir conscience dès la conception même de la technologie afin de le contourner ; surtout lorsque l’IA est utilisée comme « aide à la décision » dans les services d’embauche de certaines entreprises. Les technologies ne sont pas neutres, elles procèdent de choix humains impliquant de nombreux enjeux qu’il faut considérer pour envisager au mieux la « relation homme-machine ».

« La technosymbiose, une idée de l’augmentation humaine »

La connexion entre l’homme et la machine doit s’articuler avec celle de l’augmentation humaine pour être comprise. Cette idée naît dans les années 1940 et est développée d’avantage par les médias dans les années 1970 lorsque ces derniers commencent à évoquer un véritable « prolongement » des capacités de l’homme grâce aux machines. Les sociétés contemporaines s’organisent en fonction du culte de l’information et fait apparaître la fusion quasi-organique entre l’humain et la technologie ; la technosymbiose. Ce phénomène reproduit le principe de la symbiose entre deux végétaux.

Les années 1970 font face à un essor massif de la micro-informatique. Les ordinateurs qui étaient très coûteux et réservés à une élite deviennent personnels, plus petits, et plus accessibles. Le nombre de ventes augmentent très rapidement et passent de 72 4000 en 1980 à 2,8 millions d’ordinateurs vendus en 1982. Très vite s’en suit la modification des usages de ces derniers et débute l’apparition des smartphones, de véritables ordinateurs de poche permettant le partage de données. Si la technologie se rapproche du corps comme le dit Hélène Jeannin, on peut dire aujourd’hui qu’elle ne se contente plus d’une simple proximité, mais qu’elle le pénètre véritablement. C’est le cas des puces RFID, qui ont pour but de collecter des données et de les stocker à l’intérieur du corps de l’individu. Il en est de même pour les implants ou encore les « e-ink tattoo ». Le corps devient un outil au service des technologies présentes dans notre quotidien, et surtout, se transforme en véritable interface de communication. Celui-ci témoigne de la connexion qui se fait entre l’homme et la machine et en devient un facteur liant. L’homme est alors soumis à des risques autrefois réservé aux machines, comme le piratage par exemple. On peut dès lors s’interroger sur des dérives potentielles, relatives notamment à la marchandisation de l’humain.

« L’intelligence artificielle, un outil au service du transhumanisme ? »

Le cerveau est l’interface principale avec la machine. Dans une perspective transhumaniste, la continuité entre l’être humain et la machine est de plus en plus nécessaire et ces deux éléments ne seront plus à dissocier. Les machines contribuent de plus en plus à la modification de l’individu et à son évolution. Le soldat augmenté est un exemple parmi d’autres des quêtes transhumanistes. La culture de la performance et l’accélération des rythmes techniques caractérisent le « toujours plus » qui émerge depuis ces dernières années et va, selon Hélène Jeannin, continuer de s’accentuer dans les années à venir. Cette connexion est-elle pour autant réversible ?

Les sociétés techno scientifiques mettent en avant une équation qui semble impossible à résoudre. Il apparaît alors nécessaire d’éduquer les jeunes générations aux conséquences d’un simple « clic » ou d’une publication sur leur vie citoyenne et sur leur santé.

Marie Royer et Zoé Dimpre
M2 de sociologie à l’Université de Caen Normandie

---

---