Rencontre avec Dominique Cardon autour du documentaire “The cleaners”

A l’occasion de la projection du documentaire Les nettoyeurs du web (The cleaners) de Hans Block et Moritz Riesewieck, en partenariat avec le cinéma Lux, une rencontre avec Dominique Cardon, directeur du Médialab de Sciences Po Paris, était organisée le 17 octobre dernier par l’université de Caen Normandie. Cet événement s’inscrivait dans le cadre de PandHeMic (Propagande : héritages et mutations contemporaines), projet de recherche soutenu par la MRSH et porté par les équipes ERLIS et CERREV. Le débat était animé par Cécile Dolbeau-Bandin.

CDB : Dominique Cardon, qu’est-ce qui fait que les algorithmes de détection ne suffisent pas à ce nettoyage ?

Parce que c’est sale. Parce que c’est très sale et que la saleté c’est compliqué. Un algorithme c’est simple et ça ne peut traiter que des situations simples. L’algorithme qui traite les questions de nudité calcule un pourcentage de surface de corps humain couleur chair (donc réputé nu), avec un seuil au-dessus duquel il y a suppression.

CDB : Ce documentaire met en lumière les conditions de travail extrêmement difficiles et harassantes de ces chiffonniers du net[1]. Ils visionnent et nettoient des contenus extrêmement violents et plus que choquants (viols, pédopornographies, égorgements, décapitations, tortures…). À l’aide de ces témoignages, les réactions de ces nettoyeurs face à leur travail sont variées, qu’indiquent-elles ?

Que l’on place délibérément des personnes dans des situations extrêmes, dans des conditions de travail proprement inhumaines. Le reportage montre bien la métaphore heureuse du monde numérique, un monde lisse, joyeux, expressif, autonome et créatif – du côté de la Silicon Valley. Mais pour exister et fonctionner, ce monde a créé des caves problématiques, dans un nouveau système de domination coloniale, où le Sud récupère les déchets du Nord et fabrique des produits propres pour le Nord. Nous sommes en train de délocaliser aussi bien nos déchets physiques que numériques, en exploitant une armée de prolétaires qui se couple à plein de petits marchés : les marchés du clic et du faux compte[2]. Ce système d’exploitation et de production de services est aussi celui des plateformes comme Uber ou Deliveroo : dans la division du travail[3] de nos sociétés, il crée une nouvelle domesticité, dont les nettoyeurs font partie, pour ceux dans le Nord dont la vie s’accélère. La critique permet de mettre en lumière ces injustices et inégalités, afin de favoriser un rééquilibrage par l’instauration de contrats de travail, de systèmes d’assurance, etc. Ce qui est en train de se passer pour les chauffeurs et livreurs : la requalification progressive des contrats, comme c’est le cas des livreurs à vélo, indique que les outils juridiques existent, en tout cas en France, afin de limiter les dérives. Mais ce n’est pas encore le cas pour les modérateurs du Sud. Par ailleurs, pour ces derniers se pose aussi la question de leur formation aux contextes culturels et aux langues traités. Lorsque les nettoyeurs sont confrontés à un post sur lequel ils n’ont pas de compétence, comme c’est le cas de certains qui relèvent du terrorisme, ils les renvoient aux responsables des plateformes. Il s’agit non seulement du contrôle mais aussi du soutien. Les risques psycho-sociaux sont-ils les mêmes d’un pays à l’autre ? L’accompagnement psychologique qui est possible pour les modérateurs états-uniens n’existe pas dans les pays du Sud. Qui contrôle les contrôleurs ? Il y a une hiérarchie et une opacité des règles de contrôle, une différence en fonction des cultures et des contextes nationaux. C’est pourquoi il faut ramener les modérateurs dans les pays concernés par les contenus à modérer pour qu’ils soient plus à même de les comprendre et pour briser par la même occasion la dynamique d’exploitation Nord-Sud.

CDB : Lors de la journée mondiale consacrée à la censure Internet en 2018, ONG Reporters Sans Frontière (RSF) s’en est pris à Facebook pour « sa collaboration active avec certains États », sa « suppression de contenus journalistiques » et sa « politique opaque de modération des contenus ». Ce documentaire ne nous amène-t-il pas à aussi nous interroger sur l’étroite imbrication du technologique et du politique ? Qu’en pensez-vous, Dominique Cardon ?

Les grandes entreprises du numérique sont des entreprises globales, leur rêve est d’abolir les frontières des nations. En réalité, il y a des liens forts entre les organismes fédéraux américains et Facebook ; il s’agit donc d’une entreprise à la fois globale et américaine, qui diffuse une conception très américaine de la liberté d’expression. Les rapports de force entre États et entreprises numériques ont évolué au fil du temps : le web des pionniers voulait se faire sans les États, mais avec le succès commercial, les grands acteurs du web ont cédé aux exigences des États par rapport aux principes libertaires originels, au départ sous la pression des industries de la culture. Il y a des différences très importantes de législations et de principes selon les pays et selon la nature démocratique ou non des régimes.

CDB : Dans ce documentaire, on voit que les règles de modération imposées par les grands groupes trouvent bien vite leur limite, dès lors que la question de l’art, du journalisme de guerre, de la politique fait irruption. Leur attitude de pouvoir de décision, de vouloir faire l’histoire et d’imposer leur vision de l’histoire n’est-il pas en train d’affecter pas le pluralisme des démocraties (Le Crosnier, 2018) ?

L’intérêt des plateformes est de répondre à nos demandes. C’est pourquoi elles établissent des chartes, qui étaient à l’origine très libérales et qui se resserrent de plus en plus, car on s’indigne de plus en plus et on ne veut plus voir certains contenus. Ces chartes ne sont certes que des règles d’une entreprise commerciales et n’ont pas valeur juridique, mais elles déterminent la prise de parole sur les réseaux socio-numériques. Dans un intérêt commercial, pour répondre à la demande de leurs utilisateurs, les plateformes contribuent à la restriction de la liberté d’expression. Le principal problème est celui de nos pratiques par rapport à la contradiction et aux opinions qui nous déplaisent : on veut de plus en plus faire taire les autres, ce qui se traduit par un réflexe de signalement systématique. Les plateformes co-produisent les chartes avec les utilisateurs, leurs pratiques sont donc en grande partie responsables de cette tendance. Or, pour qu’une société évolue, il y a d’abord besoin d’être en désaccord, puis de discuter pour établir un consensus.

CDB : À la fin de ce documentaire, David Kaye, rapporteur spécial des Nations Unies sur la liberté d’expression, indique que ce lissage des contenus imposé par Facebook, Google, Twitter et YouTube… est en train d’appauvrir notre système informationnel, d’homogénéiser notre façon de penser et d’estomper notre sens critique ? Qu’en pensez-vous ? Est-ce vraiment le cas ? Est-ce une amplification de pratiques antérieures ?

La question de la liberté d’expression et de son traitement différent en Europe et aux États-Unis repose sur deux conceptions différentes. Aux États-Unis, on considère que « les mots ne sont pas des actes », en Europe en revanche, on estime que « les mots sont des armes et qu’ils ont des effets »[4], qu’ils exercent une certaine violence symbolique, qu’ils discriminent, etc. Et l’on voudrait par conséquent faire taire ceux qui les prononcent, ce qui conduit actuellement à un appauvrissement du débat public. C’est aussi un effet de la massification des plateformes : les gens exigent qu’on lisse, qu’on nettoie, ce qui crée une incroyable normalisation. Cela fait aussi partie des demandes sécuritaires de notre société, qui est une société qui a peur. D’une part, il y a un nettoyage systématique de plateformes. D’autre part, les nombreux amendements déposés lors du débat sur la loi Avia (pour ajouter la grossophobie ou l’agribashing à la liste des contenus à supprimer) sont un témoignage de cette terrible pulsion de censure de notre société, qui tend à vouloir faire taire plutôt qu’à essayer de produire un contre-discours.

En outre, l’équilibre délicat entre modération et liberté d’expression devrait être assuré par la loi. Le problème est qu’aujourd’hui, les États et la justice font de l’extrajudiciarisation en confiant aux plateformes privées la tâche d’appliquer des règles de droit, comme le droit à l’oubli, géré par Google, qui déréférence sur demande des personnes qui souhaitent bénéficier de ce droit, ou encore la loi Avia, qui demande aux grandes plateformes de supprimer des contenus manifestement illégaux. Confier l’application du droit à ces acteurs privés n’est pas un dispositif sain. Il est cependant légitime que les plateformes s’adaptent au droit des différents pays, car si ce sont elles qui imposent leurs règles à tous les États, ce serait une situation d’impérialisme intenable. Reste bien sûr la délicate question des États autoritaires, qui divise les entreprises du numérique sur leur présence souhaitable ou non dans ces territoires et sur le degré de collaboration acceptable avec leurs autorités[5]. Du côté français, des experts mandatés par le gouvernement réfléchissent actuellement à un cadre de co-régulation qui s’appuierait sur des procédures de régulation et serait plus pertinent que la situation actuelle. Donner un rôle de vérificateur au CSA est envisagé. À l’échelle européenne, l’adoption du RGPD permet d’entrevoir des possibilités de régulation cohérente. Il s’avère aussi indispensable de réarmer les tribunaux afin de leur donner les moyens d’exercer leur mission, y compris dans l’espace numérique. La portabilité des données vers d’autres plateformes est également possible grâce à la réglementation européenne.

CDB : Peut-on considérer ces hommes et ces femmes, simples exécutants, comme les nouveaux ciseaux (à l’image d’Anastasia, cette allégorie de la censure) de la censure californienne (en respectant les choix aléatoires de ces plates-formes surpuissantes)[6] ? Est-elle trop puritaine ?

À propos de la place des artistes et de leur liberté sur les réseaux socio-numériques, il est vrai que les chartes sont très pudibondes et limitent grandement toute forme d’expression artistique liée à la nudité par exemple[7]. Cela atteint les libertés fondamentales. Mais il faut aussi rappeler qu’il n’y a pas que Facebook et Instagram sur la toile, et les artistes devraient s’en servir pour ensuite amener les gens vers d’autres espaces numériques plus propices à leurs activités. Il y a un débat entre liberté et modération. En France, le rapport XXX entend redonner un rôle de régulateur ou de vérificateur au CSA.

Cécile Dolbeau-Bandin (CERREV, UNICAEN)
Elsa Jaubert (ERLIS, UNICAEN)
Annie Lochon (CERREV, UNICAEN)

---

[1] 10h de travail, 25 000 images, 8 000 posts à consulter par jour, 10 secondes pour prendre une décision…

[2] Voir Antonio Casilli, En attendant les robots. Enquête sur le travail du clic, Paris, Le Seuil, 2019.

[3] Se reporter à la thèse d’Émile Durkheim.

[4] NDLR : voir à ce propos les travaux de John L. Austin dont Quand dire, c’est faire (Paris, Le seuil, Coll. “Points”, 1991).

[5] Voir Félix Tréguer L’Utopie déchue. Une contre-histoire d’internet du XV^ème au XXI^ème siècle, Paris, Fayard, 2019.

[6] Cette purge arbitraire est renforcée dans certains pays comme la Turquie où la censure est importante, la Birmanie où Facebook ne stoppe pas la haine envers les Rohingyas et la rend virale. Cette censure du Web se nourrit de petits arrangements afin que ces plateformes soient présentes dans ces pays.

[7] Voir Marcela Iacub dans De la pornographie en Amérique, Paris, Fayard, 2010. Pour les étudiants de première année, ce titre fait écho à l’ouvrage De la démocratie en Amérique d’Alexis de Tocqueville.

---

---