Chercheuse et enseignante en sciences de l’information à l’Université de Californie, Sarah T. Roberts a enquêté durant plusieurs années sur les dessous de l’Internet. Elle s’est intéressée à la modération commerciale de contenu, son organisation et ses conséquences. Une matière qu’elle a compilée dans l’ouvrage Derrière les écrans, paru aux éditions La Découverte.
C’est la face cachée des applications mobiles et des plateformes en ligne, et notamment des réseaux sociaux. Dès lors qu’un utilisateur adresse un signalement de contenu inapproprié lors de sa navigation, une personne affectée à cette tâche est chargée d’en vérifier la teneur et, éventuellement, de le supprimer. Cet acte loin d’être automatisé repose sur des bataillons de travailleurs dont on ignore à peu près tout. Avec Derrière les écrans, Sarah T. Roberts lève un coin de voile sur ceux qu’on appelle tour à tour modérateurs, administrateurs ou gestionnaires de contenus. Elle se penche sur leur statut, leurs conditions de travail et leurs ressentis.
Ce qu’il faut bien comprendre, c’est que notre expérience socio-technologique est déterminée par la modération commerciale de contenu. En censurant des publications, vidéos ou commentaires jugés problématiques, les modérateurs se livrent à une expurgation qui influe directement sur les éléments visibles aux yeux des internautes. Le Web est donc loin d’être cet espace de liberté absolue promu à ses débuts. La modération répond d’ailleurs à des objectifs très hétérogènes : respecter la charte d’une plateforme, veiller à assurer à chaque utilisateur une navigation agréable, se conformer aux lois régissant les publications en ligne, préserver l’image de marque d’une entreprise… Le gestionnaire doit dès lors comprendre la langue employée par les utilisateurs, le contexte de publication, le mode de fonctionnement de la plateforme qui l’emploie et la culture des internautes exposés aux contenus afin d’exercer son travail de modération de façon pertinente et mesurée.
Pourtant, comme le révèle Sarah T. Roberts, « ceux à qui l’on confie ces tâches ont, bien souvent, un statut et un salaire très inférieurs à ceux des autres travailleurs de l’industrie technologique, avec qui ils partagent parfois les mêmes bureaux ». La modération commerciale de contenu est en effet un travail ingrat, souvent externalisé et précaire, parfois confié à des sous-traitants, des centres d’appels ou des plateformes de micro-travail rémunérant leurs prestataires à la tâche. Ces gestionnaires souvent mal payés et déconsidérés, parfois esseulés dans leur activité quand ils sont micro-travailleurs, ont pourtant une importance capitale. Ils traitent à un rythme effréné des milliers de publications pornographiques, racistes ou brutales. Sarah T. Roberts le résume en ces termes : « Ces plateformes engagent donc des modérateurs de contenu pour exécuter des tâches aussi banales et répétitives qu’abrutissantes, qui les exposent à des images et à des contenus pouvant être violents, dérangeants, voire psychologiquement traumatisants. »
C’est un versant essentiel de Derrière les écrans. Les modérateurs interrogés par Sarah T. Roberts sont souvent prisonniers de séquelles psychologiques matérialisées par l’impossibilité de se détacher émotionnellement de leur travail. Des images obsédantes peuvent par exemple les tirailler ou les pousser à se replier sur eux-mêmes. On manque malheureusement de données – et de recul – sur les souffrances occasionnées par une exposition prolongée à du contenu sensible. Pédophilie, menaces de suicide, propos offensants, images terroristes ou de guerre : longue est la liste des éléments horrifiants soumis au jugement des modérateurs – lesquels aboutissent parfois, in fine, aux mains des autorités compétentes, sans qu’ils sachent quelles suites leur sont données.
Cette souffrance psycho-socioprofessionnelle explique peut-être le système de rotation mis en place par certaines firmes. Sarah T. Roberts a ainsi rencontré des interlocuteurs dont les contrats ne couraient que sur douze mois, renouvelables une fois après trois mois d’arrêt. Avec le temps, confesse un modérateur, s’instaurent en outre une forme de lassitude et des performances amoindries. Le recours par des sociétés technologiques à des prestataires externes (oDesk pour Facebook, par exemple) ou à l’outsourcing dans des pays exotiques comme les Philippines, pourvus de zones économiques spéciales et d’infrastructures privées adaptées à leurs besoins, leur permet par ailleurs de se dédouaner des conséquences directes du travail de modération. C’est peut-être cela, l’invisibilisation, qui constitue la principale menace pour les gestionnaires de contenu.
Derrière les écrans, Sarah T. Roberts
La Découverte, octobre 2020, 264 pages