Dr Good, est-ce qu’on peut soigner la nature humaine ?
Spotlight, Chapitre 2
L’envers du web, décrypté par une chercheuse et un ex-content moderator de FB (Facebook) nous ont incités à nous précipiter au kiosque. Avec leur revue ou livres, Michel Cymes et Frédéric Saldmann peuvent-ils soigner les modérateurs exposés à la méchanceté et à la bêtise ? Ou faut-il se pencher sur des travaux plus sérieux et scientifiques, comme la thèse de Sarah Boujendar ?
La chercheuse américaine Sarah T. Roberts a rencontré, pour la rédaction de son livre, des dizaines de modérateurs, chargés de nettoyer les grandes plates-formes (Facebook, YouTube, etc.) des pires contenus, et entourés d’une culture du secret et a passé huit ans à travailler sur ce sujet: elle a rencontré des dizaines de modérateurs. A partir de ce travail, elle écrit un ouvrage, Behind The Screen (Yale university press, en anglais).
Propos recueillis par Morgane Tual – Le Monde, 11 janvier 2020
Le Monde : Les géants du Web (Facebook, YouTube, Twitter, etc.) sont très réticents à parler de la façon dont ils modèrent les contenus. Pourquoi ?
Sarah T. Roberts : Quand ces entreprises ont été lancées il y a une quinzaine d’années, la dernière chose qu’elles voulaient, c’était d’avoir à prendre des décisions sur le contenu. Elles se concentraient sur les technologies, et se présentaient auprès des pouvoirs publics américains comme faisant partie de la catégorie « fournisseurs d’accès à Internet ». Cela leur a permis d’affirmer que le contenu n’était pas leur cœur de métier, et d’avancer sans qu’on ne leur demande de rendre des comptes. Ce positionnement leur a permis de grandir. Il fallait donc que les décisions que prenaient ces entreprises du Web sur le contenu restent secrètes. Elles vendaient cette idée aux utilisateurs qu’il n’y avait aucune intervention, que vous pouviez vous exprimer sur YouTube ou Facebook sans aucune barrière. Elles ne voulaient pas qu’il y ait un astérisque, elles ne voulaient pas entrer dans les détails. Il y a pourtant eu, dès leurs débuts, des contenus supprimés.
Dans votre livre, vous allez jusqu’à dire que ces entreprises « effacent les traces humaines » de la modération. C’est une formule très forte…
Ces entreprises pensent profondément que les solutions informatiques sont meilleures que les autres, et il y a cette idée chez elles qu’il y aura bientôt une technologie assez forte pour remplacer ces travailleurs. Elles semblent dire « ne nous habituons pas trop à l’idée qu’il y a des humains, c’est juste temporaire ». De plus, si les utilisateurs savaient qu’il y avait des humains impliqués, ils demanderaient des explications. Et ces entreprises ne voulaient pas être responsables de ces décisions. Elles ont donc choisi de rendre ce processus invisible et croisé les doigts pour que les gens ne posent pas trop de questions.
La modération est un travail difficile. Quels sont les risques auxquels sont confrontés ces travailleurs ?
Il y en a plusieurs, à commencer par les risques psychologiques. Les modérateurs à qui j’ai parlé me disaient souvent : « Je suis capable de faire ce travail, des gens sont partis au bout de deux semaines. Mais moi, je suis fort. » Et quelques minutes plus tard, ils me disaient « je buvais beaucoup » ou « je ne veux plus sortir avec des amis, car on parle toujours de travail, et je ne veux pas en parler, et d’ailleurs je n’en ai pas le droit ».
Quand des gens me disent qu’ils ne peuvent pas cesser de penser à une image ou une vidéo qu’ils ont vue au travail, c’est inquiétant. Une femme, qui était modératrice il y a une quinzaine d’années pour Myspace, m’a dit qu’elle n’aimait pas rencontrer de nouvelles personnes et leur serrer la main. « Je sais ce que les gens font, et ils sont ignobles. Je n’ai plus confiance en qui que ce soit. » Il y a aussi d’autres choses difficiles, qui paraissent moins évidentes. Vous devez être très cultivé pour être un bon modérateur, beaucoup ont fait des études de littérature, d’économie, d’histoire, parfois dans des universités prestigieuses. Mais c’est considéré comme un travail de bas niveau, assez mal payé.
Comment les conditions de travail des modérateurs ont-elles évolué ?
C’est difficile à dire, ce sont souvent des conditions de call centers : d’un point de vue purement matériel, c’est relativement confortable. Aux Philippines, des gens travaillent dans des gratte-ciels avec l’air conditionné, ce qui est important là-bas.
(…)
Le témoignage récent d’un ex-salarié de Facebook, publié dans the IrishTimes (le 27 février 2020) corrobore malheureusement en tous points les conclusions de la chercheuse et professeure : Chris Gray a travaillé en Irlande (où les emplois dans la modération sont très nombreux ) chez Facebook, qu’il attaque désormais en justice pour les troubles traumatiques que son travail aurait occasionnés, selon lui : « La nature humaine est affreuse ainsi que les comportements des gens sur le web, c’est ce que mon travail m’a appris », indique le trentenaire pris en photo devant Grant Canal Dock, devant les locaux où est située Facebook. Consacrer sa vie à regarder et scruter des photos, des textes qui peuvent comprendre des messages interdits et se demander s’ils correspondent et sont conformes à une bible de modération aussi dense et longue qu’une encyclopédie, n’est pas sans dégât. Lui comme les autres s’est occupé de gérer la « high priority queue : bullying, hate speech, that has to be dealt withing 24 hours » (la file prioritaire où s’accumulent les contenus haineux, les messages de harcèlement et ceux qui doivent être traités dans les 24 heures). Pour s’y repérer et s’y retrouver, il raconte qu’il pouvait s’appuyer sur 18 docs Powerpoint, chargés de mots censés aider et expliquer ce qui doit être pratiqué, ce qui occasionne une charge mentale réelle et peut-être, ces fameux PTSD (syndrome de stress post traumatique) qu’il attribue à son métier récent. Voir une jeune adolescente malaisienne de 16 ans se suicider parce qu’à la question, qu’elle a innocemment posée sur les réseaux sociaux : should i live or die), 69 % de ses relations ont répondu oui, amène forcément à perdre quelques illusions sur la nature humaine. « People are awful », résume Chris Gray.
Chez Netino (filiale de Webhelp), l’entité spécialisée en modération de l’un des leaders européens de l’expérience client, une charte des mesures pour favoriser le bien-être et la santé des modérateurs est déjà prête et étoffée (voir notre article à ce sujet dans le numéro 114 du magazine), tout comme elle existe cheaz Facebook désormais, qui a formalisé les bons conseils de santé mentale pour les modérateurs que la plateforme fait travailler. Accenture précise dans ses contrats de travail proposés à ses modérateurs que les personnes mises à disposition des agents pour aider à leur santé mentale ne sont pas des médecins.
Est-ce que ce que l’on voit importe et marque plus que ce que l’on entend ?
On s’est rendus au kiosque et à la libraire du coin, pour chercher à découvrir si les magazines ou livres, nombreux, sur la santé de quelques auteurs à succès comportaient des réponses à cette question. Mais ni Dr Good (le magazine où intervient Michel Cymes) ni le dernier ouvrage de Frédéric Saldmann ( tous seront bientôt réunis dans la Pléiade, 3 tomes ) n’ont encore envisagé la question. Moins illustrée de photos, la thèse qu’a rédigée en 2018, Sarah Boujendar, chercheuse au Centre de recherches en management de l’Université de Toulouse sur les effets de l’agressivité des clients sur les salariés de centres d’appels (à découvrir dans le N°115) comporte des pistes de travail sérieuses : le rôle du manager de proximité (le superviseur), l’attachement à l’entreprise qui vous emploie ou la possibilité de licencier un client (le blacklister en raison de son comportement inapproprié) sont des mesures imaginables et mises en place dans les 3 centres d’appels où sa thèse a été réalisée (un prestataire, un e-marchand, une administration). Elles semblent produire leurs effets.
Les 620 pages du premier roman de Pauline Clavière (Laissez- nous la nuit, Grasset) constituent un autre choc sur un autre endroit, véritable angle mort de nos sociétés : la prison. Max Nedelec, ex-imprimeur, y arrive parce qu’il a été un piètre gestionnaire de son entreprise. Ce qu’il va voir, entendre, découvrir et subir dans les douches ou la cour de la centrale est raconté avec une force documentaire et un style impressionnants de maitrise. La fréquentation de Gino ou de Françoise Rosier, avocat commis d’office ou médecin de la prison, du Serbe ou de Tortilla ou bien encore de Marcos Ferreira, codétenus, suggèrent que l’humanité peut perdurer et continuer de couler, comme un petit ruisseau, dans des endroits clos, inhumains et si proches de nous.
Le roman, disait Stendhal, « c’est un miroir qu’on promène le long d’un chemin ».
Sans aucun doute, Pauline Clavière est romancière. Et l’on se met à espérer que Chris Gray puisse lire un jour la traduction de l’ouvrage ou visionner le film qui en sera tiré ? Si les 620 pages du roman vous effraient ( il ne faut pas ), on a pensé à plus bref: un bout de poème, le Coeur Volé.
“Mon triste coeur bave à la poupe, Mon coeur couvert de caporal: ils y lancent des jets de soupe, Mon triste coeur bave à la poupe (…) Prenez mon coeur qu’il soit lavé ! Ithyphalliques et pioupesques, Leurs quolibets l’ont dépravé ! Quand ils auront tari leurs chiques, Comment agir, ô coeur volé ? “ Arthur Rimbaud.
Par Manuel Jacquinet,
et larges extraits d’un article du Monde (Morgane Tual) à découvrir ici.
Photo de Une : Sarah T. Roberts – © DR