"Nous avons décidé d'ouvrir une enquête contre Teleperformance."

La modération, tout le monde en parle, tant mieux. Il n'y aura pas d'internet plus sûr, moins de harcèlement, de désinformation, tant que la haine, les vérités alternatives ou des vidéos de viols et de décapitations seront diffusées et partagées, par millions en quelques minutes seulement. Vous pouvez, si et car vous allez être concernés, tenter de recruter votre Yann Amiry (devenu célèbre chez Décathlon), votre Del Harvey ou Yoel Roth ( qui ont piloté le Trust and Safety chez Twitter) ou vous reposer sur des outils d'automatisation tel Azure AI Content Safety ( Microsoft). Et ça ne marchera pas, ou pas très longtemps. Car tout va très vite, car les instances de régulation n'existent pas encore, car l'automatisation ne fait pas tout. La seule modération de TikTok occupe et nécessite plusieurs dizaines de milliers de content moderators.

Passionné par le sujet, ses enjeux, notre magazine -qui est indépendant :) est parti en reportage et à la rencontre de quelques-uns des acteurs de ce marché. En-Contact organisera en sus, cette année, le 1er colloque sur le Trust and Safety, en France. 

En Colombie, là où le Ministre a décidé de lancer une enquête, sur Teleperformance.

Pour la première fois au monde, une équipe de journalistes a pu aller visiter quelques-uns des centres où sont effectuées certaines opérations de modération, pour les plus grandes plateformes mondiales, les applications les plus consultées : Meta, TikTok, Discord. En-Contact a pu séjourner sur place 48h, avec un photographe et un journaliste, visiter les sites et rencontrer, sans contrôle, les équipes en charge.

Elles sont nombreuses (Teleperformance emploie en Colombie plus de 40 000 salariés), jeunes, et heureuses de travailler sur les sujets qui leur sont confiés. « Rendre l’internet et ces applications que nous apprécions plus sûrs est un enjeu vital et qui donne du sens à notre travail. »

On a eu, après cette visite, le sentiment d’être bien éloignés de l’attaque et du soupçon qu’a jeté sur cette entreprise, dans ce même pays, avec un seul tweet, le vice-ministre du travail, Edwin Palma Egea, en Novembre 2022 : « Nous avons décidé d’ouvrir une enquête contre Teleperformance ». Après ce tweet, le jeudi 10 novembre, le cours de l’action de l’entreprise, membre du CAC 40, chutait de 33,9%.

Les photos ont toutes été prises sur place, à Bogota, dans l’un des deux sites où ces activités sont pratiquées : Auto Norte et Connecta Campus.

Le marché du Trust and Safety ? En pleine explosion
La modération des contenus illicites, dangereux ou illégaux, la vérification des sujets liés à la sécurité, des identités usurpées, ce qu’on appelle désormais le Trust and Safety est un secteur en pleine explosion, qui était évalué à 12 billions d’euros en 2022, en Europe et devrait avoisiner les 32 billions d’euros en 2032.

Il est mal connu, car en pleine mutation, secret, car chacun des prestataires est tenu à des clauses de confidentialité très rigoureuses et parce que les grands donneurs d’ordre n’ont pas forcément envie que soit dévoilée l’arrière-boutique.

La seule chercheuse qui ait pu y consacrer un livre est Sarah T Roberts : Behind the Screen. Content moderation in the Shadows of Social Media (2019) et, au préalable, Tarleton Gillespie, avec Custodians of the Internet (2018).

I saw the worst of humanity
Quelques affaires récentes ont obligé les médias et les autorités de régulation à s’intéresser aux pratiques de modération et aux conditions de travail des modérateurs : en 2019, Daniel Motaung, ex-modérateur chez Sama, un prestataire kenyan, a attaqué en justice son employeur et son commanditaire Facebook, pour esclavage et traite d’humain.

Avant lui Chris Gray, en Irlande avait posé la même question dans The moderator : Inside Facebook’s Dirty Work in Ireland. Le titre de l’article que lui avait consacré The Guardian à l’époque est éloquent : As a Facebook moderator, i saw the worst of humanity. Murder, torture, child abuse : each day we see things that keep us awake at night.

Ce que nous avons vu et entendu à Bogota indique que la réalité des pratiques et du métier n’est pas la même en 2023 qu’il y a quelques années, du moins chez le prestataire visité. Teleperformance a mis les bouchées double, comme l’entreprise sut le faire à la fin des années 1990, quand l’industrie des call-centers a explosé mondialement.

Concentrix+ Webhelp, numéro 2 mondial du BPO, est également lancé sur ce marché. Mais ne nous a pas autorisé à visiter ses sites, en l’absence d’accord obtenu de ses clients. Accenture, Telus, Besedo, PartnerHero, Alorica, autres acteurs du Trust and Safety ont été contactés pour ce dossier et n’ont pas répondu à nos demandes.

Les points clés à connaitre
Le marché du Trust and Safety dépasse de loin les seules activités de modération. L’usage de plus en plus intensif des plateformes et des réseaux sociaux crée des risques et des situations problématiques. De plus en plus de compagnies doivent donc lancer ou revoir leur pratiques de Trust and Safety. On peut et doit modérer des contenus texte, vidéos, des avis clients, des cartes, des commentaires sur des articles, des sondages, du live streaming.

La division T&S emploie mondialement 21749 personnes chez Teleperformance dont 18415 modérateurs, travaille avec 32 clients, dans 37 pays, en 43 langues. L’indice de bien-être, contrôlé via des wellness survey, s’établissait mi- 2023 à 94%.

Exemple de business case : la bataille contre le temps
Les images d’une tuerie, filmée en direct avec une caméra GoPro placée sur le casque du tireur montrent dix morts et trois blessés, tous de race noire. La vidéo a été ôtée en deux minutes par les équipes de modération de Teleperformance. Il avait fallu 17 minutes pour réaliser la même tâche en 2019, lors de la tuerie commise en Nouvelle Zélande. Dans le cas de la tuerie de Buffalo, 22 personnes seulement y ont assisté en direct. Mais des millions l’ont vue depuis, sur internet puisque, en deux minutes, elle a été capturée et rediffusée. Face à cette performance quant au court délai de réaction, Angela Hession, VP Trust and Safety de Twitch a indiqué qu’elle était impressionnée par la réactivité du prestataire Teleperformance.

Des outils dopés à l’IA permettent de réaliser une grande partie de la modération automatique. C’est ce que ces outils ne parviennent pas à modérer, ou sur lequel une décision et une analyse humaine doivent être pris, qui parvient aux Content Moderators.

Le profil, la santé et l’état psychique des modérateurs au cœur du métier et des pratiques
Le recrutement des modérateurs est effectué avec et grâce à une série de tests sophistiqués, comprenant plus de 14 opérations et des tests développés spécifiquement : tests de personnalité, de maitrise des langues, de la capacité de résilience, de probité et dans certains cas, de l’antériorité du passé judiciaire des employés.

Certains de ces tests et outils d’évaluation ont été développés avec Stanford University et des chercheurs en psychologie.
Le très grand nombre de candidatures à traiter impose l’utilisation de bots et l’émission d’appels qualifiés ensuite, auprès des candidats de la liste prioritaire.
16, 5 % des candidats qui remplissent l’Application Form sont finalement recrutés.
Les étapes sont successivement : l’entretien à distance, l’interview, l’assessment center, la proposition de poste.

Le profil des modérateurs en Colombie.
TP emploie sur place plus de 45 000 personnes, dans ses centres de Bogota, Medellin, Carthagène. La moyenne d’âge est de 26 ans ; 46% sont des femmes, 54% des hommes.

Wellness Time Daily : 30 minutes
8 dimensions du bien-être sont prises en compte pour s’assurer de la santé du collaborateur : « emotional, spiritual, physical, social, occupational, intellectual, environmental, financial ». Après avoir testé et comparé différentes techniques, l’activité artistique de peinture est considérée comme l’une des plus efficaces pour distraire les agents et procurer une halte mentale bénéfique. Sur des grandes tables, l’activité est pratiquée et obligatoire, et permet d’obtenir des résultats éloquents. Elle occasionne des échanges soutenus.

Le Wellness Time Daily est de 30 minutes chaque jour, obligatoire.
La journée type d’un modérateur
Refresh training : 15 minutes.
Breaks : 30 minutes (15 min each)
Coaching 1-to-1: 15 minutes.
Lunch: 1 Hour.
Wellness Time Daily: 30 minutes
Production Time : 6,5 heures
Total : 9 heures.

Code mauve, code vert
En cas d’exposition à un contenu considéré comme dangereux ou critique, une sortie du plateau est imposée, dont la durée et les actions consécutives sont codifiées et adaptées au code d’alerte. Un code mauve signifie un degré de gravité distinct d’un code vert, par exemple. Les codes sont rappelés et notifiés à divers endroits des plateaux de production.
Masseurs, psychologues sont présents sur le site, en permanence, un médecin pilotant cette équipe.

La voix des agents, les indicateurs de rétention et de satisfaction des collaborateurs
91% d’entre eux sont satisfaits du bien-être et de la qualité des conditions de travail.
89% d’entre eux se vivent « as Guardians of the Internet ».
Le taux d’attrition sur un an est de 3%.
36% des agents ont une ancienneté supérieure à un an, post titularisation.

«C’est la première fois que j’ai une fiche de paye »
L’une des paroles qui m’a le plus étonné durant mes échanges avec ces jeunes collaborateurs a trait à ce qu’ils m’ont raconté de leurs précédentes expériences professionnelles. Il y avait dans la salles des brésiliens, des argentins, des colombiens et pour nombre d’entre eux, l’une des remarques récurrentes, outre le plaisir qu’ils avaient à travailler sur le sujet des réseaux sociaux était : « C’est la première fois que j’ai un travail déclaré, avec une fiche de paye ». Le continent sud-américain ne ressemble pas à l’Europe. Et ici, je fais un travail utile.

Manuel Jacquinet, photos de Edouard Jacquinet. 

Pour aller plus loin : lire sur En-Contact le précédent reportage et les propos de Andres Bernal, directeur des activités en Colombie.

Lire aussi comment Concentrix+Webhelp collabore avec Wizz.