Trust and safety, modération des contenus haineux, illicites. En-Contact en Colombie.

Les activités de Trust and Safety, qui intègrent la modération de contenus illicites ou dangereux, sont en pleine expansion. Le marché est estimé en Europe à 12 billions d'euros en 2022, à 36 billions en 2032.

En-Contact publiera, à compter de son numéro de décembre, et dans chaque numéro désormais du magazine, une double page d'actualités sur ce segment du BPO où s'illustrent déjà Teleperformance, Majorel, Telus, PartnerHero, Accenture, Alorica.

Dans le numéro 130, en décembre.

C'est en Colombie que le premier reportage nous emmènera, chez The Guardians of the internet, comme se dénomment là-bas les équipes jeunes, sérieusement recrutées et formées. Notre guide chez Teleperformance y a été Paola Maggiorotto. une italienne passée par Meta, heureuse de vivre désormais au soleil, après avoir longtemps vécu en Irlande.

Retour sur quelques évènements de l'année 2023, en Afrique. Chez Sama, Majorel

Presque cinquante ans après le conflit au Vietnam, qui s'est révélé un cauchemar pour les USA, les services de  modération ( content moderation) et la “guerre” qu'il faut engager pour assurer la santé psychologique des soldats-modérateurs, vont-ils devenir, pour les géants américains de la Tech et leurs sous-traitants, l'équivalent du Vietnam ? Quand plus personne ne voudra, ne pourra assurer de la modération, comment surfer sur TikTok, Facebook, accéder à son fil d'informations ? C'est au coeur du continent africain que la question est posée récemment. 

C’est une triple peine que semblent subir les ex-salariés de Sama en charge jusque là de la modération de contenus pour le compte de Meta. Leur employeur a perdu, en janvier 2023, son contrat de sous-traitance pour la société américaine, propriétaire de Facebook. Ils peineraient à retrouver du travail chez Majorel, autre spécialiste du BPO en content moderation, qui les aurait placés sur une liste noire, mais c'est probablement pour se conformer à une décision de justice locale que Majorel n'engage pas les ex-salariés de Sama. 

De plus, bon nombre de ces 260 salariés indiquent que passer sa journée à voir des personnes décapitées provoque des effets nocifs sur leur santé mentale, presque comme une addiction : « Lorsque vous arrivez à un certain point, après avoir vu cent décapitations, vous en venez à espérer que la prochaine sera encore plus horrible » a déclaré l’un d'eux au Financial Times. 

Sama a perdu son contrat avec Meta.

Comme Brownie, jeune Sud-africain qui a été embauché par l’entreprise de San Francisco pour travailler sur le centre de Nairobi, plus de 184 salariés de Sama ont décidé d’attaquer en justice Meta, ce qui en fait la plus importante action judiciaire menée par des ex-modérateurs, hors des USA. Mercy Mutemi, l’une des avocats de ces modérateurs, espère faire parvenir à modifier durablement les conditions de travail proposées aux 15000 modérateurs qui travaillent dans le monde, ce chiffre étant très certainement sous estimé.

Majorel, qui a repris le travail de modération de Facebook après Sama, aurait inscrit ces travailleurs sur une liste noire.

Pour les modérateurs licenciés, la bataille est loin d'être terminée. Après des années de brimades et d'intimidations de la part des grandes entreprises technologiques, les modérateurs disent "notre travail compte, nous en avons assez d'être traités comme un sale secret, et ensemble nous pouvons forcer le changement", a déclaré, à Rest of World, Cori Crider, cofondatrice de Foxglove, une organisation à but non lucratif qui milite pour la justice dans le domaine de la technologie. Le cabinet de Crider fournit des services juridiques aux modérateurs de contenu de diverses entreprises de médias sociaux depuis 2019. En mars, Foxglove a rapporté que certains des anciens employés de Sama avaient postulé pour des rôles similaires chez Majorel, la société chargée de prendre en charge la modération de contenu en Afrique pour Meta. Mais les travailleurs affirment que toutes leurs candidatures ont été rejetées. De nombreux modérateurs de Sama ont postulé pour les "nouveaux" postes chez Majorel, postulant en fait à nouveau pour les emplois qu'ils occupaient déjà. Malgré leur expertise et leur expérience évidentes, ils n'ont pas été retenus", écrit Foxglove. La situation semble plus complexe que ceci: du fait de décisions temporaires de la justice locale, Majorel (qui doit prochainement être acquise par Teleperformance) est en partie empêchée par les contenus des décisions de justice d'interférer dans la fin de contrat entre Sama et son client, jusqu'à l'issue finale des procès. Ceci pourrait expliquer la précaution prise. Les défenseurs des ex salariés de Sama indiquent que les conditions de travail seraient encore moins bonnes chez Majorel, d'un point de vue salarial et support psychologique.  

« It’s been tough for us »

Kauna Malgwi, 29 ans, fait partie des anciens employés de Sama dont la vie est actuellement suspendue. Psychologue clinicienne de formation, Kauna Malgwi a travaillé chez Sama pendant quatre ans, à partir de 2019. Son travail consistait à examiner et à signaler les contenus qui violaient les lignes directrices de Facebook, consignées dans ce qui est appelé une bible de modération. Elle commençait généralement sa journée à 7 heures du matin, passant au crible des milliers de posts quotidiens, dont beaucoup contenaient des contenus dérangeants telles que des vidéos montrant des meurtres, des accidents de la route, des viols, des décapitations et des suicides. Elle gagnait environ 600 dollars par mois. Cinq mois après avoir perdu son emploi, Malgwi a déclaré à Rest of World qu'elle continuait à lutter contre des problèmes de santé mentale liés à son travail de modération. "Vous pouvez imaginer ce que cela vous fait de regarder des vidéos de suicide pendant quatre ans. Dès la formation initiale, j'ai commencé à souffrir d'anxiété et de crises de panique", a-t-elle ajouté. J'ai sombré dans la dépression, et je lutte encore aujourd'hui contre cette maladie et l'anxiété. J'ai vu un homme violer un enfant de deux ans. Vous devenez paranoïaque après avoir regardé de tels contenus. Cela affecte d'autres relations dans votre vie, la manière dont vous vous socialisez et dont vous avez des relations avec les gens." 

Le 1er mai, Mme Malgwi faisait partie des quelque 150 professionnels de toute l'Afrique qui se sont réunis à Nairobi pour s'engager à créer l'Union des modérateurs de contenu africains. Cette initiative a pour but de négocier collectivement de meilleures conditions d'emploi et de travail avec les entreprises sous contrat avec des sociétés telles que Meta, ByteDance (TikTok) et OpenAI. Cette initiative a été considérée comme une étape décisive, les précédentes tentatives de syndicalisation des modérateurs en Afrique ayant échoué. 

En mai 2022, Daniel Motaung, un ancien modérateur de Facebook, a poursuivi Meta et Sama au Kenya. Il a affirmé avoir été licencié à tort par cette dernière en 2019 alors qu'il tentait de créer un syndicat pour réclamer de meilleures conditions de travail. "Je pense que je n'ai pas été aussi heureux depuis longtemps", a déclaré Malgwi, faisant référence à la création du syndicat. "Ce syndicat est très important pour nous, car nos droits seront protégés. La plupart d'entre nous sont jeunes, entre 20 et 30 ans. Nous avons des amis et des membres de notre famille qui pourraient se retrouver dans cette industrie. Il s'agit de protéger la prochaine génération. Cela permettra aux modérateurs de s'exprimer, de faire face aux traumatismes. Ce sera un bouclier et une couverture pour nous". 

Après les Philippines, la Colombie, Malte, l'Afrique.

“Le continent africain est au coeur de l'avenir du BPO et des services digitalisés, car on y trouve des collaborateurs bien formés, multilingues et intéressés et doués pour ces métiers,” indique Manuel Jacquinet, l'organisateur de l'Africa BPO Forum. “Ce qui est marquant dans cette action, c'est précisément que les modérateurs, tout comme avant eux les télé-vendeurs ne se battent pas pour faire un autre métier ou l'abandonner forcément, mais pour en vivre dignement et que les contraintes associées à ces postes soient reconnues, prises en compte. Daniel Julien, le fondateur de Teleperformance, a indiqué récemment et justement qu'il y aurait des policiers dans le métavers. Ces policiers sont désormais en partie africains, ils veulent être considérés et “armés”.

Les contrats de prestation, critères ESG au coeur du sujet. Et/ou la schizophrénie des consommateurs ?

Les annonces de recrutement et les témoignages faits lors des audiences des procès récents permettent de mieux comprendre ce qui est en jeu et à l'oeuvre: les grandes compagnies de technologie ou gérant des réseaux sociaux, voire celles de médias, ne peuvent se passer de modération, d'indexation des contenus. Elles doivent le faire dans des langues nombreuses, voire des langues vernaculaires, telle le Hausa Language (Haoussa), une langue tchadique très répandue en Afrique de l'Ouest et centrale. Pas d'audience locale au Nigéria sans modération, création de contenus, indexation. Il leur faut donc trouver des prestataires globaux, installés dans tous ces pays et dont les investissements en locaux, en technologie et dans l'amélioration des conditions de travail-dont le soutien psychologique- doivent s'amortir. C'est le sens de la déclaration d'un des directeurs locaux du site africain de Majorel. Dans le même temps, certains prestataires, avertis désormais de la complexité du métier de modérateur, préfèrent se spécialiser sur des niches telle la computer vision data annotation, très utile pour les programmes fonctionnant avec de l'IA (c'est le choix annoncé par la direction de Sama).

Or, pendant ce temps, investisseurs et actionnaires imposent à ces compagnies d'outsourcing de respecter des critères ESG, comme on l'a vu après la perte de valeur en Bourse brutale du leader mondial, à l'automne 2022. “Sama is fired, its replacement by Majorel is no better. It's the dirty secret to how your newsfeed stays clean,” résume avec justesse un témoin local.

Installé au Togo, au Bénin, au Cameroun, notamment, le fondateur de Vipp-Interstis, Charles-Emmanuel Berc a probablement raison lorsqu'il déclare que l'Afrique ne va pas souffrir de l'intelligence artificielle et des nouveaux services digitaux généraux: “Elle va devenir l'un des hubs majeurs”.

La rédaction d'En-Contact.

NB: Majorel, joint hier soir par nos soins, n'a pas encore fait de retour ou de commentaires à notre rédaction. Sources : En-Contact, Martin K.N Siele (Rest of World), Financial Times, témoins locaux et ex-modérateurs de quelques-unes de ces compagnies.