Trust and Safety, modération des contenus haineux, illicites. Ce que peut faire Concentrix+ Webhelp, ce que va faire En-Contact

On l'a re-constaté en 2023, dans le monde du cinéma, des “grands acteurs” ou sur X (ex-Twitter): toute parole n'est pas normale, audible et l'extrême liberté sans modération ne signifie pas contribution à une bonne information. Gabriel Matzneff ne pourrait plus probablement être invité à Apostrophes, ni être publié pour le récit de ses émois sexuels. Dans le numéro 130 d'En-Contact et son dossier spécial, deux grands prestataires mondiaux du BPO nous expliquent pourquoi le Trust and Safety est décisif, dans de nombreuses activités et pour quelles raisons il faut ne pas tout faire reposer sur l'IA.

Moderatus et des milliers de modérateurs, voilà la proposition du numéro 2 mondial: Concentrix + Webhelp. L'ex-Netino a grandi ! Des français sont en pointe sur la modération, qui l'eût cru ? 

C'est à savoir : En-Contact organisera cette année en France, le 1er colloque consacré au Trust and Safety, aux acteurs, outils et bonnes pratiques pour la modération de contenus. 

17 février 2024 : qu’est-ce qui va changer sur le marché européen à partir de cette date ? Le Digital Services Act (DSA) va entrer en vigueur pour les entreprises moyennes. Rappelons que ce règlement ne s’appliquait - depuis le 25 août 2023 - qu’aux plateformes en ligne et aux moteurs de recherche comptant plus de 45 millions d’utilisateurs dans l’Union européenne. Dans quelques semaines, il va donc s’étendre au reste des plateformes et intermédiaires en ligne proposant des biens, contenus ou services. Et certains sauront en tirer profit.

En 2024, les marques s’appuieront sans doute toujours plus sur des outils automatisés et sur l’IA pour modérer les contenus générés sur leurs plateformes et sur les réseaux sociaux. Ce sera effectivement nécessaire mais probablement pas suffisant ! Ces outils ne sont pas encore infaillibles : ils ne comprennent pas bien l’ironie ou toutes les subtilités du langage et ils ne savent pas détecter les fake news, par exemple. D’où ces ambiguïtés : blague ou insulte ? Premier degré ou second degré ? Soutien marqué ou cyberharcèlement ? Avec de lourdes conséquences pour les entreprises, au niveau juridique ou de l’image de marque !

Pour bien fonctionner, l’IA doit être nourrie et supervisée par des équipes expérimentées. Et ses lacunes ne peuvent être comblées que par des êtres humains, correctement formés, encadrés et soutenus. L’équipe humaine intervient dans ce qui est identifié comme «zone grise» par la machine. En bref, pour répondre aux besoins des marques et aux exigences réglementaires, la solution pertinente en 2024 sera un dispositif IA+humains optimisé, à coût maitrisé.

Dans ce cadre, Concentrix+Webhelp se distingue comme un pionnier, riche de son expérience sur les marchés européens depuis plus de vingt ans. Grâce à cette expérience et à des études statistiques spécifiques, ses équipes analysent les tendances et les comportements des clients français et européens.

La modération de contenus est un atout pour les marques : l’exemple réussi chez Wizz
Concentrix+Webhelp collecte et traite 100% des signalements déposés par les utilisateurs de l’app Wizz, en provenance de vingt pays. Grâce à sa plateforme Moderatus, une interface personnalisée a été mise en place pour permettre aux équipes de modérateurs de traiter de façon optimale les contenus à forte criticité.

L’ensemble des signalements émis par des utilisateurs sur la plateforme est traité par une équipe de modérateurs, qui veille chaque jour de la semaine sur l’application Wizz. Formés avec rigueur, ces modérateurs sont attentifs à la mise en application de directives très granulaires, afin de cibler au mieux les utilisateurs problématiques sur la plateforme. Ces règles ne sont pas figées : elles évoluent constamment pour s’adapter au mieux aux utilisateurs.

Comme en témoigne Aymeric Roffé, CEO de Wizz : «Nous modérons aujourd’hui nos contenus avec succès grâce à Concentrix + Webhelp avec un niveau d’excellence élevé. Wizz et Concentrix + Webhelp ont réussi à cultiver ensemble un partenariat de confiance, en témoigne la croissance qu’a connue le projet sur les derniers mois ».

En conclusion, l’année 2024 sera une année d’opportunités pour les marques qui auront décidé de franchir le pas de façon pro-active, plutôt que de subir les évolutions réglementaires. A condition d’être accompagnées par un partenaire disposant d’une expertise complète, allant de la stratégie à la compliance, en passant par la production.

Les raisons d’externaliser la modération de contenus en 2024
Martin Le Bars, Trust and Safety Solutions Director chez Concentrix+Webhelp

Faire face à une année 2024 chargée. L’année 2024 sera périlleuse pour les entreprises : les nouvelles réglementations entreront en vigueur dès février, et les volumes de contenu concernés vont être élevés, tant sur les plateformes que sur les réseaux sociaux. Quant à la tendance mondiale à publier des contenus haineux, toxiques ou des incivilités, elle tend à augmenter. Face à ces volumes importants et croissants, l’outsourcing sera un bon moyen de réduire rapidement le risque juridique et le risque d’image. Tout en se dotant progressivement d’un modèle de filtrage spécifique à l’entreprise et en éduquant sa communauté.

Faire de la sécurité une valeur pour les clients. Dans un contexte social houleux, les marques les plus visionnaires vont se positionner comme des «safe zone» pour leurs clients. Cette approche sécurisante va répondre à un besoin identifié : plus de 70 % des personnes interrogées* considèrent que le devoir de la marque est de protéger sa communauté de l’exposition à des contenus toxiques. Selon la même étude, le tiers des internautes ferme immédiatement la page face à une contribution haineuse d’un autre internaute. Pour les marques, construire une communauté apaisée est un objectif stratégique pertinent et, à terme, payant... à condition de s’appuyer sur un partenaire très expérimenté et flexible.

Proposer une relation client rassurante en toutes circonstances. La préférence des clients ira aux marques qui ne les laissent pas tomber en cas de coup dur. Certaines plateformes sont exposées à des risques rares mais qui peuvent avoir un impact très négatif sur des clients malchanceux (agression par un livreur, altercation avec un vendeur de la plateforme, etc.). En s’appuyant sur un partenaire qualifié, les marques pourront gérer des situations relationnelles rares mais à haut risque de bad buzz.

Créer un cycle vertueux d’amélioration du bien-être et de la productivité des modérateurs. Le bien-être de nos équipes de modération est au cœur de nos actions. «Le travail de nos équipes de modération est de protéger les utilisateurs des contenus toxiques ou perturbants, et notre travail est de protéger nos équipes», résume Martin Le Bars.
Au quotidien, le bien-être des modérateurs est une clé de succès. Pour cela, les équipes bénéficient d’outils de modération efficaces (filtres, alertes de comportement inapproprié, systèmes de signalements rapides...) et de protocoles clairs et adaptés à la gestion des situations critiques.

* études réalisées en 2023 et portant sur plus de 188 millions de contenus publiés par des utilisateurs de réseaux sociaux.

Pour aller plus loin: 

Des dispositifs complets, plus ou moins ambitieux et récemment revus sont en place chez quelques grands acteurs. 

1/ Chez Concentrix+Webhelp.
Pour créer un cycle vertueux d’amélioration du bien-être et de la productivité des modérateurs, un dispositif complet est en place :

les sites Concentrix+Webhelp opérant des activités de modération de contenu sont audités par la société de certification SGS,

une hotline d’assistance psychologique 24/7 est disponible,

une solution de suivi de la santé mentale des agents est en place (People Analytics),

une collecte de données médicales est proposée, via Wellbot, sur la base du volontariat (ces données n’étant pas communiquées à Concentrix+Webhelp).
2/ Chez Teleperformance.

Lire ici et le dossier complet, dans le numéro 130

D'autres acteurs intervenant sur ce marché ont été sollicités et n'ont pas répondu à notre proposition d'aller rencontrer leurs équipes ou de visiter leurs sites dédiés. Accenture, Besedo, Telus, PartnerHero.