TikTok, X/Twitter, Meta et YouTube pris en flagrant délit de modération lacunaire

“Female stupidity at its best. They all need to die”. Afin d'éprouver la réalité des pratiques de modération des contenus haineux ou dangereux et l'inefficacité relative des outils et algorithmes de modération automatique, un média et un centre de recherches juridiques africains ont soumis pour publication dix annonces dangereuses et violentes, assorties de vidéos, sur des plateformes et réseaux sociaux de référence, en Afrique du Sud. Ces annonces ont été largement acceptées (approved) en moins de 24h, malgré la nature de leur contenu.

Si les fact-checkers ne les avaient pas immédiatement supprimées, elles auraient été diffusées sur les plateformes concernées. 

Meta et TikTok les ont approuvées en 24h. 

YouTube les a également approuvées, mais a taggué 21 d'entre elles avec la mention limited status. 

X/Twitter les a également approuvées. La paire d'organisations qui a mené ce test a supprimé ensuite ces annonces, dès lors qu'elles avaient reçu l'approbation des plateformes, avant leur diffusion, mais après avoir conservé la preuve de leur approbation formelle.

Le test mené par Global Witness et The Legal Resources Centre a été conduit dans un pays, l'Afrique du Sud, qui va, comme 65 autres pays dans le monde, connaitre des élections en 2024. Les annonces étaient rédigées dans quatre langues: l'anglais, l'Afrikaans, le Xhosa et le Zulu. Les contenus en étaient explicites et évoquaient les femmes en les qualifiant de “ prostituées, de psychopathes, de vermines et recommandent de les battre ou tuer”. Il a démontré que “les outils pilotés par l'IA de modération automatique ne sont pas complètement efficaces, quand bien même les annonces ou vidéos seraient explicites. Que les réductions menées de personnel affecté pour assurer ces missions sont dangereuses”

Les porte-parole de Meta, TikTok ont répondu après que Global Review les a sollicités et ont reconnu la faille, ou qu'une opération, menée par un modérateur, qui avait approuvé le contenu contrairement à l'algorithme, était une erreur. Google et X/ Twitter n'ont pas répondu.

Le continent africain est au coeur de nombreux chantiers et batailles concernant les opérations de Trust and Safety, comme nous l'avons raconté au printemps, ici.

Dans le numéro 130 d'En-Contact, l'épisode 1 de notre nouvelle rubrique: Trust and Safety, by En-Contact/ Reportage en Colombie, chez The Guardians of the Internet ( Teleperformance). Impressionnant. Et le témoignage de Concentrix+ Webhelp, autre acteur du BPO, qui explique ce qu'elle fait pour Wizz (Voodoo). La discrétion d'Accenture sur ses activités, pourtant significatives, dans ce secteur, aux Philippines.