Comprendre les mécanismes de production et de diffusion des discours de haine ne peut se faire sans s’intéresser aux réseaux sociaux, devenus le canal privilégié d’expression des propos haineux. En quoi et pourquoi les réseaux sociaux favorisent-ils les discours de haine? Comment fonctionnent les politiques de modération de contenus et quelles en sont les limites? La chercheuse Leïla Mörch livre ici des éléments de réponse.
Leïla Mörch
Directrice générale de la Fédération Francophone du Futur
Dominique Boullier, chercheur et professeur à SciencesPo, s’est spécialisé dans l’étude des propagations. Il vient d’ailleurs de publier récemment une histoire de la propagation(1), étudiant le phénomène dans des domaines aussi diversifiés que l’information, la santé (virus), la finance, la politique… Il montre dans quelle mesure les mécanismes de propagation jouent un rôle essentiel dans la circulation des discours en ligne, notamment des discours de haine, et comment ces mêmes mécanismes peuvent être étudiés au temps du numérique grâce à la traçabilité très fine des réseaux sociaux.
Il explique que pour se diffuser sans s’éteindre, l’élément qui se propage doit être capable de muter. La mutation devient alors l’élément déclencheur de la propagation massive. Dans le cas des discours de haine, c’est exactement ce principe qui est à l’œuvre. Le ou les messages initiaux sont repris, republiés, commentés, transformés, réappropriés, et c’est cette réactualisation massive qui donne sa force au mouvement de haine en ligne.
La puissance du discours
Un terrible exemple de cette analyse est l’assassinat de Samuel Paty. Tout est parti d’un mensonge oral, source directe d’un crime, après un mécanisme de réappropriation par différents individus (les parents de la fille, la communauté, le terroriste…).
La propagation a ici eu une issue dramatique, et montre comment celle-ci est capable de changer de support, passant du « en ligne » au « hors ligne » sans difficulté. Cet exemple illustre également la mécanique infernale entre le discours et le passage à l’acte. Car si celle-ci ne se fait jamais de manière linéaire, elle n’en est pas moins accablante par sa puissance.
Si les mécanismes de diffusion de la haine ne sont pas apparus avec l’ère de l’internet, la différence majeure apportée par les mécanismes de diffusion apparus avec le numérique est de transformer la matérialisation de cette haine. Le monde numérique, et a fortiori celui des réseaux sociaux, produit l’effet d’un miroir déformant. Il n’y a pas d’émergence d’un monde plus haineux, mais une mise en avant plus forte, régulière et amplifiée des porteurs de haine.
Un flux ininterrompu de contenus
Quelques chiffres permettent de nous rendre compte de la quantité de contenus circulant en ligne chaque jour:
- Twitter : 500 millions de posts par jour
- YouTube : 300 heures de vidéos par minute
- Facebook Messenger : plus de 100 milliards de messages par jour
- TikTok : 30 millions d’utilisateurs actifs par jour
Tous ces échanges sont loin d’être des messages de haine. Ceux-ci représentent même une toute petite proportion du total. Mais le flux continu et toujours grandissant permet une dispersion rapide de ces contenus haineux. À cela s’ajoutent les outils numériques modernes comme la création de « bots » (abréviation de robots) permettant le partage à des milliers de personnes d’une information ciblée (par exemple lors de la campagne de Trump aux Etats-Unis, de nombreux « bots » envoyaient des milliers de messages personnalisés aux électeurs). Il y a alors une surdose de contenus qui « noie » l’information de qualité.
Le modèle économique cause de propagation
Au-delà de l’immense quantité de contenus, un autre facteur responsable de la surdiffusion de la haine en ligne est le business model des réseaux sociaux. Les réseaux sociaux fonctionnent sur le modèle de l’économie de l’attention et de l’engagement. Cette économie existe depuis aussi longtemps que la publicité existe et a été largement exploitée par les journaux et la télévision. Elle est la raison de l’immense croissance des réseaux sociaux : ceux-ci sont des plateformes de vente d’espaces publicitaires. Elles vendent aux marques l’assurance qu’un utilisateur passera un temps minimal à regarder une annonce, voire à cliquer. Pour permettre cela, les plateformes récoltent des données en masse (localisation, réactions, emojis utilisés pour collecter l’émotion, régularité de connexion etc).
Plus elles récoltent de données, plus fiable est l’analyse, plus cher est vendu l’espace publicitaire. C’est pourquoi les plateformes font tout pour maintenir notre attention sur leur application le plus longtemps possible. Les algorithmes sont programmés pour maximiser notre attention. Mais ce qui engage le plus un humain de nos jours est le sensationnel, le grotesque, l’outrageux. Les algorithmes ne sont nullement programmés pour favoriser la haine en ligne, mais celle-ci fait partie des choses créant le plus d’engagement. Les mécanismes de haine trouvent donc un terrain fertile sur les réseaux sociaux, même si cela évolue suivant les plateformes et le design de leurs algorithmes.
Quand vous connectez 2 milliards de personnes vous voyez à la fois la beauté et la laideur de l’humanité »
Mark Zuckerberg, fondateur de Facebook
Comment lutter ?
Pour commencer, il est difficile voire impossible de lutter contre le « bad speech » par le « good speech ». Comme le disait Churchill, « Lies can travel halfway around the world when truth only got its boots on » (2). Le meilleur moyen à court terme est la modération des contenus. Celle-ci permet d’effacer des plateformes les contenus les plus problématiques, par des moyens humains (modérateurs) ou technologiques (intelligence artificielle).
Sauf que cette modération a un aspect « cosmétique ». Retirer la haine en ligne ne retire pas la haine de son auteur. Elle favorise également l’émergence de canaux de discussion alternatifs, comme la messagerie Telegram, plus difficiles à modérer. Enfin, la modération de contenus à grande échelle peut avoir un effet contre-productif. Aux Etats-Unis, le retrait des contenus de personnalités politiques d’extrême droite a invisibilisé aux yeux des Américains le racisme et la haine dont l’extrême droite pouvait parfois faire preuve. Cela les a rendus « moins mauvais » aux yeux des citoyens qui n’étaient pas confrontés à la réalité de leurs propos.
Il apparaît alors qu’un des moyens les plus efficaces de lutter contre la haine en ligne est de se concentrer sur ce qui l’impacte le plus fortement : la crise démocratique et sociale de nos pays et le modèle économique des plateformes. En effet, cette haine est le reflet d’une crise profonde de nos sociétés, d’une individualisation galopante, d’une perte du sens sociétal. Sa circulation en ligne est dopée par des plateformes qui, par leur design, favorisent les contenus plus sensationnels, clivants, faisant appel aux émotions. Questionner ces deux problèmes à la racine aura, à moyen et long terme, un effet significatif sur la circulation de la haine, et en fin de compte, un effet plus grand que la course à une modération de contenus toujours plus complexe.
(1) Dominique Boullier, Propagations. Un nouveau paradigme pour les sciences sociales (ArmandColin,2023)
(2) « Les mensonges auraient déjà parcouru la moitié de la planète, tandis que la vérité aurait tout juste enfilé ses bottes. »
