Le discours de haine est publié par une minorité de personnes

Dans une nouvelle étude, une équipe de recherche de l'EPFZ (ETH Zürich), de l'Université de Zurich et de l'University College London démontrent qu'une petite part d'utilisateurs et d'utilisatrices est responsable d'une très grande part des discours de haine présents en ligne, un constat qui se vérifie dans différents pays et sur diverses plateformes en ligne. L'étude analyse des millions de commentaires sous des articles de médias en ligne suisses ainsi que des tweets provenant de Suisse et des États-Unis. Elle révèle que les discours de haine tendent à être produits par un nombre relativement restreint d'utilisateurs et utilisatrices déterminé-es, un schéma similaire à celui de la production de la désinformation. Bien que les chiffres exacts varient selon la plateforme, globalement, 5 % des utilisateurs-trices sont responsables de 83 % à 100 % des contenus haineux. (Cela reflète également les tendances observées sur le Public Discourse Indicator, qui repose sur des données plus récentes provenant de certaines des mêmes plateformes médiatiques suisses que cette étude.)

De plus, ces schémas ont des conséquences sur la manière de contrer la haine en ligne. L'équipe a mené une expérience de terrain sur Twitter (désormais X) en 2021-2022, répondant aux tweets haineux via de comptes (sock-puppets) spécialement créés et employant différentes stratégies de contre-discours. Ils ont constaté que le contre-discours permettait de réduire la propension des utilisateurs-rices à publier des tweets haineux à l'avenir, mais uniquement pour les relativement moins haineux, c'est-à-dire celles et ceux qui publiaient moins souvent de la haine avant l'expérience. Pour les utilisateurs-rices qui étaient les plus haineux avant l'expérience, le contre-discours s'est avéré inefficace.

Ces résultats indiquent que les modèles de production des discours de haine sont déterminants pour la manière de les combattre. En particulier, ils suggèrent que les efforts de modération des contenus peuvent être plus efficaces auprès des personnes qui ne publient qu'occasionnellement de la haine, tandis que les personnes les plus haineuses – qui produisent la quasi-totalité de la haine en ligne – restent largement réfractaires, du moins aux types de pression sociale exercée par des tiers testés dans cette expérience. Par conséquent, les utilisateurs-rices persistant-es dans leur haine pourraient nécessiter des interventions plus ciblées.

Référence de l'étude : Gennaro, Gloria et al. (2025). The distribution of hate speech and its implications for content moderation. Political Science Research and Methods.