Hass wird von einer Minderheit geschrieben
Eine neue Studie zeigt, dass Hass von einer Minderheit geschrieben wird. Und das hat Konsequenzen für die Inhaltsmoderation.
In einer neuen Studie zeigen Forschende der ETH Zürich, der Universität Zürich und dem University College London, dass ein kleiner Teil der User:innen für einen Grossteil der online präsenten Hassrede verantwortlich ist. Dies gilt für verschiedene Länder und Online-Plattformen. Die Studie analysiert Millionen von Kommentaren in Schweizer Online-Nachrichtenmedien sowie Tweets aus der Schweiz und den USA. Sie zeigt, dass Hassrede tendenziell von einer relativ kleinen Gruppe entschlossener User:innen produziert wird – ähnlich wie bei der Verbreitung von Desinformation. Die genauen Zahlen variieren zwar je nach Plattform, aber insgesamt sind 5% der User:innen für 83% bis 100% der Hass-Posts verantwortlich. (Das sehen wir auch am Public Discourse Indicator, der auf aktuelleren Daten einiger der gleichen Schweizer Medienplattformen basiert.)
Diese Muster haben auch für die Bekämpfung von Hassrede Konsequenzen. Die Forscher:innen führten 2021/22 ein Feldexperiment auf Twitter (jetzt X) durch. Sie antworteten auf Hass-Tweets mit eigens erstellten Accounts, die verschiedene Gegenrede-Strategien einsetzten. Dabei stellten sie fest, dass Gegenrede die Wahrscheinlichkeit, zukünftig Hass-Tweets zu verfassen, verringert – allerdings nur bei User:innen, die vor dem Experiment weniger häufig Hass verbreiteten. Bei User:innen, die vor dem Experiment allerdings häufiger Hass posteten, war die Gegenrede wirkungslos.
Diese Ergebnisse deuten darauf hin, dass die Muster der Hassproduktion entscheidend für dessen Bekämpfung sind. Insbesondere legen sie nahe, dass Massnahmen zur Inhaltsmoderation bei User:innen, die nur gelegentlich Hass verbreiten, am effektivsten sein könnten. Die hasserfülltesten User:innen hingegen – die fast den gesamten online veröffentlichten Hass produzieren – sind weitgehend resistent, zumindest gegenüber dem in diesem Experiment getesteten sozialen Druck von aussen. Stattdessen könnten bei User:innen, die konsequent Hass verbreiten, gezieltere Interventionen erforderlich sein.
Studie: Gennaro, Gloria et al. (2025). The distribution of hate speech and its implications for content moderation. Political Science Research and Methods.