Direkt zum Inhalt

Countering hate on social media: Large scale classification of hate and counter speech

2020
Countering hate on social media
Themen
Empirische Studien
Maßnahmen gegen Hate Speech
eprint arXiv
Joshua Garland, Keyan Ghazi-Zahedi, Jean-Gabriel Young, Laurent Hébert-Dufresne, Mirta Galesic
13 Seiten
kostenlos

Hasserfüllte Rhetorik belastet den Online-Diskurs, fördert extreme gesellschaftliche Bewegungen und führt möglicherweise zu Gewalt in der realen Welt. Eine mögliche Lösung für dieses wachsende globale Problem ist die von Bürgerinnen und Bürgern erzeugte Gegenrede, bei der sie sich aktiv an hasserfüllten Gesprächen beteiligen, um zu versuchen, den zivilen, nicht-polarisierten Diskurs, wiederherzustellen. Ihre tatsächliche Wirksamkeit bei der Eindämmung der Ausbreitung von Hass ist jedoch unbekannt und schwer zu quantifizieren. Ein Haupthindernis bei der Erforschung dieser Frage ist der Mangel an großen, gekennzeichneten Datensätzen für die Ausbildung automatisierter Klassifikatoren zur Identifizierung von Gegenreden. Hier machen sich die Autoren eine in Deutschland einzigartige Situation zunutze, in der sich Gruppen in organisierter Gegenrede engagierten. Wir verwendeten einen Ensemble-Learning-Algorithmus, der eine Vielzahl von Absatzeinbettungen mit regularisierten logistischen Regressionsfunktionen paart, um sowohl Hass als auch Gegenrede in einem Korpus von Millionen relevanter Tweets dieser beiden Gruppen zu klassifizieren. Unsere Pipeline erzielte Makro-F1-Ergebnisse bei ausgewogenen Testsätzen aus einer Stichprobe von 0,76 bis 0,97 - eine Genauigkeit, die dem Stand der Technik entspricht und diesen sogar übertrifft. Bei Tausenden von Tweets nutzten wir Crowdsourcing, um zu verifizieren, dass die vom Klassifizierer getroffenen Beurteilungen eng mit dem menschlichen Urteilsvermögen übereinstimmen. Anschließend nutzten wir den Klassifikator, um Hass und Gegenrede in mehr als 135.000 voll aufgelösten Twitter-Gesprächen zwischen 2013 und 2018 zu entdecken und ihre Häufigkeit und Interaktion zu untersuchen. Insgesamt verdeutlichen unsere Ergebnisse das Potenzial automatisierter Methoden zur Bewertung der Wirkung koordinierter Gegensprache bei der Stabilisierung von Gesprächen in sozialen Medien.

Zur Übersicht
Zur Übersicht

Deine Publikation ist nicht dabei? Dann schick' uns doch bitte mehr Informationen darüber!

zum Kontaktformular
zum Kontaktformular
zum Newsletter
Newsletter-icon

Du willst zum Thema "Hass im Netz"
auf dem Laufenden bleiben?

Dann abonniere unseren
DAS NETTZ-Newsletter.