Twitter und Co. versagen bei Hatespeech – nun wollen es Forscher richten, per Algorithmus

Der Eindruck, Facebook und Twitter versagten beim Thema Hatespeech, trügt nicht. Die Timelines und Kommentarspalten sind heute voll von herabwürdigendem, sexistischem, rassistischem Müll. Unter anderem haben gesellschaftspolitische Entwicklungen der letzten Jahre und eine erstarkte Neue Rechte dazu beigetragen, dass Klarnamen-Trolle fast schon zu einem Massenphänomen geworden sind.

Weil die Social-Media-Kanäle trotz ihrer Algorithmen und angeblichen Heerscharen an Moderatoren damit nicht klarkommen oder besser: ihr gesellschaftspolitisches Gewicht und die damit verbundene Verantwortung einfach nicht genügend anerkennen wollen, soll es in Zukunft ein besserer Algorithmus richten. So zumindest die Hoffnung einiger Forscher an der Freien Universität Berlin (FU). Zusammen mit der Beuth Hochschule und dem Unternehmen Vico bauen die gerade ein Programm, dass Hatespeech immer erkennen soll.

Das Sudentenmagazin der FU berichtet, dass es sich dabei um ein Machine Learning-Modell handelt: Kommentare, Posts und Tweets werden sozialwissenschaftlich ausgewertet, das Programm wird dann mit den Daten gefüttert. Am Ende soll das Programm Hatespeech immer besser und automatisiert erkennen können. So soll ein Tool stehen, dass Community Managern dabei helfen soll, all den Müll schneller aufzuspüren und einzuordnen.

Das Prinzip Machine Learning ist daher wichtig für eine erfolgreiche Anwendung, weil die KIs, die von den Plattformen bereits benutzt werden keinen Kontext erkennen können – ändert sich die Sprache der Trolls, fallen sie durch den Filter.

Problem: Unis und ihre Forscher sind nicht gerade dafür bekannt, ihre Ideen gut vermarkten zu können. Oft genug wird am Ende eines Forschungsprojekts ein Paper in einem Fachjournal publiziert, dass gefühlt drei Leser hat – und das war’s dann. Bereits 2016 wurde etwa an der University of Rochester eine ähnliche KI entwickelt, die Tweets scannt und Hatespeech erkennt. Dass Twitter jedoch immer noch voll davon ist, wissen auch Nicht-User spätestens seit Shahak Shapiras #heytwitter-Aktion.

Obwohl – seitdem das Netzwerkdurchsetzungsgesetz in Kraft getreten ist, wird ja in vorauseilendem Gehorsam gerne eh einfach alles gelöscht.