Mensch und Maschine gegen digitalen Hass

Im Kampf gegen Hasskommentare im Internet sticht das Projekt «Stop hate speech» der Frauendachorganisation alliance F mit einem innovativen Ansatz heraus: Es kombiniert digitale und menschliche Intelligenz.

Der Hass im Internet hat so stark zugenommen, dass er sich nicht bloss mit menschlicher Intelligenz bekämpfen lässt. Während die Straftaten in der Schweiz insgesamt sinken, nehmen Beleidigungen und Verleumdungen gemäss dem Bundesamt für Statistik stark zu – Experten gehen davon aus, dass ein grosser Teil davon im Internet passiert, überdurchschnittlich oft sind Frauen betroffen. Darum hat die Frauendachorganisation alliance F das Projekt «Stop hate speech» ins Leben gerufen: menschliche und digitale Intelligenz kämpfen gemeinsam gegen Hass im Netz. LINK hat mit der Projektleiterin Sophie Achermann gesprochen.

Sophie Achermann, was tut «Stop hate speech» gegen Hass im Netz?
Wir gehen gegen Anfeindungen und Diskriminierungen im Internet vor. Einerseits bauen wir dazu eine Community aus der Zivilgesellschaft auf, andererseits entwickeln wir einen Algorithmus, der von der Community lernen soll. Indem sie ihm konkrete Beispiele von Hate Speech vorlegt, lernt er, diese selbst zu erkennen.

Nun ist aber nicht jeder Hasskommentar eindeutig.
Genau, es gibt eindeutigen Hass der strafrechtlich relevant ist. Dann gibt es aber eine riesige Grauzone. Viele Kommentare werden erst im Kontext eines Artikels oder einer Diskussion beleidigend oder anfeindend. Zum Beispiel sarkastische Kommentare. Darum brauchen wir die Community, die dem Algorithmus die Nuancen von Hate Speech beibringt. Er wird auch lernen, ob ein Artikel Schlagwörter enthält, die viele Hasskommentare hervorrufen, weil er ein provokatives Thema behandelt.

Tun die Social-Media-Plattformen zu wenig?
Die Betreiber der Plattformen sind in meinen Augen ziemlich überfordert. Mal wird zu wenig gelöscht, oder dann zu viel. Es ist immer auch eine kulturelle Frage, was okay ist und was nicht. Die Plattformen haben zwar eine Verantwortung, aber gleichzeitig ist es zu einfach, wenn wir als Gesellschaft sagen, sie seien an allem Schuld. Es sind die Nutzer, die Hasskommentare verfassen. Darum wollen wir bei der Medienkompetenz der Menschen ansetzen. Es wäre schön, man würde sich in der Onlinewelt so verhalten, wie in der Offlinewelt. Ich kenne niemanden, der mehrere Stunden in den Kommentarspalten verbringt und dann sagt ‹das war jetzt sehr lehrreich› oder ‹das hat Spass gemacht›. Entstünden dort Diskussionen, bei denen man etwas lernen kann, wäre schon viel erreicht.

Drei Viertel aller angezeigten Beschimpfungen stammen von Männern und treffen überdurchschnittlich oft Frauen. Warum?
Weil Männer in der Öffentlichkeit grundsätzlich häufiger zu Wort kommen. Auf Social Media herrscht aber ein anderes Verhältnis, weil dort Minderheiten sehr aktiv sind. Dort werden auch Frauen stärker gehört. Damit haben aber anscheinend sehr viele Leute ein Problem, gerade weil dies nicht der Situation in den Medien entspricht, und so die bekannte Ordnung stört.

Ihr Projekt wurde als die «weltweit innovativste Methode» gegen Hass im Netz bezeichnet. Werden Sie dem gerecht?
Das ist ein ziemliches Kompliment. Es ist schwierig zu sagen, ob wir dem gerecht werden. Wir versuchen einfach, aus zwei bestehenden Entwicklungen eine Kombination zu schaffen. Unser Starpunkt war die Counter Speech Community, die gegen Hass im Internet vorgehen will. Doch Leute über einen längeren Zeitraum zu motivieren, auf die Suche nach Hass zu gehen und darauf zu reagieren, ist schwierig. Dort kommt dann unser Algorithmus zum Zug, weil er bis dahin gelernt haben wird, Hasskommentare zu finden und der Community zu melden.

«Stop hate speech» läuft seit Anfang Februar, was sind die ersten Erkenntnisse?
Das Projekt haben wir im Februar gestartet, aktuell bauen wir die Community auf. Das Interesse daran ist sehr gross, inzwischen haben sich über 250 Personen gemeldet. Gleichzeitig bauen wir gerade die Plattform, auf welcher sich die Community mit dem Algorithmus trifft. Sie soll im Sommer online gehen.

Sie sind auf Freiwilligenarbeit angewiesen. Funktioniert dieses Konzept heutzutage noch?
Es wird sicher ein Knackpunkt sein, langfristig eine aktive Community aufrecht zu erhalten. Darum setzen wir die Hürden so tief wie möglich: Hate Speech zu identifizieren, soll während des normalen Surf-Verhaltens möglich sein, wenn die Leute ohnehin auf Newsportalen oder Facebook unterwegs sind. Wir gehen davon aus, dass die Bereitschaft, einen Beitrag zu leisten, dadurch höher ist.

Wer kann mitmachen und was muss man konkret tun?
Wirklich alle. Uns ist es ganz wichtig, eine Community zu haben, die so breit ist wie die Gesellschaft. Wir wollen Menschen erreichen mit unterschiedlichen Lebenshintergründen, Alter, Herkunft, Geschlecht, Bildungsniveau. Interessierte besuchen unsere Website und tragen sich dort ein. So erhalten sie laufend aktuelle Informationen. Die erste aktive Phase startet mit der Lancierung der Plattform im Sommer.

Wie geht man am besten gegen Hass-Kommentare vor?
Wir empfehlen grundsätzlich, nicht direkt auf den Hass zu reagieren. Besser ist es, eine sachliche Diskussion zu starten und zwar nicht allein, sondern mit möglichst vielen Freunden. Das Ziel ist es, lauter zu sein als der Hass.

Wann hat «Stop hate speech» in Ihren Augen sein Ziel erreicht?
Natürlich werden wir nicht 100 Prozent aller Anfeindungen im Internet aufspüren können. Aber ich glaube ein erstes Ziel ist schon jetzt erreicht, weil man über das Thema spricht. Unsere Community wird sich dem Thema annehmen und dadurch auch sich selbst immer stärker sensibilisieren.

Die Website stophatespeech.ch liefert alle Informationen zum Projekt.