Wie Emotions-Dashboards Hassrede im Netz bremsen könnten
Wissenschaftler der Universität St.Gallen haben gemeinsam mit internationalen Partnern untersucht, wie sich Hassrede in sozialen Medien wirksamer eindämmen lässt. Statt Inhalte nachträglich zu löschen, setzt die Studie auf einen präventiven Ansatz: Nutzer sollen während des Schreibens und Lesens von Kommentaren für Emotionen sensibilisiert werden.
Online-Hassrede gilt als eines der drängendsten Probleme digitaler Plattformen. Klassische Moderationsmechanismen greifen meist erst ein, wenn problematische Inhalte bereits veröffentlicht sind. Das wird häufig als Zensur wahrgenommen und ändert wenig am grundlegenden Kommunikationsverhalten.
Das Studienteam wollte deshalb früher ansetzen. Die zentrale Frage lautete, ob visuelle Rückmeldungen zu Emotionen das Verhalten in Online-Diskussionen positiv beeinflussen können. Die Grundannahme: Wer erkennt, welche Gefühle eigene Aussagen auslösen, kommuniziert bewusster oder verzichtet ganz auf verletzende Äusserungen.
Emotions-Dashboards als neue Form der Moderation
Für die Untersuchung wurden zwei sogenannte Emotions-Dashboards auf Basis des Open-Source-Tools «text2emotion» entwickelt. Beim Selbst-Monitoring wurde der emotionale Ton eigener Textentwürfe angezeigt. Das Peer-Monitoring visualisierte die wahrgenommenen Emotionen anderer Diskussionsteilnehmer.
Getestet wurde der Ansatz in einer simulierten Online-Diskussion zum Thema Abtreibung, bewusst gewählt, um starke emotionale Reaktionen hervorzurufen. Insgesamt nahmen 211 Personen teil. Neben der Universität St.Gallen waren die ETH Zürich, die Seoul National University und die Berner Fachhochschule beteiligt.
«Uns interessiert, wie KI dabei helfen kann, soziale Probleme wie Cybermobbing oder hasserfüllte Kommentare einzudämmen», sagt Studienautor Naim Zierau vom Institut für Wirtschaftsinformatik der Universität St.Gallen.
Weniger Hassrede, aber gemischte Effekte
Die Ergebnisse zeigen, dass Emotions-Dashboards das emotionale Bewusstsein erhöhen und die Menge an Hassrede insgesamt reduzieren können. Gleichzeitig traten bei sensiblen Themen vermehrt andere negative Emotionen wie Wut, Angst oder Traurigkeit auf.
Auffällig waren geschlechtsspezifische Unterschiede. Weibliche Teilnehmer äusserten trotz stärkerer negativer Emotionen weniger Hassrede. Bei männlichen Teilnehmern zeigte sich hingegen ein gegenteiliger Effekt: Sie reduzierten zwar Wut und Angst, veröffentlichten aber mehr hasserfüllte Kommentare.
Beim Selbst-Monitoring äusserten einzelne Personen zudem Zweifel an der Genauigkeit der Emotionsanalyse. Teilweise wurde das Dashboard als einschränkend empfunden oder als verdeckte Form von Zensur interpretiert.
Bedeutung für soziale Medien
Die Studie liefert wichtige Hinweise für die Gestaltung digitaler Plattformen. Emotionsbasierte Interventionen können Online-Gespräche konstruktiver machen, funktionieren aber nur, wenn sie transparent umgesetzt werden. Nutzer wollen nachvollziehen können, wie Algorithmen Emotionen erkennen und bewerten.
Ein Einsatz in grösserem Stil ist nicht ausgeschlossen. Erste Formen der Sentiment-Analyse sind auf vielen Plattformen bereits im Einsatz. Darauf könnten weitergehende Systeme zur Emotionserkennung aufbauen.
Das Fazit der Studienautoren fällt zurückhaltend aus. Emotions-Dashboards sind kein Allheilmittel gegen Hassrede, können aber ein wirksames ergänzendes Instrument sein. Künftige Forschung soll die Kontextabhängigkeit von Emotionen besser berücksichtigen und die kombinierten Effekte von Selbst- und Peer-Monitoring untersuchen. Ziel bleibt, digitale Werkzeuge zu entwickeln, die langfristig zu respektvolleren und reflektierteren Online-Diskussionen beitragen.
Das Paper trägt den Titel «Emotionally Aware Moderation: The Potential of Emotion Monitoring in Shaping Healthier Social Media Conversations». Autoren sind Naim Zierau, Xiotian Su, Soomin Kim, April Yi Wang und Thiemo Wambsganss.
Text: pd/red