Die Computerlinguistin Prof. Dr. Melanie Siegel der Hochschule Darmstadt organisiert mit Kolleginnen und Kollegen aus Heidelberg, Potsdam, Mannheim und Zürich einen internationalen Wettbewerb zur Analyse der Sprache auf Social Media. Dabei forschen internationale Teams an der Programmierung von Algorithmen, die Hass- und Hetzkommentare im Internet identifizieren und herausfiltern.

Wie bewerten Sie die Sprache, die in sozialen Medien genutzt wird?

Die Bewertung ist eigentlich nicht meine Aufgabe. Ich verarbeite die Sprache und ziehe Informationen daraus, wo zum Beispiel Hassbotschaften zu finden sind. Natürlich ist die Sprache in sozialen Medien ganz anders, als wenn ich einen Geschäftsbericht analysiere. Die Grammatik unterscheidet sich, die Rechtschreibung stimmt vielfach nicht. Das heißt, wir müssen die Analysesysteme für Tweets ganz anders bauen als z.B. für andere Bereiche.

Konnten Sie feststellen, ob sich die Sprache im Netz verschärft?

Das ist durchaus mein Eindruck. Dadurch, dass jeder ständig etwas schreiben kann, hat eine kleine Gruppe die sozialen Medien als Forum entdeckt, um wirklich extrem aggressiv aufzutreten. Aber ich kann das noch nicht quantifizieren.

Worauf führen Sie diese Aggressivität zurück? Wird sie durch das Netz gesteigert?

Ich glaube nicht. Denn es hat schon immer Aggressionen gegeben. Damals waren es Leserbriefe. Redakteure haben diese gesichtet und besonders aggressive vor Veröffentlichung aussortiert. Aber diese Personen haben natürlich jetzt eine viel größere Verbreitungsmöglichkeit durch Social Media. Studierende haben mir erzählt, dass sie die rabiaten Kommentare gar nicht so schlimm finden, weil sie diese Aggressivität gewohnt sind. Das sei normal. Meine Generation dagegen empfindet es nicht als normal. Das zunehmende Empfinden von Normalität finde ich sehr schwierig.

Scheinmehrheiten, gekaufte Follower – wie können soziale Medien für Meinungsbildung noch ausgenutzt werden?

Zum einen kann eine kleine Anzahl an Menschen mit einer bestimmten politischen Richtung eine Scheinmehrheit im Netz erzeugen. Auf der anderen Seite gibt es Politiker oder Journalisten, die sich im Netz bedroht fühlen, so dass sie ihre Meinung gar nicht mehr veröffentlichen. Dadurch ist deren Meinungsfreiheit natürlich stark eingeschränkt. Und wir erhalten auf diese Weise im Netz eine ganz schiefe Vorstellung von der Gesellschaft. Aber hierzu gibt es sehr interessante Gegenbewegungen.

Welche wären das?

Da ist zum Beispiel der Verein Mimikama aus Österreich, der regelmäßig Faktenchecks macht und Aussagen im Netz prüft. Verstärkt gibt es aber auch die Einsicht, dass man Hasskommentare nicht einfach so stehenlässt, sondern darauf reagiert. Und den Trollen nicht das Feld überlässt.

Muss auch der Gesetzgeber hier einschreiten?

Gegen verbale Bedrohungen gibt es bereits Gesetze wie z.B. gegen Volksverhetzung. Diese muss man durchsetzen. Im Fall Walter Lübcke haben wir aber erleben müssen, dass es nicht nur bei Bedrohungen bleibt. Und das macht mir Angst.

Sie erforschen Möglichkeiten, diese Hetzkommentare technisch herauszufiltern. Wie funktioniert das? 

20 internationale Forschungsgruppen haben sich in einem Wettbewerb zusammengefunden, um an der automatischen Erkennung solcher Kommentare im Netz zu arbeiten. Dafür hat unsere Gruppe zum Beispiel 8000 Tweets analysiert und kategorisiert. Mit den daraus resultierenden Erkenntnissen kann eine auf maschinelles Lernen basierte Software trainiert werden. Dieses intelligente System wiederum könnte z.B. ein Medienunternehmen, das täglich seine Inhalte ins Netz stellt, als Warnsystem fungieren. Es könnte rechtzeitig melden, dass sich Hasskommentare auf den Seiten befinden, die entfernt werden müssen. Tatsächlich gibt es solche Technologien bereits, denen dies zu 80 Prozent gelingt. 

Ein solches Verfahren nennt man Text Mining?

Genau. Hier werden Texte von Hand klassifiziert, was nicht einfach ist, da es viele Grenzfälle gibt. Anschließend werden diskriminierende Tweets z.B. nach Begriffen abgesucht, die immer wieder vorkommen. Dann wird verglichen, in welchen Kontexten diese Begriffe stehen. Das wird alles in einer Liste aufgenommen, mit der dann eine auf maschinellem Lernen basierende Software trainiert wird.

Was hat Sie bei dem Wettbewerb und der Analyse von Tweets am meisten überrascht?

Dass es sehr schwer ist, ein wirklich einhundertprozentig funktionsfähiges System zu entwickeln. Dabei bestehen die internationalen Forscherteams aus renommierten Wissenschaftlerinnen und Wissenschaftlern. Dennoch ist Sprache kompliziert. Es gibt Beiträge, da wird kein einziges negatives Wort genutzt, sondern diese basieren auf Ironie und unterschwelligen Anmerkungen. Ich würde nie behaupten, Künstliche Intelligenz kann alles, aber ich finde, schon mit 80 Prozent kann man viel erreichen. Und eines Tages wird es noch mehr sein, aber das dauert noch ein bisschen.

Stufen Sie Social Media als Fluch oder Segen für die Gesellschaft ein?

Ich finde Social Media wirklich gut. Was spricht dagegen, wenn sich Menschen Klassenfotos oder Fotos von Enkelkindern zuschicken und Spaß daran haben? Auf der anderen Seite ist es schade, dass einige wenige Hass und Lügen verbreiten. Aber am Ende denke ich, wir sollen diesen Trollen das Feld nicht überlassen. Also forschen wir weiter und verbessern die Warn- und Filtersysteme im Netz.

Prof. Dr. Melanie Siegel

Prof. Dr. Melanie Siegel

Prof. Dr. Melanie Spiegel ist Computerlinguistin und Sprachtechnologin. Sie forscht seit 1990 im Bereich Sprachverarbeitung. Zunächst an automatischen Übersetzungen mit Schwerpunkt auf die japanische Sprache. Seit 2012 doziert sie an der Hochschule Darmstadt. Die Professorin gehört zu den Gründungsmitgliedern des Promotionszentrums Angewandte Informatik der hessischen Hochschulen und ist Mitorganisatorin des Wettbewerbs GermEval Shared Task on the Identification of Offensive Language

 

Nachgehakt: 6 Fragen an Prof. Dr. Melanie Siegel

Mit welcher Persönlichkeit würden Sie gerne einmal debattieren und worüber?

Mit Georg Restle vom Politmagazin Monitor. Er macht total interessante Dinge, über die ich oftmals gerne etwas mehr wissen möchte.

Wie würden Sie Ihren Diskussionsstil beschreiben?

Ich diskutiere ausgesprochen gerne. Ich bin ein politischer Mensch. Hauptberuflich muss ich schon sehr viel reden. Ich mag auch kontroverse Diskussion auf sachlicher Ebene.

Was machen Sie am liebsten nach einer anstrengenden Diskussion?

Ich lese gerne Krimis. Gerade lese ich von Rafik Schami ‚Die geheime Mission des Kardinals‘.

Ergänzen Sie bitte diesen Satz: " In Diskussionen kann ich überhaupt nicht leiden,.."

… wenn wesentliche Argumente übergangen werden und stattdessen immer wieder die schon widerlegten Ausgangsargumente kommen, um sich durchzusetzen.

Wer ist Ihr Vorbild im Debattieren?

Im Netz finde ich, dass Dunja Hayali das sehr gut macht und tapfer und mutig ist.

Wer hat Sie in einer Debatte besonders überrascht?

Gerade postete jemand auf Twitter, dass es total lächerlich und unwissenschaftlich wäre, was wir da machen. Die 80 Prozent könnte man leicht erreichen. Ich habe ihm den Link zu den 8000 Daten geschickt und ihm angekündigt, dass ich mich auf sein geniales Ergebnis freuen würde. Die Daten sind übrigens frei zugänglich unter GermEval Offensive Language zu finden. So einfach ist das alles nämlich nicht.

Fotos von Melanie Siegel: Privat. Beitragsbild von Robin Worrall on Unsplash