Research & Innovation

Ein Algorithmus gegen Foren-Trolle

Destruktive Beiträge sollen in Zukunft stark eingeschränkt werden.

29.04.2015 Jörn Brien

Als Troll wird im Netz eine Person bezeichnet, die Diskussionen absichtlich mit provokativen Kommentaren stört, um Reaktionen hervorzurufen. Für die Nutzer von Online-Foren und Kommentarspalten ist dies im besten Fall nervig. Aber das Trollen kann auch dazu führen, dass sich Betreiber und Moderatoren gezwungen sehen, gegen beleidigende und hetzerische Meinungen vorzugehen. Viele der in diesem Zusammenhang ausprobierten Methoden und Funktionen gehen dabei zu Lasten der Meinungsfreiheit, wie t3n-Kolumnist Andreas Weck warnt .

Forscher untersuchten 50.000 Foren-Trolle

Wissenschaftler der Universitäten Cornell und Stanford haben nach 18-monatiger Forschungsarbeit einen Algorithmus entwickelt , der Foren-Trolle nach nur fünf Postings erkennen soll – zumindest mit 80-prozentiger Wahrscheinlichkeit. Als Grundlage diente den Forschern die Analyse von mehr als 35 Millionen Postings von fast zwei Millionen Nutzern auf den drei großen Websites CNN, Breitbart und IGN. Rund 50.000 Nutzer wurden im Untersuchungszeitraum von Moderatoren von den Diskussionen ausgeschlossen. Die Beiträge dieser Foren-Trolle wurden genauer unter die Lupe genommen.

Troll
Foren-Trolle zeichnen sich durch besondere Sprache aus

Die Forscher fanden heraus, dass sich die Kommentare der Nutzer, die am Ende von der Diskussion ausgeschlossen wurden, deutlich von denen der anderen Nutzer unterscheiden. Die Beiträge enthalten weniger positive Begriffe, sind schwerer verständlich, rufen aber deutlich mehr Reaktionen hervor. Außerdem würden sich Foren-Trolle viel länger in einzelnen Foren-Threads oder Kommentarspalten aufhalten als normale Nutzer.

Vorsicht bei technischen Lösungen gegen Foren-Trolle

Allerdings warnen die Forscher davor, ausschließlich auf Algorithmen wie den ihren oder ähnliche technische Lösungen zu setzen, wenn es darum geht, gegen Foren-Trolle vorzugehen. Schließlich rufe besonders strenges Blocken von Kommentaren oder Nutzern zusätzliches Pöbeln hervor. Insbesondere, um zu verhindern, dass unschuldige Nutzer fälschlicherweise geblockt werden, sollte immer ein menschlicher Moderator Ausschlüsse überwachen. Noch besser ist den Forschern zufolge aber, den Foren-Trollen die Möglichkeit zu geben, ihr Verhalten zu ändern.

Research & Innovation RSS Feed abonnieren