[Prince]

Ein neuer Algorithmus könnte Betreibern von Communitys das Leben zukünftig deutlich einfacher machen: Er erkennt Trolle mit hoher Trefferquote automatisch und kann so dafür sorgen, dass deren Handlungs-Optionen eingedämmt werden, bevor sie zum Problem werden.

Entwickelt wurde das Verfahren, das in einem Paper mit dem Titel "Antisocial Behavior in Online Discussion Communities" beschrieben wird, an den Universitäten Stanford und Cornell. Dem gingen zahlreiche Analysen und Tests über einen Zeitraum von 18 Monaten auf drei Web-Plattformen voraus, auf denen sich eine große Menge an Nutzer-Kommentaren ansammelt: Dem Nachrichtenportal CNN.com, dem Politik-Forum Breitbart.com sowie der Spiele-Community IGN.com.

Weit über 10.000 Accounts von Nutzern, die von den Moderatoren der Plattformen dauerhaft gesperrt wurden, unterzog man dabei einer genaueren Betrachtung. Diese wurden den Beiträgen zahlreicher regulärer Kommentatoren gegenübergestellt. Dabei wurden verschiedene Merkmale ausgemacht, die in ihrer Kombination recht sicher erkennen lassen, ob es sich beim Nutzer um einen Troll handelt.

So zeigte sich beispielsweise, dass letztere sich meist auf einzelne Themenbereiche konzentrieren. Ihre Postings geben Inhaltlich auch oft nicht besonders viel her - manchmal haben sie mit dem Thema auch recht wenig zu tun. Auch hinsichtlich des Stils und der Anschlussfähigkeit in der Community zeigten sich Auffälligkeiten.

Auf Grundlage dessen konnte der von den Forschern entwickelte Algorithmus mit der Zeit immer besser geschult werden. Inzwischen bringt man es auf eine Trefferquote von 80 Prozent Area Under the Curve (AUC). Das bedeutet, dass nicht nur die gefundenen Trolle berücksichtigt wurden, sondern auch die falschpositiven Ergebnisse, die zu einer unerwünschten Sperrung führen würden.

Um diese Quote zu erreichen, müssen die fraglichen Nutzer nicht einmal besonders lange beobachtet werden. Der Maßstab wurde hier so angelegt, dass seit der Anmeldung maximal zehn Beiträge veröffentlicht worden sein durften - der Algorithmus bekam also relativ wenig Futter für seine Analysen. Die Entwickler wollen in der nächsten Zeit noch bessere Ergebnisse erzielen und hoffen darauf, Moderatoren in absehbarer Zeit viel Arbeit abnehmen zu können.

[ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]

[frosti2311]

Na toll! Ich meine, in der Vergangenheit fand ich Trolle ja auch nervig, aber mittlerweile kann ich mich schon damit arrangieren. Der Talk Bereich hier wäre ja auch mehr oder weniger tot, wenns nicht den ein oder anderen Troll geben würde. Dann trollt man mal ein wenig zurück, man hat mal was zum lachen (z.B über die, dies wieder nicht gerafft haben) und alles ist jut. Ich finde es jedenfalls immer wieder Amüsant, wie sich manche da reinhängen.

Also solche Internetzensur Scheiße...ohne mich, ey.

[TinyTimm]

Wenn das greift, wird es auf vielen Plattformen aber stinklangweilig werden.
Aber halt - wenn dadurch die Trolle den Weg der Evolution gehen und sich weiter entwickeln, kann es doch noch spannend werden.

[Caligulum]

Ich dachte, Prince hat den Troll-Detektor bereits erfunden gehabt? O.ô
Seine Trefferquote war, wenn ich mich nicht irre, 100 %
Aber da Prince seinen Bann-Hammer verlegt hat, wird dieses Tool sicherlich hilfreich sein

[frosti2311]

Ein Schleim-Detektor wäre auch interessant!

[Barschmeister]

SkyNet Auto-Censor?!?!

Antisocial Behavior

Wurde dies bereits objektiv definiert?

Diese wurden den Beiträgen zahlreicher regulärer Kommentatoren gegenübergestellt.

Was genau bedeutet in diesem Zusammenhang "regulär"? Die Mehrheit? Die Nicht-Unbequemen? Die Gleichgesinnten?

Ihre Postings geben Inhaltlich auch oft nicht besonders viel her - manchmal haben sie mit dem Thema auch recht wenig zu tun.

Halte ich für das einzig zulässige Kriterium für unangebrachte Beiträge. Aber wie soll eine Maschine o.ä. etwas derart subjektives und z.T. abstraktes jemals erkennen können?

Grund für viele unangebrachte Beiträge ist ja manchmal auch, dass einige Menschen bei sich selber nicht richtig wahrnhmen können, ob ihr Beitrag am Thema vorbeigeht. Ohne das abwertend zu meinen... passiert mir bestimmt auch gelegentlich.

Trolle

Allein diese Bezeichnung führt ja schon zu Missverständnissen.

Wird der Begriff zum einen von vielen unterschiedlich definiert, wird er zum anderen von vielen inflationär gebraucht, um einfach nur Unmut über Inhalte auszudrücken. Oftmals ja auch, um Menschen mit anderer Meinung mundtot zu machen; ähnlich der sinnfreien Verwendung von (anderswo sinnvoll angebrachten) Schmähbegriffen wie "Noob" oder "Nazi".

[Destiny]

Troll Detektor? Kann man da unerwünschte Worte einprogrammieren? Damit könnte man theoretisch auch Leute aussperren, die eine andere Meinung haben zu gewissen Dingen, als es erwünscht ist.

[masoeng]

Zitat von Barschmeister

Aber wie soll eine Maschine o.ä. etwas derart subjektives und z.T. abstraktes jemals erkennen können?

Ich würde mal vermuten, dass es ähnlich wie der Google-Bot funktioniert. Der Algorithmus interpretiert und analysiert die Beiträge und bewertet dann wie relevant der Beitrag in Bezug auf das Threatthema bzw. auf den Verlauf der Diskussion ist?!

[ulmilten]

Bei Destiny würde dem Algorithmus ein Beitrag reichen

[frosti2311]

Zieh mal den Balken aus deinem Äuglein, ulmi.

[nolte]

Ein AntiTrollAlgo der festlegt welcher Post ungültig ist?
mmh... dann werden Diskussionen öd, fad, steril und farblos - könnte ich mir denken.
Es scheint mir allgemein so, als ob Algorithmen immer mehr "bestimmen". Die Frage ist, ob wir das wollen.