Debatte über Desinformation: Bedrohen Social Bots die Demokratie?

BLACKY74 · 11.12.18, 19:14

Zitat:

In der Debatte über versuchte Manipulationen rund um den UN-Migrationspakt warnt Justizministerin Barley vor Social Bots. Diese bedrohten die Demokratie. Doch sind wirklich Bots das Problem?

Von Patrick Gensing, ARD-faktenfinder

In der Debatte über einen massenhaften Einsatz von Social Bots in der Diskussion über den UN-Migrationspakt hat Bundesjustizministerin Katarina Barley gewarnt, der Fall werfe ein Schlaglicht darauf, wie organisierte Falschmeldungen Debatten beeinflussen können. "Die Betreiber sozialer Netzwerke müssen ihrer Verantwortung gerecht werden und entschieden gegen Fake-Accounts vorgehen", sagte Barley den Zeitungen der Funke Mediengruppe. Social Bots seien eine Gefahr für die Demokratie.

Auch die stellvertretende Vorsitzende der Unionsfraktion, Nadine Schön, forderte Plattformbetreiber wie Twitter angesichts der Botswatch-Recherchen auf, für mehr Transparenz zu sorgen. "Den Nutzern muss eindeutig klar sein, ob ein Mensch oder ein Social Bot einen Tweet oder einen Post veröffentlicht hat", sagte Schön.

Massenhaft Blog-Inhalte verbreiten

Social Bots sind Programme, mit denen beispielsweise Twitter-Konten automatisiert gesteuert werden. Ein Beispiel ist das Profil von "Alt-Right Europe", das im Februar 2017 eingerichtet wurde. Seitdem setzte "Alt-Right Europe" knapp 56.000 Tweets ab - durchschnittlich also fast 90 am Tag. Als ein Hinweis auf eine automatisierte Steuerung gilt die Schwelle von mindestens 50 Tweets am Tag.

Schaut man sich die Inhalte von "Alt-Right Europe" an, fällt sofort auf: Das Konto verbreitet fast ausschließlich Inhalte anderer Seiten. Darunter finden sich "Brexit"-Meldungen des britischen Tabloid "Daily Express" sowie Artikel von rechtsradikalen Blogs wie "PI-news", "Voice of Europe", "Infowars" oder "Gates of Vienna".

Social Bot: "Alt-Right Europe" twittert fast ausschließlich automatisiert.

Auch die Videos bestimmter YouTube-Kanäle twittert "Alt-Right Europe" offenkundig automatisiert, unter anderem von dem britischen Aktivisten Tommy Robinson. Der "Guardian" hatte vor wenigen Tagen offengelegt, wie der rechtsradikale Aktivist von einem internationalen Netzwerk unterstützt wird - unter anderem durch eine Twitter-Kampagne.

Rund um die Uhr aktiv

Eine Auswertung mit "Foller.me" liefert weitere Hinweise darauf, dass es sich bei "Alt-Right Europe" um einen Social Bot handelt: Demnach werden die Inhalte in 99 von 100 Beispielen mit dem Tool "Feed2Tweet" erzeugt - das heißt, sie werden von vorher festgelegten Seiten übernommen. Außerdem antwortet "Alt-Right Europe" fast nie auf andere Tweets. Und: "Alt-Right Europe" twittert rund um die Uhr. Ein weiterer wichtiger Hinweis auf automatisiertes Verhalten.

Auch das Analyse-Tool "Botometer" kommt zu dem Ergebnis, dass "Alt-Right Europe" mit hoher Wahrscheinlichkeit automatisiert twittert.

"Alt-Right Europe" gibt auf dem Twitter-Profil eine gleichnamige Facebook-Präsenz an, die wiederum von einem Aktivisten in den USA verwaltet wird. Bei dem Projekt handelt es sich also offenkundig um einen Versuch, die "Alt-Right"-Bewegung von den USA aus in Europa zu stärken.

Video
Tutorial: Social Bots erkennen

Unterschiedliche Ergebnisse

"Alt-Right Europe" versucht dabei gar nicht, wie ein Mensch mit anderen Nutzern zu kommunizieren und lässt sich relativ leicht als Bot identifizieren. Ähnliche Seiten, die quasi ausschließlich retweeten, lassen sich ebenfalls leicht und zahlreich finden - insbesondere im Umfeld von AfD-Konten. Allerdings werden diese Accounts von Analyse-Tools nicht unbedingt als Bots eingestuft, beispielsweise, weil sie nicht so hyperaktiv sind wie "Alt-Right Europe" und nicht rund um die Uhr twittern. Oder weil sie mit Textbausteinen auf Anfragen antworten. Oder weil sie einen hybriden Charakter haben - also teilweise automatisiert gefüttert, aber zeitweise von Hand gepflegt werden.

Und so kommen Analyse-Tools bei der Bewertung solcher Profile zu unterschiedlichen Ergebnissen. Um diese fundiert beurteilen zu können, sind die Kriterien zur Definition von Bots entscheidend. Auch, um unterschiedliche Analysen miteinander vergleichen zu können.

"Automatisiert und in Echtzeit"

Das Erkennen von Bots erfordert zumeist also eine genaue Analyse, da viele Bot-Tools nur Hinweise liefern können. Wie "Botswatch" bei der Untersuchung zum UN-Migrationspakt konkret vorgegangen ist, ist öffentlich nicht nachvollziehbar. Auf Anfrage des ARD-faktenfinder verwies Geschäftsführerin Tabea Wilke auf die Website des Unternehmens. Dort heißt es, Botswatch sei "in der Lage, automatisiert und in Echtzeit Social Bots und manipulative Netzwerke in sozialen Medien und auf digitalen Plattformen zu finden".

Zur Definition heißt es, man verstehe Social Bots "als Accounts, die mit einem überdurchschnittlich hohen Grad an Automation im Social Web arbeiten". Im Sommer 2016 habe Botswatch einen "eigenen Kriterienkatalog für die Bot Detection entwickelt", der seitdem laufend aktualisiert werde.

Außerdem erklärte Wilke, die Auswertungen seien "ein Ergebnis aus der automatisierten Erkennung und den Analysen unserer Analysten. Damit verbinden wir neueste Technologien und smarten Code mit der Erfahrung und Intelligenz unserer Analysten."

Kritik an Untersuchung

Neben einer breiten Berichterstattung über die Untersuchung gibt es aber auch Fragen zu dem Vorgehen. Der Datenjournalist Michael Kreil erkundigte sich in einem offenen Brief nach der Möglichkeit, die Daten und Ergebnisse von Botswatch zu überprüfen.

[ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ], bei der Studie von Botswatch sei die Methodik nicht bekannt. Mehrfache Anfragen "nach den vollen oder auszugsweisen Studienergebnissen und der zugrundeliegenden Methodik wurden bislang nicht beantwortet".

Und der Datenspezialist Luca Hammer sagte im Gespräch mit dem ARD-faktenfinder, er halte es für problematisch, dass "ein echtes Problem - Menschen betreiben Accounts, um Falschmeldungen zu verbreiten - als etwas anderes dargestellt wird - nämlich Bots beeinflussen die Gesellschaft".

Welchen Einfluss haben Bots?

Die Fähigkeiten von Social Bots bleiben bislang beschränkt: Sie können bestimmte Inhalte verbreiten und Relevanz oder Zustimmung simulieren. Sie können zudem Stimmungsbilder manipulieren, indem sie zu einem Thema besonders viele Tweets absetzen.

Sie können aber weder selbst inhaltlich Themen setzen noch halbwegs sinnvoll auf Fragen antworten. Zwar agieren sie interaktiv, handeln deswegen aber noch lange nicht intelligent. Damit bleibt ihre Wirkung begrenzt. Sie verbreiten vorgegebene Inhalte, flankieren einflussreiche Twitter-Konten und unterstützen so Kampagnen.

Weit wichtiger bei solchen Kampagnen erscheinen anonyme Konten, die massenhaft Inhalte im Sinne der AfD verbreiten und teilweise oder ganz von Hand mit Inhalten bestückt werden. Manche geben sich als Studentinnen mit Namen wie "Dora" oder "Emma" aus und posten viele Stunden täglich Links, Bildcollagen, Grafiken, Zitate und Kommentare - oft zu verschiedenen Themen parallel. Wer die Profile pflegt, bleibt im Dunkeln. Dennoch folgen und retweeten auch namhafte Journalisten solche Konten.

Anonyme Netzwerke sind die Gefahr

Social Bots an sich bedrohen nicht die Demokratie, sondern es handelt sich zunächst erst einmal um Programme, die für Service-Zwecke sinnvoll sein und für politische Propaganda missbraucht werden können.

Weit einflussreicher erscheinen Fake-Accounts und anonyme Netzwerke, die koordiniert agieren, um bestimmte Themen zu setzen, Diskussionen zu kapern und politische Gegner zu diskreditieren. Solche Netzwerke waren bei der US-Wahl 2016 zu beobachten und [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ] aktiv. Und sie sind es weiterhin, wie die [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]

Quelle:[ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]

Lord_Wellington · 11.12.18, 20:23

Zitat:

Zitat von Cityrave

Nun geht es aber wieder los.

Wenn der Tagesschau-Fakktenfinder das sagt, muss es ja natürlich stimmen.

Hast du auch irgendein stichhaltiges Argument, inwiefern der Artikel fehlerhaft ist?

Zitat:

Wenn man sich an die letzte US-Wahl erinnert, dann weiß man, dass man auch da tagtäglich behauptet hat, dass Russland mit Bots hinter allem stecken würde.

Im Faktenfinder-Artikel taucht Russland kein einziges Mal auf.

Zitat:

Deswegen muss man in die Offensive nun gehen und behaupten es wäre alles manipuliert mit Bots.

Wie erklärst du dir einen rund um die Uhr aktiven Twitter-Account, der fast ausschließlich Links zu anderen rechten Seiten verbreitet? Der seit Jahren täglich fast 90 Tweets raushaut? Der automatisch mit Inhalten gefüttert wird?

RageC0re · 11.12.18, 20:31

Zitat:

Zitat von Lord_Wellington

Hast du auch irgendein stichhaltiges Argument, inwiefern der Artikel fehlerhaft ist?

Im Faktenfinder-Artikel taucht Russland kein einziges Mal auf.

[ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]

Viel Spaß, ca. mittig. Danke.

b2t:

Bots gefährden gar nichts. Vorallem schlagzeilen-geile Idioten springen auf sowas auf. Früher wars die BILD, heute der Bot auf Facebook. Kein großer Unterschied meiner Meinung nach.

Lord_Wellington · 11.12.18, 20:52

Zitat:

Zitat von RageC0re

[ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]
Viel Spaß, ca. mittig. Danke.

Es ist reichlich lächerlich, unter einem Artikel, in dem Russland kein einziges Mal erwähnt wird, herumzujammern, dass ständig Russland beschuldigt wird, und als Beweis dann einen völlig anderen Artikel zu verlinken.

RageC0re · 11.12.18, 22:23

Zitat:

Zitat von Lord_Wellington

Es ist reichlich lächerlich, unter einem Artikel, in dem Russland kein einziges Mal erwähnt wird, herumzujammern, dass ständig Russland beschuldigt wird, und als Beweis dann einen völlig anderen Artikel zu verlinken.

Zitat:

Wenn man sich an die letzte US-Wahl erinnert, dann weiß man, dass man auch da tagtäglich behauptet hat, dass Russland mit Bots hinter allem stecken würde.

Im Faktenfinder-Artikel taucht Russland kein einziges Mal auf.

Kennst deinen eigenen Beitrag nicht, als Du auf seine Aussage (welche sich u.A. auf einen solchen Artikel bezieht) geantwortet hast..?

Lächerlich

**Avantasia** · 11.12.18, 23:51

Nun ja, wer sich eh schon permanent manipulieren lässt, wird auch
Bots abstreiten, sonst würde ihm ja Bewusst, das er manipuliert worden ist.

Oder er merkt es und gibt es nicht zu, weil er es nicht wahrhaben will.

Bluejeans4 · 12.12.18, 10:18

früher bild, nun bots, es gibt immer noch menschen die sich vielfältig informieren so wie früher auch.

mstrmnn · 12.12.18, 11:45

Zitat:

Zitat von Lord_Wellington

Wie erklärst du dir einen rund um die Uhr aktiven Twitter-Account, der fast ausschließlich Links zu anderen rechten Seiten verbreitet?

Ich erinnere mich dunkel an eine TV-Reportage, bei der ein Hamburger Medienwissenschaftler in einen Twitter-Account höchstwahrscheinlich einen Bot erkannt hat. Es war dann doch nur ein einsamer, hasserfüllter Erfurter Arbeitsloser - der im Alltag sogar freundlich und umgänglich wirkte.

Aber hier liegt die Sache ja anders: Der Account "Alt-Right Europe" nutzt (höchstwahrscheinlich) Feed2tweet. Eine solche Aussage ist absolut seriös und hat nichts mit nebligem Geschwafel über Social Bots gemein.

Gensing arbeitet ohnehin fundiert und sauber. Deshalb hassen ihn die Rechten ja so

Zitat:

Zitat von Lord_Wellington

Im Faktenfinder-Artikel taucht Russland kein einziges Mal auf.

Selbst wenn ("Solche Netzwerke waren bei der US-Wahl 2016 zu beobachten"). Nowaja Gaseta etwa hat sich die Trollfabrik in St. Petersburg nicht ausgedacht. Die Propaganda ist Fakt. Im Übrigen reicht ja schon ein Blick auf RT Deutsch, um zu erahnen, was abgeht.

Melvin van Horne · 12.12.18, 12:04

Moin,

Zitat:

Zitat von Bluejeans4

früher bild, nun bots,

Da gibt es einen wichtigen Unterschied. Bei der Bildzeitung oder bei all den anderen Medien vergangener Tage konnte man einigermaßen sicher erkennen von wem das ganze stammt. Die Kenntnis der Quelle macht das Bewerten der Nachricht erst möglich. Zumindest einfacher.

Bei von Bots "verfassten" Meldungen ist das nicht mehr so ohne weiteres möglich. Spätestens nach dem teilen, retweet oder was es da alles gibt, wird es schwierig. Es ist fast unmöglich in der heutigen Nachrichtenflut sicher zu erkennen a) was kommt von einem Bot und b) wer steckt hinter dem Bot.

Ob das nun gleich unsere Demokratie bedroht, da habe ich Zweifel. Aber das Wissen darum sollte unsere Art Nachrichten aufzunehmen zu bewerten und weiterzugeben ändern. Ob uns das gelingt ...

Wir müssten dazu erst einmal lernen unseren eingebauten Bestätigungsfehler zu korrigieren oder uns zumindest bewusst werden, das wir ihn haben. Und da sehe ich erst recht schwarz.

Caplan · 13.12.18, 07:35

Kirche, Dorfschamane,Politik, Bild,Bots...

die Frage um manipulative Geschichte geht doch schon bei den Dorftanten los die schlechtes saeen ueber den naechsten. Alles Glaubensfragen.
Wer sich nicht entsprechend entzuenden laesst und sich anderweitig in einer schnittmenge informiert wird immer der missionierte sein.
Leider ist in unserer schnellebigen Zeit auf eins zu setzen, das der mensch immer oberflaechlicher recherchiert, da schon 50 weitere neueigkeiten gerade ueber den aether laufen.

parlheinz · 13.12.18, 10:12

Ich denke, dass der Knackpunkt die Ziele sind, die hinter manipulierten Informationen stecken. Wenn etwas Macht oder Profit bringt oder irgendwelcher Manipulation in diesem Sinne dient, dann wird es mehr oder weniger öffentlich auch gemacht, da gibt es keine moralischen Vorbehalte oder Tabus. Da könnte man eine Aufzählung starten, die kein Ende findet. Und Social Bots machen da natürlich keine Ausnahme, ein verdecktes und zielführendes Mittel der Manipulation, mit dem man sich wohl wird abfinden müssen. Die Bemühungen hier Transparenz zu schaffen werden auf entsprechende Gegenmaßnahmen treffen ....

Wornat1959 · 16.12.18, 16:25

Dazu ein Update:

Zitat:

Unionsfraktionschef fordert Gesetz gegen Social Bots

Computergesteuerte Konten entwickelten sich zu einer Gefahr für die Demokratie, sagt CDU-Politiker Ralph Brinkhaus. Per Gesetz will er gegen Manipulation vorgehen.

16. Dezember 2018, 8:18 Uhr Quelle: ZEIT ONLINE, dpa, spo 32 Kommentare

( Die Union will Manipulation in sozialen Netzwerken verhindern. © Rolf Vennenbernd/dpa )

Die Union will gesetzlich gegen Manipulation in sozialen Netzwerken vorgehen. Fraktionschef Ralph Brinkhaus sagte der Frankfurter Allgemeinen Sonntagszeitung, in der Debatte über den UN-Migrationspakt sei in sozialen Medien eine Welle von Unwahrheiten und Diffamierungen ausgelöst worden. Es sei allerhöchste Zeit, aufzuwachen, da 2019 in Deutschland "ein Superwahljahr" sei, sagte Brinkhaus.

Brinkhaus bezieht sich dabei auf sogenannte Social Bots. Das sind computergesteuerte Konten, die sich in sozialen Netzwerken als reale Nutzer ausgeben. Solche Bots verbreiten in hoher Frequenz programmierte Botschaften. Sie können so schnell die Themen- oder sogar Meinungshoheit erlangen.

Diese Entwicklung mache ihm große Sorgen, sagte Brinkhaus. Sie greife die [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ] an.

Denkbar sei, die Plattformbetreiber zu verpflichten, das Aufkommen an Nachrichten transparent zu machen, die von Social Bots stammen, sagte der Unionsfraktionschef. Möglich sei auch eine Pflicht zur Kennzeichnung einzelner Nachrichten, die von Social Bots stammten.

Quelle: [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]