[Draalz]

Wenn TikTok auf KI trifft

Fake News war gestern. Die Ära der Fake Reality beginnt

Eine Kolumne von [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]

Schon jetzt eignet sich TikTok nicht nur, aber eben auch hervorragend zur Verbreitung von Ideologien. Was wird wohl passieren, wenn es mit neuer Text-zu-Video-KI wie Sora kombiniert wird?

21.02.2024, 18.45 Uhr




OpenAIs neue KI Sora erstellt Videos aus kurzen Texteingaben: Die KI-Community ist völlig aus dem Häuschen Foto: Drew Angerer / AFP

Soeben bewegen sich zwei unaufhaltsam erscheinende Technologiekomplexe aufeinander zu, die schon allein die Kraft hätten, unsere Welt zu verändern. Wir können erst grob erahnen, was passiert, wenn sie verschmelzen. Der eine ist das soziale Netzwerk TikTok, für das die EU gerade [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]. Vor allem, um herauszufinden, wie sicher Kinder und Jugendliche dort sind, was etwa Suchtpotenzial, den »Rabbit-Hole-Effekt« oder Altersverifikation angeht. Der andere ist eine Technologie, natürlich aus dem Bereich der generativen [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ], der den sperrigen Genrebegriff »text to video« trägt. ChatGPT-Schöpfer OpenAI hat [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ], eine KI, die aus kurzen, hingeworfenen Befehlen in kürzester Zeit mehr oder weniger realistisch aussehende Filmsequenzen generieren kann.

Die Frage, warum man beides gemeinsam und auf die potenzielle Wirkmacht bezogen betrachten muss, beginnt mit [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]. Die chinesische Video-App ist eine der wichtigsten Unterhaltungs-, Informations- und auch Nachrichtenplattformen der Generation bis dreißig Jahren in der westlichen Welt. TikTok hat es durch radikale Fokussierung auf eine Art algorithmischen Populismus geschafft, sehr vielen Menschen genau die Inhalte zu zeigen, die sie sehen wollen. Selbst, wenn sie das vorher noch gar nicht wussten. Ein in der Frühzeit der Netzkultur dafür geprägter Begriff lautet »serendipity«, was man mit »finden ohne zu suchen« übersetzen kann.

TikTok hat für anderthalb Generationen ein Anreizsystem geschaffen, wie Unterhaltung hyperpersonalisiert und Kreativität in Macht übersetzt werden kann. Denn letztlich bietet TikTok dem Publikum unendliche und wirklich gute Unterhaltung. Den Inhalteproduzierenden aber bietet TikTok Reichweite, Monetarisierung und eine Relevanz, die von den meisten älteren Lebensteilnehmern noch immer drastisch unterschätzt wird. An der Reichweite ist vor allem attraktiv, dass TikTok in sozialen Netzwerken völlig neu definiert hat, wie die sogenannte Viralität entsteht, also die explosive Verbreitung einzelner Inhalte. Dadurch können auch Leute mit sehr wenig Followern ein Millionenpublikum erreichen – mit der richtigen Idee für ein Video.

Feuerwerk der Manipulation

TikTok hat gegenwärtig den wohl besten existierenden Empfehlungsalgorithmus. Leider kann er ausgenutzt werden, und zwar insbesondere von Leuten, die mit verkürzten oder ganz gefälschten Informationen arbeiten, um eine besondere Form der TikTok-Sensationalisierung zu erreichen. Die TikTok-Sensationalisierung hat viele unterschiedliche, kulturelle Facetten, und die meisten davon sind strukturell positiv. Im Kern geht es meist um die kreative Fähigkeit, mit Witz, Charme, manchmal Intelligenz und Musikschnipseln sowie ein paar technischen Spielereien eine interessante bis spektakuläre Sekundeninszenierung herzustellen.

Politisch, gesellschaftlich und nachrichtlich ist TikTok bei Weitem nicht nur, aber inzwischen eben auch ein Feuerwerk der Manipulation, das sich hervorragend zur Verbreitung von Ideologien eignet. Die Inszenierungsradikalität auf TikTok bedeutet zu oft, dass für wahr und richtig gehalten wird, was sich gut und interessant anhört. Das ist zugegeben nichts, was TikTok erfunden oder auch nur exklusiv hat – aber die Geschwindigkeit, das e><treme Viralitätspotenzial, die Hyperpersonalisierung, das Publikum und der Zustand der Welt verstärken diesen Effekt.

In den vergangenen Monaten kam häufiger die Frage auf, warum die [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ] auf TikTok so erfolgreich ist. Das liegt einerseits an reaktionären Trends, die dort oft subtil, aber letztlich ganz offen transportiert werden, wie Antifeminismus, [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ], [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ] und ganz besonders auch Sozialdarwinismus in verschiedenen Formen. Eine große Interessensphäre mit ganz eigenen Stars mit Millionenreichweite beschäftigt sich zum Beispiel fast ausschließlich damit, wie man so schnell wie möglich so reich wie möglich wird. Das greift nahtlos in die allgegenwärtige Selbstoptimierung auf TikTok hinein. Und weil sich soziale Medien wie Instagram und auch TikTok so perfekt für die Inszenierung von Reichtum und Luxus eignen, entsteht aus beiden Strömungen schnell die Haltung, arme Menschen seien prinzipiell selbst an ihrem wirtschaftlichen Misserfolg schuld. Nebst dem Plan, wie man vermeintlich aus eigener Kraft reich wird.

Auch der Ruf nach autoritärer Führung findet überraschend großen Widerhall, und längst nicht nur in rechten Zirkeln. Ganz zentral für den Erfolg der AfD bei jungen Menschen auf TikTok ist aber aus meiner Sicht eine Ablösung der klassischen Nachrichten- und Welterklärungsmedien vom Alltagserleben vieler Jugendlicher. Wenn etwa absurde Überbürokratie, Politikversagen oder Probleme mit der Integration zwar persönlich erlebt oder medial präsent werden, aber dafür nur verkrampfte, abstrakte Erklärungen und schon gar keine Lösungen angeboten werden. Plötzlich erscheint rassistischer oder antidemokratischer Populismus gleichzeitig als Erklärung und als Lösung. Spektakel und Inszenierung vertragen sich eben nicht immer gut mit Komplexität, Grautönen und der Abwägung demokratischer Werte.

TikTok als Fake-News-Schleuder zu bezeichnen, ist definitiv verkürzt und berücksichtigt nicht die vielen Kräfte, die sich genau dort dem Strom des Antifortschritts entgegenstellen, mit Aufklärung, Bildung, Gegenanalysen und wirklich guter Unterhaltung. Aber TikTok geht als das gegenwärtig wohl machtvollste, korrektivärmste und aufmerksamkeitsstärkste Einflussmedium hinein in Köpfe unter 30 Jahren.

Eine gruselige Sensation

Was direkt zu Sora führt, das hier als Symbol für den ganzen Technologiekomplex von KI-Videos dienen soll. Die KI-Community in sozialen Medien ist seit der Vorstellung von Sora völlig aus dem Häuschen. Für eine Anzahl aus OpenAI-Sicht besonders vertrauenswürdiger Personen ist diese Technologie bereits verfügbar, und diese Leute veröffentlichen immer wieder neue Videos, oft inklusive der Anweisungen, der Prompts, mit der die KI die Videos generiert hat. So hat es OpenAI auch auf der Vorstellungsseite von Sora gehalten. Derzeit kann man mit Sora bis zu 60 Sekunden lange Videoclips erstellen, mit zwei, drei knappen Sätzen. Die Ergebnisse eröffnen eine Welt, die beinahe so groß und erstaunlich ist wie diejenige, die [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ] für die Öffentlichkeit zugänglich gemacht hat. Das folgende Video gibt einen Einblick, und der lässt sich als gruselige Sensation beschreiben. Der Prompt »Ein Wurf Golden-Retriever-Welpen spielt im Schnee. Ihre Köpfe ploppen aus dem Schnee heraus« – [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ], das selbst für Fachleute kaum von einem echten Video zu unterscheiden ist. Auf den ersten Blick schon gar nicht.

[ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]

Künstlicher Intelligenz sollte man sich nicht mit dem bisherigen Technologieverständnis nähern. Auch klassische, digitale Erkenntnisse reichen oft nicht aus, um das gegenwärtige Potenzial dieses Technologiekomplexes zu erfassen. Und noch weniger, um die künftige Entwicklung sinnvoll abschätzen zu können. KI muss inklusive der ständigen, manchmal exponentiellen Verbesserung gedacht werden. Das ist nicht trivial, weil unser menschliches Basisverständnis oft falsch einsortiert, was für KI einfach und was schwierig ist.

Sora muss man deshalb als Ausgangspunkt einer neuen Welt betrachten. Alle kleinen Unzulänglichkeiten und großen Merkwürdigkeiten in den bisherigen Videos sind aus meiner Sicht vernachlässigbar. Wir befinden uns am Anfang einer neuen medialen und damit auch politischen Zeitrechnung, denn mit Sora und vergleichbaren Technologien reicht der Begriff »Fake News« nicht mehr aus.

Auf dem Weg zur perfekten Propagandamaschinerie

Text-to-Video auf dem Niveau von Sora ist der Startschuss für die Epoche der »Fake Reality«, auch wenn der Begriff in sich widersprüchlich erscheint. KI kann Welten erschaffen, deren Abbild nicht mehr zu unterscheiden sein wird von den Abbildern, mit denen wir unsere Wirklichkeit bisher gelernt haben einzuschätzen. ChatGPT beherrscht die Erschaffung von Kommunikationsstrategien, diese Fähigkeiten dürften in der nächsten Iteration dramatisch besser werden, und sie werden irgendwann verbunden werden können mit Sora. Ein Prompt der Zukunft: »Erstelle eine Reihe von 10 Videos, die so viele Menschen wie möglich davon überzeugt, dass Wladimir Putin die einzige Hoffnung für Europa ist«. Die Skripts würden die neuesten, wissenschaftlichen Erkenntnisse der persuasiven Kommunikation und der Propaganda berücksichtigen, sie würden clever, unterhaltsam und viralitätsorientiert daherkommen.

Und hier schließt nahtlos TikTok an. Denn selbst die beste generative KI kann nur die Wahrscheinlichkeit erhöhen, mit der ein kommunikatives Ziel erreicht wird. Aber weil KI in Lernschleifen gedacht werden muss, würde die KI Tausende Versionen erstellen, die via TikTok ganz einfach auf Reichweite, Viralität und Wirkung beim Publikum überprüft werden können. Diese Daten fließen in den weiteren Kreationsprozess ein, lassen sich nach ihrer Wirksamkeit bei Zielgruppen unterteilen und immer präziser verbessern.

Mit dem Prinzip TikTok plus des Technologiekomplexes rund um Sora sind wir auf dem Weg zur perfekten, voll automatisierten Propagandamaschinerie des 21. Jahrhunderts. Sie kann Fake-Realitäten erschaffen, zugeschnitten im Zweifel auf jede einzelne Person. Bisher schützt uns, dass für die Qualität von Sora gigantische Ressourcen und Fachkenntnisse notwendig sind, die nur sehr wenige, große Unternehmen beherrschen – mit denen man verhandeln kann. Aber das wird nicht immer so bleiben. Wir haben bisher kaum das Problem der Fake News in den Griff bekommen und müssen uns schon mit einer ungleich wirkmächtigeren Fake Reality auseinandersetzen.

[ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]
Wenn ich mal durch meinen selten genutzten Facebook Account schwimme, stelle ich fest, dass mittlerweile ca. 30% aller Bilder KI generiert sind. Freundschaftsanfragen bekomme ich sehr viel von sogenannten Digital Creators.
Das Video in dem Beitrag empfinde ich als bedrückend.
Ich hab schon selbst mit AI gespielt und die Ergebnisse, z.B. von Fotomanipulationen waren erstaunlich.

[lawedo6574]

Letztens hatte ich irgendwo mal was gelesen, wo man dank KI quasi Stimmen 1-1 nachmachen kann. Irgendwie... habe ich Angst vor dieser ganzen shice.

[Thorasan]

Man kann sich auch selbst lustige Fake-Videos generieren.. Fake-Menschen die Fake-Dinge tun. Legst dir nen Avatar über Leonardo an, super-realistisch bzw. Fotorealisitisch... Dann wechselst du auf ElevenLabs (Sprache klonen, Texte vorlesen lassen usw); Und schlussendlich gehst du auf d-id und fügst das Bild ein, lässt es animieren und legst deinen vorher eingesprochenen Text drunter. Schon hast du z.b. von dir eingelesene Nachrichten o.ä.
Ohne Kentnisse der Systeme sitzt du ggf. ne Stunde dran, wenn man es etwas länger anschaut und nutzt geht es wesentlich schneller und echter.

Ob das Angst macht? Jein. Wenn man nun nicht jeden Blödsinn in sozialen Medien glaubt, sondern erstmal durchatmet, bekommt man meist sehr schnell mit, ob es wahr oder falsch ist. Andererseits macht es mir Angst, weil es genug Idioten gibt, die alles immer sofort und ohne mitzudenken ernst nehmen und weiterverbreiten.

[elise]

ich denke, man wird künftig einfach nichts mehr so ohne weiteres glauben können. bin gespannt, welche möglichkeiten erdacht werden, um den menschen zu helfen wahres und fake voneinander zu unterscheiden....vielleicht gibts in grauer zukunft auch versicherungen gegen "bin auf fake-was-auch-immer" reingefallen?!...

by the way... gibts gute kostenlose KIs, die bilder generieren können? ohne anmeldung oder so... würde ich gerne mal probieren...

[Draalz]

Die EU arbeitet ja an dem Ansatz, dass sämtliche KI generierte Inhalte zu kennzeichnen sind.
Die Überprüfung solcher Inhalte benötigt vermutlich auch eine KI, die darauf getrimmt wurde.
Diese Technologie, denke ich überfordert Politik. Die Entschlüsselung wird bei den Menschen stattfinden müssen, oder auch nicht.

[Thorasan]

@elise ohne Anmeldung nicht, nein. Die meisten nicht mal wirklich ohne Bezahlung.
Wie ich aber schrieb, kannst du [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ] nutzen. Mit ner Mailadresse anmelden, dann bekommst du einen Riesen Haufen Optionen, um Bilder generieren zu lassen; Auf Wunsch kannst du auch die entsprechenden Tags generieren lassen oder vorhandene Bilder und Tags manipulieren und damit weiterarbeiten. Man bekommt dort eine tägliche "Coins" Gutschrift, die man dann kostenlos verwenden kann.

[elise]

Zitat von Draalz

Die EU arbeitet ja an dem Ansatz, dass sämtliche KI generierte Inhalte zu kennzeichnen sind.

hach ja... was nicht alles zu kennzeichnen ist - und wie das dann so umgangen werden kann, dass man ein studium braucht, um die kennzeichnung zu erkennen.
ich glaube, wir steuern misstrauischen zeiten entgegen - die einen werden alles glauben, die anderen nix mehr...

[Melvin van Horne]

Moin,

Zitat von Draalz

Die EU arbeitet ja an dem Ansatz, dass sämtliche KI generierte Inhalte zu kennzeichnen sind.

Diese Kennzeichnung soll dann verhindern, dass man durch KI generierte Inhalte getäuscht und betrogen wird. Die EU arbeitet also an Regelungen die Leute, die versuchen mittels KI zu täuschen und zu betrügen verpflichtet, ihren Betrugsversuch entsprechend zu kennzeichnen. Wenn sie nun noch eine Pflicht zur Kennzeichnung von Phishingmails einführen ist der Kriminalität im Netz fast der Nährboden entzogen.

Im Ernst. Ich bin mir nicht sicher, ob eine Pflicht zur Kennzeichnung von KI Inhalten wirklich den Effekt hat, den man sich davon verspricht. Ja, sie würde die strafrechtliche Verfolgung der Täter etwas erleichtern. Davon verspreche ich mir aber nicht zu viel. Welche der jetzt schon verbotenen Dinge im Netz führen denn in größerer Menge zu Verurteilungen?

Wenn, und das ist nur meine Vermutung, die ehrlichen die von ihnen erzeugten Inhalte entsprechend kennzeichnen kann das nicht auch dazu führen, dass in betrügerischer Absicht nicht gekennzeichnete Inhalte glaubwürdiger erscheinen weil mancher glaubt "Wenn es KI wäre, müsste es ja gekennzeichnet sein." ?

Es gibt Leute die skeptisch sind, überlegen und prüfen. Um die zu täuschen bedarf es einiger Anstrengung. Und es gibt Leute die glauben, was sie glauben wollen. Ob das gekennzeichnet ist oder nicht.

[lawedo6574]

Zitat von Thorasan

Man kann sich auch selbst lustige Fake-Videos generieren.. Fake-Menschen die Fake-Dinge tun. Legst dir nen Avatar über Leonardo an, super-realistisch bzw. Fotorealisitisch... Dann wechselst du auf ElevenLabs (Sprache klonen, Texte vorlesen lassen usw); Und schlussendlich gehst du auf d-id und fügst das Bild ein, lässt es animieren und legst deinen vorher eingesprochenen Text drunter. Schon hast du z.b. von dir eingelesene Nachrichten o.ä.
Ohne Kentnisse der Systeme sitzt du ggf. ne Stunde dran, wenn man es etwas länger anschaut und nutzt geht es wesentlich schneller und echter.

Ob das Angst macht? Jein. Wenn man nun nicht jeden Blödsinn in sozialen Medien glaubt, sondern erstmal durchatmet, bekommt man meist sehr schnell mit, ob es wahr oder falsch ist. Andererseits macht es mir Angst, weil es genug Idioten gibt, die alles immer sofort und ohne mitzudenken ernst nehmen und weiterverbreiten.

Mir stellt sich dabei eher die Frage, warum und aus welchem Grund man sowas überhaupt tut, tun sollte oder tun muß.

Das Inet ist schon geil, sonst gäbe es nicht so tolle Seiten wie die hier. Für mich ist mygully schon fast die wichtigste/interessanteste Seite im Netz. Aber ganz sicher nicht wegen KI.

[Uwe Farz]

Geht ja schon gut los mit dem Missbrauch:

Auf Demos in Sachsen verbreitet Staatsschutz ermittelt wegen gefälschter Tagesschau-Beiträge
Auf Kundgebungen in Dresden wurden KI-generierte ARD-Beiträge abgespielt. Darin sollen sich Tagesschau-Sprecher für angebliche Lügen entschuldigt haben. Jetzt will die Polizei auch andere Demos genauer untersuchen.
[ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]

Wir werden eine ganze Welle von ähnlichen Vorkommnissen erleben.

[eitch100]

Letztlich wird nur KI gegen KI-(Deep-)Fakes helfen...
Und da gibt es schon gute Software und Strategien. Zumindest für den Moment...

[lawedo6574]

Andererseits könnte man aber auch sagen, diese KI braucht kein Mensch.

[eitch100]

Zitat von lawedo6574

Andererseits könnte man aber auch sagen, diese KI braucht kein Mensch.

Könnte man, sollte man aber nicht... es gibt "unendlich" viele Positivbeispiele... z.B. Krebsfrüherkennung.
Ob diese Positiveffekte bei allen Gefahren überwiegen, kann vermutlich keiner sagen. Aber aufzuhalten ist das eh nicht...
Das ist ein bisschen wie in der Genforschuing bis zum Clonen von Menschen.

[lawedo6574]

Zitat von eitch100

Könnte man, sollte man aber nicht... es gibt "unendlich" viele Positivbeispiele... z.B. Krebsfrüherkennung.
Ob diese Positiveffekte bei allen Gefahren überwiegen, kann vermutlich keiner sagen. Aber aufzuhalten ist das eh nicht...
Das ist ein bisschen wie in der Genforschuing bis zum Clonen von Menschen.

Ok, bei Thema Krebsforschung 100 Prozent agree.

Aber wie man dann noch mehr überwacht, durchlöchert wird... zum Glück erlebe ich diesen ganzen Kram nicht mehr.

Letztens kam dazu, daß Menschen 300 Jahre alt werden. Der nächste Schritt dann unsterblich.

Über sowas gibts auch gut geschriebene Krimis. Manches muß man echt nicht haben.

[Nana12]

Die Ära der Fake Reality beginnt

Ja, nennt sich u.a. waging the dog, was durch den gleichnamigen Film zu einem geflügelten Wort wurde. Eine Abstraktion der Realität mit Manipulationsabsicht ist so alt wie die Berichterstattung selbst. Das Thema ist also nicht neu, noch nicht einmal das der Mitteleinsatz zur Manipulation immer geringer wird und dadurch fast jeder dies bewerkstelligen kann. Neu ist nur die Dimension durch KI Einsatz.

Schon jetzt eignet sich TikTok nicht nur, aber eben auch hervorragend zur Verbreitung von Ideologien.

In der Praxis gibt es keine ideologiefreie Medien. Schon gar nicht dort wo jeder seinen Müll hochladen kann. Ideologien muss hier als "Verschwörungsideologie" verstanden werden, als deren Gegenpart sich klassische Medien verstehen: Neutral, objektiv und vor allem ideologiefrei. Nichts könnte falscher sein, und das gerade bei Ideologien. Ich möchte keine Medien konsumieren die beispielsweise vom Liberalismus nichts halten weil dies ja auch eine Ideologie ist. Dies ist aber nicht das Problem.

Das Problem, gegen das Lobo hier anstrampelt, ist eigentlich der Verlust der Deutungshoheit klassischer Medien. Als Gegenmittel versucht man die 'neuen' Medien zu diskreditieren und ihnen die gleichen Probleme unterstellt, die zum Verlust der Deutungshoheit der klassischen Medien führten. In einer Zeit in der man nun angeblich ganze Realitäten per KI entwerfen kann, müssten Medien die sich den journalistischen Idealen verpflichtet fühlen, Hochkonjunktur haben. Das Gegenteil ist aber der Fall, weil sie eben die Vormachtstellung oft genug missbraucht haben.

[csesraven]

Genau, wir werfen einfach X, TikTok und Co in einen Topf mit "klassischen" Medien.

Warum klassische Medien Hochkonjunktur haben müssten weiß Nana vermutlich für sich alleine. Der Konsum geht seit Beginn immer weiter weg von Informationen hin zu Unterhaltung und "Shocking". Das Menschen, die eine immer kürzere werdende Aufmerksamkeitsspanne haben, ein Medium bevorzugen, in dem man im 20 Sekunden-Takt mit neuen Videos beschallt wird liegt gaaanz bestimmt an dem Missbrauch der klassischen Medien.

Absurd, demnächst ist die Regierung und die "Medien" auch schuld, wenns im Bett nicht läuft. Man muss X und TikTok nicht diskreditieren