TikTok plus KI: Fake News war gestern, die Ära der Fake Reality beginnt – Sascha Lobo-Kolumne
Soeben bewegen sich zwei unaufhaltsam erscheinende Technologiekomplexe aufeinander zu, die schon allein die Kraft hätten, unsere Welt zu verändern. Wir können erst grob erahnen, was passiert, wenn sie verschmelzen. Der eine ist das soziale Netzwerk TikTok, für das die EU gerade eine Untersuchung eröffnet hat
. Vor allem, um herauszufinden, wie sicher Kinder und Jugendliche dort sind, was etwa Suchtpotenzial, den »Rabbit-Hole-Effekt« oder Altersverifikation angeht. Der andere ist eine Technologie, natürlich aus dem Bereich der generativen künstlichen Intelligenz, der den sperrigen Genrebegriff »text to video« trägt. ChatGPT-Schöpfer OpenAI hat jüngst Sora vorgestellt , eine KI, die aus kurzen, hingeworfenen Befehlen in kürzester Zeit mehr oder weniger realistisch aussehende Filmsequenzen generieren kann.
Sascha Lobo, Jahrgang 1975, ist Autor und Strategieberater mit den Schwerpunkten Internet und digitale Technologien. Gemeinsam mit Jule Lobo beschäftigt er sich im Podcast »Feel the News – Was Deutschland bewegt«
mit aktuellen Debattenthemen.
Die Frage, warum man beides gemeinsam und auf die potenzielle Wirkmacht bezogen betrachten muss, beginnt mit TikTok. Die chinesische Video-App ist eine der wichtigsten Unterhaltungs-, Informations- und auch Nachrichtenplattformen der Generation bis dreißig Jahren in der westlichen Welt. TikTok hat es durch radikale Fokussierung auf eine Art algorithmischen Populismus geschafft, sehr vielen Menschen genau die Inhalte zu zeigen, die sie sehen wollen. Selbst, wenn sie das vorher noch gar nicht wussten. Ein in der Frühzeit der Netzkultur dafür geprägter Begriff lautet »serendipity«, was man mit »finden ohne zu suchen« übersetzen kann.
TikTok hat für anderthalb Generationen ein Anreizsystem geschaffen, wie Unterhaltung hyperpersonalisiert und Kreativität in Macht übersetzt werden kann. Denn letztlich bietet TikTok dem Publikum unendliche und wirklich gute Unterhaltung. Den Inhalteproduzierenden aber bietet TikTok Reichweite, Monetarisierung und eine Relevanz, die von den meisten älteren Lebensteilnehmern noch immer drastisch unterschätzt wird. An der Reichweite ist vor allem attraktiv, dass TikTok in sozialen Netzwerken völlig neu definiert hat, wie die sogenannte Viralität entsteht, also die explosive Verbreitung einzelner Inhalte. Dadurch können auch Leute mit sehr wenig Followern ein Millionenpublikum erreichen – mit der richtigen Idee für ein Video.
Feuerwerk der Manipulation
TikTok hat gegenwärtig den wohl besten existierenden Empfehlungsalgorithmus. Leider kann er ausgenutzt werden, und zwar insbesondere von Leuten, die mit verkürzten oder ganz gefälschten Informationen arbeiten, um eine besondere Form der TikTok-Sensationalisierung zu erreichen. Die TikTok-Sensationalisierung hat viele unterschiedliche, kulturelle Facetten, und die meisten davon sind strukturell positiv. Im Kern geht es meist um die kreative Fähigkeit, mit Witz, Charme, manchmal Intelligenz und Musikschnipseln sowie ein paar technischen Spielereien eine interessante bis spektakuläre Sekundeninszenierung herzustellen.
Mehr zum Thema
Politisch, gesellschaftlich und nachrichtlich ist TikTok bei Weitem nicht nur, aber inzwischen eben auch ein Feuerwerk der Manipulation, das sich hervorragend zur Verbreitung von Ideologien eignet. Die Inszenierungsradikalität auf TikTok bedeutet zu oft, dass für wahr und richtig gehalten wird, was sich gut und interessant anhört. Das ist zugegeben nichts, was TikTok erfunden oder auch nur exklusiv hat – aber die Geschwindigkeit, das extreme Viralitätspotenzial, die Hyperpersonalisierung, das Publikum und der Zustand der Welt verstärken diesen Effekt.
In den vergangenen Monaten kam häufiger die Frage auf, warum die AfD auf TikTok so erfolgreich ist. Das liegt einerseits an reaktionären Trends, die dort oft subtil, aber letztlich ganz offen transportiert werden, wie Antifeminismus, Rassismus, Antisemitismus und ganz besonders auch Sozialdarwinismus in verschiedenen Formen. Eine große Interessensphäre mit ganz eigenen Stars mit Millionenreichweite beschäftigt sich zum Beispiel fast ausschließlich damit, wie man so schnell wie möglich so reich wie möglich wird. Das greift nahtlos in die allgegenwärtige Selbstoptimierung auf TikTok hinein. Und weil sich soziale Medien wie Instagram und auch TikTok so perfekt für die Inszenierung von Reichtum und Luxus eignen, entsteht aus beiden Strömungen schnell die Haltung, arme Menschen seien prinzipiell selbst an ihrem wirtschaftlichen Misserfolg schuld. Nebst dem Plan, wie man vermeintlich aus eigener Kraft reich wird.
Auch der Ruf nach autoritärer Führung findet überraschend großen Widerhall, und längst nicht nur in rechten Zirkeln. Ganz zentral für den Erfolg der AfD bei jungen Menschen auf TikTok ist aber aus meiner Sicht eine Ablösung der klassischen Nachrichten- und Welterklärungsmedien vom Alltagserleben vieler Jugendlicher. Wenn etwa absurde Überbürokratie, Politikversagen oder Probleme mit der Integration zwar persönlich erlebt oder medial präsent werden, aber dafür nur verkrampfte, abstrakte Erklärungen und schon gar keine Lösungen angeboten werden. Plötzlich erscheint rassistischer oder antidemokratischer Populismus gleichzeitig als Erklärung und als Lösung. Spektakel und Inszenierung vertragen sich eben nicht immer gut mit Komplexität, Grautönen und der Abwägung demokratischer Werte.
TikTok als Fake-News-Schleuder zu bezeichnen, ist definitiv verkürzt und berücksichtigt nicht die vielen Kräfte, die sich genau dort dem Strom des Antifortschritts entgegenstellen, mit Aufklärung, Bildung, Gegenanalysen und wirklich guter Unterhaltung. Aber TikTok geht als das gegenwärtig wohl machtvollste, korrektivärmste und aufmerksamkeitsstärkste Einflussmedium hinein in Köpfe unter 30 Jahren.
Eine gruselige Sensation
Was direkt zu Sora führt, das hier als Symbol für den ganzen Technologiekomplex von KI-Videos dienen soll. Die KI-Community in sozialen Medien ist seit der Vorstellung von Sora völlig aus dem Häuschen. Für eine Anzahl aus OpenAI-Sicht besonders vertrauenswürdiger Personen ist diese Technologie bereits verfügbar, und diese Leute veröffentlichen immer wieder neue Videos, oft inklusive der Anweisungen, der Prompts, mit der die KI die Videos generiert hat. So hat es OpenAI auch auf der Vorstellungsseite von Sora gehalten. Derzeit kann man mit Sora bis zu 60 Sekunden lange Videoclips erstellen, mit zwei, drei knappen Sätzen. Die Ergebnisse eröffnen eine Welt, die beinahe so groß und erstaunlich ist wie diejenige, die ChatGPT für die Öffentlichkeit zugänglich gemacht hat. Das folgende Video gibt einen Einblick, und der lässt sich als gruselige Sensation beschreiben. Der Prompt »Ein Wurf Golden-Retriever-Welpen spielt im Schnee. Ihre Köpfe ploppen aus dem Schnee heraus« – führt zu einem Video , das selbst für Fachleute kaum von einem echten Video zu unterscheiden ist. Auf den ersten Blick schon gar nicht.
Empfohlener externer InhaltAn dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt und von der Redaktion empfohlen wird. Sie können Ihre Zustimmung jederzeit wieder zurücknehmen.
Externen Inhalt anzeigen
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen übermittelt werden.
Mehr dazu in unserer Datenschutzerklärung.
Künstlicher Intelligenz sollte man sich nicht mit dem bisherigen Technologieverständnis nähern. Auch klassische, digitale Erkenntnisse reichen oft nicht aus, um das gegenwärtige Potenzial dieses Technologiekomplexes zu erfassen. Und noch weniger, um die künftige Entwicklung sinnvoll abschätzen zu können. KI muss inklusive der ständigen, manchmal exponentiellen Verbesserung gedacht werden. Das ist nicht trivial, weil unser menschliches Basisverständnis oft falsch einsortiert, was für KI einfach und was schwierig ist.
Sora muss man deshalb als Ausgangspunkt einer neuen Welt betrachten. Alle kleinen Unzulänglichkeiten und großen Merkwürdigkeiten in den bisherigen Videos sind aus meiner Sicht vernachlässigbar. Wir befinden uns am Anfang einer neuen medialen und damit auch politischen Zeitrechnung, denn mit Sora und vergleichbaren Technologien reicht der Begriff »Fake News« nicht mehr aus.
Auf dem Weg zur perfekten Propagandamaschinerie
Text-to-Video auf dem Niveau von Sora ist der Startschuss für die Epoche der »Fake Reality«, auch wenn der Begriff in sich widersprüchlich erscheint. KI kann Welten erschaffen, deren Abbild nicht mehr zu unterscheiden sein wird von den Abbildern, mit denen wir unsere Wirklichkeit bisher gelernt haben einzuschätzen. ChatGPT beherrscht die Erschaffung von Kommunikationsstrategien, diese Fähigkeiten dürften in der nächsten Iteration dramatisch besser werden, und sie werden irgendwann verbunden werden können mit Sora. Ein Prompt der Zukunft: »Erstelle eine Reihe von 10 Videos, die so viele Menschen wie möglich davon überzeugt, dass Wladimir Putin die einzige Hoffnung für Europa ist«. Die Skripts würden die neuesten, wissenschaftlichen Erkenntnisse der persuasiven Kommunikation und der Propaganda berücksichtigen, sie würden clever, unterhaltsam und viralitätsorientiert daherkommen.
Anzeige
Sascha Lobo
Die große Vertrauenskrise
Verlag: Kiepenheuer & Witsch
Seitenanzahl: 336
Für 25,00 € kaufen
Preisabfragezeitpunkt
04.04.2025 12.00 Uhr
Keine Gewähr
Bei Amazon bestellen Bei Thalia bestellen Bei Genialokal bestellenProduktbesprechungen erfolgen rein redaktionell und unabhängig. Über die sogenannten Affiliate-Links oben erhalten wir beim Kauf in der Regel eine Provision vom Händler. Mehr Informationen dazu hier
Und hier schließt nahtlos TikTok an. Denn selbst die beste generative KI kann nur die Wahrscheinlichkeit erhöhen, mit der ein kommunikatives Ziel erreicht wird. Aber weil KI in Lernschleifen gedacht werden muss, würde die KI Tausende Versionen erstellen, die via TikTok ganz einfach auf Reichweite, Viralität und Wirkung beim Publikum überprüft werden können. Diese Daten fließen in den weiteren Kreationsprozess ein, lassen sich nach ihrer Wirksamkeit bei Zielgruppen unterteilen und immer präziser verbessern.
Mit dem Prinzip TikTok plus des Technologiekomplexes rund um Sora sind wir auf dem Weg zur perfekten, voll automatisierten Propagandamaschinerie des 21. Jahrhunderts. Sie kann Fake-Realitäten erschaffen, zugeschnitten im Zweifel auf jede einzelne Person. Bisher schützt uns, dass für die Qualität von Sora gigantische Ressourcen und Fachkenntnisse notwendig sind, die nur sehr wenige, große Unternehmen beherrschen – mit denen man verhandeln kann. Aber das wird nicht immer so bleiben. Wir haben bisher kaum das Problem der Fake News in den Griff bekommen und müssen uns schon mit einer ungleich wirkmächtigeren Fake Reality auseinandersetzen.
Teilen Sie uns Ihre Meinung mit!
