Algorithmen fördern Desinformation: Droht das Ende der Aufklärung?

Es war Spätsommer in den Vereinigten Staaten, der Wahlparteitag der Demokraten lief noch. Kamala Harris hatte Hoffnungen, die nächste Präsidentin der Vereinigten Staaten zu werden. Die private Rundreise durch Amerika führte durch Portland und Seattle – für Amerika eher untypische, funktionierende Städte, in denen sich sogar noch große, unabhängige Buchhandlungen finden lassen, in denen das Stöbern Spaß macht.

Im Autoradio unterwegs aber liefen Nachrichten oder das, was der Sender darunter verstand. Verstörenderweise war jeder Bericht ein Kommentar. Der Sender stand auf der Seite der Republikaner. Die Einordnungen durch republikanische Politiker nahmen in der Sendung deutlich breiteren Raum ein als die wenigen im Originalton hörbaren Redebeiträge von Politikern der Demokraten. Die Bemerkungen des Moderators, der nur wie ein Nachrichtensprecher klang, verstärkten den irritierenden Eindruck. Die beiden Bundesstaaten, durch die wir fuhren, Washington und Oregon, fallen bei einer Präsidentschaftswahl in der Endabrechnung zwar mehrheitlich recht sicher in die Hand der Demokraten, aber die Reise zeigte: Das heißt gar nichts.

Sich auf Neues einlassen

Auf dem Land schien die Sonne, dort wehen die dunklen Fahnen der Trump-Anhänger. Im verregneten Seattle lief man zum Teil über Bürgersteige in Regenbogenfarben und sah kleine „Harris/Walz“-Plakate in Schaufenstern. Gespräche über Politik? Wollte niemand gern führen. Helfen Bücher? In Seattle heißt die unabhängige Buchhandlung, die man besuchen sollte, „Elliott Bay Book Company“, gelegen zwischen Pine und Pike Street an der 10th Avenue. Die hölzerne Decke wird von breiten Holzträgern vertrauenerweckend gestützt, die Bücher stehen in rustikalen Holzregalen. Auf den ersten Blick sah alles etwas unaufgeräumt aus; die Inhaber setzen darauf, dass man sich hier länger aufhält. Zeit findet, Neues nicht nur zu entdecken, sondern sich darauf auch einzulassen. Menschen, die dies wertschätzen, gibt es noch. Die Buchhandlung war an diesem Samstagvormittag nicht schlecht besucht: Und das in der Heimatstadt von Amazon, des mit Abstand größten Onlinehändlers der Welt, der seinen Ursprung im Versand von Büchern hatte. Die „Elliott Bay Book Company“ hat diesen Angriff mit ihrem eigenen, unabhängigen Angebot überstanden.

Teilnahme am öffentlichen Diskurs ist nicht voraussetzungslos

Nicht in den Regalen, sondern auf einem der Büchertische lag eine Neuerscheinung von Steven Brill: „The Death of Truth“ heißt es. Es soll also um den Tod der Wahrheit gehen, und damit um das Gegenteil der Idee dieser Buchhandlung voller bedrucktem Papier: um Social Media, um das Internet und um die Frage, wie es diese Entwicklungen geschafft haben, Misstrauen zu säen, Vertrauen zu zerstören, die Menschen in ihren politischen Ansichten wenn nicht weiter auseinanderzutreiben, dann doch unversöhnlicher werden zu lassen.

Die „Elliot Book Company“ in SeattleCarsten Knop

Darüber haben sich zuvor schon bekannte Deutsche Gedanken gemacht. Denn die Teilnahme der Bürger am öffentlichen Diskurs, die in einer stabilen Demokratie nach der Ansicht nicht nur des Philosophen und Soziologen Jürgen Habermas notwendig ist, sie stabilisiert und ihr „einigendes Band“ ist – sie ist nicht voraussetzungslos. Habermas unterstreicht, dass demokratische Prozesse in ein „Geflecht kultureller Wertorientierungen“ eingebunden sein müssen. Diese aber werden durch die Veränderungen in der Kommunikation der Menschen in eine Krise geführt. Dieser Prozess ist für Habermas die „Verwandlung der Bürger wohlhabender und friedlicher liberaler Gesellschaften in vereinzelte, selbstinteressierte Monaden, die ihre subjektiven Rechte wie Waffen gegeneinander richten“.

Zahlreiche Lügen in den sozialen Medien

Kehren wir von der deutschen Gedankenwelt zurück in die Buchhandlung in Seattle und nehmen uns die Zeit, in das Buch von Brill hineinzulesen: „Es gibt keine wirkliche Wahrheit, die von allen geteilt wird“, steht dort. „Macht kommt nicht durch Ideen, die in demokratischen Prozessen zivilisiert diskutiert werden, sondern durch diejenigen, die das meiste Misstrauen für ihre eigenen Zwecke erzeugen.“ Man könnte glauben, Brill habe seinen Habermas gelesen. Im Buch folgen Beispiele von Wahrheit, die im Netz und in sozialen Medien in der jüngeren Zeit als Lügen diffamiert worden sind: Der Masernimpfstoff wirkt und ist sicher. Er verursacht keinen Autismus, kein ADHS und keine andere Krankheit. Die 5-G-Mobilfunktechnologie verursacht keinen Krebs. Der Aufstand im US-Kapitol am 6. Januar 2021 war keine vom FBI inszenierte Opera­tion. Die Ukraine hat keine von den Vereinigten Staaten gespendeten Waffen an die Hamas verkauft. COVID-Impfstoffe wirken und sind sicher, wie die realen Daten aus allen seriösen Quellen belegen. Barilla-Nudeln wurden in Italien nicht vom Markt genommen, weil sie von Insekten befallen waren. Die Russen haben in Butscha Gräueltaten begangen. Der Baseballstar Hank Aaron ist nicht an einem COVID-Impfstoff gestorben, ebenso wenig wie der Schauspieler Matthew Perry.

Wem kann man noch trauen?

Die Folgen des massenhaften Zweifels an diesen Fakten sind messbar: Das Vertrauen in die amerikanische Bundesregierung, dass sie die meiste Zeit über das Richtige tut, ist laut dem Pew Research Center von etwa 73 Prozent im Jahr 1958 auf 16 Prozent im September 2023 gesunken. 46 Prozent der Menschen sagen, dass die Regierung „eine Quelle falscher oder irreführender Informationen“ ist, während 42 Prozent dasselbe über die Medien sagen.

Steven Brill, „The Death of Truth“Carsten Knop

Wem kann man noch trauen, wenn eine Website, die falsche Krebsheilmittel bewirbt, genauso aussieht wie die Website der American Cancer Society? In Deutschland sehen vergleichbare Zahlen jedenfalls nicht anders aus. Im Oktober 2022 waren in Deutschland nur noch 22 Prozent der Bürger mit der Art und Weise einverstanden, wie Demokratie funktioniert – das waren 13 Prozentpunkte weniger als zwei Jahre zuvor, und der niedrigste Wert seit 2011, wie Joachim Gauck und Helga Hirsch in ihrem Buch „Erschütterungen“ schreiben.

Lügen verbreiten sich schneller als Wahrheiten

Brills These lautet: Es wird noch viel schlimmer werden. Wir sehen, wie generative Künstliche Intelligenz es Menschen, die Fehlinformationen oder Desinformationen verbreiten, ermöglicht, gefälschte Websites oder Social-Media-Beiträge in exponentiell größerem Umfang zu erstellen und das Vertrauen in Institutionen noch weiter zu untergraben – insbesondere auch in lokale Nachrichten, die lange Zeit als das vertrauenswürdigste Nachrichtenmedium galten. Das Massachusetts Institute of Technology (MIT) hat dokumentiert, dass der Twitter (nun: X)-Algorithmus so gut darauf ausgelegt ist, unzuverlässige Inhalte zu fördern, dass falsche Geschichten mit einer um 70 Prozent höheren Wahrscheinlichkeit retweetet werden als wahre Geschichten. Es sind solche Plattformen, die es ermöglichen, manipulative Narrative mit phänomenaler Leichtigkeit zu verbreiten.

Ein häufiges Argument gegen die Regulierung von Meinungsäußerungen ist, dass „gute“ Meinungsäußerungen „schlechte“ Meinungsäußerungen besiegen werden. Das ist auch das Argument dafür, dass eine Qualitätskontrolle künftig nicht nur bei der Plattform X, sondern auch bei den Angeboten des Meta-Konzerns (Facebook, Instagram) mindestens in den Vereinigten Staaten nicht mehr von dafür bezahlten Menschen erfolgen soll, die Fakten prüfen. Aber die Rechnung der Selbstkontrolle im angeblichen Namen der Meinungsfreiheit wird nicht aufgehen. Denn das Geschäftsmodell der Plattformen ist darauf ausgerichtet, der „schlechten“ Meinungsäußerung mehr Gehör zu verschaffen.

Programmatische Werbung ist ein riesiger Markt

Doch warum ist das so? Vor rund zwanzig Jahren haben Werbetreibende damit begonnen, ihre Marketinggelder zunehmend in die sogenannte programmatische Werbung (also den vollautomatischen und individualisierten Ein- und Verkauf von Werbeflächen in Echtzeit) zu stecken. 60 Prozent aller Werbung wird online über programmatische Werbung ausgespielt und übertrifft damit die traditionelleren Werbeplatzierungen in Fernsehen, Radio, Zeitschriften und Plakatwänden zusammen. Über ihre Werbeagenturen schütten die Unternehmen auf diesem Weg Milliarden Dollar in die algorithmische Blackbox, die verspricht, genau die Verbraucher, die sie ansprechen wollen, zu den niedrigsten Kosten zu erreichen – aber weitestgehend ohne Rücksicht darauf, wo die Anzeige erscheint.

Sofern der Werbetreibende keine Ausschluss- oder Einschlusslisten verwendet, sind die Inhalte, um die herum die Anzeige erscheint und die durch die Anzeige finanziert werden, nicht mehr Teil der automatisierten Entscheidung. Der Algorithmus ermöglicht es den Inhalte-Anbietern also, Werbeflächen zum Schnäppchenpreis anzubieten, damit sie ansonsten unverkaufte Werbeflächen auf ihren Websites loswerden können. Das Volumen dieses Markts ist riesig: Die Ausgaben für programmatische Werbung werden auf mehr als 300 Milliarden Dollar im Jahr 2023 geschätzt. Und 2021 schätzte das Marktforschungsunternehmen Com­score, dass im Jahr 2020 rund 2,6 Milliarden Dollar an Werbeeinnahmen von programmatischen Werbetreibenden an die Herausgeber von Fehlinformationen und Desinformationen gingen.

Nun gibt es dafür eine „Lösung“; lange Listen mit blockierenden Wörtern, die es verhindern, dass Werbung in einem Umfeld erscheint, in dem diese Worte gebraucht werden. Da es sich dabei oft auch um die realen schlechten Nachrichten (Krieg, Flucht, Vertreibung, Katastrophen, Krisen) handelt, wird auf diesem Weg noch durch einen weiteren Faktor das Geschäft derjenigen am anderen Ende des Inhaltsspektrums untergraben, die die wertvollsten Nachrichten und Informationen anbieten. Denn so werden automatisch Anzeigen blockiert, die diese seriösen Medien sonst erhalten würden. Die These, dass durch diese Plattformen und ihr Verhalten tatsächlich die freie Rede gegenüber versagenden traditionellen Medienunternehmen gestärkt werde, ist Hohn.

Die Europäer sind hilflos

Europa und den Europäern fehlen die passenden Antworten darauf, denn die Region hat es versäumt, Angebote zu entwickeln, die den Amerikanern von X, Meta und Linkedin (Microsoft) oder den Chinesen von Tiktok Paroli bieten könnten. „Wenn uns vor zehn Jahren jemand gesagt hätte, dass der Eigentümer eines der größten Social-Media-Unternehmen der Welt eine neue internationale reaktionäre Bewegung unterstützen und direkt in Wahlen eingreifen würde, auch in Deutschland, wer hätte das gedacht?“, sagte der französische Präsident Emmanuel Macron zu Jahresbeginn vor Botschaftern – und drückte damit die gesamte Hilflosigkeit aus. Natürlich kann man als Nutzer die Plattformen auch einfach verlassen – und sie dann noch mehr den Stimmungsmachern überlassen. Ist das also wirklich eine gute Alternative?

Oder lieber gleich ein Verbot? Ebenfalls zum Jahresbeginn hat eine Umfrage gezeigt, wie sehr die Deutschen fürchten, dass die Video-App Tiktok der Demokratie und der mentalen Gesundheit schadet. Eine einfache Mehrheit der deutschen Bevölkerung ist dafür, die App hierzulande zu verbieten. Das geht aus einer repräsentativen Umfrage des Marktforschungsinstituts Appinio im Auftrag der deutschen Social-Media-Plattform „nebenan.de“ hervor: 38 Prozent sprechen sich demnach für ein Verbot aus, 33 Prozent sind dagegen. Allerdings gab mit 29 Prozent auch ein erheblicher Anteil an, unentschieden zu sein.

Soziale Medien erst ab 16 Jahren nutzen?

Besonders die älteren Deutschen unterstützen ein Verbot der Video-App: Unter den 55- bis 65-jährigen Teilnehmern der Umfrage sprachen sich 42 Prozent für ein Verbot aus. Groß sind die Unterschiede zwischen den Generationen aber nicht. Unter den 16- bis 24-Jährigen ist es immer noch mehr als ein Drittel, das ein Verbot befürwortet. Dabei beginnt ein großer Teil dieser Altersgruppe sogar ihre Internetsuche auf Tiktok – und nicht etwa auf Google. Die jüngste Alterskohorte ist vielleicht deshalb auch die einzige, in der eine relative Mehrheit gegen ein Verbot ist, allerdings nur knapp.

Anklang findet unter den Befragten das Vorbild Australiens, wo das Parlament vor Kurzem eine Altersbeschränkung für die Nutzung sozialer Medien wie eben Tiktok und Instagram beschlossen hat: 87 Prozent sind dafür, dass soziale Medien einer Altersbeschränkung unterliegen sollten. Gut die Hälfte spricht sich für eine Altersgrenze von 16 Jahren aus, wie sie Australien eingeführt hat, ein Fünftel sogar für eine Nutzung erst von 18 Jahren an. Bisher erlauben alle großen Plattformen die Nutzung von 13 Jahren an, es gibt aber keine Verifikation des Alters, das Nutzer bei der Registrierung selbst angeben. Ein Verbot müsste in Europa erst beschlossen werden, doch auch die gültigen Gesetze bieten Möglichkeiten, zum Beispiel mit Blick auf die Moderationsveränderungen bei Meta/Facebook.

Die meisten Menschen sind für eine stärkere Regulierung der sozialen Medien

Die EU sagt dabei nicht, welche Richtlinien zur Moderation von Inhalten auf den sehr großen Onlineplattformen eingeführt werden sollten. Das liegt in deren Verantwortung. Allerdings muss diese Möglichkeit, unabhängig von dem Modell, das die Plattform wählt, dann auch wirksam sein. Wenn eine Plattform gegen das Gesetz über digitale Dienstleistungen (GdD) verstößt, wird ein formelles Verfahren eingeleitet. Wenn dieses zu einer Entscheidung über die Nichteinhaltung führt und die Plattform sich weiterhin weigert, die Regeln einzuhalten, können die Geldstrafen bis zu sechs Prozent des Welt-Jahresumsatzes des Unternehmens betragen. Doch bis dahin ist es ein weiter Weg.

Generell zeigt sich in der Umfrage eine große Skepsis gegenüber den sozialen Medien. 88 Prozent der Befragten meinten, dass diese insgesamt stärker reguliert werden sollten. Eine Mehrheit glaubt jeweils, dass sich die Netzwerke negativ auf die gesellschaftlichen und politischen Ansichten der Nutzer, auf das Konsumverhalten und auf die psychische Gesundheit auswirken. Knapp weniger als die Hälfte sieht auch negative Auswirkungen auf das Sozialleben. Ob das tatsächlich so ist oder nicht, ist abermals Ansichtssache. Fest steht aber, dass sich Dinge ändern – und dass die Informationsvermittlung in der Mitte der Gesellschaft unter existenziellen Druck geraten ist: In den Vereinigten Staaten haben zwischen 2005 und 2023 rund 2200 Zeitungen und ihre Websites ihr Erscheinen eingestellt. Und zwischen 2008 und 2021 gingen 40.000 Arbeitsplätze in den Redaktionen dieser Zeitungen verloren.

Brauchen wir noch Journalisten?

Menschen, die das bejubeln, und davon gibt es reichlich, sollten noch einmal nachdenken. Donald Trump, der soeben seine zweite Amtszeit angetreten hat, ist der offensichtlichste Vertreter und Nutznießer dieses neuen Ökosystems der Fehlinformation und Desinformation, natürlich mit eigener Plattform, auf der die „Wahrheit“ verkündet wird – „Truth Social“ eben. Der Algorithmus spielt die Inhalte aus, die den individuellen Nutzer am meisten interessieren, auch wenn es falsche Nachrichten sind. Journalisten als Intermediäre stören, werden nicht mehr gebraucht. Oder doch?

Will man sich wirklich dauerhaft verwirren lassen, sodass man nicht weiß, was oder wem man glauben soll? Ist es eine gute Entwicklung, wenn es in der Rhetorik „News“ gar nicht mehr gibt, sondern nur noch Falschmeldungen, „Fake News“? Wenn der Begriff Medien ohne das vorgeschaltete Adjektiv „Mainstream“ gar nicht mehr fällt? Die Vereinigten Staaten mögen zu Recht als Exporteur der Ideale von Demokratie und Rechtsstaatlichkeit betrachtet werden. In der jüngsten Zeit besteht einer der größeren Exportschlager aber darin, die Technologien bereitzustellen, die dieselben Falsch- und Desinformationen, die die Demokratie in Amerika bedrohen, auf der ganzen Welt verbreiten.

Die Welt entwickelt sich nicht mehr in Richtung Aufklärung

Ist es das Ende der Aufklärung? Auf die Idee könnte man kommen, wenn man sich die Definition anschaut. Denn der Begriff Aufklärung bezeichnet die um das Jahr 1700 einsetzende Entwicklung, durch rationales Denken alle den Fortschritt behindernden Strukturen zu überwinden. Wer denkt aber noch rational, wenn er sich auf fremdgesteuerte, intransparente Algorithmen verlässt? Aufklärung, das ist oder war der Kampf gegen Vorurteile und die Hinwendung zu den Naturwissenschaften, das Plädoyer für religiöse Toleranz. Die Welt entwickelt sich derzeit gewiss nicht in diese Richtung.

Eine Geschichte aus dem Frankfurter Allgemeine Quarterly, dem Zukunftsmagazin der F.A.Z.

Mehr erfahren

Gesellschaftspolitisch zielte die Aufklärung unter anderem auf mehr persönliche Handlungsfreiheit (Emanzipation) – also das Gegenteil von Fremdsteue­rung, auf Bildung, also das Gegenteil von Desinformation, Bürgerrechte, allgemeine Menschenrechte und das Gemeinwohl als Staatspflicht. Viele Vordenker der Aufklärung waren fortschrittsoptimistisch und nahmen an, eine vernunftorientierte Gesellschaft werde die Hauptprobleme menschlichen Zusammenlebens schrittweise lösen. Dazu vertrauten sie auf eine kritische Öffentlichkeit. Kann man auf die Verbindung von Vernunft und kritischer Öffentlichkeit angesichts der beschriebenen Veränderungen aber noch setzen?

Viele Vorschläge greifen zu kurz

Die in der Aufklärung begründeten Zeitschriften und steigenden Buchauflagen fanden ihre Rezeption in Bibliotheken, Lesezirkeln, Salons, Kaffeehäusern und diversen Vereinigungen. Es bildeten sich Meinungen, zu denen Gegenpositionen entwickelt und wiederum veröffentlicht wurden. Dies geschah losgelöst von den Institutionen des Staates, und der Staat musste diese Meinungen zur Kenntnis nehmen. Können in der Algorithmenwelt der von Geschäftsinteressen beherrschten Plattformen aber noch Meinungen und valide Gegenpositionen entstehen? Sind sie zudem inzwischen stärker als der Staat? Die kritische öffentliche Meinung, kanalisiert durch Algorithmen auf weltumspannenden Plattformen, sie ist eine Institution, ohne Zweifel. Aber ist sie noch ein Grundpfeiler der Demokratie?

Legen wir in der Buchhandlung in Seattle das Buch von Steven Brill beiseite. Denn seine Vorschläge, was man gegen die Entwicklung tun kann, greifen leider zu kurz: Transparenz würde gewiss helfen; Aussagen darüber, wem eine bestimmte Plattform gehört, wer sie finanziert, oder auch eine Klarnamenpflicht für alle Nutzer allein reichen aber nicht aus. Vermeintliche Gründe, auch die Unabhängigkeit de facto unabhängiger Verlagshäuser anzuzweifeln, finden sich zudem immer, gleichgültig, welche Vorkehrungen getroffen sind, um dieselbe zu erhalten – sei es das Eigentum durch eine gemeinnützige Stiftung, sei es der Verzicht auf einen einzelnen Chefredakteur.

Wer die Axt an die Glaubwürdigkeit legen will, tut es – wieder und wieder. Irgendetwas bleibt schließlich immer hängen. Wer weiß schon noch, dass eine Zeitung eben nicht neutral sein muss, was journalistische Standards wirklich sind? Wer weiß zu schätzen, dass es in klassischen Redaktionen tatsächlich noch juristisch für den Inhalt Verantwortliche gibt? Wer diese Dinge wieder für sich entdeckt, erkennt den großen Unterschied zu dem, was auf den großen amerikanischen oder chine­sischen Plattformen verbreitet wird. Und umgekehrt gilt: „Sind Medien und die Justiz erst unter die Kontrolle einer autoritären oder illiberalen Regierung geraten, hat es jeder demokratische Widerstand schwer“, wie Gauck und Hirsch in ihrem Buch ebenfalls schreiben.

Gut wäre die Rückkehr zu dem, was eine inhabergeführte, unabhängige Buchhandlung bieten kann: Verantwortung für die persönlichen Empfehlungen eines Buchhändlers für seine ihm bekannten und ihm vertrauenden Kunden. Ein Geschäftsmodell, das nicht auf die Zulieferung von Kundenströmen von großen Plattformunternehmen abhängig ist, technisch unabhängig, dezentral. Es gibt Stimmen, die sagen, dass „Big Tech“ mit großen Schritten auf ein solches Finale zulaufen würde. Dass es an seine Grenzen stoße, weil auch in der Digitalisierung die Sorgen vor zu großem Einfluss der Plattformen und ihrer Eigner-Milliardäre wie Elon Musk zu groß würden. Dass es möglich sei, auch mithilfe von freier Open-Source-Software, wahrhaft demokratische, unabhängige, offene und transparente Angebote auf diesem Markt zu schaffen.

Ein Technologieumfeld ohne Profitinteresse

Geredet wird davon schon lange. Aber jetzt sei die Zeit dafür reif, wie zum Beispiel Meredith Whittaker in einem Beitrag für das Digitalmagazin „Wired“ schreibt, Präsidentin der Nachrichtenplattform Signal und Chefberaterin des AI Now-Institute. Der Betrieb von Signal selbst zum Beispiel koste nur 50 Millionen Dollar im Jahr. Was sie damit sagen will: So teuer wäre es gar nicht, den Plattformen Paroli zu bieten. Und auch Einrichtungen wie der „Sovereign Tech Fund“ in Deutschland seien Schritte auf dem richtigen Weg. Die klugen, wirklich interessierten Menschen bekämen wieder ihre Chance, ist sich Whittaker sicher – es sei möglich, ein Technologieumfeld zu schaffen, das ihnen selbst nutze und nicht für Profite und Kontrolle geschaffen sei.

In der Medienlandschaft gibt es so etwas – noch. Und das gilt erst recht für Buchhandlungen wie die „Elliott Bay Book Company“ in Seattle. Demokratie ist die Chance, den Staat zu vermenschlichen, wie es Carlo Schmid formuliert hat. Anders ausgedrückt: Das Gute ist nicht einfach in der Welt vorhanden. Man soll nicht sagen, es komme auf einen selbst nicht an. So vermehrt man nur die Dunkelheit.