Datenforscher über Plattformen: „Die Gesellschaft ist blind“

Ein Geschworenengericht in Los Angeles hat Instagram und Youtube im März zur Zahlung von sechs Millionen Dollar (rund 5,2 Millionen Euro) verurteilt. Die Geschworenen hielten es für erwiesen, dass die Plattformen fahrlässig handeln. Sie hätten gewusst oder wissen müssen, dass ihre Dienste eine Gefahr für Minderjährige darstellen, und die Nutzer nicht ausreichend vor den Risiken gewarnt. Damit werden Konzerne für den Wirkungsmechanismus ihrer Plattformen haftbar gemacht. Vor der Haftung für Inhalte sind Onlineplattformen in den USA bislang rechtlich befreit. Das Urteil aus Los Angeles beruht auf bisher geheim gehaltenen Daten der Konzerne – ohne diese wäre eine Beweisführung nicht möglich gewesen.

Dass dominante Onlineplattformen für die Meinungsbildung inzwischen eine Schlüsselrolle spielen und systemische Risiken für die Demokratie darstellen, ist inzwischen jedem klar. Die Europäische Union versucht dem unter anderem mit dem Digital Services Act (DSA) entgegenzuwirken, der den Plattformen Transparenzpflichten auferlegt.

Plattformen haben gezeigt, wie sie das Gesetz unterlaufen

Doch das bleibt wirkungslos, sagt Simon Mayer, Professor of Interaction- and Communication-based Systems der Universität St. Gallen: „Das Gesetz allein reicht nicht. Plattformen haben gezeigt, dass sie formal compliant sein können, während sie den Geist des Gesetzes unterlaufen.“ Mayer leitet ein Forscherteam aus Informatikern der Schweizer Universität, der Universität Lausanne, der Universität Maastricht sowie des London Open Data Institute, um Kontroll- und Datenkonzentration auf Plattformen zu messen und zu mindern. Das Projekt wird vom Schweizerischen Nationalfonds mit 1,2 Millionen Euro gefördert. Nach Ansicht des Wissenschaftlers ist eine Aufsicht der Plattformen nur möglich, wenn man wisse, was auf ihnen tatsächlich passiere. Das sei heute nicht der Fall.

Bei einem Workshop der Kommission zur Ermittlung der Konzentration im Medienbereich (KEK) in Berlin sollte Mayer seine Erkenntnisse darlegen. Sein Forscherteam hat festgestellt, dass rund die Hälfte der öffentlich sichtbaren Inhalte der Plattformen über die offiziellen Forschungskanäle nicht abrufbar sei, bis zu 83 Prozent der Metadaten werden herausgefiltert. Das Problem sei, dass die Plattformen ihre vom Gesetz aufgegebene Rechenschaftspflicht selbst verwalten. Solange das so bleibe, werde der Digital Services Act sein Potential nicht entfalten. „Ohne gesetzliche Verpflichtung zur Datenweitergabe bleibt die Gesellschaft blind gegenüber Systemen, die ihren öffentlichen Diskurs formen“, sagt Mayer.

Die Messungen des Teams zeigen, dass die Interaktion einer Inhaltsfilterblase auf Diensten wie Instagram bereits nach rund eineinhalb Stunden Interaktion nachweisbar ist – dort handelt mehr als die Hälfte der empfohlenen Inhalte von einem einzigen Thema. Eine norwegische Studie hat belegt, dass Youtube in 92 Prozent aller Tests Kindern Inhalte mit Gewalt, Horror oder sexuellen Anspielungen empfohlen hat – obwohl die Konten als Kinderkonten angelegt waren. Die Plattformen setzen Abwehrprogramme ein, die unabhängige Überprüfung erschweren. Darüber hinaus fehlen genau jene Daten, die für Rechenschaftspflicht am wichtigsten wären. Moderierte Inhalte – also jene Inhalte, die entfernt wurden, weil sie gegen Regeln verstießen – sind vollständig ausgeblendet. Genau dort aber liege der Schlüssel zur Überprüfung, ob Plattformen ihrer Verantwortung tatsächlich nachkommen, so Mayer.

Nathanael Liminski, Chef der NRW-Staatskanzlei und einer der führenden Medienpolitiker der CDU, bekräftigt gegenüber der F.A.Z. Mayers Forderung nach Datentransparenz. Wo Geschäftsmodelle Risiken für den Einzelnen und die Gesellschaft bedeuten, müsse das Recht Spielregeln festlegen, um diesen Risiken zu begegnen. Das Instrumentarium sei mit dem DSA da, es müsse jetzt auch genutzt und durchgesetzt werden. Die EU-Kommission nehme die Durchsetzung dieser Spielregeln gegenüber den Plattformen für sich in Anspruch, dann müsse sie diesem Anspruch auch gerecht werden, sagt der NRW-Minister.

„Was polarisiert, empört oder ängstigt, wird systematisch weiterverbreitet“

Im Gespräch mit der F.A.Z. schildert der Datenforscher Mayer, dass die Öffentlichkeit vieles nicht sieht und nicht weiß: „Jeder Nutzer, jede Nutzerin bekommt eine algorithmisch kuratierte Version der Realität geliefert – aber kaum jemand ist sich bewusst, wie stark diese Filterung ist und nach welcher Logik sie funktioniert. Algorithmen optimieren auf Engagement, nicht auf Wahrheit oder gesellschaftliche Ausgewogenheit. Was polarisiert, empört oder ängstigt, wird systematisch weiterverbreitet – nicht, weil jemand das so entschieden hat, sondern weil es das Nutzerverhalten am stärksten antreibt. Was die Öffentlichkeit konkret nicht weiß: in welchem Ausmaß diese Mechanismen politische Meinungsbildung beeinflussen, wie stark Filterblasen tatsächlich sind und wie schnell sie entstehen.“

Mayers Forschungsgruppe stellte drei Forderungen an die entsprechende Gesetzgebung: Sie sollte genauer definieren, wie „Transparenz“ ausgestaltet sein muss. Plattformen müssen Mechanismen anbieten, die es Nutzern erlauben, die Kontrolle über das Nutzungserlebnis zurückzuerlangen. Und die Kontrolle muss deutlich verstärkt werden.

Dass die Nutzer mehr Entscheidungsbefugnis erhalten müssen, meint auch der KEK-Vorsitzende Georgios Gounalakis, Rechtswissenschaftler an der Universität Marburg. „Die Funktionsweise der Algorithmen sollte für die Nutzer nachvollziehbar sein. Die Nutzer müssen verstehen können, warum ihnen etwa ein bestimmter Inhalt angezeigt wird. Hierfür ist Transparenz wichtig. Neben der Transparenz sollten die Nutzer darüber hinaus aber auch Auswahl- und Einstellungsmöglichkeiten haben, mit denen sie die Auswahlentscheidungen und Empfehlungen der Algorithmen in ihrem Sinne beeinflussen können.“ Es könnten neue Gefährdungslagen entstehen, auf die der Gesetzgeber reagieren müsse.

Nach Auffassung von Simon Mayer genügen gesetzlicher Datenzugang und mehr Einflussnahme der Nutzer allein nicht. Man könne dann zwar dokumentieren, was schieflaufe, aber die Systeme selbst nicht verändern. Eine der grundlegenden Beschränkungen juristischer Instrumente bestehe darin, dass ihr Fokus darauf liege, die Überwachung des Status quo zu ermöglichen, anstatt Experimente mit Alternativen zu fördern. Dafür sei eine gesetzliche Regelung erforderlich, betont er. „Demokratische Gesellschaften – nicht die Plattformen selbst – sollten die Bedingungen setzen, unter denen Systeme betrieben werden, die den öffentlichen Diskurs formen.“