Grenzen für Facebook, Google und Co.

Politiker, Influencer oder Promis verbreiten falsche Behauptungen auch mit Hilfe sozialer Netzwerke rund um den Globus. Der US-Unternehmer Elon Musk nutzt seine Plattform „X“, um sich in den deutschen Wahlkampf einzumischen. Organisierte Kampagnen, vermutlich russischer Herkunft, streuen Unwahrheiten mit dem Ziel, westliche Gesellschaften zu verunsichern. Hass und Gewalt im Netz bedrohen Kinder, Frauen und Minderheiten. Reichen unsere Gesetze aus, um User und Demokratie vor all dem zu schützen? Oder gefährdet die Regulierung der populären Netzwerke das Recht auf freie Meinungsäußerung? Ein Gespräch mit Professor Dr. Mark Cole, Experte für Europäisches Medienrecht an der Universität Luxemburg.

Die Rufe nach stärkerer Regulierung der sozialen Medien werden lauter. Wie ist die Rechtslage in Europa: Wie weit geht die Meinungsfreiheit – was darf man sagen und was nicht?

Mark Cole: Diese Grenze ist nicht leicht zu ziehen. Zunächst einmal ist das Recht auf freie Meinungsäußerung ein Grundrecht. Es ermöglicht dem einzelnen Menschen, seine Meinung in jedem Medium frei zu äußern. Meinungsfreiheit hat aber auch eine kollektive Dimension. Die Europäische Union und ihre Mitgliedstaaten verstehen sie auch als Beitrag zur Demokratie. Denn Meinungsfreiheit und Meinungsbildung sind Voraussetzung für demokratische Wahlen.

Viele meinen, jede Einschränkung dessen, was man sagen darf, gefährde die Idee der Meinungsfreiheit. Doch dieses Recht ist nicht absolut. Der Staat kann durchaus Regeln einführen und die Verbreitung bestimmter Inhalte unterbinden. Nicht von der Meinungsfreiheit gedeckt sind gemäß EU-Recht und nationalen Gesetzen Inhalte, die eindeutig illegal sind. Dazu zählen Materialien, die den sexuellen Missbrauch von Kindern zeigen, sowie das Bewerben terroristischer Akte.

Beleidigungen und Lügen, wie wir sie in den sozialen Medien sogar von prominenten Politikern erleben, sind von der Meinungsfreiheit demnach geschützt, da nicht illegal?

Mark Cole: Grundrechte wie die Meinungsfreiheit werden immer abgewogen gegen andere Rechte und Interessen. Wann eine kritische Meinungsäußerung zur strafbaren Beleidigung wird, hängt vom Kontext ab. Im thailändischen Recht zum Beispiel wird schon die leiseste Kritik am König schwer bestraft. Auf wen die Beleidigung zielt, spielt auch eine Rolle. Ein Politiker muss deutlich mehr Kritik ertragen als eine Privatperson. Juristisch schwierig wird es, wenn ganze Gruppen beleidigt werden, weil sich dann die Frage der Opfereigenschaft stellt.

Das Äußern „falscher Fakten“ - also Nicht-Fakten - mit dem Anschein, diese wären korrekt, ist vom Recht auf Meinungsfreiheit nicht als solches geschützt. Es ist nicht illegal, jedoch potentiell schädlich. Ob Lügen bestraft werden, hängt auch von der jeweiligen Rechtskultur ab: Wurden hier die Fakten bewusst verdreht, oder ist die falsche Behauptung Teil des verzerrten Weltbildes einer Person? In Deutschland ist es zum Beispiel verboten, den Holocaust zu leugnen. Die Schwere des Holocaust zu relativieren, ist eine fürchterliche politische Überzeugung, fällt aber unter Umständen unter die Meinungsfreiheit. Wird Anzeige erstattet, müssen die Gerichte entscheiden.

Aber eine Bestrafung würde Jahre dauern, und so lange verbreiten sich Beleidigungen und Lügen weiter. Inwiefern können die Plattformen überhaupt haftbar gemacht werden? 

Mark Cole: Die Frage ist in der Tat, wie der Gesetzgeber Online-Plattformen regulieren kann. Traditionelle Medien wie Printmedien, Radio oder Fernsehen überprüfen den Wahrheitsgehalt von Nachrichten vor der Veröffentlichung. Aber die sozialen Plattformen verstehen sich nicht als Medien. Aus den USA kommend, herrscht die Einstellung vor, dass sie nur die technische Plattform bereitstellen, um Meinungen zu transportieren, so wie Telefonunternehmen die Leitungen für Gespräche bereitstellen. Daher gilt ein sogenanntes Haftungsprivileg, laut dem die Plattformen grundsätzlich nicht für Inhalte verantwortlich sind.

Eine Ausnahme bilden illegale, strafbare Inhalte. Diese müssen die Betreiber unverzüglich vom Netz nehmen, sobald sie davon erfahren – das ist das sogenannte „Notice and take down“-Prinzip. Es gibt also durchaus eine Moderation von Inhalten. Facebook hat seine Moderatoren über Jahre mit Hilfe eines Handbuchs voller Beispiele darin geschult, was sie löschen müssen. Doch in der Europäischen Union ist man der Meinung, dass die großen Online-Plattformen mit ihren Milliarden von Usern wegen der enormen Reichweite große Verantwortung tragen und mehr tun müssen, um Hass und Gewalt zu bekämpfen, als nur auf illegale Inhalte zu reagieren. Deshalb hat man gesetzgeberisch bereits entsprechend reagiert.

Seit 2024 findet in der EU das Gesetz über digitale Dienste vollständig Anwendung. Diese Verordnung reguliert digitale Medien. Was genau erlaubt, was verbietet sie?

Mark Cole: Das Haftungsprivileg gilt zwar immer noch. Neu ist aber, dass die Online-Plattformen einer Sorgfaltspflicht genügen müssen. Der Digital Services Act der Europäischen Union, kurz DSA, verpflichtet Online-Plattformen, Usern vor der Eröffnung eines Accounts offenzulegen, wie die Plattform mit Usercontent umgeht, nach welchen Kriterien sie Inhalte durchleuchtet, was sie löscht oder blockiert und nach welcher Logik interne Prozesse wie etwa der Empfehlungsalgorithmus funktionieren, der dem User bestimmte Inhalte und Werbung in seinen persönlichen Feed spült. Denn Forschung und Aufsichtsbehörden verstehen mittlerweile, wie die Plattformen funktionieren und welche Rolle Algorithmen spielen, und sollen noch bessere Einblicke bekommen.

Die Plattformen werden also zu mehr Transparenz verpflichtet. Sehr große Plattformen wie Facebook und Suchmaschinen wie Google müssen darüber hinaus regelmäßig Transparenzberichte abgeben. Es gibt öffentliche Transparenzdatenbanken, in denen man – in allgemeiner Form – in Echtzeit mitverfolgen kann, wieviel Content gerade abmoderiert wird. Dazu kommt ein verstärkter Schutz von Kindern, z. B. Verbot gezielter profilbasierter Werbung für Minderjährige.

Außerdem wurden Sanktionen eingeführt. Die EU oder nationale Behörden können Bußgelder von bis zu sechs Prozent des Jahreseinkommens einer Plattform verhängen. Man kann darüber streiten, ob das viel bringt. Aber es bedeutet, dass es in Europa eine viel intensivere Aufsicht gibt als zuvor – während die neue US-Regierung Regulierung gerade abschafft. Die Meinungsfreiheit-Fundamentalisten in den USA halten die europäische Regulierung für regelrecht verrückt. Es ist von daher ein bemerkenswerter Schritt, den die Europäische Union mit dem neuen Digitalgesetz geht.

Zeigt das noch junge Digitalgesetz schon Wirkung?  Gibt es erste prominente Klagen? 

Mark Cole: Die EU hat sehr schnell erste Verfahren eingeleitet, zum Beispiel Ende 2023 gegen die Plattform „X“, deren Aktivitäten die Europäische Kommission als möglicherweise nicht mit den Standards des europäischen Rechts vereinbar betrachtet. Das Verfahren läuft noch, doch die Kommission wird meiner Meinung nach alles tun, um es wegen der aktuellen politischen Lage, die in den USA in Richtung völliger Deregulierung geht, möglichst schnell zum Ende zu bringen und so ein Zeichen zu setzen. Auch gegen die chinesische Plattform TikTok läuft ein Verfahren. Denn der DSA macht Plattformen, die sich gezielt an Kinder und Jugendliche richten, Vorschriften in Sachen Jugendschutz.

Zudem hat TikTok eine global gelaunchte Variante seiner Plattform, TikTok Lite Rewards, in Europa wieder vom Markt genommen, weil diese nicht konform zum EU-Digitalgesetz hätte angeboten werden können. Diese Variante hätte den „Weiterscroll-Effekt“ und damit das Suchtpotential für User noch weiter verstärkt. Die neue EU-Verordnung zeigt also schon Wirkung.

Der amerikanische Meta-Konzern mit seinen Plattformen Facebook und Instagram hat in Fragen der Verantwortung nach den jüngsten US-Wahlen eine völlige Kehrtwende gemacht. Macht es das schwieriger, das Gesetz durchzusetzen?

Mark Cole: Politisch ist die Lage durch die Wahl Trumps tatsächlich schwieriger geworden. Die Plattform „X“ hatte zwar schon zuvor, seit der Übernahme durch Elon Musk, Content-Moderation und Kontrollen abgeschafft. Studien zeigen, dass Desinformation und Hassrede bei „X“ seit der Übernahme zugenommen haben. Facebook dagegen bekannte sich jahrelang zu einem Verhaltenskodex zum Schutz der Nutzer und beschäftigte viele interne Faktenchecker, änderte jedoch nach den Wahlen überraschend seine Politik. Ich persönlich fürchte, dass es nur eine Frage von Monaten ist, bis Rufe nach Deregulierung und ‚totaler Freiheit‘ der sozialen Medien auch in Europa lauter werden, wenn auch nicht so vehement wie in den USA. Doch trotz dieser Tendenzen wird unser Rechtsrahmen mittelfristig und messbar wirken.

Facebook will in den USA seine Politik gegen Desinformation ändern, keine externe Faktenüberprüfung mehr durchführen und nur noch auf Community-Notizen – also Warnhinweise von Nutzern – setzen. Wäre das auch in Europa zulässig und reicht das, um Desinformation herauszufiltern? 

Mark Cole: Die Argumentation des Meta-Konzerns, dass hausinterne Kontrollen oder Community-Notizen externe Faktenchecker ersetzen können, halte ich nicht für überzeugend – schon gar nicht bei Desinformation. Darunter versteht man die bewusste Verbreitung von Unwahrheiten mit der Absicht, zu täuschen und eine Gesellschaft zu untergraben. Beispiel dafür sind die Wahlmanipulations-Kampagnen der russischen Regierung.

Das neue EU-Digitalgesetz verpflichtet die großen Online-Plattformen zu Risikoeinschätzung, -minderung und zu entsprechenden Maßnahmen. Doch das Gesetz schreibt nicht vor, zu welchen. Europa kann sich aber auf den „Verhaltenskodex zur Bekämpfung von Desinformation“ berufen, eine Selbstverpflichtungserklärung, die über 40 Unternehmen unterschrieben haben – auch Meta mit seinen Plattformen Facebook oder Instagram. Elon Musks „X“ hat seine Unterschrift zurückgezogen. Der Kodex besagt unter anderem, dass Faktenchecker im Kampf gegen Desinformation unabdingbar sind. Der Kodex wird ab 1. Juli diesen Jahres zu einem Verhaltenskodex unter dem DSA, einer Art Industriestandard, auf den sich die Gesetzeshüter in Europa berufen können.

Alle Plattformen müssen darüber hinaus über leicht zugängliche Beschwerdemechanismen verfügen, so dass User per Mausklick fragwürdige Inhalte melden können. Doch in den USA soll dieses „Flagging“ von Inhalten, wenn das Community Notes-Verfahren verwendet wird, nur noch dann Konsequenzen haben, wenn mehrere Personen mit verschiedenen politischen Ansichten sich einig sind, das ein bestimmter Content problematisch ist. Das bereitet uns Juristen schon Kopfschmerzen.

Wer ist überhaupt zuständig, das europäische Recht gegenüber Social-Media-Plattformen durchzusetzen?

Mark Cole: Für die sehr großen Plattformen, die Menschen in ganz Europa erreichen, die Europäische Kommission. Doch es gibt in den Mitgliedstaaten unzählige kleinere Social-Media-Plattformen, und für diese müssen die Mitgliedstaaten Behörden zur Durchsetzung des Gesetzes ernennen. Viele Staaten sind damit in Verzug. In Luxemburg wird die nationale Wettbewerbsbehörde zuständig sein, aber das nötige Gesetz ist formal noch nicht verabschiedet. Es gibt also noch nicht die Strukturen, um das neue EU-Gesetz überall durchzusetzen.

Müssen sich amerikanische Unternehmen wie X oder Meta überhaupt an EU-Recht halten?

Mark Cole: Ja, wenn sie ihre Dienste in der EU lebenden Menschen anbieten. Ohnehin sind Unternehmen wie Meta mit eigenen Firmen in Europa präsent. Halten sie sich dennoch nicht an EU-Recht, so könnte man den Markt für ein US-Unternehmen theoretisch auch komplett schließen. Das versucht man in gewisser Weise zum Beispiel in Australien. Die dortige Regierung untersagt den Plattformen, jungen Menschen unter 16 Jahren ihre Dienste anzubieten.

Wäre die australische Lösung auch in Europa durchsetzbar? 

Mark Cole: Es ist durchaus vorstellbar, dass Europa sich in diese Richtung bewegt. Ich persönlich habe aus Datenschutzgründen keine Social-Media-Accounts, bin aber informiert und forsche seit über zehn Jahren zur Regulierung sozialer Netzwerke. In dieser Zeit hat sich die öffentliche Meinung zur Nutzung digitaler Dienste völlig gedreht. Zunächst fürchteten viele, dass unsere Schüler zu spät damit in Berührung kommen und Europa im Technologiewettstreit global abgehängt wird. Jetzt wird vor allem vor Schäden durch Übernutzung von Mobilgeräten, Internet und sozialen Medien gewarnt.

Vielleicht ist der Boden reif dafür, die Nutzung sozialer Medien so zu regeln, wie der Gesetzgeber über Jugendschutzgesetze junge Menschen auch vor Alkohol, Gewaltinhalten oder Drogen schützt. Ich meine keine absoluten Verbote, sondern einen regulierten Zugang zum Schutz von Kindern und Jugendlichen. Das juristisch durchzusetzen, wäre nicht einfach. Andererseits werden derzeit technische Lösungen entwickelt, etwa mit Hilfe von Gesichtserkennung die Alterskontrollen bei jungen Menschen, die einen Social-Media-Account eröffnen, effektiver zu machen.

Was hilft noch, abgesehen von Verboten und Regulierung: Aufklärung, Medienerziehung?

Mark Cole: Patentrezepte gibt es nicht. Wichtigstes Gegengewicht zu unkontrollierten Inhalten in sozialen Medien sind die redaktionell verantworteten, klassischen Medien. Wir in Europa haben gegenüber den USA den großen Vorteil, eine recht diverse und starke Landschaft von Zeitungen, TV- und Rundfunksendern zu haben, auch öffentlich-rechtlichen. Diese Medienvielfalt muss geschützt werden. Dank der staatlichen Pressehilfe, die Medienvielfalt erhalten soll, tut Luxemburg das bereits.

Zweitens braucht es ein hohes Maß an Wissen, um problematische Inhalte zu erkennen. Das gilt für alle Nutzer bis ins hohe Alter, aber besonders für junge Menschen. Denn sie ziehen nicht mehr die traditionellen Medien zur Hilfe, um zu kontrollieren, ob eine Nachricht wirklich stimmt. Medienerziehung ist also elementar. Auch, um die Funktionsweise eines Empfehlungsalgorithmus zu verstehen. Denn der hält beispielsweise einen User, der das Interview von Elon Musk mit der AfD-Chefin Alice Weidel auf X schaut, für einen AfD-Unterstützer und spült ihm ab dann regelmäßig AfD-Videos in den persönlichen Feed.

Außerdem kann jeder ein Zeichen setzen. Der Großherzogliche Hof hat angekündigt, die Plattform „X“ zu verlassen; die Universität Luxemburg hat ihren Account schon 2023 geschlossen. Immer mehr Institutionen wollen nicht mehr im X-Umfeld agieren. Das wird Elon Musk nicht beeindrucken, doch es ist ein gutes und richtiges Statement. Natürlich fällt es einem Politiker viel schwerer, auf so einen Kommunikationskanal zu verzichten - aber es zu tun, zeigt, für welche Werte man steht.

Kann gesellschaftlicher Druck große Plattformen dazu bringen, sich aus Sorge um Image und Werbeeinnahmen stärker selbst zu regulieren?  

Mark Cole: Unser Markt von rund 500 Millionen Menschen in der Europäischen Union ist wirtschaftlich zu wichtig, als dass die Plattformen Gesetze und Spielregeln ignorieren könnten. Das gilt vielleicht nicht für „X“, da es Elon Musk mehr um politische Einflussnahme als um wirtschaftlichen Gewinn geht. Doch Plattformen wie Facebook haben aus ökonomischen Gründen ein Interesse an stabilen Gesellschaften. Sie wollen weiterhin hohen Umsatz generieren. Von daher habe ich die Hoffnung, dass der wirtschaftliche Druck sowie eine Mischung aus Regulierung und Selbstverpflichtung ausreichen werden, damit Facebook & Co. externe Faktenchecker auf sozialen Medien in Europa beibehalten und Grenzen respektieren.

Vor allem aber dürfen wir nicht dem Narrativ verfallen, dass Regulierung digitaler Dienste Innovation verhindere. Viele Kritiker wollen die Dimension der Gefahren der sozialen Medien nicht wahrhaben, und Regulierung ist unbequem. Aber die Zerstörung von Regeln darf nicht zur neuen Leitwährung in Europa werden.

Interview: Britta Schlüter
Redaktion: Michèle Weber, Jean-Paul Bertemes (FNR)