Eine Replik auf Hannah Ruschemeier
Hannah Ruschemeier hat hier in einem Beitrag vom 4.11.2024 ein positives Bild der sogenannten Trusted Flagger gezeichnet. Sie würden durch ihre Tätigkeit als Meldestellen für illegale Netzinhalte einen Beitrag zur „Demokratiehygiene“ leisten. Über die eigentlichen rechtsstaatlichen und grundrechtlichen Probleme geht der Beitrag hingegen großzügig hinweg. In der konkreten Umsetzung des Digital Companies Act (DSA) verbergen sich aber nicht akzeptable Gefahren für Meinungsfreiheit und Demokratie.
Scheinbar harmlos: Das Meldesystem des Digital Companies Act
Trusted Flagger – „vertrauenswürdige Hinweisgeber“ – beruhen auf dem Digital Companies Act (DSA), einer Verordnung der EU. Nach Artwork. 22 Abs. 1 DSA handelt es sich um von den Mitgliedstaaten zertifizierte Organisationen (meist NGOs), die als Meldestellen für illegale Netzinhalte fungieren. Sie nehmen Meldungen illegaler Inhalte durch Dritte entgegen, können On-line-Plattformen wie z.B. X aber auch selbst auf rechtswidrige Inhalte durchsuchen. Sie melden diese Inhalte dem jeweiligen intermediären Diensteanbieter, der verpflichtet ist, solche Meldungen vorrangig und unverzüglich zu bearbeiten und einer Entscheidung zuzuführen, additionally den Inhalt ggf. zu löschen. Der DSA erlaubt allerdings nur, illegale, additionally rechtswidrige Inhalte zu melden und zu löschen. Den Artwork. 22 DSA setzt in Deutschland das Digitale-Dienste-Gesetz um. Demnach verleiht der „Koordinator für digitale Dienste des Mitgliedstaats“ (DSC) einer Stelle auf Antrag den Standing eines Trusted Flaggers unter drei Voraussetzungen: Sie muss besondere Sachkenntnis und Kompetenz in Bezug auf die Erkennung, Feststellung und Meldung rechtswidriger Inhalte aufweisen, unabhängig von jeglichen Anbietern von On-line-Plattformen sein und ihre Meldetätigkeit sorgfältig, genau und objektiv ausüben.
Auf den ersten Blick erscheint ein solches Meldesystem sinnvoll, um Internetplattformen von rechtswidrigen Inhalten möglichst freizuhalten. Dies ist ein legitimer Zweck. Zwar hat jeder Nutzer von On-line-Angeboten auch bisher schon die Möglichkeit, rechtswidrige Inhalte zu melden und Löschung zu verlangen. Dieses individuelle Recht ergänzt der DSA um eine institutionelle, staatlich lizensierte Meldeinfrastruktur. Das wirft grundsätzliche Fragen auf.
Offene Flanke: Was sind rechtswidrige Inhalte?
Das vom DSA aufgesetzte Meldesystem ist auf rechtswidrige Netzinhalte beschränkt. Rechtmäßige Inhalte, zumal zulässige Meinungsäußerungen dürfen weder gemeldet noch gelöscht werden. Doch was sind rechtswidrige Inhalte? Artwork. 3 lit. h DSA gibt eine Antwort. Nach der Legaldefinition sind
„rechtswidrige Inhalte alle Informationen, die als solche oder durch ihre Bezugnahme auf eine Tätigkeit, einschließlich des Verkaufs von Produkten oder der Erbringung von Dienstleistungen, nicht im Einklang mit dem Unionsrecht oder dem Recht eines Mitgliedstaats stehen, ungeachtet des genauen Gegenstands oder der Artwork der betreffenden Rechtsvorschriften“.
Diese Definition wirft in mehrfacher Hinsicht Zweifelsfragen auf, etwa: Auf welches Recht ist jeweils abzustellen? Kann etwa ein ungarischer Trusted Flagger Inhalte eines deutschen Customers melden, die nach ungarischem Recht verboten, nach deutschem aber rechtmäßig sind – mit der Folge, dass das Land mit dem repressivsten Äußerungsrecht die Requirements setzt? Für das deutsche Recht stellt sich die Frage: Welche Inhalte sind eigentlich unlawful? Hier gibt es ohne Zweifel klare Fälle: Falschinformationen über Produkte sind nach Wettbewerbsrecht unlawful und es gibt auch eindeutige Fälle von strafbaren Äußerungen nach dem StGB (z.B. nach § 130 StGB). Desinformationen als solche sind hingegen weder rechtswidrig noch strafbar. Die Verbreitung von Faux Information ist per se keine Straftat. Und auch bei den Äußerungsdelikten ist die Sache oft alles andere als klar. Ob eine auf den ersten Blick inakzeptable, verstörende oder sonst auf Ablehnung stoßende Äußerung als Beleidigung oder Volksverhetzung zu qualifizieren ist, ist häufig alles andere als trivial. Denn das BVerfG hat die durch Artwork. 5 Abs. 1 GG grundrechtlich geschützte Meinungsfreiheit mit einem massiven dogmatischen Bollwerk gegen Zugriffe abgeschirmt. Auf der Schutzbereichsebene ist sie denkbar weit (BVerfGE 124, 300/Rn. 49):
„Meinungen sind durch die subjektive Beziehung des Einzelnen zum Inhalt seiner Aussage geprägt (vgl. BVerfGE 7, 198 <210>). Für sie ist das Component der Stellungnahme und des Dafürhaltens kennzeichnend (…). Insofern lassen sie sich auch nicht als wahr oder unwahr erweisen. Sie genießen den Schutz des Grundrechts, ohne dass es darauf ankommt, ob die Äußerung begründet oder grundlos, emotional oder rational ist, als wertvoll oder wertlos, gefährlich oder harmlos eingeschätzt wird (vgl. BVerfGE 90, 241 <247>). Die Bürger sind dabei rechtlich auch nicht gehalten, die der Verfassung zugrunde liegenden Wertsetzungen persönlich zu teilen..“
Und im Rahmen der Prüfung, ob eine Äußerung tatsächlich strafrechtlich related ist, stellt das BVerfG auf die Kontextabhängigkeit ab. Jede inkriminierte Äußerung ist im Lichte des Kontexts des Äußerungssprechaktes zu interpretieren. Die Äußerung „Soldaten sind Mörder“ etwa ist je nach Kontext des Äußerungsaktes strafbare Beleidigung, additionally illegaler Inhalt im Sinne des DSA, oder rechtmäßige Meinungsäußerung.
Die offene Flanke eines Meldesystems, das auf rechtswidrige Inhalte abstellt, ist ebenso offensichtlich wie erheblich: Es besteht die konkrete Gefahr, dass Trusted Flagger in nicht unerheblichem Umfang auch rechtmäßige Meinungsäußerungen melden. Diese Gefahr wird durch Vollzugshinweise der Bundesnetzagentur geradezu heraufbeschworen. In einem „Leitfaden“ des DSC „zur Zertifizierung als Trusted Flagger“ werden als mögliche rechtswidrige Inhalte, die Trusted Flagger „aufspüren“ (sic!) sollen, unter anderen genannt: Hassrede, Diskriminierung oder Inhalte, die „destructive Auswirkungen auf den zivilen Diskurs“ (sic!) haben. Derart konturlose, rechtlich nicht greifbare Kategorien bergen das Risiko, zum Einfallstor für die Meldung politisch unerwünschter, aber (noch) rechtmäßiger Meinungen zu werden. Das politisch legitime Ziel eines Schutzes des Netzes vor rechtswidrigen Inhalten droht in ein allgemeines Kontrollsystem zu kippen. Wenn nicht strafbare pointierte Kritik als „Hassrede“, politisch unbequeme Ansichten als „Hetze“ oder vom Mainstream abweichende Argumente als „negativ für den zivilen Diskurs“ vom Hinweisgeber gemeldet und dann vom Diensteanbieter gelöscht werden, ist die Meinungsfreiheit in der Substanz bedroht, die Demokratie als Wettstreit von Meinungen konkret gefährdet. Der genannte „Leitfaden“ bedarf dringend der Überarbeitung.
Strukturelle Gefährdung der Meinungsfreiheit
Es gefährdet das Grundrecht der Meinungsfreiheit strukturell, dass Trusted Flagger regelmäßig weder die juristische Experience aufweisen noch die Zeit aufbringen können, um – von evidenten Fällen abgesehen – beurteilen zu können, ob eine Meinungsäußerung nun rechtswidrig ist oder nicht. In der Rechtspraxis ist es nicht selten, dass Äußerungen erst in einem Instanzenweg durch die Strafgerichtsbarkeit als rechtswidrig oder zulässig qualifiziert werden und die Fachgerichte sich dann noch durch das Bundesverfassungsgericht korrigieren lassen müssen. Die Trusted Flagger sollen das unter Zeitdruck und den Modalitäten des Massenanfalls kontextabhängig beurteilen können? Eine geradezu absurde Vorstellung. Es ist daher absehbar, dass nicht nur im Einzelfall rechtmäßige Inhalte gemeldet (und in der Folge gelöscht) werden. Dem könnte man entgegenhalten, nicht der Trusted Flagger greife in die Meinungsfreiheit ein, sondern erst der Plattformanbieter, der die Löschung oder sonstige Beschränkung des Inhalts vornehme und damit verantworte. Eine solche Sichtweise ist formal richtig, verkennt aber die faktische Eingriffswirkung der Meldung. Denn diese verpflichtet den Anbieter zu prioritärer und sofortiger Behandlung. Schon in der Meldung (rechtmäßiger Inhalte) selbst liegt ein erhöhtes Gefährdungspotenzial für die Meinungsfreiheit. Zudem wird der Intermediäre bei Trusted Flagger-Meldungen im Zweifel eher zur Löschung geneigt sein, ist es doch immerhin eine staatlich lizensierte und nicht selten auch staatlich finanzierte Meldestelle, auf deren Meldung man schon deswegen streng reagiert, um staatliche Sanktionen im Falle von Nichtlöschungen zu vermeiden.
Meldungen von Netzinhalten durch Trusted Flagger an zur Löschung befugte und bereite Plattformanbieter stellen damit bereits selbst einen (faktischen) Eingriff in Artwork. 5 Abs. 1 GG dar. Man muss dies – insofern ist Hannah Ruschemeier recht zu geben – nicht als „Zensur“ bezeichnen, weil man mit diesem Begriff meist die verfassungsunmittelbar durch Artwork. 5 Abs. 1 Satz 3 GG verbotene Vorzensur assoziiert, die hier nicht vorliegt. Aber auch die Nachzensur (rechtmäßiger Inhalte), von Meldungen von Trusted Flaggern faktisch befördert, ist ein Eingriff in die Meinungsfreiheit. Hinzukommen psychologische Chilling-Effekte: Der On-line-Nutzer könnte im Zweifel zur Selbstzensur neigen.
Prekäre Intransparenz
Von einem „transparenten Verfahren“ – wie Hannah Ruschemeier es nennt – kann man vielleicht noch im Hinblick auf die Zulassung von Trusted Flaggern nach den Vorgaben des Artwork. 22 DSA sprechen, aber nicht hinsichtlich das Meldeverhaltens der Trusted Flagger selbst. Insofern herrscht – für den von der Meldung betroffenen Nutzer – Intransparenz. Denn dieser erfährt von Meldungen seiner Inhalte durch einen Trusted Flagger nichts. Erst nach einer Löschung oder vergleichbaren Reaktion benachrichtigt der Plattformbetreiber den Nutzer nach Artwork. 17 DSA. Die „erfolglose“ Meldung bleibt indes unbemerkt. Man wird entgegnen, auch von der Meldung durch personal Dritte erfahre der Betroffene bislang nichts. Dieser Einwand verkennt, dass die Meldungen eines Trusted Flagger insoweit eine hoheitliche Wirkung haben, als sie beim Diensteanbieter eine prioritäre und sofortige Prüfungspflicht auslösen, die es bei herkömmlichen privaten Meldungen nicht gibt. Bereits die Meldung selbst weist ein erhöhtes Gefährdungspotenzial für die Meinungsfreiheit auf. Deswegen ist es ein legitimes Interesse des Nutzers, dass er erfährt, ob und in welchem Umfang ein Trusted Flagger von ihm verfasste Inhalte meldet. Nur dann kann er überhaupt feststellen, ob auch rechtmäßige Inhalte (unter Verstoß gegen den DSA) gemeldet werden, und dies gerichtlich feststellen lassen. In einem Rechtsstaat, in dem der Meinungsfreiheit erhebliches grundrechtliches Gewicht beigemessen wird, ist es nicht hinnehmbar, dass Meinungsäußerungen einem (partiell) heimlichen Meldesystem unterworfen sind – Trusted Flagger sind keine Geheimdienste. Die Heimlichkeit erfolgloser Meldungen ist verfassungsrechtlich nicht akzeptabel und vom DSA auch nicht ausdrücklich so gefordert. Das Drawback liegt additionally nicht beim DSA selbst. Dieser verbietet dem Trusted Flagger eine Mitteilung der Meldung an den Betroffenen keineswegs. Für Transparenz gibt es mehrere Wege: Entweder der Trusted Flagger hört den Betroffenen in direkter oder entsprechender Anwendung des § 28 VwVfG vor der Meldung an – was er schon regelmäßig deswegen tun müsste, um den für die Beurteilung des Äußerungsinhalts relevanten Kontext zu ermitteln –, oder er informiert den Betroffenen nach Abgabe der Meldung. Schweigen ist keine Choice. Das kafkaeske Belassen des Betroffenen in Unkenntnis verhindert zudem den von Artwork. 19 Abs. 4 GG gebotenen gerichtlichen Rechtsschutz (dazu sogleich).
Rechtsschutz gegen Trusted Flagger
Jede einzelne Meldung eines Trusted Flagger konkretisiert die in Artwork. 22 DSA geregelte abstrakt-generelle Pflicht des Diensteanbieters für den konkreten Einzelfall, für den konkreten gemeldeten Inhalt. Dadurch unterscheidet sich der staatlich lizensierte Trusted Flagger von einer gewöhnlichen privaten Meldestelle ohne staatliche Zertifizierung. Er übt funktional Hoheitsgewalt aus. Die funktional hoheitliche Tätigkeit belastet nicht nur den intermediären Diensteanbieter, sondern auch den Betroffenen, dessen Inhalt gemeldet wird. Dies in doppelter Hinsicht: Der Urheber hat erstens die prioritäre und sofortige Prüfung seines Inhaltes zu dulden und zweitens eine faktisch erhöhte Gefährdung seiner Meinungsfreiheit hinzunehmen. Sowohl den zur prioritären Prüfung verpflichteten Anbieter als auch den betroffenen Urheber verletzt es möglicherweise in ihren Rechten, wenn der Trusted Flagger tätig wird: Der Betroffene in Artwork. 5 Abs. 1 GG im Falle der Meldung rechtmäßiger Meinungen, der Anbieter in seinem Grundrecht der Berufsfreiheit. Damit ist – in beiden Fällen – die Rechtsschutzgarantie des Artwork. 19 Abs. 4 GG aktiviert. Jeder, der von einer Meldung eines Trusted Flagger betroffen ist, hat einen Anspruch darauf, diese gerichtlich überprüfen zu lassen. Zwar hat der Betroffene die Möglichkeit, die Löschung eines Inhaltes gerichtlich anzugreifen. Eine gerichtliche Überprüfung der (erfolglosen) Meldung selbst sieht der DSA nicht vor. Dies schließt es aber nicht aus, dass das mitgliedstaatliche Recht entsprechende Rechtsschutzmöglichkeiten gewährt. Ebenso wie das EU-Recht Raum für mitgliedstaatliches Verfahrensrecht belässt, soweit dieses vom betreffenden EU-Rechtsakt nicht eigens ausgeschlossen wird und auch Effektivitäts- und Äquivalenzprinzip nicht entgegenstehen, bleibt auch das mitgliedstaatliche Rechtsschutzsystem in diesem Rahmen unberührt. Obwohl additionally das Trusted Flagger-Meldesystem selbst auf dem DSA der EU beruht, können mitgliedstaatliche Rechtsbehelfe gegen die Umsetzung, additionally Meldungen von Trusted Flaggern in Betracht kommen (vgl. auch Artwork. 19 Abs. 1 UA 2 EUV). Qualifiziert man Trusted Flagger als Beliehene (s. sogleich) und die Meldung wegen ihrer konkret-individuellen Regelungswirkung als Verwaltungsakt, so kommt die Fortsetzungsfeststellungsklage zum Verwaltungsgericht in analoger Anwendung des § 113 Abs. 1 Satz 4 VwGO in Frage, da sich die Meldung im Zeitpunkt ihrer Behandlung durch den Diensteanbieter erledigt. Qualifiziert man die Meldung hingegen lediglich als Realakt, ist an die Feststellungsklage nach § 43 VwGO zu denken.
Trusted Flagger als Beliehene
Die Realisierung des durch Artwork. 19 Abs. 4 GG gebotenen Rechtsschutzes gegen Trusted Flagger hängt davon ab, wie man diese in das System des deutschen Verwaltungsrechts einordnet. Diese zentrale Frage lässt Ruschemeier einfach offen. Der DSA selbst enthält dazu keine Vorgaben. Er normiert nur die Bestellung von Trusted Flaggern und die Wirkung von deren Meldungen für die Anbieter, überlässt die organisatorische Einordnung im Übrigen – wie es so häufig der Fall ist – dem mitgliedstaatlichen Verwaltungsrecht. Trusted Flagger üben – wie ausgeführt – selbst Hoheitsgewalt aus. Es spricht daher vieles dafür, sie als Beliehene anzusehen (ausführliche Begründung in Kürze bei Struzina/Heller, Hinweisgeber nach dem DSA; NVwZ i.E.), da sie von einer staatlichen Behörde (dem DSC in der Bundesnetzagentur) bestellt werden und eigenverantwortlich entscheiden, ob sie einen Inhalt melden. Diese Meldung hat pflichtauslösenden, additionally hoheitlichen Charakter. Trusted Flagger sind daher nicht nur Verwaltungshelfer, die eine andere Behörde, etwa den DSC bei deren Tätigkeit unterstützen. Dass der Beleihungsakt – additionally die Zulassung einer privaten Stelle als Trusted Flagger – auf einer EU-Verordnung (Artwork. 22 DSA) beruht, ändert nichts am Charakter als Beleihung. Denn die EU-Verordnung als unmittelbar anwendbares EU-Recht ist taugliche Grundlage für den Erlass von mitgliedstaatlichen Verwaltungs- und damit auch von Beleihungsakten. Als Beliehene sind Trusted Flagger im Rahmen ihrer hoheitlichen Tätigkeit, additionally dem pflichtenauslösenden Melden von Netzinhalten, über Artwork. 1 Abs. 3 GG an die Grundrechte, insbesondere das Grundrecht der Meinungsfreiheit gebunden – und damit faktisch auch an die Rechtsprechung des BVerfG zu Artwork. 5 Abs. 1 GG. Zusätzlich gilt das IFG. Selbst wenn man die Qualifizierung als Beliehene verneinen würde, müsste man jedenfalls konstatieren, dass Trusted Flagger der Hoheitsverwaltung zuzuordnen sind. Würde man Trusted Flagger allein als personal Meldestellen qualifizieren, hätten wir eine „Flucht ins Privatrecht“, mit der sich der Staat seiner Grundrechtsbindung entziehen würde.
