Angriff auf die Meinungsfreiheit: So durchsucht die Lügenverbots-Behörde schon jetzt mit Künstlicher Intelligenz das Netz

Eigentlich sollen die Landesmedienanstalten den Jugendschutz sicherstellen, Sendelizenzen vergeben und die Einhaltung des Medienstaatsvertrags gewähren. Doch der schwarz-rote Koalitionsvertrag sieht eine neue Rolle für sie vor: Die Medienanstalten sollen Wächter des sogenannten Lügenverbots sein. Im Vertrag heißt es: 

„Die bewusste Verbreitung falscher Tatsachenbehauptungen ist durch die Meinungsfreiheit nicht gedeckt. Deshalb muss die staatsferne Medienaufsicht unter Wahrung der Meinungsfreiheit auf der Basis klarer gesetzlicher Vorgaben gegen Informationsmanipulation sowie Hass und Hetze vorgehen können.“

Auszug aus dem Koalitionsvertrag.

Was bedeutet das genau? NIUS-Recherchen zeigen, dass die Landesmedienaufsichten schon heute das Netz auf Äußerungsdelikte hin durchsuchen, und zwar mithilfe Künstlicher Intelligenz. Die potenziellen Äußerungsdelikte, die sie dabei in großer Zahl entdecken, leiten sie an Ermittlungsbehörden weiter. Doch dieses Vorgehen wirft verfassungsrechtliche Fragen auf – insbesondere, wenn die Aufsichten bald gegen die Verbreitung „falscher Tatsachenbehauptungen“ vorgehen und damit Richter über Wahrheit und Lüge werden sollen.

Einigkeit zwischen Markus Söder (CSU), Friedrich Merz (CDU) und Lars Klingbeil (SPD): „Falsche Tatsachenbehauptungen“ müssen bekämpft werden.

Zusammenarbeit mit dem BKA

Offiziell geht es bei der bisherigen Praxis um den Jugendschutz. Mit einem KI-Tool durchsuchen die Medienanstalten das Netz, wie die Gemeinsame Geschäftsstelle der Medienanstalten mitteilt: „Das KI-Tool wird nur im Bereich des Jugendmedienschutzes eingesetzt, nicht in anderen Bereichen der Medienaufsicht wie z.B. Werbekennzeichnung oder journalistische Sorgfalt.“

Dabei stoßen die Anstalten aber regelmäßig auf potenziell strafbare Inhalte, so die Geschäftsstelle: „Da einige der medienrechtlich relevanten Inhalte wie Volksverhetzung, Holocaustleugnung, Verbreiten von Propagandamitteln und Kennzeichen verfassungswidriger Organisationen gleichzeitig auch Straftatbestände nach dem StGB darstellen, übermitteln die Landesmedienanstalten diese strafrechtlich relevanten Inhalte an die zuständigen Strafverfolgungsbehörden.“ Zu diesem Zweck besteht eine Kooperation mit der zentralen Meldestelle für strafbare Inhalte im Internet beim Bundeskriminalamt.

Bedenklich wird diese Zusammenarbeit auch deshalb, weil der Volksverhetzung-Paragraf sich zunehmend in ein Mittel verwandelt, um unliebsame Meinungen zu verfolgen. So wurde eine 74-Jährige aus Düsseldorf angezeigt, weil sie im Netz kommentiert hatte: „Wir brauchen Fachkräfte und keine Asylanten, die sich hier nur ein schönes Leben machen wollen, ohne unsere Werte und Kultur zu respektieren. Schickt die, die hier sind mal zum Arbeiten. Wir sind nicht auf Faulenzer und Schmarotzer angewiesen und schon gar nicht auf Messerkünstler und Vergewaltiger.“

Auch der CDU-Landtagsabgeordnete Detlef Gürth aus Sachsen-Anhalt wurde wegen Volksverhetzung vor Gericht gezerrt, weil er nach dem Messerangriff eines Afghanen geschrieben hatte: „Wir füttern sie durch und dann ermorden sie unschuldige Menschen. Dieses Pack muss raus aus Deutschland.“

Starker Anstieg der Meldungen

Aussagen wie diese könnten vom KI-Tool der Medienanstalten entdeckt und an das Bundeskriminalamt (BKA) weitergeleitet werden. Entwickelt wurde das Tool in Nordrhein-Westfalen, wo es 2021 an den Start ging und in den darauffolgenden Jahren in den Bundesländern ausgerollt wurde. Die Zahlen zeigen, dass es bei der Kooperation mit dem BKA nicht um Einzelfälle geht: Über 15.300 potenzielle Rechtsverstöße haben die Medienanstalten seit 2021 insgesamt ausfindig gemacht. Waren es 2022 noch knapp 4.000 Fälle, stieg die Zahl im folgenden Jahr auf rund 5.500. Im laufenden Jahr sind es über 1.300 Fälle.

Blickt man auf die einzelnen Bundesländer, wird deutlich, dass sich die Zahlen der an das BKA gemeldeten Fälle seit Einführung des KI-Tools rasant gesteigert haben. So leitete die Thüringer Landesmedienanstalt lange Zeit jährlich nur unter 10 Fälle an die Kriminalbehörden weiter. 2023 waren es dann 30, im Folgejahr 83 und im laufenden Jahr bereits 77 Fälle.

Auch fing die Anstalt in Thüringen nach Einführung des KI-Tools an, auf die Entfernung einzelner Beiträge zu drängen, was sie in den Vorjahren nicht getan hatte: Rund 200 Mal geschah dies jeweils in den Jahren 2023 und 2024.

Auch in Sachsen haben die Zahlen seit 2023 stark zugenommen. 188 Verdachtsfälle wurden seither an das Bundeskriminalamt (BKA) weitergeleitet. Ähnlich die Situation in Niedersachsen: Meldete die dortige Landesmedienanstalt 2023 noch 83 Fälle ans BKA, so waren es 2024 schon 679 Fälle und im ersten Quartal 2025 166 Fälle.

„Nicht mehr verhältnismäßig“

Der Verfassungsrechtler Volker Boehme-Neßler sieht diese Entwicklung mit Sorge: „Vor der Einführung von KI untersuchten die Medienanstalten selbstständig das Netz nach jugendgefährdenden Inhalten und gaben, wenn sie auf strafrechtlich relevante Inhalte stießen, diese Informationen an die Polizei weiter. Dabei handelte es sich allerdings um Einzelfälle. Durch die Einführung von KI ist die Zusammenarbeit mit den Ermittlungsbehörden nicht mehr punktuell, sondern systematisch und damit meiner Ansicht nach nicht mehr verhältnismäßig.“

Auf welcher Rechtsgrundlage findet diese systematische Zusammenarbeit statt? Die Geschäftsstelle der Medienanstalten antwortet darauf: „Die Aufgabe der Landesmedienanstalten ist es, Medienrechtsverstöße zu verfolgen, nicht Straftaten. Seit mehreren Jahren setzen wir mit KIVI eine KI ein, die nach Medienrechtsverstößen sucht. Sollten wir dabei Straftaten feststellen, sind wir verpflichtet, diese an die Strafverfolgungsbehörden weiterzuleiten.“

Zwar stellt der Jugendschutz eine Grenze für die Meinungsfreiheit dar, so steht es auch im Grundgesetz in Artikel 5, in dem es um das Recht auf Meinungs- und Pressefreiheit geht: „Diese Rechte finden ihre Schranken in den Vorschriften der allgemeinen Gesetze, den gesetzlichen Bestimmungen zum Schutze der Jugend und in dem Recht der persönlichen Ehre.“ Kinder und Jugendliche müssen etwa vor Gewaltverherrlichung oder Pornografie geschützt werden.

Boehme-Neßler mahnt allerdings an, dass die Verhältnismäßigkeit auch beim Jugendschutz gewahrt und der Eingriff in die Meinungsfreiheit möglichst gering bleiben müsse. Er erklärt: „Laut Koalitionsvertrag soll die Medienaufsicht auch gegen ‚Hass und Hetze‘ vorgehen – ein Gummibegriff, unter den alles fallen kann, was einem nicht gefällt. Wenn die Regierung den Kampf gegen Hass und Hetze nun einfach als Teil des Jugendschutzes definiert, wäre dies ein Einfallstor, um die Meinungsfreiheit zu beschränken – und vom Verfassungsrecht nicht gedeckt.“

Genau darauf deutet jedoch der Koalitionsvertrag hin, laut dem ausgerechnet die Medienaufsicht „auf der Basis klarer gesetzlicher Vorgaben gegen Informationsmanipulation sowie Hass und Hetze“ vorgehen soll.

Lesen Sie auch: Der Koalitionsvertrag ist voller gefährlicher linker Ideologie