Bürger sollen auch nicht-strafbare Inhalte an die Polizei melden: Bundesregierung finanzierte unfassbare Anschwärz-Studie

Die Bundesregierung kämpft entschlossen gegen alles, was sie als „Hass und Hetze“ empfindet. Diesen Kampf führt sie nicht nur auf politischer, sondern auch auf juristischer Ebene – und ließ sogar wissenschaftlich untersuchen, wie die Polizei Hass im Netz effektiver aufspüren kann. NIUS hat recherchiert, zu welchen Ergebnissen die Wissenschaftler kamen. Vor allem eine Studie hat es in sich.

Das entsprechende Forschungsprogramm trägt den Namen KISTRA (Einsatz von KI zur Früherkennung von Straftaten) und wurde noch unter Kanzlerin Angela Merkel (CDU) beschlossen. Ziel war es, politisch motivierte Straftaten im Internet leichter ermitteln zu können. In der Projektbeschreibung auf der Seite des Forschungsministeriums hieß es dazu: „Ermittlungsbehörden benötigen bedarfsgerechte Werkzeuge, die ein Vorfiltern ermöglichen und sie bei der Strafverfolgung unterstützen. Ziel von KISTRA ist die Erforschung der Möglichkeiten und Rahmenbedingungen für den ethisch und rechtlich vertretbaren Einsatz von Künstlicher Intelligenz durch Ermittlungsbehörden zur Erkennung, Vorbeugung und Verfolgung von Straftaten.“

Aus dem Projektumriss des Forschungsministeriums.

Mit 2,9 Millionen Euro Steuergeld gefördert

Geplant war, unterschiedliche KI-Methoden zur Verarbeitung von Massendaten zu entwickeln und gemeinsam mit den Ermittlungsbehörden zu evaluieren. KISTRA lief zwischen 2020 und 2023 und wurde mit insgesamt 2,9 Millionen Euro Steuermitteln gefördert. Mehrere Hochschulen waren beteiligt, sowie zwei Behörden: das Bundeskriminalamt (BKA) und die Zentrale Stelle für Informationstechnik im Sicherheitsbereich (ZITIS).

Dabei entstand unter anderem eine Studie an der LMU München und der TU Dresden mit dem Titel: „Wahrnehmung & Wirkung von Hass und Hetze im Netz – Handlungsempfehlungen und Präventionsmöglichkeiten für die Polizeiarbeit“. Sie wurde in diesem Jahr veröffentlicht. Die Autorinnen Ursula Kristin Schmid, Anna Sophie Kümpel und Diana Rieger werten darin die bestehende Studienlage zur polizeilichen Verfolgung von Hassrede aus – und kommen zu bemerkenswerten Ergebnissen. 

Die Studie zu „Hass und Hetze im Netz“.

So ziehen sie etwa folgenden Rückschluss für die Polizeiarbeit: „Nutzende müssen an die Effektivität von Meldeprozessen glauben, v.a. für strafrechtlich relevante Inhalte kann dies vermittelt werden, aber auch für nicht strafbare Inhalte, wenn die Polizei/Staatsanwaltschaft dadurch z.B. auf weitere (strafbare) Postings der Person stößt.“

Das heißt, Nutzer sollen dazu angehalten werden, auch Inhalte an die Polizei zu melden, die nicht strafbar sind. Auf diese Weise sollen die Ermittlungsbehörden anderen, tatsächlich strafbaren Inhalten auf die Schliche kommen.

Warnung vor „indirekter Hassrede“ und „humoristischen Darstellungen“

Zudem erfinden die Autorinnen den Begriff „indirekte Hassrede“. Hier zeige die Studienlage: „Indirekter und/oder verschleierter Hass (nur selten strafrechtlich relevant) wird seltener wahrgenommen und/oder eher toleriert“. Gleichzeitig fordern die Autorinnen in der Studie: „Präventionsarbeit muss neben strafrechtlich relevanten Inhalten auch indirekte Hassrede fokussieren.“ Sogenannte indirekte Hassrede ist laut den Autorinnen also selten strafrechtlich relevant, soll aber dennoch präventiv bekämpft werden.

Die Polizei soll vorbeugend Aussagen entgegenwirken, die im Rahmen der Meinungsfreiheit liegen. Eine Empfehlung, die den rechtsstaatlichen Grundsätzen kaum gerecht wird, denn das Strafrecht zieht eine klare Grenze zwischen strafbar und nicht strafbar. Alles, was nicht strafbar ist, geht den Staat und seine Behörden nichts an.

Auch Humor ist den Studien-Autorinnen ein Dorn im Auge. Sie warnen vor sogenannten Memes, also vor satirischen Bildern, die in sozialen Netzwerken geteilt werden. Denn die Studienlage zeige: „Humoristische Darstellungen (z.B. in Memes) können Hassrede jedoch verschleiern und werden oft nicht als problematisch wahrgenommen/verstanden“. Das Fazit für die Polizeiarbeit laute: „Zur Identifikation von verschleiertem Hass, z.B. in Memes ist oft Hintergrund- und Insiderwissen zu visuellen Hass-Symbolen sowie kodifizierter (Jugend-)Sprache und Humor notwendig“.

Die Studie empfiehlt den Ermittlern also, in die Jugendkultur einzutauchen, um in Memes unliebsamen Aussagen nachzuspüren – denn der „verschleierte Hass“, den die Autorinnen in Memes wähnen, ist ja ihrer eigenen Definition nach „nur selten strafrechtlich relevant“.

Ein klassisches Meme, vermutlich unterhalb der Strafbarkeitsgrenze. Quelle: Instagram Sveamaus

Ähnlich problematisch wie Humor kann laut der Studie auch Unterhaltung sein: „Hassrede aus Foren oder Online-Umgebungen, die Unterhaltung und Humor suggerieren, sind bei den Meldungen vermutlich unterrepräsentiert, v.a. wenn Nutzende die Inhalte aus Unterhaltungszwecken konsumieren.“ 

Netz der Überwachung

Laut den Empfehlungen der Studie sollen keineswegs nur die Opfer von Hass selbigen melden: „Damit das Melden von Hassrede Usus wird, müssen Meldestellen nicht nur bekannter werden, sondern es müssen gerade Mitlesende dazu motiviert werden, einzugreifen.“ Nutzer sollen sich also gegenseitig permanent überwachen und Verhalten, das ihnen verdächtig vorkommt – auch, wenn es nicht unbedingt strafrechtlich relevant ist – melden.

Um die Nutzer zum Melden zu animieren, empfiehlt die Studie, „die möglichen negativen Folgen von Hassrede für die Opfer, für Mitlesende, für den Diskurs und damit für die Gesellschaft insgesamt aufzuzeigen“. Neben den negativen Konsequenzen von Hassrede müssten auch die positiven Effekte des Meldens für die Betroffenen betont werden: „Wenn Menschen die Gefühle von anderen verstehen, können sie empathisch reagieren, was zu Eingreifen gegen Hassrede führen kann. Schon eine einzige Aktivierung dieser kognitiven Empathie führt zu positiven Effekten, sie kann aber auch durch Wiederholung trainiert werden“. Die Bürger sollen also kognitiv „aktiviert“ werden, um öfter zu melden. Auch mithilfe von Kampagnen könnte das Verantwortungsbewusstsein der Bevölkerung auf diesem Feld gestärkt werden.

Dass die Meldestellen nicht bei allen gut ankommen könnten, haben die Autorinnen ebenfalls mitbedacht. Zwar würde Strafverfolgungsbehörden in Deutschland grundsätzlich Zustimmung genießen. „Allerdings sind nicht alle Internet-Nutzenden dem Meldesystem positiv gestimmt; ‚Troll-Angriffe‘ mit dem Ziel, das System ‚lahmzulegen‘, können als Reaktion von abgeneigten Nutzenden und Hass-Gruppen entstehen“. 

Inwiefern die Studie die Arbeit der Strafverfolgungsbehörden schon heute prägt, dazu konnte sich das BKA bis Redaktionsschluss nicht äußern. Im August hatte die Behörde gegenüber NIUS mitgeteilt, dass sie KI einsetze, um Hinweise auf Straftaten und Hasskriminalität in sozialen Medien ausfindig zu machen. Auch wurden in den vergangenen Jahren etliche steuerfinanzierte Meldestellen eingerichtet, in denen auch Vorfälle unterhalb der Strafbarkeit gemeldet werden können. Familienministerin Lisa Paus (Grüne) hatte sich Anfang des Jahres dafür ausgesprochen, Hass im Netz auch unterhalb der Strafbarkeitsgrenze zu ahnden.

Lisa Paus im Einsatz gegen „Hass im Netz“.

Innenministerin Nancy Faeser (SPD) wiederum hatte im Februar erklärt: „Diejenigen, die den Staat verhöhnen, müssen es mit einem starken Staat zu tun bekommen.“ Ob Memes auch als Verhöhnung gewertet werden, ließ sie offen. Der Verfassungsschutz warnt allerdings in einer Broschüre zu rechtsextremen Symbolen vor Memes wie „Pepe, dem Frosch“.

Die Studie scheint also ein recht präzises Abbild davon zu liefern, wozu sich die Bundesregierung und die ihr untergebenen Strafverfolgungsbehörden im Kampf gegen Hass und Hetze berechtigt sehen.

Lesen Sie auch: Zur Erfassung von „Vorfällen auch unterhalb der Strafbarkeit“: Wie selbst die Union den Ausbau von Meldestellen vorantreibt