BKA sucht mit künstlicher Intelligenz nach „Hassrede, die selbst keinen eigenen Straftatbestand darstellt“

Die Bundesregierung hat der sogenannten Hassrede den Kampf angesagt: Mit zahlreichen Meldestellen und staatlich geförderten NGOs soll „Hass im Netz“ bekämpft und zur Anzeige gebracht werden. Bei der strafrechtlichen Verfolgung von Hatespeech kommt auch künstliche Intelligenz zum Einsatz, wie NIUS vom Bundeskriminalamt (BKA) erfuhr.

Das BKA setzt künstliche Intelligenz (KI) ein, um Hinweise auf Straftaten und Hasskriminalität in sozialen Medien ausfindig zu machen. Auf Anfrage schreibt das BKA, dass KI-basierte Programme zwar nicht zur unmittelbaren Erkennung von Hasskriminalität verwendet würden. Man arbeite aber mit „verschiedensten Tools für die Datenauswertung von Bild- und Textdaten bei der Bewertung strafbarer Inhalte.“ Die KI-basierten Programme würden die „händischen Analysen“ unterstützen und könnten Hinweise auf Straftaten und Hasskriminalität in sozialen Medien erkennen: „Ein Beispiel für solche Hinweise ist Hassrede, die selbst keinen eigenen Straftatbestand darstellt“, so das BKA.

Worum es sich bei solcher Hassrede, die keinen Straftatbestand darstellt, handelt, und weshalb sie mit KI aufgespürt werden muss, konnte das BKA bis Redaktionsschluss nicht näher erklären. Die Behörde betont, dass automatisierte Programme und KI-Anwendungen „immer nur Vorschläge zur Einordnung machen und niemals eine Entscheidung treffen“.

Bundesregierung finanziert Forschung

Die Bundesregierung trieb die Forschung auf diesem Feld in den vergangenen Jahren voran. So investierte das Ministerium für Bildung und Forschung 2,9 Millionen Euro in das Projekt KISTRA. Dieses untersuchte den Einsatz von KI zur Früherkennung von Straftaten im Netz. In der Projektbeschreibung des Forschungsministeriums heißt es dazu: „Die polizeiliche Kriminalstatistik zeigt in den letzten Jahren einen deutlichen Anstieg von politisch motivierten Straftaten mit Internetbezug. Ermittlungsbehörden benötigen bedarfsgerechte Werkzeuge, die ein Vorfiltern ermöglichen und sie bei der Strafverfolgung unterstützen.“ Ziel der Forschung war es demnach, KI-Methoden zur Verarbeitung von Massendaten zu entwickeln.

Aus dem Projektumriss des Forschungsministeriums.

KISTRA lief zwischen 2020 und 2023 und wurde in Zusammenarbeit mit zahlreichen deutschen Hochschulen, dem BKA sowie der Zentralen Stelle für Informationstechnik im Sicherheitsbereich (Zitis) durchgeführt. Dabei wurde einerseits untersucht, inwiefern der Einsatz von KI bei der Strafverfolgung im Netz ethisch und rechtlich vertretbar ist, gleichzeitig wurden Programme entwickelt, um Straftaten im Internet zu erkennen, zu verfolgen und ihnen vorzubeugen.

Vor allem letzteres macht stutzig: Denn bei politisch motivierten Straftaten im Netz handelt es sich vornehmlich um Äußerungsdelikte. Wie können Behörden präventiv tätig werden, um strafbare Äußerungen zu verhindern? Das BKA erklärt gegenüber NIUS, das KI-Technologie zur Prävention von Hasskriminalität aktuell nicht beim BKA im Einsatz sei.

Allerdings handelt es sich bei vielen der Programme, die im Rahmen von KISTRA entwickelt wurden, ohnehin nicht um voll einsatzfähige Programme, sondern sogenannte Demonstratoren, also Software-Prototypen, die noch verfeinert und für die Nutzung optimiert werden müssen. 

Der Kampf gegen „Hass im Netz“ ist auch ein politisches Projekt: Hessens Ministerpräsident Volker Bouffier und Wirtschaftsminister Tarek Al-Wazir stellen 2020 eine Meldestelle vor.

Ironie und Sarkasmus unter der Lupe

Auf die Antwort des Forschungsministeriums auf eine schriftliche Frage der Bundestagsabgeordneten Anke Domscheit-Berg (Die Linke) geht genauer hervor, welche Aufgaben die einzelnen Projektpartner übernahmen und welche Bedarfe sie anmeldeten.

• So sprach sich das BKA dafür aus, dass eine „Bewertung von Massendaten mithilfe künstlicher Intelligenz ermöglicht“ werden solle.
• Das Munich Innovation Labs GmbH entwickelte KI-Algorithmen, um „insbesondere Hassrede und verwandte multimediale Inhalte wie Bild- und Videodaten zu klassifizieren“. An der Fernuniversität Hagen wurden „computerlinguistische Methoden zur Analyse von Sprache erforscht, welche insbesondere für Ironie, Sarkasmus, Metaphern etc. notwendig sind.“
• Die Prävention von Hassrede untersuchten Forscher der RWTH Aachen. Dort wurde im Rahmen von KISTRA eine „agentenbasierte Simulation konzipiert, um zu prüfen, welche Präventionsmaßnahmen wirksam sein können. Dies soll es ermöglichen, Interventionsstrategien auf ihre systemische Wirkung hin zu untersuchen.“ Heißt übersetzt: Es wurde offenbar untersucht, wie in die Kommunikation im Netz eingegriffen werden kann, um Straftaten zu verhindern.
• An der TU Berlin wiederum wurden „Akzeptanzwiderstände gegen den Einsatz von künstlicher Intelligenz zur Erkennung, Vorbeugung und Verfolgung von Straftaten“ untersucht.

Die Fortschritte auf dem Gebiet der künstlichen Intelligenz erleichtern es den Strafverfolgungsbehörden also, Massendaten zu untersuchen und Beiträge der Nutzer in sozialen Netzwerken automatisiert auf potenziell strafbare Inhalte zu durchleuchten. 

Lesen Sie auch: Kameras am Hamburger Bahnhof: Warum wir uns vor chinesischer Technologie fürchten sollten