„Größtes Analysesystem Deutschlands“: Verein will mit „KI gegen Rechts“ die Demokratie retten

Der Hamburger Verein „KI für Demokratie“ scannt Posts in sozialen Medien, um „Algorithmen, Inhalte und Akteure aufzuspüren, welche die Grundsätze und Werte unserer Demokratie untergraben“. Die gesammelten Informationen werden an Medien, öffentliche Institutionen und NGOs weitergegeben. Der Hamburger Datenschutzbeauftragte warnt: Der Zugriff staatlicher Stellen auf ehrenamtlich erhobene Daten sei „rechtlich problematisch“.

Auf die Idee, mit KI gegen „rechtsextreme Inhalte“ vorzugehen, sei er im Januar 2024 gekommen, als die Correctiv-Recherchen über ein rechtes Geheimtreffen in Potsdam zu großen Demonstrationen führten, erzählt Jörg Forthmann der linken Berliner Tageszeitung taz. Forthmann ist Mitgründer des Vereins  „KI für Demokratie“ und geschäftsführender Gesellschafter der PR- und Marketing-Agentur Faktenkontor. Mit dem früheren CDU-Abgeordneten Roland Heintze gründete der Wirtschaftsingenieur zunächst die Initiative „KI gegen Rechts“, die vor einiger Zeit zum Verein gewandelt wurde. 

Der Verein will „Hass“ und „Hetze“ im Netz bekämpfen.

„Größtes Analysesystem Deutschlands“

„KI kann uns dabei helfen, subversive Akteure und ihre Aktivitäten aufzudecken“, heißt es auf dessen Website. Auch das Vorgehen wird erläutert: „In einer ersten Phase identifizieren wir rechtspopulistische und rechtsextreme Akteure im Internet. Dann untersuchen wir, welche Themen durch diese Akteure verbreitet werden, um die öffentliche Meinung zu manipulieren. Steht die beste Methodik fest, gehen wir in den laufenden Betrieb. Regelmäßige und ad-hoc-Analysen, in etwa vor Wahlen, sollen Transparenz schaffen u.a. in Bezug auf: die zentralen Akteure der Desinformationsverbreitung, die Themen, zu denen Desinformation in den Umlauf gebracht wird, die Quellen, auf die Bad Actors verweisen, die Ausbreitungswege, also wer wen typischerweise zu welchem Zeitpunkt unterstützt.“

Weiter heißt es: „Hass, Hetze und gezielte Desinformation im Internet stellen eine ernsthafte Bedrohung dar. Sie können zu einer Spaltung der Gesellschaft führen, die öffentliche Meinung beeinflussen, das individuelle Wohlbefinden beeinträchtigen und die Meinungsfreiheit einschränken.“

Dem Hamburger Abendblatt berichtete Forthmann Ende Juli: „In den letzten eineinhalb Jahren ist das größte Analysesystem Deutschlands hier in Hamburg entstanden, das rechte Hass- und Desinformationskampagnen transparent macht. Diese Informationen stellen wir Medien, öffentlichen Institutionen, NGOs, usw. zur Verfügung.“ Bislang sei das System aber noch nicht für jeden nutzbar, da man eine Klagewelle „von Rechten“ verhindern wolle.

Wortzusammenschlüsse wie „Geschlecht ist Biologie ist Realität ist Wahrheit“ und „Die Ukraine wird von Neonazis regiert“ und „Nichts geht über deutsche Hausmannskost“ wandern über zwei Banner, die die Homepage zieren.

Zusammenarbeit mit Universität Hamburg

Rund 100 Führungskräfte engagieren sich inzwischen als ehrenamtliche Helfer, wie Forthmann in einem Video auf der Website berichtet; auch die Universität Hamburg und die Nordakademie seien an Bord. NIUS fragte bei der Universität Hamburg nach: In welchem Umfang werden Mittel der Universität, also Projektförderungen, Sachmittel und Personal zur Verfügung gestellt? Die Antwort des Pressesprechers des Präsidenten der Uni Hamburg: „Zwischen der Universität Hamburg (UHH) und dem genannten Verein besteht eine wissenschaftliche Kooperation. Die UHH ist kein Mitglied des Vereins. Seitens der UHH wurden dem Verein keinerlei Mittel zur Verfügung gestellt.“ 

Die frühere Initiative „KI gegen Rechts“ ist inzwischen ein Verein.

„Bürgerrechte“ und „Weltfriedenstag“ auf dem Index

Die eigens programmierte KI durchforstet soziale Medien nach rund 500 Signalwörtern. Laut Abendblatt werden täglich Zehntausende Internet-Postings gescannt und auf rechtsextreme Inhalte geprüft, um „der Übermacht der Rechten im Netz etwas entgegenzusetzen“.

Welche Wörter konkret auf dem Index stehen, ist geheim. Auf eine NIUS-Anfrage reagierte der Verein nicht. Der taz nannte Forthmann Begriffe wie „Gewalttäter“, „Great Reset“, „Asylmissbrauch“ oder auch „Hitlers Geburtstag“ sowie bestimmte Emojis, aber auch „Bürgerrechte“ und „Weltfriedenstag“.

Dem Verein fehlt aktuell Geld, denn KI benötigt viel Energie und große Rechnerkapazitäten. NIUS fragte beim Verein auch nach, ob man Fördergelder beantragt habe, allerdings auch hier: keine Antwort. Seit das KI-Projekt ein Verein ist, hätte es Zugang zu Fördermitteln.

Laut Abendblatt sollen in Zukunft auch Linksextremisten von der KI im Netz „identifiziert“ werden.

Über die Crowdfunding-Plattform „GoFundMe“ will Forthmann 5000 Euro sammeln.

Mehr NIUS: Der Staat setzt die überforderte Justiz auf „Hass & Hetze“ an

Es droht eine „Überschreitung staatlicher Eingriffsgrenzen“

Gegenüber der taz äußerte der Datenschutzbeauftragte der Stadt Hamburg Bedenken: „Grundsätzlich muss auch der hier Beobachtete das Recht und die Möglichkeit haben, der Weitergabe seiner Daten zu widersprechen. Ob das bei ‚KI für Demokratie‘ der Fall ist, haben wir noch nicht geprüft.“

Man befinde sich in einem Graubereich. „Es ist nicht so, dass ich, nur weil ich etwas öffentlich stelle, zwingend damit rechnen muss, dass jemand anderes diese Äußerung für eigene Zwecke verwendet.“ Den Zugriff staatlicher Stellen, wie etwa der Medienanstalt auf ehrenamtlich erhobene Daten, hält Fuchs für „rechtlich problematisch“. Bei fehlender Sorgfalt eines KI-Einsatzes drohten Grundrechtsverletzungen und eine „Überschreitung staatlicher Eingriffsgrenzen“.

Lesen Sie auch: EU-Gruppe plant Echtzeit-Überwachung: „Damit würde der Datenschutz und folglich die Freiheit zentimeterweise sterben!“