Bundesregierung weiß nicht, wie Algorithmen funktionieren – aber findet sie rassistisch

Die Algorithmen sozialer Medien gelten nach Auffassung der Bundesregierung als potenziell diskriminierend, so die offizielle Lesart. Bereits 2019 veröffentlichte die Antidiskriminierungsstelle des Bundes einen Leitfaden mit dem Titel „Diskriminierungsrisiken durch Algorithmen“. NIUS fragte nach, auf welche konkreten Nachweise sich die Bundesregierung in dieser These stützt. Doch ausgerechnet jene Behörden, die den Vorwurf erheben, haben keine Antworten.

Die Antidiskriminierungsstelle des Bundes, das Bundesfamilienministerium und sämtliche Staatskanzleien durch die Republik behaupten, dass Algorithmen und Künstliche Intelligenz diskriminierend seien und Rassismus fördern würden. NIUS ging der Behauptung auf den Grund und fragte mehrere Behörden an, bis hin zum Bundesministerium für Digitales. Das Ergebnis ist eher enttäuschend, Antworten und Belege bleiben aus.

Das Bundesministerium für Digitales in Berlin

Algorithmen und die Debatte

Algorithmen sind nichts anderes als digitale Entscheidungsmaschinen. Sie sortieren in sozialen Medien Inhalte, bewerten Menschen und steuern, was wir sehen – und was nicht. Auf Basis vergangener Suchanfragen werden beispielsweise Nutzer-Präferenzen analysiert, die genutzt werden, um passende Produkte oder Beiträge vorzuschlagen.

In seinem Newsletter „Merz-Mail“ warnte Bundeskanzler Friedrich Merz Anfang 2025 davor, dass alles Erlauben in sozialen Medien die Meinungsfreiheit „den Feinden der Meinungsfreiheit“ ausliefert. Er nannte Beispiele wie grobe Falschmeldungen, KI-generierte Memes und Propaganda durch Trollarmeen. Diese Kritik an Algorithmen, die Polarisierung und Desinformation fördern, teilt Merz mit Vertretern der Bundesregierung, darunter aus der SPD. So kritisierte auch der ehemalige Kanzler Olaf Scholz (SPD) den X-Eigentümer Elon Musk für die Förderung angeblich rechtsextremer Inhalte: „Dass Herr Musk eine in Teilen rechtsextremistische Partei unterstützt hat, ist etwas, wo wir nicht nur nicht einverstanden sind.“ Die Regierung plant EU-weite Maßnahmen gegen die algorithmische Verstärkung polarisierender Inhalte auf Plattformen wie X, um gesellschaftliche Spaltung einzudämmen, so das Narrativ.

Die Logik dahinter: Weil Jugendliche laut einer Bertelsmann-Studie dazu neigen, politisch besonders polarisierende Inhalte zu konsumieren, braucht es politische Regulierung mit den zugrundeliegenden Algorithmen in den sozialen Medien, um diese von gefährlichem Content fernzuhalten. So warnt auch Digitalminister Karsten Wildberger (CDU) vor den intelligenten Steuerungssystemen und nennt sie „das Betriebssystem des Landes“, das ein „nächstes großes Update“ brauche, um Wettbewerbsfähigkeit und die Demokratie zu schützen. Die Antidiskriminierungsstelle behauptet sogar, dass Algorithmen „Diskriminierungen fördert“.

Digitalverwaltung aus Rheinland-Pfalz ohne Beweise

NIUS wollte bei Bundesstellen wissen, welche konkreten Erkenntnisse man dazu habe. Die Senatsverwaltung für Digitales in Rheinland-Pfalz blieb in ihrer Antwort, weshalb genau Algorithmen rassistisch oder diskriminierend seien, unkonkret. Ein Sprecher teilte mit: „Die Algorithmen werden nicht transparent öffentlich gemacht. Ihre Wirkung allerdings wird darin offensichtlich, dass in den Feeds der User bestimmte Inhalte öfter, andere hingegen seltener angezeigt werden. Diese der Plattformlogik immanenten Dynamiken sind für den Nutzer weder erkennbar noch nachvollziehbar.“

Einen Beweis für die These, dass die benannten Algorithmen rassistisch seien, lieferte die Behörde nicht. Weiter heißt es: „Sie können daher ein verzerrtes Bild des gesellschaftlichen Meinungsklimas erzeugen, das die Nutzerinnen und Nutzer in ihren eigenen Ansichten und Überzeugungen beeinflusst oder sogar prägt.“ Auf Nachfrage, die weitere Belege erwünschte, reagierte die Behörde nicht mehr. 

Hessisches Digitalministerium tappt im Dunkeln 

Das Hessische Digitalministerium versucht sich ebenfalls an einer Erklärung. Zwar erklärt das Ministerium, dass große Social-Media-Plattformen dazu verpflichtet seien, ihre Algorithmen öffentlich zu machen und auch dafür haften sollen, wie das funktionieren soll, bleibt jedoch offen. Konkret heißt es in der Antwort auf die NIUS-Anfrage: „Digitale Plattformen bieten viele Mehrwerte und Chancen für ihre Nutzerinnen und Nutzer, bergen aber auch Risiken der gezielten Desinformation und Einflussnahme. Die Digitalministerkonferenz hat sich im Mai 2025 dafür ausgesprochen, dass auf Basis des Digital Service Acts verpflichtende Transparenzregeln für Algorithmen durchgesetzt werden sollen, um systematische Mechanismen, die Desinformation und Hasskriminalität strukturell begünstigen, offenzulegen.“

Das Hessische Digitalministerium antwortete ebenfalls, ohne Belege für die Annahmen zu liefern.

Weiter heißt es: „Insbesondere große Plattformen sollen stärker in die Verantwortung genommen werden, systemische Risiken ihrer Algorithmen zu bewerten und wirksame Gegenmaßnahmen zu ergreifen. Auf europäischer Ebene schafft neben dem Digital Services Act die europäische KI-Verordnung wichtige Rahmenbedingungen, um Transparenz, Rechenschaftspflichten und den Schutz vor diskriminierenden Risiken digitaler Systeme zu stärken.“

Auch hier fällt auf: Handfeste Belege fehlen. Und ironischerweise ist ausgerechnet X, die Plattform von Elon Musk, die immer wieder von Politikern der Mitte kritisiert wird, die erste, die ihren Algorithmus transparent machen wird. Das kündigte Elon Musk unlängst an.

Bundesarbeitsministerium weicht aus

Auch das Ministerium für Arbeit und Soziales von Bärbel Bas wurde von NIUS gefragt, wo man denn die Beweise für die diskriminierende Wirkung von Algorithmen sehe. Erst vor wenigen Wochen sprach Ministerin Bas davon, „wie man digitale Räume für unsere Demokratie zurückerobern“ könne, und betonte, dass Algorithmen von Männern programmiert würden und damit Diskriminierung gefördert werde.

Auf NIUS-Anfrage an das Ministerium von Bärbel Bas kam eine recht schmallippige Antwort zurück. Ein Sprecher des Ministeriums antwortete schlicht: „Hinsichtlich Ihrer Fragestellung haben wir nichts beizutragen.“

Digitalministerium verweist auf EU-Gesetz, statt Fragen zu beantworten 

Das Bundesministerium für Digitales, welches zentral für die Beantwortung der Fragen verantwortlich wäre, antwortet zwar ausführlich, aber irreführend. Auf NIUS-Anfrage verweist das Bundesministerium für Digitales lediglich auf EU-Gesetze, die zwar Algorithmen reglementieren sollten, aber nicht beweisen, dass Algorithmen tatsächlich rassistisch oder diskriminierend handeln.

Das Bundesministerium für Digitales in Berlin-Mitte

Auch auf mehrfache Nachfrage reagierte das Bundesministerium ausweichend: „Wie bereits zuvor geschildert, gibt es bestimmte Transparenzpflichten für den Einsatz von Empfehlungs-Algorithmen bei Social-Media-Plattformen, über deren Einhaltung die zuständigen Durchsetzungsbehörden wachen. Im Falle des DSA ist das der DSC im Sitzland der Plattform sowie die EU-Kommission bei sehr großen Online-Plattformen. Bitte wenden Sie sich an diese Behörden, die bei Verstößen Untersuchungen einleiten, Beweise sammeln und die Verfahren führen.“

Von NIUS wurden auch noch weitere Digitalministerien der Länder und sämtliche Staatskanzleien angefragt, Antworten blieben aus.

Mehr NIUS: Weil Algorithmen Rechtsextreme begünstigt haben sollen: Razzia bei X in Paris