KI-Roboter soll Schüler auf Streit mit „rechtem Onkel“ vorbereiten

An der Universität Siegen wird ein KI-Roboter für Demokratietrainings mit Schülern eingesetzt. Wie die Siegener Zeitung berichtet, trainieren Jugendliche dabei Gespräche mit einem simulierten „rechten Onkel“ auf Familienfeiern. Der Roboter namens „Navel“ übernimmt rassistische und rechtspopulistische Positionen, auf die die Schüler argumentativ reagieren sollen.

„Ihre ganze Art passt einfach nicht zu uns. Sie nehmen uns die Jobs weg. Was ist daran fair? Ausländer raus. Das ist, was uns beschäftigen sollte“, sagt Roboter Navel zu Doktorandin Nora Hille. Diese erwidert Sätze wie: „Aber viele Ausländer übernehmen doch wichtige Aufgaben in unserer Gesellschaft“; „Wie meinst du das? Die machen doch nur die Jobs, die keiner will.“ Auf die Frage „Und die Kriminalität?“ antwortet sie: „Statistiken zeigen, dass Ausländer überhaupt nicht krimineller sind als Menschen, die hier wohnen.“

Diese Gesprächsszene zwischen dem KI-gesteuerten Roboter Navel und der Siegener Doktorandin Nora Hille schildert die Siegener Zeitung in einem Bericht über das Projekt. Doktorandin Hille hat es gemeinsam mit dem Aktiven Museum Südwestfalen und dem Dietrich-Bonhoeffer-Gymnasium in Neunkirchen ins Leben gerufen. Die Idee sei aus Gesprächen mit Schülern entstanden, die von rassistischen Aussagen im Alltag und in der Familie berichtet hätten.

„Navel“ wurde ursprünglich vor allem für den Einsatz in Pflege, Betreuung und sozialer Mensch-Roboter-Interaktion entwickelt. (Foto vom 36. Tag der Altenpflege in Cloppenburg im März 2025)

Der „rechte Onkel“ wird in linkswoken Kreisen seit Jahren als Problembär am Raclette-Tisch gezeichnet: Große Wochenzeitungen geben immer wieder Tipps für den Umgang mit Verschwörungstheoretikern aus der Verwandtschaft, Populismus-Verdächtigen und Coronamaßnahmen-Skeptikern.

Für überzeugend rassistische Aussagen dienten ältere KI-Modelle 

Für das aktuelle Projekt wurde der Roboter mithilfe von ChatGPT auf die Rolle eines provozierenden Gesprächspartners trainiert. Die Siegener Zeitung zitiert Hille mit den Worten: „KI ist eigentlich sehr höflich.“ Deshalb habe man ältere KI-Modelle verwenden müssen, um den Roboter überzeugend rassistische Aussagen äußern zu lassen. Nach Angaben der Siegener Zeitung verfügt das System inzwischen über mehrere Schwierigkeitsstufen. „Bei Level 5 ist Navel schon echt hartnäckig“, sagte Hille der Zeitung.

Der Roboter „Navel“ existiert allerdings bereits seit mehreren Jahren und stammt nicht ursprünglich aus diesem Schulprojekt. Entwickelt wurde die Plattform von dem Unternehmen Navel Robotics als sozialer Roboter für Pflege, Bildung und Mensch-Maschine-Interaktion. Die Universität Siegen forscht seit längerem im Bereich sozialer Robotik und Mensch-Roboter-Kommunikation.

Stereotyp entworfener „rechter Onkel“

Navel gibt den Schülern nach der Trainingseinheit noch ein Zeugnis: „Es ist wichtig, dass du geduldig und sachlich geblieben bist, während du mit jemandem sprichst, der wütend und voreingenommen ist. Deine Fähigkeit, Statistiken und Fakten ins Gespräch einzubringen, ist sehr hilfreich, um Vorurteile und falsche Annahmen zu widerlegen.“

Dass der simulierte „rechte Onkel“ seinerseits stereotyp gezeichnet sein könnte – als wütend und ohne valide Statistiken oder belastbare Argumente –, und dass „die Ausländer nehmen uns die Jobs weg“ wohl eine seit den 90ern überholte rechte Position sein dürfte, wurde offenbar nicht mitbedacht.