EU beschließt Verbot von Porno-Deepfakes

Das Europaparlament hat in Brüssel Maßnahmen gegen KI-Anwendungen beschlossen, mit denen täuschend echte sexualisierte Bilder und Videos erzeugt werden können.

Künftig sollen solche Anwendungen verboten werden. Die Regelung soll in den kommenden Monaten in Kraft treten, sobald das Gesetz endgültig verabschiedet ist.

Hintergrund unter anderem Missbrauch von Grok

Konkret zielt das Verbot auf Anwendungen, die Inhalte erzeugen oder verändern, sodass sie „sexuell eindeutige Aktivitäten oder intime Körperbereiche einer bestimmbaren Person“ zeigen. Laut Gesetzentwurf verletzen solche Darstellungen die Würde und Privatsphäre der Betroffenen und können erheblichen Schaden anrichten.

Die Abgeordneten halten ein Eingreifen für dringend notwendig. Hintergrund sind unter anderem Fälle aus diesem Jahr, bei denen Nutzer mithilfe des Chatbots Grok massenhaft sexualisierte KI-Bilder von Frauen und Kindern erzeugten und im Netz verbreiteten. Auch die EU-Kommission leitete daraufhin Untersuchungen ein, teils wurde der Dienst eingeschränkt.

Die geplanten Maßnahmen sind Teil einer umfassenderen Reform des EU-KI-Gesetzes von 2024. Neben neuen Verboten sind auch Lockerungen vorgesehen – etwa bei der Nutzung von KI durch Sicherheitsbehörden und im Gesundheitswesen. Über die endgültige Ausgestaltung verhandeln Parlament und die Mitgliedstaaten in den kommenden Monaten.