Das beste Gesetz der Welt gegen Porno-Deepfakes gibt es in den USA … und Melania Trump war eine treibende Kraft

Ginge es Bundesjustizministerin Stefanie Hubig nur darum, gegen „digitale Gewalt“ vorzugehen, könnte sie sich am unter Trump verabschiedeten „Take it Down Act“ ein Beispiel nehmen: Dieses in den USA eingeführte Gesetz gegen Rache-Pornos mit echten Bildern sowie KI-generierten Fotos und Videos geht auf eine Initiative von US-Senator Ted Cruz und First Lady Melania Trump zurück. 

Während Hubigs Gesetzentwurf, der zurzeit in Bearbeitung ist, eine drastische Gefährdung der Privatsphäre darstellt (nicht nur die Verbreitung, schon die Herstellung solchen Materials soll strafbar sein und auch Inhalte könnten erfasst werden, die geeignet sind, „dem Ansehen“ einer Person erheblich zu schaden, also etwa politische Satire-Memes), beschränkt sich der Take It Down Act auf die Entfernung von Inhalten sexueller Natur.

Das Gesetz der Vereinigten Staaten zielt darauf ab, gegen nicht einvernehmliche intime Bildaufnahmen (oft als „Rachepornografie“ bezeichnet) sowie gegen Deepfakes vorzugehen, die auf Websites und in sozialen Medien veröffentlicht und typischerweise mithilfe von künstlicher Intelligenz erstellt werden.

Immer mehr Frauen und Mädchen werden Opfer von Deepfake-Pornos. In den USA gibt es seit 2025 ein spezielles Gesetz zu ihrem Schutz davor.

Ted Cruz griff das Thema Highschool-Fall auf 

Senator Ted Cruz aus Texas setzte sich 2024 besonders dafür ein, nachdem eine jugendliche Wählerin im Jahr zuvor Opfer nicht einvernehmlicher Deepfakes geworden war. Mehrere Schülerinnen einer Highschool in Aledo, Texas, waren sexuell belästigt worden. Ein Mitschüler hatte scheinbar harmlose Fotos von ihnen aufgenommen, diese jedoch mithilfe vorhandener Software manipuliert und sie über einen anonymen Account auf Snapchat so veröffentlicht, dass die Mädchen nackt erschienen. 

Obwohl Texas Gesetze gegen Deepfake-Videos hatte, gab es keine Regelung, die manipulierte Fotos erfasste. Es bedurfte einer persönlichen Intervention des Senators, um Snapchat zur Entfernung der Bilder zu veranlassen. Das ging dann plötzlich binnen einer Stunde. 

US-Senator Ted Cruz ergriff die Initiative.

„Es sollte nicht nötig sein, dass ein amtierender Senator zum Telefon greift, um solche Inhalte entfernen zu lassen“, meinte Ted Cruz dazu. „Wenn es sich um Taylor Swift gehandelt hätte, wären sie entfernt worden – und das zu Recht. Aber sie sollten auch für jeden Teenager in Texas entfernt werden.“ 

Melania Trump setzte sich persönlich für das Gesetz ein

Von Sängerin Taylor Swift wurden Ende Januar 2024 sexuell explizite, KI-generierte Deepfake-Bilder auf den Social-Media-Plattformen 4chan und X (ehemals Twitter) verbreitet. Ein Beitrag soll 47 Millionen Mal angesehen worden sein, bevor er schließlich entfernt wurde.

Auch Pop-Star Taylor Swift wurde Opfer von KI-Pornografie.

Der Republikaner Cruz arbeitete mit der demokratischen Senatorin Amy Klobuchar zusammen, um ein parteiübergreifendes Gesetz zu entwickeln. Und bei ihrer ersten Rede auf dem Kapitol seit dem Wiedereinzug ins Weiße Haus unterstützte Melania Trump den Gesetzesentwurf, der es zum Bundesverbrechen machen sollte, intime Bilder oder Videos ohne Einwilligung der Betroffenen zu veröffentlichen oder auch nur damit zu drohen. Im Anschluss an ihre „Be Best“-Initiative gegen Cybermobbing sprach die First Lady mit Abgeordneten, um sie für den Take It Down Act zu gewinnen. 

Ende April 2025 sagte Melania Trump: „Die heutige parteiübergreifende Verabschiedung des ‚Take It Down Act‘ ist ein starkes Zeichen dafür, dass wir gemeinsam für den Schutz der Würde, der Privatsphäre und der Sicherheit unserer Kinder eintreten.“ Es sei ihr „eine Ehre, dazu beigetragen zu haben, dass das Gesetz den Kongress passiert hat“.

Der Gesetzentwurf wurde von mehreren Organisationen kritisiert, die sich für Meinungsfreiheit einsetzen. Sie brachten unter anderem vor, dass legale Inhalte ebenfalls entfernt werden könnten, da sie nicht ausdrücklich ausgenommen sind. Auch könnten nicht öffentliche Inhalte, etwa Direktnachrichten, betroffen sein. Und es gebe keine klaren Ausnahmen für Satire, Kritik oder Journalismus. 

Donald Trump bot Melania an, das Gesetz mit zu unterschreiben.

Es geht um sexuell konnotiertes KI-Material 

Das Gesetz betrifft jedoch eng gefasst sexuell explizite Bilder, die entweder ohne Zustimmung verbreitet oder ohne Zustimmung erstellt wurden, etwa durch generative KI oder Medienmanipulation. Die Definition umfasst unter anderem: 

• entblößte Genitalien, den Schambereich, den Anus oder weibliche Brustwarzen nach der Pubertät,
• Darstellung oder Übertragung sexueller Körperflüssigkeiten,
• expliziten Geschlechtsverkehr,
• Bestialität,
• Masturbation,
• sadistischen oder masochistischen Missbrauch,
• sowie grafische oder simulierte sexuelle Darstellungen dieser Körperbereiche.

Synthetische Bilder („digitale Fälschungen“) müssen von echten Darstellungen einer identifizierbaren Person nicht zu unterscheiden sein.

Die Definition ist bewusst so gestaltet, dass nicht alle digitalen Fälschungen erfasst werden. Beispielsweise würde ein virales Fake-Video, das Trump beim Lecken der Füße von Elon Musk zeigt, nicht unbedingt unter das Gesetz fallen. 

Plattformen in die Pflicht genommen 

Neben der Einführung strafrechtlicher Konsequenzen auf Bundesebene verpflichtet das Gesetz Online-Plattformen dazu, ein Verfahren zur Beantragung und Entfernung einzurichten, mit dem Opfer bildbasierter sexueller Gewalt ihre Bilder innerhalb von 48 Stunden entfernen lassen können. 

Die Organisation Cyber Civil Rights Initiative (CCRI) betreibt eine kostenlose 24/7-Hotline für Betroffene. Sie empfiehlt, Beweise zu sichern (Screenshots, PDFs, Nachrichten), sowohl digitale als auch physische Kopien aufzubewahren und relevante Daten wie URLs, Nutzernamen, Datum und Uhrzeit zu dokumentieren. Alternativ kann bei eigenen Bildern auch eine Urheberrechtsbeschwerde eingereicht werden. „Niemand sollte das allein durchmachen“, sagte Expertin Omny Miranda Martone und rät, juristische oder beratende Hilfe in Anspruch zu nehmen.

Das Gesetz stellt die Veröffentlichung der inkriminierten Inhalte unter Strafe (bis zu zwei Jahre Haft, mit strengeren Strafen bei Minderjährigen), verpflichtet Websites und soziale Netzwerke, entsprechende Inhalte auf Antrag des Opfers innerhalb von 48 Stunden zu entfernen, und verlangt die Löschung aller vorhandenen Kopien. Die Plattformen bekamen ein Jahr Zeit, um entsprechende Meldesysteme einzurichten, die strafrechtlichen Bestimmungen traten mit der Unterzeichnung des Gesetzes sofort in Kraft. 

Trotz Kritik: Die Vorteile überwiegen 

Der Schwerpunkt liegt auf dem Schutz von Kindern. Explizite Bilder von Minderjährigen gelten als Material sexuellen Kindesmissbrauchs und werden besonders streng bestraft. Das Thema „Schutz von Jugendlichen vor KI-Pornografie“ war politisch schwer angreifbar und fand im Kongress fast einhellige Zustimmung.

Zwar birgt das Gesetz auch Missbrauchspotenzial – man denke an falsche Meldungen und Zensur sowie an die Gefahr des Overblockings: Nach dem Motto „Lieber zu viel löschen als Strafe riskieren“ könnten Plattformen sicherheitshalber zu viel löschen. Gleichwohl schließt der „Take It Down Act“ eine reale Gesetzeslücke (Deepfake-Pornografie) und sendet eine klare Botschaft gegen digitalen Missbrauch. 

Neu ist nun, dass Täter jetzt bundesweit strafrechtlich verfolgt werden konnten, davor gab es nur einen Flickenteppich aus Bundesstaaten-Regeln. Überdies ist das Thema jetzt in den Allgemeinen Geschäftsbedingungen (AGBs) sichtbar und wird intern priorisiert. Die Tech-Unternehmen können sich nicht länger rausreden. Der KI-Missbrauch ist kein „Graubereich“ mehr. 

Bundesjustizministerin Stefanie Hubig könnte sich an den USA ein Beispiel nehmen.

Amerika, du hast es besser

Der „Take it Down Act“ passierte im Februar 2025 den Senat, im April das Repräsentantenhaus und wurde schließlich im Mai von Präsident Donald Trump unterzeichnet. In Deutschland war kaum etwas dazu zu hören oder zu lesen, weil die Republikaner für die meisten Medien hierzulande nichts richtig machen können.

Wenn es Bundesjustizministerin Stefanie Hubig (SPD) wirklich um Schutz vor „sexualisierter digitaler Gewalt“ geht, müsste sie nur über den „Großen Teich“ schauen und sich das Gesetz von Ted Cruz und Melania Trump zum Vorbild nehmen. Es sei denn, es geht ihr um etwas ganz anderes. 

Lesen Sie dazu auch:
Nach der SPIEGEL-Recherche zu Collien Fernandes: Warum Hubigs Gesetz gegen digitale Gewalt Tür und Tor für Zensur öffnet