Die USA setzen ein deutliches Zeichen gegen digital erzeugte sexuelle Gewalt: Mit dem neuen „Take It Down Act“ reagieren Politik und Justiz auf die wachsende Verbreitung von KI-generierten Deepfake-Pornos. Nur kurz nach Inkrafttreten des Gesetzes verschwindet das weltweit bekannteste Portal für solche Inhalte, MrDeepfakes, aus dem Netz – ein potenzieller Wendepunkt in der internationalen Debatte um ethische und rechtliche Grenzen künstlicher Intelligenz.
Wendepunkt im Kampf gegen Deepfake-Pornos: Zwei Ereignisse setzen ein Zeichen
In einer Woche, in der das Thema KI-Regulierung erneut stark in den Fokus rückt, überschlagen sich die Ereignisse im Bereich ethisch bedenklicher Anwendungen: Die US-Regierung verabschiedet ein Gesetz gegen nicht einvernehmliche Deepfake-Pornografie, während das weltweit größte Portal für KI-generierte Pornos, „MrDeepfakes“, überraschend offline geht. Zufall oder direkte Konsequenz der neuen Rechtslage?
MrDeepfakes offline – Reaktion auf politischen Druck?
Die Webseite „MrDeepfakes.com“ war über Jahre hinweg eine zentrale Anlaufstelle für die Veröffentlichung und den Austausch KI-generierter pornografischer Inhalte – meist ohne Wissen oder Einwilligung der abgebildeten Personen. Besonders betroffen: weibliche Prominente, Influencerinnen, aber auch Privatpersonen, deren Gesichter per KI in pornografische Szenen montiert wurden.
Seit Anfang Mai 2025 ist die Plattform offline. Nutzer berichten, dass weder über den offiziellen Discord-Server noch über die Community-Kanäle Erklärungen abgegeben wurden. Expert*innen gehen davon aus, dass die Betreiber angesichts der neuen rechtlichen Risiken in den USA entweder untergetaucht sind oder sich vorsorglich vom Netz genommen haben.
Der „Take It Down Act“ – Ein rechtlicher Meilenstein
Mit dem „Take It Down Act“ verabschiedete der US-Kongress in derselben Woche ein Gesetz, das Plattformen verpflichtet, nicht einvernehmliche, intime Inhalte – einschließlich Deepfakes – innerhalb von 48 Stunden nach Meldung zu löschen. Ziel ist es vor allem, Minderjährige und Opfer digitaler sexueller Gewalt besser zu schützen. Die Strafen bei Nichtbeachtung reichen von empfindlichen Bußgeldern bis hin zu strafrechtlichen Konsequenzen für Plattformbetreiber.
Betroffene können Inhalte über eine zentrale Anlaufstelle melden und entfernen lassen. Der gesetzliche Rahmen schließt explizit auch KI-generierte Inhalte ein, was bislang in vielen Rechtsordnungen fehlt oder rechtlich umstritten ist.
Plattformen in der Verantwortung
Der neue Gesetzestext hebt die Verantwortung von Plattformbetreibern besonders hervor: Sie müssen proaktiv Löschmechanismen implementieren, transparente Meldeverfahren anbieten und KI-generierte Inhalte eindeutig kennzeichnen oder entfernen. Diese Regelung dürfte auch international Schule machen – denn Plattformen, die ihre Inhalte global ausspielen, können sich nationalen Gesetzen kaum entziehen.
Für Portale wie MrDeepfakes bedeutet das: Die Ära der rechtlichen Grauzone ist vorbei. Auch wenn die Betreiber anonym agieren, geraten sie zunehmend ins Visier von Strafverfolgung und öffentlichen Debatten.
Internationale Relevanz – auch für Europa?
Während in den USA nun ein konkreter Gesetzesrahmen existiert, steht Europa vor ähnlichen Herausforderungen. Zwar existieren bereits Regelungen gegen Rachepornos und Verletzungen des allgemeinen Persönlichkeitsrechts, doch KI-generierte Inhalte sind schwer zu fassen: Wann ist ein Deepfake „echt genug“, um justiziabel zu sein? Wie ist die Beweisführung technisch möglich?
Mit dem AI Act der EU und verschiedenen nationalen Initiativen zum Schutz der digitalen Selbstbestimmung rückt auch in Europa das Thema Deepfakes auf die politische Agenda. Der Fall MrDeepfakes könnte dabei als Katalysator dienen.
Was bedeutet das Gesetz für Deutschland?
Auch wenn der „Take It Down Act“ ein US-amerikanisches Gesetz ist, entfaltet er potenziell spürbare Auswirkungen über die Landesgrenzen hinaus – insbesondere für Plattformbetreiber, deren Inhalte auch in Europa zugänglich sind. Für Deutschland ergeben sich daraus mehrere wichtige Implikationen:
1. Druck auf Plattformen mit globaler Reichweite
Internationale Plattformen wie Reddit, Discord oder Hosting-Dienste, auf denen Deepfake-Inhalte zirkulieren, operieren oft in den USA. Durch das neue Gesetz steigt der Druck, auch in anderen Ländern strengere Regeln umzusetzen – entweder freiwillig oder im vorauseilenden Gehorsam, um rechtlichen Auseinandersetzungen zu entgehen. Für deutsche Nutzer*innen kann das mehr Schutz bedeuten.
2. Vorbildfunktion für die nationale Gesetzgebung
Deutschland hat zwar bestehende Regelungen gegen „Rachepornos“ (§ 201a StGB – Verletzung des höchstpersönlichen Lebensbereichs durch Bildaufnahmen), doch explizit KI-generierte Inhalte sind bislang nicht differenziert erfasst. Der Take It Down Act könnte hier als Vorbild dienen: etwa für ergänzende Regelungen im Telemediengesetz, im NetzDG oder in der geplanten Umsetzung des EU AI Act.
3. Beweissicherung und Meldepflichten als Herausforderung
Der US-Gesetzgeber macht Plattformen konkret verantwortlich und setzt Fristen zur Entfernung problematischer Inhalte. In Deutschland wäre ein vergleichbares Modell denkbar – allerdings bräuchte es dafür technische Standards für die Erkennung und Sicherung von Deepfake-Beweisen sowie eine zentrale Meldestelle, vergleichbar mit dem US-Vorbild.
4. Impuls für Debatte um digitale Selbstbestimmung
Nicht zuletzt wirkt das Gesetz auch als Impulsgeber für die öffentliche Debatte: Die Diskussion um Schutz vor Deepfake-Pornos könnte in Deutschland neuen Schwung bekommen – insbesondere in Bezug auf Persönlichkeitsrechte, medienethische Bildung und den Umgang mit generativer KI im Strafrecht.
Ethik und Technologie – ein notwendiger Abgleich
Der Umgang mit Deepfake-Technologien zeigt eindrucksvoll, wie dringend ethische Prinzipien in technologische Entwicklungen integriert werden müssen. Während generative KI in Kunst, Journalismus oder Bildung Potenziale entfaltet, ist ihr Missbrauch für Manipulation und sexuelle Gewalt längst Realität.
Der „Take It Down Act“ ist nicht nur ein juristisches Signal, sondern auch ein ethisches Statement: Es darf keinen rechtsfreien Raum für digitale Entmenschlichung geben – unabhängig davon, ob ein Bild „nur generiert“ ist.
Fazit: Neue Regeln für eine neue Realität
Die plötzliche Schließung von MrDeepfakes und die gesetzliche Initiative der USA markieren einen Wendepunkt im Kampf gegen die missbräuchliche Nutzung von KI. Sie zeigen: Regulierung ist möglich – und notwendig. Deutschland könnte von diesem Beispiel lernen, um Betroffene besser zu schützen, Rechtsklarheit für Plattformen zu schaffen und digitale Autonomie zu stärken. In einer zunehmend global vernetzten KI-Landschaft sind nationale Gesetze nur dann wirksam, wenn sie auf international anschlussfähige Prinzipien setzen.
Für Plattformbetreiber, Gesetzgeber und Entwickler weltweit stellt sich nun die Frage: Wie lassen sich Innovation und Schutz von Persönlichkeitsrechten in Einklang bringen? Die Antwort liegt in klaren Regeln, technologischer Verantwortung – und einem gesellschaftlichen Konsens darüber, was wir tolerieren wollen. Und was nicht.
