EU verbietet sexualisierte Deepfake-KI — Was ab Dezember 2026 wirklich gilt

Ein Foto, das nie aufgenommen wurde. Ein Video, das nie stattgefunden hat. Deepfakes erzeugen mit Hilfe künstlicher Intelligenz täuschend echt wirkende Bilder, Tonspuren und Filme — und werden zunehmend genutzt, um Menschen ohne ihr Wissen in sexualisierte Darstellungen zu zwingen. Die Europäische Union zieht daraus nun eine klare Konsequenz.1

Nach der Zustimmung des Europaparlaments hat der Rat der EU die entsprechende Änderung der KI-Verordnung bestätigt. Der Schritt galt nach der vorherigen Einigung als Formsache — doch er macht ein politisch heikles Vorhaben rechtsverbindlich. Ab dem 2. Dezember 2026 sind KI-Anwendungen, die der missbräuchlichen Erstellung sexualisierter Deepfakes dienen, in der gesamten Union untersagt.1

Der BefundNicht nur die Nutzer, auch die Werkzeuge

Bisher setzte das Recht überwiegend bei denjenigen an, die Deepfakes erstellen und verbreiten. Das neue Verbot verschiebt den Ansatzpunkt: Es nimmt ausdrücklich auch die Anbieter der digitalen Werkzeuge ins Visier — also die Unternehmen, die solche Generatoren überhaupt erst bereitstellen.1

Damit ergänzt die Regelung die bestehenden Regeln, statt sie zu ersetzen. Der Gedanke dahinter: Wer den Missbrauch an der Wurzel — beim Werkzeug — adressiert, muss nicht jedem einzelnen erstellten Bild hinterherlaufen. Durchgesetzt werden soll das Verbot federführend vom EU-KI-Amt, der vor zwei Jahren geschaffenen Aufsichtsbehörde für die KI-Verordnung.

Der MaßstabWo das Verbot beginnt — und wo nicht

Ein Verbot von „sexualisierten Inhalten" steht im Spannungsfeld zur Meinungs- und Kunstfreiheit. Damit es trennscharf bleibt, soll im Gesetz genau definiert werden, was erfasst wird und was nicht. Das Verbot zielt auf KI-Anwendungen, die die Erstellung realistischer Bilder oder Videos vom Intimbereich ermöglichen — sowie von sexuell eindeutigen Handlungen.2

Ausgenommen bleiben sollen demgegenüber satirische Karikaturen. Auch nicht jede unerwünschte Bildbearbeitung fällt automatisch unter das Verbot. Entscheidend ist die Definition der erfassten Inhalte — und an ihrer Auslegung dürfte sich in der Praxis ein erheblicher Teil der Streitfälle entscheiden.

Erstmals haftet nicht nur, wer ein Deepfake erstellt — sondern auch, wer das Werkzeug dafür liefert.Kern der Neuregelung

Ausdrücklich erfasst das Verbot zudem das Erstellen von Inhalten, die sexuellen Kindesmissbrauch darstellen. Hier verschärft die EU eine ohnehin in allen Mitgliedstaaten strafbewehrte Materie um die spezifisch KI-bezogene Dimension der synthetischen Erzeugung solcher Darstellungen.2

Der zweite StrangKennzeichnungspflicht — aber später

Parallel zum Verbot steht ein zweiter Baustein: Anbieter von Chatbots und ähnlichen Diensten sollen KI-Inhalte deutlicher als solche kennzeichnen müssen — KI-generierte Bilder und Videos etwa mit einem Wasserzeichen markieren. Ziel ist, dass Empfänger erkennen können, ob ein Inhalt synthetisch erzeugt wurde.1

Ursprünglich sollten diese Kennzeichnungspflichten schon ab August 2026 greifen. Sie wurden nun auf Dezember verschoben: Die Unternehmen hinter den großen KI-Diensten hatten mehr Zeit gefordert, um die technischen Anpassungen für die strengeren Vorgaben umzusetzen.

Die EinordnungWarum die Debatte gerade jetzt Fahrt aufnimmt

Das Thema hat zuletzt auch in Deutschland an Sichtbarkeit gewonnen — befeuert durch prominente Fälle, in denen Betroffene sich mit gefälschten Profilen und manipulierten Bildern konfrontiert sahen. Solche Fälle führen vor Augen, dass das Problem nicht mehr ein technisches Randphänomen ist, sondern Persönlichkeitsrechte breit gefährdet.3

Die EU verbindet mit der Neuregelung zwei Ziele: eine einheitlichere Umsetzung der KI-Regeln in allen Mitgliedstaaten — und ein politisches Signal. Technologischer Fortschritt, so der Tenor aus dem Rat, müsse stets mit dem Schutz der Grundrechte einhergehen.1

Der AusblickVom Beschluss zur Wirkung

Mit der Zustimmung des Rates ist das Gesetzgebungsverfahren auf EU-Ebene abgeschlossen. Entscheidend wird nun die Durchsetzung: Das KI-Amt muss klären, wie ein „gezielt" auf sexualisierte Deepfakes ausgerichtetes Werkzeug von allgemeinen Bildgeneratoren abzugrenzen ist — und wie weit die Verantwortung der Anbieter reicht.

Für Betroffene ändert sich die Rechtslage nicht erst im Dezember: Persönlichkeitsrecht und Plattformhaftung gelten bereits. Das EU-Verbot fügt dem eine präventive Ebene hinzu — es soll verhindern, dass die Werkzeuge überhaupt verfügbar sind. Ob das in der Praxis gelingt, wird sich an der ersten Durchsetzung durch das KI-Amt zeigen.