EU-Mitgliedstaaten billigen Verbot sexualisierter Deepfake-KI

„In der EU sind KI-Anwendungen zur missbräuchlichen Erstellung sexualisierter Deepfakes künftig verboten“, heißt es in der Mitteilung. „Das neue Verbot soll aber explizit auch auf das Erstellen von Inhalten abzielen, die sexuellen Kindesmissbrauch darstellen.“ Damit geht die Regel über bisherige Strafvorschriften hinaus, weil sie nicht nur Nutzende, sondern auch Anbieter der digitalen Werkzeuge in die Pflicht nimmt.

Worum es bei dem Verbot geht

„Das neue Verbot soll die bisherigen Regeln ergänzen, indem es neben den Nutzenden auch die Anbieter der entsprechenden digitalen Werkzeuge ins Visier nimmt“, erläuterte die Ratspräsidentschaft. Federführend bei der Durchsetzung soll das KI-Amt der EU sein. „Das KI-Amt der EU soll das Verbot federführend durchsetzen“, hieß es. Der Schritt war nach der Einigung mit dem Europaparlament als Formalie eingestuft worden.

Konkret nannte die dpa Fälle, in denen bereits erheblicher Schaden entstanden ist. „Bikini-Bilder auf X oder gefälschte Nacktbilder von Stars: Sexualisierte Deepfakes haben schon viel Schaden angerichtet.“ In der Diskussion stehen dabei auch nicht einvernehmliche Aufnahmen, die von der KI Grok erzeugt und über die Plattform X verbreitet wurden. Nach derzeitigem Stand könnten solche nicht einvernehmlichen Bikini-Bilder allerdings weiterhin erlaubt bleiben.

Ausdrücklich ausgenommen vom Verbot bleiben satirische Karikaturen. „Satirische Karikaturen sollen also ausgenommen bleiben“, erklärten die Unterhändler. Damit solle die Meinungs- und Kunstfreiheit gewahrt bleiben, ohne den Schutz vor sexualisierter digitaler Gewalt aufzuweichen.

Ausnahmen und offene Lücken

Parallel verschob der Rat weitere Vorgaben des europäischen KI-Gesetzes. „An Teile des Gesetzes, die das Europäische KI-Amt ursprünglich bereits ab August durchsetzen sollte, müssen sich die Firmen hinter ChatGPT, Claude und Co. jetzt erst ab Dezember 2026 halten“, berichtete die dpa. Damit gewinnen Anbieter großer KI-Systeme ein knappes halbes Jahr zusätzliche Zeit, um etwa Transparenz- und Dokumentationspflichten zu erfüllen.

Zugleich soll die Wirtschaft entlastet werden. „Weitere Änderungen am KI-Gesetz sollen der KI-Branche zunächst zusätzliche Pflichten ersparen und auch die Anwendung von Künstlicher Intelligenz in der Wirtschaft erleichtern“, hieß es. Wirtschaftsverbände hatten in den vergangenen Monaten vor übermäßiger Bürokratie gewarnt.

Weitere Änderungen am KI-Gesetz

Zusätzlich werden Kennzeichnungspflichten verschärft. „Spätestens dann sollen die Anbieter KI-Inhalte etwa deutlich als solche kennzeichnen – generierte Bilder und Videos müssten sie also etwa mit Wasserzeichen markieren“, erklärte die Ratspräsidentschaft. Damit soll für Verbraucherinnen und Verbraucher erkennbar werden, welche Inhalte maschinell erzeugt wurden.

Menschenrechtlerinnen und Kinderschutzorganisationen begrüßten das Verbot sexualisierter Deepfake-Werkzeuge, forderten jedoch Nachbesserungen. Sie verwiesen darauf, dass weiterhin nicht einvernehmliche Darstellungen erlaubt bleiben könnten, obwohl sie häufig als Einstieg in digitale Gewalt dienten. Die EU-Kommission kündigte an, die Auswirkungen der Regel in den kommenden Jahren evaluieren zu wollen.

Reaktionen und nächste Schritte

Mit der formellen Zustimmung der Mitgliedstaaten beginnt nun die Umsetzungsphase. Bis Dezember 2026 müssen nationale Behörden Vorkehrungen treffen, damit Strafen und Entzug von Marktzugängen gegen Anbieter solcher KI-Anwendungen verhängt werden können. Das KI-Amt der EU soll zugleich Leitlinien für die Anwendung der neuen Verbotsregel erarbeiten.

Beobachter werten den Beschluss als politisches Signal im Kampf gegen digitale sexualisierte Gewalt. Die Kombination aus einem Werkzeug- und Anbieterverbot, einer verschärften Kennzeichnungspflicht und einer Verschiebung wirtschaftsnaher Pflichten gilt als Kompromiss, der einerseits Betroffene schützen, andererseits Innovationen nicht abwürgen soll.