Die Europäische Union will künftig härter gegen KI-Dienste vorgehen. Derzeit wird die Erstellung sexualisierter KI-Fläschungen (Deepfakes) vorgebracht, gegen die Frauen zu schützen seien.
Gültig ab Dezember
Die Mitgliedstaaten und das EU-Parlament haben sich auf Änderungen am europäischen KI-Gesetz verständigt. Die Reform ist noch nicht endgültig beschlossen, denn noch fehlt die Einigung im Plenum des EU-Parlaments und die Zustimmung des Rates der Mitgliedstaaten. Eine Formsache in Brüssel.
Sollte es dabei bleiben, soll die Verschärfung ab dem 2. Dezember 2026 gelten und vom erst kürzlich geschaffenen neuen europäischen KI-Amt überwacht werden.
„Sex sells“
Im Kern richtet sich die neue Regelung gegen KI-Anwendungen, mit denen täuschend echte sexualisierte Manipulationen erstellt werden können. Bei solchen Deepfakes werden etwa Gesichter oder Stimmen so verändert, dass Personen scheinbar in Situationen erscheinen, die nie stattgefunden haben. Besonders problematisch ist dies bei pornografischen Darstellungen oder bei Inhalten, die sexuellen Missbrauch von Kindern zeigen sollen.
Ein Thema, das mehrheitsfähig ist, um die digitale Welt einschließlich der dortigen Meinungsäußerungen zu beherrschen.
Bedenkliche Stoßrichtung
Die EU verschiebt mit dem Vorhaben den Schwerpunkt: Nicht erst die konkrete Tat soll sanktioniert werden, sondern bereits bestimmte technische Werkzeuge sollen verboten werden können.
Doch wer Anwendungen verbietet, muss sehr präzise definieren, welche Funktionen erfasst werden. Andernfalls droht ein Graubereich, in dem auch legitime Bildbearbeitung, Satire, Kunst oder journalistische Arbeit unter Druck geraten.
Fehlende Klarheit
Nach Angaben aus den Verhandlungen soll deshalb genauer bestimmt werden, welche Inhalte als sexualisiert gelten. Gleichzeitig heißt es, die Neuregelung solle nicht zu einem pauschalen Verbot digitaler Bildmanipulation führen. Das zeigt bereits, wie schwierig die Abgrenzung ist.
So könnten bestimmte nicht einvernehmliche, aber nicht eindeutig pornografische Darstellungen – etwa manipulierte Bikini-Bilder – möglicherweise außerhalb des Verbots bleiben.
Musk-KI muss zur Begründung herhalten
Auslöser der jüngeren EU-Debatte war unter anderem der KI-Chatbot Grok. Just bei der KI von dem von der EU so sehr kritisierten Elon Musk hatten Nutzer die Software dazu gebracht, Frauen auf Bildern virtuell zu entkleiden. Auch ein Fall, bei dem ein Bild zweier minderjähriger Mädchen in sexualisierter Form erzeugt wurde, sorgte für Empörung.
Die Betreiberfirma schränkte entsprechende Funktionen später ein.
Aufbereitung des Feldes im Frühling
Vorbereitet wurde die Diskussion durch die Vorwürfe von Collien Fernandes gegen ihren Ex-Mann Christian Ulmen. Dabei ging es allerdings nicht um Deepfakes. Fernandes warf Ulmen vor, unter ihrem Namen falsche Profile erstellt und pornografische Inhalte verbreitet zu haben. Für Ulmen gilt die Unschuldsvermutung.
Der Fall löste dennoch eine breitere Debatte über digitale Gewalt gegen Frauen, Opferrechte und mögliche neue gesetzliche Eingriffe aus.
Schutzvorschriften überall
Schon heute gibt es in den EU-Staaten und auf EU-Ebene Vorschriften gegen Persönlichkeitsrechtsverletzungen, Datenmissbrauch, Beleidigung und das nicht einvernehmliche Verbreiten intimer Inhalte.
Zudem ist seit Mai 2024 eine EU-Richtlinie in Kraft, die die Mitgliedstaaten verpflichtet, bestimmte Formen digitaler Gewalt strafrechtlich zu erfassen.
Diese Umstände nähren den Verdacht, dass es bei der EU-Richtlinie vielleicht doch nicht um Deepfake-Pornografie geht, sondern darum, anonyme oder pseudonyme Kommunikation im Netz pauschal zu delegitimieren oder Identitätskontrollen auszuweiten.
POLITISCHE ANZEIGE der Fraktion Europa souveräner Nationen (ESN). Weitere Informationen: Transparenzbekanntmachung
