Ein letzter Versuch zur Beibehaltung des aktuellen Systems im Kampf gegen sexuellen Kindesmissbrauch im Internet ist gescheitert. Eine Mehrheit der Abgeordneten des Europaparlaments lehnte bei einer Abstimmung in Brüssel die Verlängerung der freiwilligen Kontrolle von Chats durch Online-Plattformen über den 3. April hinaus ab. Dadurch war es Diensten und Unternehmen wie Google, LinkedIn, Meta, Microsoft und Snapchat bislang erlaubt, Nachrichtenverläufe zu scannen, um verbotene Darstellungen von sexuellem Kindesmissbrauch aufzuspüren und zu melden.

Kurz vor der Abstimmung hatten noch vier EU-Kommissare die Parlamentarier mit einem Schreiben aufgefordert, eine Verlängerung der derzeit gültigen Regeln zur Aufdeckung von Kinderpornografie in privater Kommunikation zu ermöglichen.

Verbot sei „dringend geboten“

Beschlossen wurde hingegen, dass die EU gegen Porno-Deepfakes und sexualisierte Bilder im Netz vorgeht. Das Europaparlament stimmte für ein Verbot von KI-Anwendungen, mit deren Hilfe Nutzer solche Videos und Bilder von Menschen ohne deren Einwilligung erstellen können. Das Verbot soll in einigen Monaten greifen, sobald die Änderung endgültig beschlossen ist.

Es bezieht sich auf Anwendungen, die mit Künstlicher Intelligenz Bilder und Videos so verändern oder erstellen können, dass sie „sexuell eindeutige Aktivitäten oder intime Körperbereiche einer bestimmbaren Person ohne deren Einwilligung“ zeigen. Solche Bilder und Videos „schädigen die Opfer und verletzen die Grundrechte auf Würde und Privatsphäre“, heißt es im Gesetzentwurf zur Begründung.

Ein ausdrückliches Verbot sei „dringend geboten“, argumentieren die Abgeordneten. Die EU reagiert damit unter anderem auf Vorfälle Anfang des Jahres, als Nutzer mithilfe des Chatbots Grok von US-Milliardär Elon Musk Millionen sexualisierte KI-Bilder von Frauen und Kindern erstellten und online verbreiteten. Mehrere Länder sowie die EU-Kommission leiteten Ermittlungen gegen Grok ein, einige sperrten den Chatbot.

Neben den Grok-Fällen gebe es „über 100 Apps, die wirklich nichts anderes machen und die absolut darauf spezialisiert sind, diese sexualisierten Bilder zu erstellen“, sagte die Grünen-Europaabgeordnete Alexandra Geese. „Ich glaube, den Markt kann man hiermit sehr, sehr klar eingrenzen“, fügte sie hinzu. Die Branche müsse verstehen, „dass es sich nicht lohnt, Geld in die Entwicklung solcher Systeme zu setzen.“

Bislang ist das Erstellen pornografischer Aufnahmen nicht strafbar

Das Vorgehen in Brüssel ist das Gegenstück zu einem Gesetzentwurf, den Bundesjustizministerin Stefanie Hubig (SPD) in Kürze vorstellen will: Die EU ist für Regeln und Verbote für die Technologie zuständig, die Bundesregierung kümmert sich um härtere Strafen für die Täter, die pornografische Deepfakes erstellen. Hubig will Gesetzeslücken schließen, bislang ist das bloße Erstellen pornografischer Aufnahmen hierzulande nicht strafbar.

Einem Entwurf zufolge soll das Erstellen und Verbreiten von Deepfakes künftig mit bis zu zwei Jahren Haft bestraft werden. Hubig hatte die Pläne vor dem Hintergrund des Falls der Schauspielerin Collien Fernandes angekündigt. Fernandes war in der vergangenen Woche mit Vorwürfen der digitalen sexualisierten Gewalt gegen ihren Ex-Mann Christian Ulmen an die Öffentlichkeit gegangen. Ulmen selbst bestreitet die Anschuldigungen.

Das EU-Vorgehen ist Teil einer Reihe von Änderungen an einem KI-Gesetz, das die EU 2024 beschlossen hatte. Die Reform sieht an anderer Stelle auch Lockerungen vor: Regeln für den Einsatz von Künstlicher Intelligenz in Sicherheitsbehörden und Gesundheitssystemen etwa sollen verschoben werden. Das Europaparlament muss in den kommenden Wochen und Monaten mit dem Rat der 27 EU-Staaten über die gesamte Reform verhandeln.

Haftungsausschluss: Das Urheberrecht dieses Artikels liegt beim ursprünglichen Autor. Die erneute Veröffentlichung dieses Artikels dient ausschließlich der Informationsverbreitung und stellt keine Anlageberatung dar. Bei Verstößen kontaktieren Sie uns bitte umgehend. Wir werden bei Bedarf Korrekturen oder Löschungen vornehmen. Vielen Dank.