EU-Parlament stimmt für Verbot von Programmen, die Deepfake-Pornografie erstellen können

Das Europäische Parlament hat am Donnerstag für einen Entwurf zum Verbot der Erstellung sogenannter Deepfake-Pornografie gestimmt. Konkret stimmten die Abgeordneten mehrheitlich für ein Verbot von KI-Anwendungen. Der Gesetzentwurf bezieht sich auf Programme, die mithilfe künstlicher Intelligenz Bilder und Videos so verändern oder erstellen können, dass sie „sexuell eindeutige Aktivitäten oder intime Körperbereiche einer bestimmbaren Person ohne deren Einwilligung“ zeigen.

Die vom Parlament beschlossenen Regelungen sind drastisch: Jegliches KI-System, das Material über Kindesmissbrauch erstellen könnte, wird komplett verboten. Betreiber, die wirksame Sicherheitsmaßnahmen gegen eine entsprechende Anwendung ihrer Programme nachweisen können, sollen ausgenommen werden.

Angestoßen worden war das Gesetzgebungsverfahren auf Brüsseler Ebene durch einen KI-Skandal rund um den Jahreswechsel. Damals war eine neue Bildgenerierungsfunktion von Grok, der KI von Elon Musks Unternehmen xAI, zu dem auch X gehört, freigeschaltet worden. Nutzer missbrauchten diese zur massenhaften Erstellung künstlicher Nacktfotos, auch von Kindern.