Tausende Frauen und Mädchen werden Opfer von gefälschten Pornos im Internet, in denen ihr Gesicht zu sehen ist. Der Schaden für ihr Leben ist groß, die Möglichkeiten, dagegen vorzugehen, sind oft kompliziert. Auch, weil die Gesetzeslage umstritten ist.
Ein Mädchen im Grundschulalter gab den Namen seiner Mutter in die Suchleiste bei Google ein. Daraufhin war es wie verwandelt. Verschlossen, ließ sich nicht mehr von der Mutter anfassen. Die machte sich große Sorgen um ihre Tochter, vermutete, ihr sei etwas zugestoßen.
Das Kind hatte einen Hardcore-Porno gesehen. In dem vermeintlich ihre Mutter mitspielte. Die ist eine bekannte deutsche Schauspielerin, Pornos hat sie nie gedreht. Ein sogenannter Deepfake – erstellt von einer Künstlichen Intelligenz (KI). Mithilfe einer Software wird das Gesicht einer beliebigen Person in ein überzeugend echt anmutendes Video montiert.
"Das Video war nur wenige Minuten lang, aber es hat unsere Familie viele Monate in eine tiefe Krise gestürzt", erzählt die Schauspielerin, die anonym bleiben will, dem "Spiegel" (Bezahlinhalt).
So wie ihr ergeht es Tausenden Frauen und Mädchen in Deutschland. Wenn KI zur Waffe wird.
Scham und Machtlosigkeit
Seit rund fünf Jahren verbreiten sich im Internet immer mehr gefälschte Porno-Videos, die so echt wirken, dass sie kaum noch als Fake zu erkennen sind. Oft sind darin bekannte deutsche Politikerinnen, Schauspielerinnen oder Sportlerinnen zu sehen. Einige von ihnen wehren sich inzwischen öffentlich. Doch die meisten Opfer von Deepfake-Pornos stehen nicht in der Öffentlichkeit, haben nicht die Reichweite, um sich so zu wehren.
Betroffen sind laut einer Studie des Digital-Startups SecurityHero zu 99 Prozent Frauen. Eine solch hohe Quote ist unüblich. Viele von ihnen erfahren erst über Dritte von der Existenz solcher Videos. Oft entsteht dann ein Gefühl von Scham, aber auch von Machtlosigkeit. Denn ein entsprechendes Gesetz, das die Erstellung von Deepfake-Pornos verbietet, gibt es in Deutschland nicht.
Erstellung von Deepfake-Pornos in Deutschland nicht strafbar
"Die Erstellung von Deepfake-Pornos ist in Deutschland aktuell nicht strafbar", erklärt Anna Wegscheider im Gespräch mit unserer Redaktion. Sie ist Juristin im Legal Team von der Beratungsstelle HateAid. "Die Verbreitung kann unter Umständen strafbar sein. Unseres Erachtens ist aber auch der Schutz vor Verbreitung zu lückenhaft. Das ist ein Missstand, der dringend behoben werden muss."
"Für Betroffene ist es de facto unmöglich, einen Deepfake-Porno nachhaltig aus dem Internet löschen zu lassen."
Unter Umständen könne die Verbreitung von Deepfake-Pornos als Verleumdung oder üble Nachrede strafbar sein, aber auch wegen der Verletzung des Rechts am eigenen Bild. Der Medienrechtsanwalt Christian Solmecke schreibt zudem auf der Website seiner Kanzlei WBS.legal, dass Frauen, deren Gesichter auf Pornos montiert werden, zunächst in ihrem allgemeinen Persönlichkeitsrecht verletzt werden. "Einklagbar wird es aber erst, wenn man Gesetze findet, in denen es geschützt wird", schreibt Solmecke. Etwa die EU-Datenschutzgrundverordnung (DSGVO).
Wegscheider sagt: "Für Betroffene ist es de facto unmöglich, einen Deepfake-Porno nachhaltig aus dem Internet löschen zu lassen. Einmal runtergeladen und lokal gespeichert, können die Videos immer wieder hochgeladen oder in privaten Chatgruppen verteilt werden." Außerdem würden offline gestellte Websites zuvor oft zigfach gespiegelt. "Die Inhalte tauchen somit auf unzähligen anderen Websites auf."
Deepfake-Pornos: Was Betroffene tun können
Wie also wehrt man sich gegen die Verbreitung der gefälschten Pornos?
- Finden von Deepfake-Pornos: Viele Betroffene wissen lange nichts von der Existenz eines Fakeporn-Videos von ihnen. Demnächst bietet die Plattform "Am I In Porn" wieder die Möglichkeit, kostenlos nach solchen Videos zu suchen. Die Website befindet sich derzeit in Wartungsarbeiten. Auch die Seite "StopNCII.org" sucht automatisiert nach Videos mit demselben Bildmaterial.
- Hilfe bekommen: Die Beratungsstelle HateAid bietet kostenlose und anonyme Beratung für Betroffene.
- Löschen lassen: Viele Social-Media-Plattformen und die meisten gängigen Suchmaschinen bieten Formulare, um entsprechende Inhalte löschen zu lassen.
- Anzeige erstatten: Bei allen Polizeidienststellen und ihren Online-Dienststellen möglich. Am besten vorher einen Termin in der entsprechenden Fachstelle, wie etwa Cybercrime, vereinbaren.
FDP-Politikerin Kluckert will kein Verbot von Deepfake-Apps
Es gibt Möglichkeiten, sich gegen die Verbreitung von Deepfake-Pornografie zu wehren. Auch wenn der Weg mühsam ist. Trotzdem müsse das Angebot dringend verbessert werden, sagt Wegscheider. "Betroffene müssen viel schneller Anlaufstellen im Internet dafür finden, und die Strafverfolgungsbehörden müssen endlich sowohl das Know-How als auch die technische Ausrüstung und die personellen Ressourcen für die konsequente Verfolgung dieser Straftaten erhalten."
Dieser Meinung ist auch Daniela Kluckert (FDP). Sie ist ehemalige Parlamentarische Staatssekretärin für Digitales unter dem Verkehrs- und Digitalminister Volker Wissing (vormals FDP, jetzt parteilos) und setzt sich für Betroffene von Deepfake-Pornografie ein.
Zunächst brauche es dringend eine gesellschaftliche Aufklärung über die Tragweite von Deepfake-Pornos. "Deepfake-Pornos greifen auf fatale Art massiv in das Leben der betroffenen Frauen ein. Sie müssen endlich wirksam bekämpft werden", sagt Kluckert im Gespräch mit unserer Redaktion. Ein generelles Verbot etwa von Deepfake-Apps, wie es von HateAid und vielen Aktivisten gefordert wird, findet Kluckert allerdings nicht zielführend: Weil diese Apps zum Beispiel auch für künstlerische Zwecke genutzt werden können, ist es aus ihrer Sicht schwierig, sie komplett zu verbieten.
Mit dem EU-Gesetz über digitale Dienste, dem Digital Services Act (DSA), hätte man neue gesetzliche Regelungen, um auch gegen die Plattformbetreiber vorzugehen. Der DSA ist seit rund einem Jahr in Kraft. Demnach müssen die Betreiber illegale Inhalte löschen und der Entstehung vorbeugen.
"Wir müssen die Erstellung und Verbreitung durch technische Vorkehrungen im Vorfeld unmöglich machen. Also Technologie in positiver Weise nutzen, um Technologie zu bekämpfen", sagt Kluckert. Am Ende gehe es um drei Komponenten: "Aufklärung, die massive Behinderung der Erstellung und Verbreitung von Deepfake-Pornos und bestausgestattete Sicherheitsbehörden."
Das Geschäft mit Deepfake-Pornografie boomt
Bislang mangelt es aber an solchen technischen Maßnahmen, um die Erstellung von Fakepornos zu erschweren. Aus Sicht von Wegscheider ist ein Gesetz dringend nötig, das auch die Erstellung von Deepfake-Pornos verbietet: Denn es hätte nicht nur mehr Schlagkraft, "es würde auch die massive Werbung, die Anbieter von Deepfake-Pornoseiten schalten, unterbinden", sagt Wegscheider.
Solange es wirtschaftlich lukrativ ist, sind Betreiber von Deepfake-Porno-Plattformen und -Anwendungen gegenüber ihren Verfolgern technologisch im Vorteil.
HateAid sieht einen merklichen Anstieg der gemeldeten Fälle von Deepfake-Pornos in den letzten Monaten. Wegscheider vermutet dahinter die immer niedriger werdende technische Schwelle, auch hochwertige Deepfakes zu erstellen. Noch vor einem Jahr sei das weitaus schwieriger gewesen.
Derzeit gibt es nicht einmal eine Polizeiliche Kriminalstatistik. Das bestätigt das Bundeskriminalamt (BKA) unserer Redaktion auf Nachfrage. Der Grund: "Strafrechtlich können bei solchen Sachverhalten je nach Einzelfall verschiedene Straftatbestände erfüllt werden", teilt ein Sprecher des BKA mit. Ein entsprechendes Gesetz würde also auch zu mehr Sichtbarkeit der Opfer beitragen.
Der Studie von SecurityHero zufolge haben 74 Prozent der Konsumenten von Fakepornos kein Unrechtsgefühl. Die Tochter der Schauspielerin, die versehentlich über einen Deepfake-Porno mit ihrer Mutter gestolpert ist, musste eine Therapie machen, inzwischen gehe es ihr wieder gut. "Aber die verpasste unbeschwerte Zeit kriegen wir nicht mehr zurück", sagte die Schauspielerin dem "Spiegel".
Verwendete Quellen
- Gespräche mit Anna Wegscheider und Daniela Kluckert
- Anfrage an das Bundeskriminalamt
- Spiegel: Wo KI zur Waffe gegen Frauen und Mädchen wird
- ZDF-Doku: Die Spur – Deepfake-Pornos
- WBS.legal: KI, "Deepfakes" und Face-Swap-Apps können Personen in Pornos austauschen
- Bundesregierung: Das Gesetz über digitale Dienste
- Studie von SecurityHero: 2023 State of Deepfakes
"So arbeitet die Redaktion" informiert Sie, wann und worüber wir berichten, wie wir mit Fehlern umgehen und woher unsere Inhalte stammen. Bei der Berichterstattung halten wir uns an die Richtlinien der Journalism Trust Initiative.