Deepfakes haben das Potenzial, Politik und Wahlen durch gezielte Desinformation zu beeinflussen. Doch bei den KI-generierten Bildern und Videos wird es zunehmend „persönlich“. Beispiele hat Linda Givetash aus dem Euranet Plus Faktencheck-Team.
„Ein zentrales und zunehmend besorgniserregendes Problem in der EU ist der Einsatz von Deepfakes mit sexuellem Bezug, der geschlechtsspezifische Gewalt im Internet befeuert und Frauen und Mädchen überproportional stark trifft. Dazu gehören Belästigung, Rufschädigung und Erpressung. Jeder kann betroffen sein, von Prominenten bis hin zu Privatpersonen. Zunehmende Fälle wurden unter Minderjährigen und in Schulen beobachtet, wie Berichte aus Spanien, Belgien und anderen Ländern zeigen.“
Maike Maier Jeder kann betroffen sein und nur die wenigsten haben Erfolg, wenn sie etwas dagegen tun wollen. Denn wenn es um digitale Gewalt geht, fehlt es vielerorts noch an Expertise und Gesetzen.
„Viele Länder arbeiten mit Hochdruck an der Aktualisierung ihrer Gesetze, um diese Straftaten zu definieren und einzudämmen. Die EU hat zwar ein KI-Gesetz, das einen gewissen Schutz bietet, prüft aber angesichts der steigenden Zahl von Missbrauchsfällen durch KI weitere Verschärfungen der Gesetze. Im vergangenen Monat haben sich die EU-Gesetzgeber auf ein Verbot von KI-Praktiken geeinigt, die nicht einvernehmliche sexuelle und intime Inhalte oder Material mit sexuellem Kindesmissbrauch erzeugen. Die UN sagt allerdings, dass Gesetze allein nicht ausreichen. Verschärfte Gesetze müssen auch ausreichend durchgesetzt werden, um wirksam zu sein, und die Plattformen müssen zur Rechenschaft gezogen werden. Darüber hinaus fordert die UN psychologische Unterstützung für Betroffene und Aufklärung der Öffentlichkeit, um diese Straftaten zu verhindern.“
Der komplette Faktencheck:
Deepfakes: von Desinformation bis zu sexuellem Missbrauch
Der Wettlauf zur Bekämpfung schädlicher Deepfake-Inhalte, die Menschen in der gesamten EU betreffen
Die Erstellung und Verbreitung von Deepfakes – also mit künstlicher Intelligenz erzeugten Bildern oder Videos, die dazu dienen, eine Person zu imitieren – nimmt weltweit zu.
Deepfakes haben das Potenzial, Politik und Wahlen mit überzeugender Desinformation zu beeinflussen. Zugleich hat diese Technologie, die uns inzwischen seit Jahren zur Verfügung steht, bislang vor allem zu einem Anstieg von Belästigung und Social Engineering geführt, wie das Weltwirtschaftsforum hervorgehoben hat.
Eine Zusammenstellung von Fällen, die vom Euranet-Plus-Netzwerk gemeldet wurden, zeigt einige zentrale Bereiche, in denen der Einsatz von Deepfakes besonders ausgeprägt ist.
Aufkommende Trends
Ein großes Problem in der gesamten EU, das zunehmend an Bedeutung gewinnt, ist der Einsatz sexueller Deepfakes, der geschlechtsspezifische Gewalt im Internet befeuert und überproportional Frauen und Mädchen betrifft. Dazu zählen Belästigung, Rufschädigung und Erpressung.
Jeder kann zum Ziel werden – die Fälle reichen von Prominenten bis hin zu Privatpersonen. Zunehmend werden Fälle unter Minderjährigen und an Schulen beobachtet, wie Berichte aus Spanien, Belgien und anderen Ländern zeigen.
„98 Prozent aller Online-Deepfake-Videos bestehen aus nicht einvernehmlich erstellten pornografischen Bildern, die oft als Deepfake-Nacktbilder oder gefälschte Nacktbilder bezeichnet werden“, erklärte die UN unter Berufung auf einen Bericht aus dem Jahr 2023 der auf Identitätsdiebstahl spezialisierten Plattform SecurityHero.
Auch Scam, Betrug und die Nachahmung von Politikerinnen, Politikern und anderen öffentlichen Personen, um Nutzerinnen und Nutzer dazu zu bringen, Geld zu überweisen oder sensible Daten preiszugeben, wurden in der gesamten EU vielfach gemeldet, darunter auch in Bulgarien.
Deepfakes verbreiten sich stark über soziale Medien und Messaging-Apps wie Facebook, WhatsApp und Telegram.
KI-Tools und Chatbots wie X’s Grok haben die massenhafte Erstellung und Verbreitung expliziter Inhalte ermöglicht, was mitunter Hunderte Millionen Nutzerinnen und Nutzer betrifft.
Entkleidet
Wie UN Women im Februar berichtete, besteht die überwiegende Mehrheit der Deepfake-Inhalte aus sexuellen Darstellungen. Dennoch verfügt „weniger als die Hälfte aller Länder über Gesetze gegen Online-Missbrauch“ – geschweige denn über solche, die ausdrücklich KI-generierte Inhalte erfassen.
Aufsehenerregende Fälle haben in der Europäischen Union Proteste und breite mediale Aufmerksamkeit ausgelöst, während zugleich die Sorge um die Sicherheit von Kindern, um Online-Missbrauch und um die Erosion des Vertrauens in digitale Inhalte wächst.
Einer dieser Fälle betraf die deutsche Schauspielerin Collien Fernandes, die gegenüber der Presse erklärte, ihr Ex-Mann, der TV-Moderator und Produzent Christian Ulmen, habe sie online imitiert und sexuell explizite Deepfakes von ihr verbreitet.
Das brachte nicht nur Deutschlands Justizministerin Stefanie Hubig dazu, ein neues Gesetz vorzuschlagen, mit dem sexualisierte Deepfakes unter Strafe gestellt werden sollen, sondern auch Österreich, aktiv zu werden.
Selbst Italiens Ministerpräsidentin Giorgia Meloni wurde Opfer von Deepfake-Pornografie, woraufhin sie rechtliche Schritte einleitete.
Laut einem Grundsatzpapier des Thinktanks GlobalSec schuf der Fall einen Präzedenzfall: Demnach können bestehende Gesetze wie Urheberrecht, Persönlichkeitsrechte und Bildnisschutz genutzt werden, um gegen Deepfake-Belästigung vorzugehen – zugleich wird jedoch betont, dass modernisierte Gesetze notwendig sind, um die Schäden dieser Technologie wirksamer zu verhindern und abzumildern.
Rechtliche Reaktion
Viele Länder und Rechtsordnungen bemühen sich derzeit mit Hochdruck darum, ihre Gesetze zu aktualisieren, um diese Straftaten zu definieren und einzudämmen.
Während die EU mit ihrem KI-Gesetz bereits einen gewissen Schutz bietet, prüft der Staatenblock darüber hinaus eine weitere Verschärfung der Gesetze als Reaktion auf die wachsende Zahl von Missbrauchsfällen durch generative KI.
Im vergangenen Monat einigten sich EU-Gesetzgeber darauf, ein Verbot aufzunehmen, das KI-Praktiken zur Erzeugung nicht einvernehmlicher sexueller und intimer Inhalte oder von Darstellungen sexuellen Missbrauchs von Kindern untersagt.
Allerdings hat die UN darauf hingewiesen, dass Gesetze allein nicht ausreichen. Verschärfte Gesetze müssten auch konsequent durchgesetzt werden, und Plattformen müssten zur Verantwortung gezogen werden.
Darüber hinaus forderte die UN psychologische Unterstützung für Betroffene sowie öffentliche Aufklärung, um das Entstehen solcher Straftaten zu verhindern.