Herausforderungen und Bedrohungsszenarien durch die rasante Weiterentwicklung im Bereich Künstliche Intelligenz und Deepfake-Technologie
Diese betreffen nicht nur Technologieexperten, sondern haben auch weitreichende Implikationen für das Rechtssystem. Deepfakes, das sind digital manipulierte oder vollständig synthetisierte Medieninhalte wie Videos, Bilder oder Audiodateien, nutzen KI und maschinelles Lernen, um äußerst realistisch wirkende Fälschungen zu erstellen. Diese Technologie ermöglicht es, das Erscheinungsbild und die Stimme einer Person so täuschend echt nachzubilden, dass die Unterscheidung zwischen Fälschung und Realität erheblich erschwert wird. Erstaunlicherweise genügen dafür oft bereits wenige Minuten Videomaterial und Audiodaten.
Dadurch können kompromittierende Situationen inszeniert werden, die niemals stattgefunden haben. Ein eindrucksvolles Beispiel liefert ein Fall aus Großbritannien, bei dem manipulierte Audioaufnahmen in einem Sorgerechtsstreit den Vater gezielt diskreditierten, bis Forensik-Experten die Fälschungen aufdeckten . Solche Fälle unterstreichen die wachsende Bedrohung für die Integrität digitaler Beweismittel und die Persönlichkeitsrechte.
Diese Entwicklungen erzeugen mitunter Gegenbewegungen, die sich z B für ein generelles Verbot von Deepfakes aussprechen.
Juristische Grundlagen und Herausforderungen
Deepfakes werden in Art 3 Z 60 der KI-Verordnung (KI-VO) definiert als einen durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde. Diese Definition macht deutlich, weitreichend die Deepfake-Technologie ist. Deepfake-Technologien berühren eine Vielzahl von Rechtsgebieten und stellen sowohl die technische als auch die rechtliche Landschaft vor neue Herausforderungen. Neben den direkten Auswirkungen auf Persönlichkeitsrechte; insbesondere dem Bildnisschutz, betreffen die rechtlichen Fragestellungen auch Aspekte des Urheberrechts, des Datenschutzes und der Haftung von Plattformbetreibern. Insbesondere in einem Zeitalter, in dem digitale Inhalte in Sekundenschnelle verbreitet werden können, gewinnt die Regulierung von Deepfakes zunehmend an Bedeutung.
Bedrohungslage durch Deepfakes
Die Bedrohung, die durch den Einsatz von Deepfake-Technologien entstehen sind vielfältig und betreffen unterschiedliche Zielgruppen auf verschiedene Art und Weise. Die Bedrohungsszenarien reichen von textbasierten Phishing-E-Mails über sprachbasiertes Voice-Cloning bis hin zu videobasierten Deepfake-Attacken.
Aber vor allem eines ist zentral: Deepfakes betreffen uns alle!
Deepfakes ermöglichen es, realistisch wirkende Videos oder Audioaufnahmen zu erstellen, die Personen Dinge sagen oder tun lassen, die sie nie gesagt oder getan haben. Diese Techniken ermöglichen es Angreifern, noch überzeugendere und maßgeschneiderte Social-Engineering-Angriffe durchzuführen.
Ein solcher Fall mit einem immensen finanziellen Schaden wurde 2024 publik: Ein Finanzmitarbeiter überwies 25 Millionen Dollar, nachdem er in einem Videogespräch von einem täuschend echt wirkenden Deepfake des angeblichen Finanzvorstands angewiesen wurde .
Deepfakes verstärken ebenfalls den Eindruck der Echtheit von „Fake-News“ und bringen somit auch Risiken für Unternehmen als Marktteilnehmer mit sich. Bekanntes Beispiel ist das Abstürzen des US-Aktienindex S&P 500 binnen Minuten um rund 30 Punkte, als sich ein Deepfake mit Rauch über dem Pentagon über Social Media verbreitete. Das Pentagon Deepfake im Kontext mit der Falschmeldung eines Anschlags verstärkte den Eindruck der Echtheit.
Recht am eigenen Bild und Persönlichkeitsrecht
Das Recht am eigenen Bild, verankert im Urheberrechtsgesetz (§ 78 UrhG), schützt die individuelle Persönlichkeit vor unbefugter Nutzung und entstellender Darstellung. Besonders bei Deepfake-Pornografien, die häufig vor allem Frauen betreffen, sind Unterlassungs-, Beseitigungs- und Schadensersatzansprüche denkbar. Daneben liegt häufig eine strafrechtliche Relevanz vor.
Urheberrechtliche Aspekte
Deepfake-Technologie wirft komplexe urheberrechtliche Fragen auf, da die Generierung von Deepfakes häufig auf geschütztem Material basiert. Das Urheberrecht schützt geistige Schöpfungen in Literatur, Musik, Kunst und Film und gewährt dem Urheber das ausschließliche Verwertungsrecht (§§ 14 ff. UrhG). Schon das Abspeichern eines geschützten Werkes – etwa zu Trainingszwecken – kann eine Vervielfältigungshandlung darstellen. Ob ein durch KI generiertes Deepfake als schützenswertes Werk gilt, hängt von der geistigen Schöpfungshöhe ab. In diesem Zusammenhang stellt sich die Frage, inwieweit KI als ein Hilfsmittel – in die analoge Welt übertragen z B ein Stift - angesehen werden kann. Unabhängig davon bleiben die Rechte des ursprünglichen Urhebers bestehen, sodass Verstöße Unterlassungs- und Schadenersatzansprüche nach sich ziehen können.
Auswirkungen der KI-VO und DSA auf Deepfakes
Die EU-KI-Verordnung (KI-VO) und der Digital Services Act (DSA) adressieren die Herausforderungen von Deepfakes durch verschiedene Maßnahmen. Laut KI-VO müssen Ersteller und Manipulatoren von Deepfakes klar offenlegen, dass Inhalte künstlich erstellt oder verändert wurden. Ausnahmen bestehen in den Bereichen Strafrecht und Kunst (Art. 50 Abs 4 KI-VO). Anbieter von generischen KI-Systemen sind verpflichtet, die Ergebnisse maschinenlesbar zu kennzeichnen, dabei helfen Techniken wie Wasserzeichen und Metadaten (Art. 50 Abs. 2 KI-VO). Verstöße gegen diese Regelungen können Geldbußen bis zu 15 Mio. EUR oder bis zu 3 % des weltweiten Jahresumsatzes nach sich ziehen (Art. 99 Abs. 4 lit. g KI-VO).
Schlussfolgerung und Ausblick
Die Technologie der Deepfakes, die auf fortschrittlichen Ansätzen der künstlichen Intelligenz und des maschinellen Lernens basiert, hat das Potenzial, die Art und Weise, wie wir visuelle und auditive Medien erleben, grundlegend zu verändern. Während sie immense kreative Möglichkeiten eröffnet, birgt sie zugleich erhebliche Risiken in Bezug auf Ethik, Sicherheit und Datenschutz. Die Fähigkeit, realistisch wirkende gefälschte Inhalte zu erstellen, kann sowohl für innovative Anwendungen in Kunst, Unterhaltung und Bildung genutzt werden, als auch zur Verbreitung von Desinformation und Täuschung missbraucht werden.
Die Herausforderung besteht darin, ein Gleichgewicht zwischen der Förderung solcher Technologien und der Entwicklung effektiver Mechanismen zur Erkennung und Eindämmung ihrer missbräuchlichen Nutzung zu finden. Für Unternehmen ist es entscheidend, sich der Bedrohungen durch Deepfakes bewusst zu sein und entsprechende Sicherheitsmaßnahmen zu ergreifen. Dies beinhaltet die Sensibilisierung der Mitarbeiter durch Schulungen und die Einführung von Richtlinien, um die Risiken von Deepfake-Angriffen zu minimieren.
Es ist unerlässlich, dass die verantwortungsvolle Nutzung solcher Technologien durch klare Regelungen und einem einheitlichen Rechtsrahmen unterstützt wird. Nur so können wir sicherstellen, dass die Vorteile dieser Entwicklungen nicht durch ihre potenziellen Gefahren überschattet werden.
Weiterführende Links:
$25 million deepfake scam victim
Wirtschaftswoche: Wie ein KI-Bild den US-Leitindex abstürzen ließ
%20-%20Kopie.jpg)
.png)
