Generative KI kann hyperrealistische Medien – Bilder, Videos, Stimmen und Texte – erzeugen, die reale Personen oder Ereignisse täuschend echt nachahmen. Dies hat weitreichende Auswirkungen auf Vertrauen, Privatsphäre, Politik und öffentliche Diskussionen. Während synthetische Medien für Unterhaltung oder Bildung genutzt werden können, schaffen sie zugleich mächtige Werkzeuge für Täuschung, Manipulation und Schaden.

Deepfake-Ethik

Deepfakes sind synthetische Videos oder Audiodateien, die mithilfe von KI erstellt werden, um das Aussehen oder die Stimme einer Person zu ersetzen. Ihre zunehmende Verfügbarkeit wirft erhebliche ethische Bedenken auf:

• Imitation und Belästigung: Prominente und Privatpersonen wurden mit Deepfake-Pornografie oder in gefälschten Videos ohne Zustimmung dargestellt;
• Politische Desinformation: Manipulierte Videos von Politikerinnen und Politikern, die kontroverse Aussagen machen oder Handlungen ausführen, können sich schnell verbreiten und die öffentliche Meinung oder das Wahlverhalten beeinflussen;
• Betrug und Identitätsdiebstahl: KI-generierte Stimmklone wurden in Betrugsfällen eingesetzt, um Menschen zur Überweisung von Geld oder zur Preisgabe sensibler Informationen zu verleiten.

Beispiel

Im Jahr 2019 wurde ein britischer CEO von einem Betrüger mithilfe einer KI-generierten Nachbildung der Stimme seines Chefs getäuscht, was zu einer betrügerischen Überweisung von 243.000 US-Dollar führte.

Lösungen:

• Festlegung ethischer Standards für den Einsatz von KI in verschiedenen Branchen;
• Einführung verpflichtender Offenlegungen bei der Verwendung synthetischer Inhalte in den Medien;
• Stärkung des rechtlichen Schutzes von Personen gegen die unbefugte Nutzung synthetischer Abbilder.

Bekämpfung von Deepfakes

Die Bekämpfung von Deepfakes erfordert sowohl technische als auch gesellschaftliche Abwehrmaßnahmen. Zentrale Methoden umfassen:

• Forensische Deepfake-Erkennung:

  • Identifikation visueller Anomalien (z. B. inkonsistente Beleuchtung, unnatürliche Gesichtsbewegungen);
  • Analyse von Frequenzartefakten oder Kompressionsmustern, die mit bloßem Auge nicht sichtbar sind;

• Herkunftsnachweis und Wasserzeichen:

  • Einbettung digitaler Signaturen oder unsichtbarer Wasserzeichen bereits bei der Generierung, um Inhalte als synthetisch zu kennzeichnen;
  • Projekte wie die Content Authenticity Initiative (CAI) zielen darauf ab, standardisierte Metadaten über die Herkunft und Bearbeitungshistorie eines Assets zu schaffen.

• Klassifikatorbasierte Erkennung:

  • Einsatz von Deep-Learning-Modellen, die darauf trainiert sind, anhand subtiler statistischer Signale zwischen echten und gefälschten Medien zu unterscheiden.

Beispiel

Intels "FakeCatcher" nutzt physiologische Signale – wie Farbveränderungen der Haut durch den Blutfluss –, um zu bestimmen, ob ein Gesicht in einem Video echt ist.

Lösungen

• Integration von Erkennungs-APIs in Inhaltsplattformen und Redaktionen;
• Förderung offener Forschung zu skalierbaren, echtzeitfähigen Erkennungstools;
• Entwicklung öffentlicher Werkzeuge, die es Nutzern ermöglichen, die Authentizität von Inhalten zu überprüfen.

Regulatorische Rahmenbedingungen

Regierungen und Aufsichtsbehörden reagieren auf den Missbrauch von Deepfakes durch gezielte Gesetze und globale politische Initiativen:

• California AB 730 (USA): verbietet die Verbreitung von Deepfakes, die politische Kandidaten innerhalb von 60 Tagen vor einer Wahl darstellen;
• EU AI Act: verlangt, dass Deepfake-Inhalte klar und transparent gekennzeichnet werden und stuft bestimmte Anwendungen synthetischer Inhalte als "hochriskant" ein;
• Chinas Deep Synthesis Bestimmungen (2023): verpflichten zur Offenlegung und Wasserzeichen-Kennzeichnung aller KI-generierten Medien und verlangen eine Registrierung mit Echtnamen für Ersteller;
• US National Defense Authorization Act (NDAA): beinhaltet Fördermittel für die Erkennung und Bekämpfung synthetischer Medien im Verteidigungs- und Cybersicherheitskontext.