Generatieve AI kan hyperrealistische media creëren — afbeeldingen, video's, stemmen en tekst — die echte mensen of gebeurtenissen nauwkeurig nabootsen. Dit heeft ingrijpende gevolgen voor vertrouwen, privacy, politiek en het publieke debat. Hoewel synthetische media gebruikt kunnen worden voor entertainment of educatie, vormen ze ook krachtige middelen voor misleiding, manipulatie en schade.

Deepfake-ethiek

Deepfakes zijn synthetische video's of audioclips die met AI worden gegenereerd om iemands uiterlijk of stem te vervangen. De toenemende toegankelijkheid ervan roept ernstige ethische vraagstukken op:

• Imitatie en intimidatie: beroemdheden en privépersonen zijn doelwit geweest van deepfakepornografie of zijn zonder toestemming gebruikt in nepvideo's;
• Politieke desinformatie: gefabriceerde video's van politici die controversiële uitspraken doen of handelingen verrichten kunnen zich snel verspreiden en de publieke opinie of het stemgedrag beïnvloeden;
• Fraude en identiteitsdiefstal: met AI gegenereerde stemklonen zijn gebruikt bij oplichtingspraktijken om mensen te misleiden tot het overmaken van geld of het vrijgeven van gevoelige informatie.

Voorbeeld

In 2019 werd een Britse CEO misleid door een fraudeur met behulp van een AI-gegenereerde replica van de stem van zijn baas, wat resulteerde in een frauduleuze overboeking van $243.000.

Oplossingen:

• Vaststellen van ethische AI-gebruiksnormen binnen sectoren;
• Implementeren van verplichte openbaarmaking wanneer synthetische inhoud wordt gebruikt in media;
• Versterken van wettelijke bescherming voor individuen tegen ongeoorloofd gebruik van synthetische gelijkenissen.

Bestrijding van Deepfakes

Het bestrijden van deepfakes vereist zowel technische als sociale verdedigingsmaatregelen. Belangrijke methoden zijn onder meer:

• Forensische deepfake-detectie:

  • Identificatie van visuele afwijkingen (bijv. inconsistente belichting, onnatuurlijke gezichtsbewegingen);
  • Analyse van frequentie-artifacten of compressiepatronen die met het blote oog niet zichtbaar zijn;

• Herkomsttracking en watermerken:

  • Inbedden van digitale handtekeningen of onzichtbare watermerken tijdens de creatie om inhoud als synthetisch te markeren;
  • Projecten zoals het Content Authenticity Initiative (CAI) streven naar gestandaardiseerde metadata over de oorsprong en bewerkingsgeschiedenis van een asset.

• Detectie op basis van classificatie:

  • Gebruik van deep learning-modellen die getraind zijn om echt en nep media te onderscheiden op basis van subtiele statistische signalen.

Voorbeeld

Intel's "FakeCatcher" gebruikt fysiologische signalen — zoals huidkleurveranderingen door bloedstroom — om te bepalen of een gezicht in een video echt is.

Oplossingen

• Integratie van detectie-API's in contentplatforms en redacties;
• Financiering van open onderzoek naar realtime, schaalbare detectietools;
• Ontwikkeling van publieke tools waarmee gebruikers de authenticiteit van content kunnen controleren.

Regelgevend Kader

Overheden en regelgevende instanties reageren op het misbruik van deepfakes door gerichte wetgeving en wereldwijde beleidsinitiatieven:

• California AB 730 (USA): verbiedt de verspreiding van deepfakes die politieke kandidaten afbeelden binnen 60 dagen voor een verkiezing;
• EU AI Act: vereist dat deepfake-inhoud duidelijk en transparant wordt gelabeld, en classificeert bepaald gebruik van synthetische inhoud als "hoog risico";
• China's Deep Synthesis Provisions (2023): verplichten openbaarmaking en watermerken van alle door AI gegenereerde media en vereisen registratie met echte identiteit voor makers;
• US National Defense Authorization Act (NDAA): omvat financiering voor het detecteren en tegengaan van synthetische media in defensie- en cybersecuritycontexten.