Generativ AI kan skabe hyperrealistiske medier — billeder, videoer, stemmer og tekst — der nøje efterligner virkelige personer eller begivenheder. Dette har dybtgående konsekvenser for tillid, privatliv, politik og offentlig debat. Selvom syntetiske medier kan anvendes til underholdning eller uddannelse, skaber de også stærke værktøjer til bedrag, manipulation og skade.

Deepfake-etik

Deepfakes er syntetiske videoer eller lydklip genereret ved hjælp af AI til at erstatte en persons udseende eller stemme. Deres stigende tilgængelighed rejser alvorlige etiske bekymringer:

• Imitation og chikane: berømtheder og private personer er blevet mål for deepfake-porno eller brugt i falske videoer uden samtykke;
• Politisk desinformation: fabrikerede videoer af politikere, der siger eller gør kontroversielle ting, kan sprede sig hurtigt og påvirke den offentlige mening eller stemmeadfærd;
• Bedrageri og identitetstyveri: AI-genereret stemmekloning er blevet brugt i svindelnumre for at narre folk til at overføre penge eller afsløre følsomme oplysninger.

Eksempel

I 2019 blev en britisk baseret CEO narret af en svindler ved brug af en AI-genereret kopi af hans chefs stemme, hvilket resulterede i en bedragerisk overførsel af $243.000.

Løsninger:

• Etablering af etiske standarder for AI-brug på tværs af industrier;
• Implementering af obligatoriske oplysninger, når syntetisk indhold anvendes i medier;
• Styrkelse af juridisk beskyttelse for enkeltpersoner mod uautoriseret brug af syntetisk lighed.

Bekæmpelse af Deepfakes

Bekæmpelse af deepfakes kræver både tekniske og sociale forsvarsmekanismer. Centrale metoder omfatter:

• Forensisk deepfake-detektion:

  • Identifikation af visuelle anomalier (f.eks. inkonsekvent belysning, unaturlige ansigtsbevægelser);
  • Analyse af frekvensartefakter eller komprimeringsmønstre, der er usynlige for det blotte øje;

• Oprindelsessporing og vandmærkning:

  • Indlejring af digitale signaturer eller usynlige vandmærker ved genereringstidspunktet for at markere indhold som syntetisk;
  • Projekter som Content Authenticity Initiative (CAI) har til formål at skabe standardiserede metadata om et assets oprindelse og redigeringshistorik.

• Klassifikatorbaseret detektion:

  • Anvendelse af dybe læringsmodeller, der er trænet til at skelne mellem ægte og falske medier baseret på subtile statistiske signaler.

Eksempel

Intels "FakeCatcher" anvender fysiologiske signaler — såsom hudfarveændringer fra blodgennemstrømning — til at afgøre, om et ansigt i en video er ægte.

Løsninger

• Integrering af detektions-API'er i indholdsplatforme og nyhedsredaktioner;
• Finansiering af åben forskning i realtids-, skalerbare detektionsværktøjer;
• Udvikling af offentlige værktøjer, der gør det muligt for brugere at kontrollere indholds ægthed.

Regulatoriske rammer

Regeringer og tilsynsmyndigheder reagerer på misbrug af deepfakes ved at indføre målrettet lovgivning og globale politiske initiativer:

• California AB 730 (USA): forbyder distribution af deepfakes, der viser politiske kandidater, inden for 60 dage før et valg;
• EU AI Act: kræver, at deepfake-indhold mærkes klart og gennemsigtigt, og klassificerer visse anvendelser af syntetisk indhold som "højrisiko";
• Kinas Deep Synthesis-bestemmelser (2023): pålægger oplysningspligt og vandmærkning af alt AI-genereret medieindhold samt krav om registrering af skaberes rigtige identitet;
• US National Defense Authorization Act (NDAA): omfatter finansiering til detektion og modvirkning af syntetiske medier i forsvars- og cybersikkerhedssammenhænge.