Generativ KI kan skape hyperrealistiske medier — bilder, videoer, stemmer og tekst — som etterligner ekte personer eller hendelser på en overbevisende måte. Dette har betydelige konsekvenser for tillit, personvern, politikk og offentlig diskurs. Selv om syntetiske medier kan brukes til underholdning eller utdanning, gir de også kraftige verktøy for bedrag, manipulasjon og skade.

Deepfake-etikk

Deepfakes er syntetiske videoer eller lydklipp generert ved hjelp av KI for å erstatte noens utseende eller stemme. Den økende tilgjengeligheten reiser alvorlige etiske spørsmål:

• Impersonering og trakassering: kjendiser og privatpersoner har blitt utsatt for deepfake-porno eller brukt i falske videoer uten samtykke;
• Politisk desinformasjon: fabrikerte videoer av politikere som sier eller gjør kontroversielle ting kan spre seg raskt og påvirke offentlig opinion eller stemmegivning;
• Bedrageri og identitetstyveri: KI-generert stemmekloning har blitt brukt i svindel for å lure folk til å overføre penger eller gi fra seg sensitiv informasjon.

Eksempel

I 2019 ble en britisk CEO lurt av en svindler ved bruk av en KI-generert kopi av sjefens stemme, noe som resulterte i en svindeloverføring på $243,000.

Løsninger:

• Etablere etiske standarder for bruk av KI på tvers av bransjer;
• Innføre obligatorisk merking når syntetisk innhold benyttes i media;
• Styrke juridisk beskyttelse for enkeltpersoner mot uautorisert bruk av syntetisk likhet.

Bekjempelse av deepfakes

Bekjempelse av deepfakes krever både tekniske og sosiale forsvarsmekanismer. Viktige metoder inkluderer:

• Forensisk deepfake-deteksjon:

  • Identifisere visuelle avvik (f.eks. inkonsekvent belysning, unaturlige ansiktsbevegelser);
  • Analysere frekvensartefakter eller kompresjonsmønstre som er usynlige for det blotte øye;

• Opprinnelsessporing og vannmerking:

  • Innebygge digitale signaturer eller usynlige vannmerker ved generering for å merke innhold som syntetisk;
  • Prosjekter som Content Authenticity Initiative (CAI) har som mål å skape standardisert metadata om et objekts opprinnelse og redigeringshistorikk.

• Klassifikatorbasert deteksjon:

  • Bruke dyp læringsmodeller trent til å skille mellom ekte og falske medier basert på subtile statistiske signaler.

Eksempel

Intels "FakeCatcher" bruker fysiologiske signaler — som hudfargeendringer fra blodstrøm — for å avgjøre om et ansikt i en video er ekte.

Løsninger

• Integrere deteksjons-API-er i innholdsplattformer og nyhetsredaksjoner;
• Finansiere åpen forskning på sanntids, skalerbare deteksjonsverktøy;
• Utvikle offentlige verktøy som lar brukere kontrollere innholdets ekthet.

Regulatoriske rammeverk

Myndigheter og reguleringsorganer svarer på misbruk av deepfakes ved å innføre målrettede lover og globale politiske initiativer:

• California AB 730 (USA): forbyr distribusjon av deepfakes som viser politiske kandidater innen 60 dager før et valg;
• EU AI Act: krever at deepfake-innhold merkes tydelig og transparent, og klassifiserer visse former for syntetisk innhold som "høyrisiko";
• Kinas bestemmelser om dyp syntese (2023): pålegger krav om merking og vannmerking av alt AI-generert media og krever registrering med ekte identitet for skapere;
• US National Defense Authorization Act (NDAA): inkluderer finansiering for deteksjon og mottiltak mot syntetisk media i forsvars- og cybersikkerhetskontekster.