Deepfakes og desinformasjon

Generativ KI kan skape hyperrealistiske medier — bilder, videoer, stemmer og tekst — som etterligner ekte personer eller hendelser på en overbevisende måte. Dette har dype konsekvenser for tillit, personvern, politikk og offentlig diskurs. Selv om syntetiske medier kan brukes til underholdning eller utdanning, gir det også kraftige verktøy for bedrag, manipulasjon og skade.

Deepfake-etikk

Deepfakes er syntetiske videoer eller lydklipp generert med KI for å erstatte noens utseende eller stemme. Den økende tilgjengeligheten reiser alvorlige etiske bekymringer:

• Imitasjon og trakassering: kjendiser og privatpersoner har blitt utsatt for deepfake-pornografi eller brukt i falske videoer uten samtykke;
• Politisk desinformasjon: fabrikerte videoer av politikere som sier eller gjør kontroversielle ting kan spre seg raskt og påvirke offentlig opinion eller stemmegivning;
• Bedrageri og identitetstyveri: KI-generert stemmekloning har blitt brukt i svindel for å lure folk til å overføre penger eller avsløre sensitiv informasjon.

Eksempel

I 2019 ble en britisk CEO lurt av en svindler ved bruk av en KI-generert kopi av sjefens stemme, noe som resulterte i et bedragerisk overføringsbeløp på $243,000.

Løsninger:

• Etablering av etiske standarder for bruk av KI på tvers av bransjer;
• Innføring av obligatorisk merking når syntetisk innhold benyttes i media;
• Styrking av juridisk beskyttelse for enkeltpersoner mot uautorisert bruk av syntetisk likhet.

Bekjempelse av deepfakes

Bekjempelse av deepfakes krever både tekniske og sosiale forsvarsmekanismer. Viktige metoder inkluderer:

• Forensisk deepfake-deteksjon:

  • Identifisering av visuelle avvik (f.eks. inkonsekvent belysning, unaturlige ansiktsbevegelser);
  • Analyse av frekvensartefakter eller kompresjonsmønstre som er usynlige for det blotte øye;

• Opprinnelsessporing og vannmerking:

  • Innebygging av digitale signaturer eller usynlige vannmerker ved generering for å merke innhold som syntetisk;
  • Prosjekter som Content Authenticity Initiative (CAI) har som mål å etablere standardisert metadata om et objekts opprinnelse og redigeringshistorikk.

• Klassifikatorbasert deteksjon:

  • Bruk av dyp læringsmodeller trent til å skille mellom ekte og falske medier basert på subtile statistiske signaler.

Eksempel

Intels "FakeCatcher" benytter fysiologiske signaler — som endringer i hudfarge forårsaket av blodstrøm — for å avgjøre om et ansikt i en video er ekte.

Løsninger

• Integrere deteksjons-API-er i innholdsplattformer og nyhetsredaksjoner;
• Finansiere åpen forskning på sanntids, skalerbare deteksjonsverktøy;
• Utvikle offentlige verktøy som lar brukere kontrollere innholdets ekthet.

Regulatoriske rammeverk

Myndigheter og reguleringsorganer svarer på misbruk av deepfakes ved å innføre målrettede lover og globale politiske initiativer:

• California AB 730 (USA): forbyr distribusjon av deepfakes som viser politiske kandidater innen 60 dager før et valg;
• EU AI Act: krever at deepfake-innhold merkes tydelig og transparent, og klassifiserer visse bruksområder for syntetisk innhold som "høyrisiko";
• Kinas bestemmelser om dyp syntese (2023): pålegger krav om åpenhet og vannmerking av alt AI-generert media og krever registrering med ekte identitet for skapere;
• US National Defense Authorization Act (NDAA): inkluderer finansiering for deteksjon og mottiltak mot syntetisk media innen forsvar og cybersikkerhet.