Deepfakes och desinformation

Generativ AI kan skapa hyperrealistiska medier — bilder, videor, röster och text — som noggrant imiterar verkliga personer eller händelser. Detta har djupgående konsekvenser för tillit, integritet, politik och offentlig diskurs. Även om syntetiska medier kan användas för underhållning eller utbildning, skapar de också kraftfulla verktyg för bedrägeri, manipulation och skada.

Deepfake-etik

Deepfakes är syntetiska videor eller ljudklipp som genereras med AI för att ersätta någons utseende eller röst. Deras ökade tillgänglighet väcker allvarliga etiska frågor:

• Imitation och trakasserier: kändisar och privatpersoner har blivit utsatta för deepfake-pornografi eller använts i falska videor utan samtycke;
• Politisk desinformation: fabricerade videor av politiker som säger eller gör kontroversiella saker kan spridas snabbt och påverka allmän opinion eller röstbeteende;
• Bedrägeri och identitetsstöld: AI-genererad röstkloning har använts i bedrägerier för att lura personer att överföra pengar eller lämna ut känslig information.

Exempel

År 2019 blev en brittisk VD lurad av en bedragare med hjälp av en AI-genererad kopia av hans chefs röst, vilket resulterade i en bedräglig överföring av $243,000.

Lösningar:

• Etablering av etiska standarder för AI-användning inom olika branscher;
• Införande av obligatoriska upplysningar när syntetiskt innehåll används i media;
• Stärkta rättsliga skydd för individer mot obehörig användning av syntetiska avbildningar.

Bekämpning av deepfakes

Bekämpning av deepfakes kräver både tekniska och sociala försvarsåtgärder. Centrala metoder inkluderar:

• Forensisk deepfake-detektering:

  • Identifiering av visuella avvikelser (t.ex. inkonsekvent belysning, onaturliga ansiktsrörelser);
  • Analys av frekvensartefakter eller kompressionsmönster som är osynliga för blotta ögat;

• Ursprungsspårning och vattenmärkning:

  • Inbäddning av digitala signaturer eller osynliga vattenmärken vid genereringstillfället för att markera innehåll som syntetiskt;
  • Projekt som Content Authenticity Initiative (CAI) syftar till att skapa standardiserad metadata om en tillgångs ursprung och redigeringshistorik.

• Klassificeringsbaserad detektering:

  • Användning av djupinlärningsmodeller tränade för att särskilja mellan äkta och falska medier baserat på subtila statistiska signaler.

Exempel

Intels "FakeCatcher" använder fysiologiska signaler — såsom hudfärgförändringar från blodflöde — för att avgöra om ett ansikte i en video är äkta.

Lösningar

• Integrera detektions-API:er i innehållsplattformar och nyhetsredaktioner;
• Finansiera öppen forskning om realtids- och skalbara detektionsverktyg;
• Utveckla publika verktyg som möjliggör för användare att kontrollera innehållets äkthet.

Regulatoriska ramverk

Regeringar och tillsynsmyndigheter svarar på missbruk av deepfakes genom att införa riktade lagar och globala policyinitiativ:

• California AB 730 (USA): förbjuder distribution av deepfakes som visar politiska kandidater inom 60 dagar före ett val;
• EU AI Act: kräver att deepfake-innehåll märks tydligt och transparent samt klassificerar viss användning av syntetiskt innehåll som "högrisk";
• Kinas bestämmelser om djupsyntes (2023): kräver offentliggörande och vattenmärkning av all AI-genererad media samt krav på registrering med verklig identitet för skapare;
• US National Defense Authorization Act (NDAA): inkluderar finansiering för att upptäcka och motverka syntetisk media inom försvars- och cybersäkerhetsområden.