Generativ AI kan skapa hyperrealistiska medier — bilder, videor, röster och text — som noggrant imiterar verkliga personer eller händelser. Detta har djupgående konsekvenser för tillit, integritet, politik och offentlig diskussion. Även om syntetiska medier kan användas för underhållning eller utbildning, skapar de också kraftfulla verktyg för bedrägeri, manipulation och skada.

Deepfake-etik

Deepfakes är syntetiska videor eller ljudklipp som genereras med AI för att ersätta någons utseende eller röst. Deras ökade tillgänglighet väcker allvarliga etiska frågor:

• Imitation och trakasserier: kändisar och privatpersoner har blivit utsatta för deepfake-pornografi eller använts i falska videor utan samtycke;
• Politisk desinformation: fabricerade videor av politiker som säger eller gör kontroversiella saker kan spridas snabbt och påverka allmän opinion eller röstbeteende;
• Bedrägeri och identitetsstöld: AI-genererad röstkloning har använts i bedrägerier för att lura personer att överföra pengar eller lämna ut känslig information.

Exempel

År 2019 blev en brittisk VD lurad av en bedragare som använde en AI-genererad kopia av hans chefs röst, vilket resulterade i en bedräglig överföring av $243,000.

Lösningar:

• Fastställande av etiska standarder för AI-användning inom olika branscher;
• Införande av obligatoriska upplysningar när syntetiskt innehåll används i media;
• Stärkta rättsliga skydd för individer mot obehörig användning av syntetiska avbildningar.

Bekämpning av deepfakes

Bekämpning av deepfakes kräver både tekniska och sociala försvar. Centrala metoder inkluderar:

• Forensisk deepfake-detektering:

  • Identifiering av visuella avvikelser (t.ex. inkonsekvent belysning, onaturliga ansiktsrörelser);
  • Analys av frekvensartefakter eller kompressionsmönster som är osynliga för blotta ögat;

• Ursprungsspårning och vattenmärkning:

  • Inbäddning av digitala signaturer eller osynliga vattenmärken vid genereringstillfället för att markera innehåll som syntetiskt;
  • Projekt som Content Authenticity Initiative (CAI) syftar till att skapa standardiserad metadata om en tillgångs ursprung och redigeringshistorik.

• Klassificeringsbaserad detektering:

  • Användning av djupinlärningsmodeller tränade för att särskilja mellan äkta och falska medier baserat på subtila statistiska signaler.

Exempel

Intels "FakeCatcher" använder fysiologiska signaler — såsom hudfärgsförändringar från blodflöde — för att avgöra om ett ansikte i en video är äkta.

Lösningar

• Integrera detekterings-API:er i innehållsplattformar och nyhetsredaktioner;
• Finansiera öppen forskning om realtids- och skalbara detekteringsverktyg;
• Utveckla publika verktyg som möjliggör för användare att kontrollera innehållets äkthet.

Regulatoriska ramverk

Regeringar och tillsynsmyndigheter svarar på missbruk av deepfakes genom att införa riktade lagar och globala policyinitiativ:

• California AB 730 (USA): förbjuder distribution av deepfakes som avbildar politiska kandidater inom 60 dagar före ett val;
• EU AI Act: kräver att deepfake-innehåll märks tydligt och transparent samt klassificerar viss användning av syntetiskt innehåll som "högrisk";
• Kinas bestämmelser om djupsyntes (2023): kräver offentliggörande och vattenmärkning av all AI-genererat media samt krav på registrering av skapare med verklig identitet;
• US National Defense Authorization Act (NDAA): inkluderar finansiering för detektering och motverkande av syntetiska medier inom försvars- och cybersäkerhetsområden.