L'IA generativa può creare media iperrealistici — immagini, video, voci e testi — che imitano fedelmente persone o eventi reali. Questo ha profonde implicazioni per la fiducia, la privacy, la politica e il discorso pubblico. Sebbene i media sintetici possano essere utilizzati per l'intrattenimento o l'istruzione, rappresentano anche strumenti potenti per l'inganno, la manipolazione e il danno.

Etica dei Deepfake

I deepfake sono video o clip audio sintetici generati tramite IA per sostituire l'aspetto o la voce di una persona. La loro crescente accessibilità solleva gravi questioni etiche:

• Impersonificazione e molestie: celebrità e persone comuni sono state prese di mira con pornografia deepfake o utilizzate in video falsi senza consenso;
• Disinformazione politica: video fabbricati di politici che dicono o fanno cose controverse possono diffondersi rapidamente e influenzare l'opinione pubblica o il comportamento di voto;
• Frode e furto d'identità: la clonazione vocale generata dall'IA è stata utilizzata in truffe per indurre le persone a trasferire denaro o divulgare informazioni sensibili.

Esempio

Nel 2019, un CEO con sede nel Regno Unito è stato ingannato da un truffatore utilizzando una replica generata dall'IA della voce del suo superiore, con conseguente trasferimento fraudolento di $243.000.

Soluzioni:

• Definizione di standard etici per l'uso dell'IA nei vari settori;
• Introduzione di obblighi di dichiarazione quando vengono utilizzati contenuti sintetici nei media;
• Rafforzamento delle tutele legali per le persone contro l'uso non autorizzato della loro immagine sintetica.

Contrasto ai Deepfake

Il contrasto ai deepfake richiede difese sia tecniche che sociali. I principali metodi includono:

• Rilevamento forense dei deepfake:

  • Identificazione di anomalie visive (ad esempio, illuminazione incoerente, movimenti facciali innaturali);
  • Analisi di artefatti di frequenza o schemi di compressione invisibili all'occhio umano;

• Tracciamento della provenienza e watermarking:

  • Inserimento di firme digitali o watermark invisibili al momento della generazione per contrassegnare i contenuti come sintetici;
  • Progetti come la Content Authenticity Initiative (CAI) mirano a creare metadati standardizzati sull'origine e la cronologia delle modifiche di un asset.

• Rilevamento basato su classificatori:

  • Utilizzo di modelli di deep learning addestrati per distinguere tra media reali e falsi sulla base di segnali statistici sottili.

Esempio

"FakeCatcher" di Intel utilizza segnali fisiologici — come i cambiamenti di colore della pelle dovuti al flusso sanguigno — per determinare se un volto in un video è reale.

Soluzioni

• Integrazione di API di rilevamento nelle piattaforme di contenuti e nelle redazioni;
• Finanziamento della ricerca aperta su strumenti di rilevamento in tempo reale e su larga scala;
• Sviluppo di strumenti pubblici che consentano agli utenti di verificare l'autenticità dei contenuti.

Quadri Normativi

Governi e organismi di regolamentazione stanno rispondendo all'uso improprio dei deepfake promulgando leggi mirate e iniziative politiche globali:

• California AB 730 (USA): vieta la distribuzione di deepfake che raffigurano candidati politici entro 60 giorni dalle elezioni;
• EU AI Act: richiede che i contenuti deepfake siano etichettati in modo chiaro e trasparente, e classifica l'uso di determinati contenuti sintetici come "ad alto rischio";
• Disposizioni cinesi sulla sintesi profonda (2023): impongono la divulgazione e la filigranatura di tutti i media generati dall'IA e richiedono la registrazione con identità reale per i creatori;
• US National Defense Authorization Act (NDAA): include finanziamenti per il rilevamento e il contrasto dei media sintetici nei contesti di difesa e cybersicurezza.