L’IA générative peut créer des médias hyperréalistes — images, vidéos, voix et textes — qui imitent de près des personnes ou des événements réels. Cela a des implications profondes pour la confiance, la vie privée, la politique et le débat public. Bien que les médias synthétiques puissent être utilisés à des fins de divertissement ou d’éducation, ils constituent également des outils puissants de tromperie, de manipulation et de nuisance.

Éthique des deepfakes

Les deepfakes sont des vidéos ou des enregistrements audio synthétiques générés par l’IA pour remplacer l’apparence ou la voix d’une personne. Leur accessibilité croissante soulève de sérieuses préoccupations éthiques :

• Usurpation d’identité et harcèlement : des célébrités et des particuliers ont été ciblés par des deepfakes pornographiques ou utilisés dans des vidéos truquées sans consentement ;
• Désinformation politique : des vidéos fabriquées de responsables politiques disant ou faisant des choses controversées peuvent se propager rapidement et influencer l’opinion publique ou le comportement électoral ;
• Fraude et vol d’identité : la clonage vocal généré par l’IA a été utilisé dans des escroqueries pour inciter des personnes à transférer de l’argent ou à divulguer des informations sensibles.

Exemple

En 2019, un PDG basé au Royaume-Uni a été trompé par un fraudeur utilisant une réplique générée par IA de la voix de son supérieur, entraînant un virement frauduleux de 243 000 $.

Solutions :

• Établissement de normes éthiques d'utilisation de l'IA dans tous les secteurs ;
• Mise en place d'obligations de divulgation lors de l'utilisation de contenus synthétiques dans les médias ;
• Renforcement des protections juridiques pour les individus contre l'utilisation non autorisée de leur image synthétique.

Lutte contre les deepfakes

La lutte contre les deepfakes nécessite des défenses à la fois techniques et sociales. Les principales méthodes incluent :

• Détection médico-légale des deepfakes :

  • Identification des anomalies visuelles (par exemple, éclairage incohérent, mouvements faciaux non naturels) ;
  • Analyse des artefacts de fréquence ou des schémas de compression invisibles à l'œil nu ;

• Suivi de provenance et tatouage numérique :

  • Intégration de signatures numériques ou de tatouages invisibles lors de la génération afin de marquer le contenu comme synthétique ;
  • Des projets comme la Content Authenticity Initiative (CAI) visent à créer des métadonnées standardisées sur l'origine et l'historique de modification d'une ressource.

• Détection basée sur des classificateurs :

  • Utilisation de modèles d'apprentissage profond entraînés à distinguer les médias réels des faux à partir de signaux statistiques subtils.

Exemple

"FakeCatcher" d'Intel utilise des signaux physiologiques — tels que les variations de couleur de la peau dues au flux sanguin — pour déterminer si un visage dans une vidéo est réel.

Solutions

• Intégration d'API de détection dans les plateformes de contenu et les salles de rédaction ;
• Financement de la recherche ouverte sur des outils de détection en temps réel et à grande échelle ;
• Développement d'outils publics permettant aux utilisateurs de vérifier l'authenticité des contenus.

Cadres réglementaires

Les gouvernements et les organismes de régulation réagissent à l'utilisation abusive des deepfakes en adoptant des lois ciblées et des initiatives politiques mondiales :

• California AB 730 (USA) : interdit la diffusion de deepfakes représentant des candidats politiques dans les 60 jours précédant une élection ;
• AI Act de l'UE : exige que les contenus deepfake soient clairement et explicitement étiquetés, et classe certains usages de contenus synthétiques comme « à haut risque » ;
• Dispositions sur la synthèse profonde en Chine (2023) : imposent la divulgation et le filigranage de tous les médias générés par l'IA et exigent l'enregistrement sous identité réelle des créateurs ;
• US National Defense Authorization Act (NDAA) : inclut un financement pour la détection et la lutte contre les médias synthétiques dans les contextes de défense et de cybersécurité.