À mesure que l’IA générative s’intègre dans la vie quotidienne—de la création de contenu à l’aide à la décision—les cadres réglementaires et de gouvernance deviennent essentiels pour garantir une utilisation sûre, équitable et transparente. Sans supervision, les systèmes d’IA risquent d’amplifier les préjudices, d’échapper à toute responsabilité et de saper la confiance du public. Ce chapitre examine les initiatives mondiales visant à réglementer l’IA générative et à établir des normes pour un déploiement responsable.

Réglementation gouvernementale

Les gouvernements du monde entier reconnaissent que le pouvoir transformateur de l’IA générative s’accompagne de risques importants—de la désinformation et des deepfakes au déplacement de la main-d’œuvre et à l’ambiguïté juridique. En conséquence, plusieurs approches réglementaires ont émergé.

Union européenne – AI Act de l’UE

L’AI Act de l’UE constitue le premier cadre législatif complet sur l’IA au monde. Il classe les systèmes d’IA selon leur niveau de risque, allant de minimal à inacceptable, et place les modèles génératifs tels que GPT et Stable Diffusion dans la catégorie « à haut risque ».

Principales obligations :

• Exigences de transparence : les développeurs doivent clairement indiquer que le contenu a été généré par une IA (par exemple, via des filigranes ou des métadonnées).
• Documentation et gestion des risques : les développeurs doivent fournir une documentation technique détaillant les données d’entraînement, les risques potentiels et les stratégies d’atténuation.
• Limitations d’utilisation : certaines applications, telles que la surveillance biométrique en temps réel, sont totalement interdites ou strictement réglementées.

Lien avec le RGPD : protection des données et vie privée

Le Règlement général sur la protection des données (RGPD) est un pilier de la politique numérique européenne et s’aligne étroitement avec l’AI Act. Tandis que l’AI Act régit la conception et le déploiement des systèmes d’IA, le RGPD encadre le traitement des données personnelles utilisées lors de leur entraînement et de leur fonctionnement. Ensemble, ils forment un cadre de conformité double pour les développeurs d’IA.

Principaux recoupements et principes :

• Légalité, équité et transparence : tout traitement de données personnelles à des fins d’entraînement de l’IA doit reposer sur une base légale claire et être communiqué de manière transparente aux utilisateurs.
• Minimisation des données et limitation des finalités : seules les données strictement nécessaires au fonctionnement de l’IA peuvent être utilisées ; la réutilisation de données personnelles à des fins d’entraînement non liées est restreinte.
• Droits des personnes concernées : les individus conservent le droit d’accéder, de rectifier ou de supprimer les données personnelles utilisées dans les systèmes d’IA, ainsi que de s’opposer à la prise de décision automatisée (le « droit à l’explication »).
• Responsabilité et sécurité : les développeurs doivent mettre en place des mesures de protection appropriées telles que l’anonymisation, la pseudonymisation et les analyses d’impact sur la protection des données (DPIA) pour limiter les risques liés à la vie privée.

Ensemble, l’AI Act de l’UE et le RGPD établissent l’approche à deux piliers de l’Union européenne : garantir l’innovation en matière d’IA tout en préservant les droits humains, la vie privée et la confiance.

États-Unis – Initiatives sectorielles et au niveau des États

Les États-Unis n'ont pas encore adopté de loi fédérale unifiée sur l'IA. Cependant, diverses lois au niveau des États et actions exécutives fédérales ont vu le jour :

• AB 730 de Californie interdit l'utilisation de deepfakes dans la publicité politique pendant les périodes électorales ;
• Executive Order on AI (2023) demande aux agences fédérales d'élaborer des normes de sécurité, de soutenir le filigranage et de financer la recherche sur l'atténuation des risques liés à l'IA.

Chine – Obligation de divulgation et contrôle du contenu

La Chine a adopté des règles strictes exigeant :

• Authentification par nom réel pour les utilisateurs interagissant avec du contenu généré par l'IA ;
• Filigranage des médias synthétiques et modération humaine du contenu impliquant des sujets politiquement sensibles ;
• Enregistrement des algorithmes : les développeurs doivent enregistrer et divulguer l'objectif ainsi que les capacités de tout modèle déployé publiquement.

Autres pays

• Canada : proposition de la Loi sur l'intelligence artificielle et les données (AIDA) pour réglementer les systèmes d'IA à fort impact ;
• Royaume-Uni : le gouvernement soutient une approche réglementaire « pro-innovation » avec des lignes directrices volontaires mais sans législation stricte à ce jour ;
• Brésil et Inde : débats sur des cadres qui associent protection des consommateurs et incitations à l'innovation.

Cadres volontaires et initiatives sectorielles

Alors que la réglementation accuse un retard sur les avancées technologiques, les acteurs du secteur et les organisations internationales sont intervenus pour établir des normes éthiques et des meilleures pratiques.

Normes internationales et lignes directrices éthiques

• Principes de l’IA de l’OCDE : adoptés par plus de 40 pays, ces principes promeuvent une IA inclusive, transparente et responsable ;
• Cadre éthique de l’IA de l’UNESCO : encourage une gouvernance fondée sur les droits humains, incluant la durabilité environnementale et la diversité culturelle ;
• IEEE’s Ethically Aligned Design : propose un guide technique pour développer une IA respectant la vie privée, l’équité et l’autonomie.

Consortiums dirigés par l’industrie

Les entreprises reconnaissent de plus en plus la nécessité de l’autorégulation afin de maintenir la confiance du public et d’éviter des interventions gouvernementales plus restrictives.

• Partnership on AI : fondé par OpenAI, Google, Microsoft et d’autres, il soutient la recherche sur l’équité, l’interprétabilité et l’impact social ;

• Frontier Model Forum : une collaboration entre OpenAI, Anthropic, Google DeepMind et Cohere visant à promouvoir :

  • L’extension responsable des modèles ;
  • Les audits de sécurité externes ;
  • Les meilleures pratiques pour les déploiements à enjeux élevés ;
  • Le partage de la documentation technique et de sécurité.

• MLCommons et BigScience : communautés de recherche open source travaillant sur des référentiels de transparence et des évaluations ouvertes de modèles.

Perspectives futures : Quelles sont les prochaines étapes ?

La gouvernance de l’IA générative en est encore à ses débuts, et plusieurs tendances majeures façonnent son avenir :

• Transparence des modèles : les politiques exigeront probablement que les développeurs divulguent la manière dont le contenu généré par l’IA est créé, ainsi que l’indication de l’interaction des utilisateurs avec un système d’IA ;
• Étiquetage du contenu synthétique : le filigrane et les signatures invisibles pourraient devenir obligatoires pour les images, vidéos et textes générés par l’IA ;
• Audits et évaluations des risques : des audits indépendants des modèles génératifs seront essentiels, en particulier pour les modèles de pointe dotés de capacités émergentes ;
• Coordination mondiale : à mesure que les modèles gagnent en puissance, la nécessité d’accords mondiaux — similaires à ceux sur le climat ou le nucléaire — est de plus en plus reconnue ;
• Registres de modèles : les pays pourraient exiger que les développeurs enregistrent les modèles d’IA à grande échelle, accompagnés d’évaluations de sécurité et des cas d’utilisation prévus.