Efterhånden som generativ AI bliver integreret i dagligdagen—fra indholdsskabelse til beslutningsstøtte—er regulerings- og styringsrammer blevet afgørende for at sikre sikker, retfærdig og gennemsigtig anvendelse. Uden tilsyn risikerer AI-systemer at forstærke skade, undgå ansvar og underminere offentlighedens tillid. Dette kapitel undersøger globale initiativer for at regulere generativ AI og fastsætte standarder for ansvarlig implementering.

Statens regulering

Regeringer verden over anerkender, at den transformerende kraft ved generativ AI medfører betydelige risici—fra misinformation og deepfakes til arbejdsmarkedsfortrængning og juridisk uklarhed. Som følge heraf er flere reguleringsmetoder opstået.

Den Europæiske Union – EU AI Act

EU AI Act er verdens første omfattende lovgivningsramme for AI. Den klassificerer AI-systemer efter risikoniveau, fra minimal til uacceptabel, og placerer generative modeller som GPT og Stable Diffusion i kategorien “høj risiko”.

Væsentlige forpligtelser omfatter:

• Krav om gennemsigtighed: Udviklere skal tydeligt oplyse, at indholdet er genereret af AI (for eksempel via vandmærker eller metadata).
• Dokumentation og risikostyring: Udviklere skal levere teknisk dokumentation, der beskriver træningsdata, potentielle risici og afbødningsstrategier.
• Begrænsninger for anvendelse: Visse anvendelser, såsom realtids biometrisk overvågning, er enten forbudt eller strengt reguleret.

GDPR-forbindelse: Databeskyttelse og privatliv

General Data Protection Regulation (GDPR) er en hjørnesten i EU's digitale politik og er tæt forbundet med AI Act. Mens AI Act regulerer, hvordan AI-systemer designes og implementeres, regulerer GDPR håndteringen af personoplysninger anvendt i deres træning og drift. Sammen udgør de en dobbelt compliance-ramme for AI-udviklere.

Væsentlige overlap og principper omfatter:

• Lovlighed, retfærdighed og gennemsigtighed: Enhver behandling af personoplysninger til AI-træning skal have et klart juridisk grundlag og kommunikeres gennemsigtigt til brugerne.
• Dataminimering og formålsbegrænsning: Kun data, der er strengt nødvendige for AI'ens funktion, må anvendes; genanvendelse af personoplysninger til uvedkommende modeltræning er begrænset.
• Registreredes rettigheder: Personer bevarer retten til at få adgang til, rette eller slette personoplysninger anvendt i AI-systemer samt til at gøre indsigelse mod automatiseret beslutningstagning ("retten til forklaring").
• Ansvarlighed og sikkerhed: Udviklere skal implementere passende foranstaltninger såsom anonymisering, pseudonymisering og vurderinger af databeskyttelsespåvirkning (DPIA'er) for at mindske privatlivsrisici.

Sammen udgør EU AI Act og GDPR Den Europæiske Unions to-søjlede tilgang: at sikre AI-innovation samtidig med at beskytte menneskerettigheder, privatliv og tillid.

USA – Sektorspecifikke og statslige initiativer

USA har endnu ikke vedtaget en samlet føderal AI-lov. Dog er der opstået forskellige statslige love og føderale udøvende tiltag:

• Californiens AB 730 forbyder brugen af deepfakes i politisk reklame under valgperioder;
• Executive Order on AI (2023) pålægger føderale myndigheder at udvikle sikkerhedsstandarder, støtte vandmærkning og finansiere forskning i risikominimering af AI.

Kina – Obligatorisk offentliggørelse og indholdsgennemgang

Kina har indført strenge regler, der kræver:

• Ægte navne-godkendelse for brugere, der interagerer med AI-genereret indhold;
• Vandmærkning af syntetiske medier og menneskelig moderation af indhold, der involverer politisk følsomme emner;
• Algoritmeregistrering: udviklere skal registrere og oplyse formål og kapaciteter for enhver model, der implementeres offentligt.

Andre lande

• Canada: har foreslået Artificial Intelligence and Data Act (AIDA) for at regulere AI-systemer med stor indvirkning;
• Storbritannien: regeringen støtter en “pro-innovation” regulatorisk tilgang med frivillige retningslinjer, men endnu ingen streng lovgivning;
• Brasilien og Indien: drøfter rammer, der kombinerer forbrugerbeskyttelse med incitamenter til innovation.

Frivillige rammer og brancheinitiativer

Mens regulering halter efter teknologiske fremskridt, har brancheaktører og internationale organisationer taget initiativ til at etablere etiske normer og bedste praksis.

Internationale standarder og etiske retningslinjer

• OECD's AI-principper: vedtaget af over 40 lande, disse principper fremmer AI, der er inkluderende, gennemsigtig og ansvarlig;
• UNESCO's AI-etiske rammeværk: opfordrer til styring baseret på menneskerettigheder, herunder miljømæssig bæredygtighed og kulturel mangfoldighed;
• IEEE's Etisk Tilpasset Design: tilbyder en teknisk vejledning til udvikling af AI, der respekterer privatliv, retfærdighed og autonomi.

Brancheledede konsortier

Virksomheder anerkender i stigende grad behovet for selvregulering for at opretholde offentlig tillid og undgå mere restriktiv statslig indgriben.

• Partnership on AI: grundlagt af OpenAI, Google, Microsoft og andre, støtter forskning i retfærdighed, fortolkelighed og samfundsmæssig påvirkning;

• Frontier Model Forum: et samarbejde mellem OpenAI, Anthropic, Google DeepMind og Cohere for at fremme:

  • Ansvarlig skalering af modeller;
  • Eksterne sikkerhedsrevisioner;
  • Best practices for udrulning i kritiske sammenhænge;
  • Deling af teknisk og sikkerhedsmæssig dokumentation.

• MLCommons og BigScience: open source-forskningsfællesskaber, der arbejder med gennemsigtighedsbenchmarks og åbne modelevalueringer.

Fremtidsperspektiv: Hvad kommer der næste?

Styringen af generativ AI er stadig i de tidlige faser, og flere centrale tendenser former dens fremtid:

• Modelgennemsigtighed: Politikker vil sandsynligvis kræve, at udviklere oplyser, hvordan AI-genereret indhold skabes, og om brugere interagerer med et AI-system;
• Mærkning af syntetisk indhold: Vandmærkning og usynlige signaturer kan blive obligatoriske for AI-genererede billeder, videoer og tekst;
• Revisioner og risikovurderinger: Uafhængige revisioner af generative modeller vil være afgørende, især for avancerede modeller med nye egenskaber;
• Global koordinering: Efterhånden som modeller bliver mere kraftfulde, er der stigende erkendelse af, at globale aftaler—svarende til klima- eller atomvåbenaftaler—kan være nødvendige;
• Modelregistre: Lande kan kræve, at udviklere registrerer storskala AI-modeller sammen med sikkerhedsvurderinger og tilsigtede anvendelsestilfælde.