Efterhånden som Generativ AI bliver mere udbredt i indholdsproduktion og beslutningstagning, er det vigtigt at sikre, at disse systemer er retfærdige og upartiske. Da de trænes på store datasæt fra internettet, kan de opfange og endda forstærke eksisterende samfundsmæssige fordomme. Dette kan udgøre et alvorligt problem, især når AI'ens output påvirker, hvordan mennesker behandles eller opfattes i virkeligheden.

Algoritmisk bias

Generative modeller, især store sprogmodeller og billedgeneratorer baseret på diffusion, lærer mønstre fra omfattende datasæt indsamlet fra internettet. Disse datasæt indeholder ofte historiske fordomme, stereotyper og ubalancer i repræsentation. Som følge heraf kan modeller:

• Forstærke køns-, race- eller kulturstereotyper;
• Foretrække sprog- eller visuelle træk fra dominerende eller majoritetsgrupper;
• Generere indhold, der marginaliserer eller udelukker underrepræsenterede grupper.

Eksempel

En tekstgenereringsmodel kan fuldføre sætningen "Lægen sagde…" med mandlige pronominer og "Sygeplejersken sagde…" med kvindelige pronominer, hvilket afspejler stereotype kønsroller i erhverv.

Løsninger:

• Datarevision: systematisk analyse af træningsdata for ubalance eller problematisk indhold før træning;
• Værktøjer til biasdetektion: anvendelse af værktøjer som Fairness Indicators eller brugerdefinerede metrikker til at identificere biased output under modelevaluering;
• Prompt engineering: ændring af prompts for at fremme mere balancerede output (f.eks. ved brug af neutralt sprog eller eksplicit kontekst).

Afbødningsstrategier

For effektivt at håndtere bias anvender forskere og udviklere en række tekniske og proceduremæssige metoder gennem hele modellens livscyklus:

• Databalance: udvidelse eller filtrering af datasæt for at øge repræsentationen af underrepræsenterede grupper;
• Debiasing-mål: tilføjelse af fairness-orienterede termer til modellens tab-funktion;
• Adversarial debiasing: træning af modeller med adversarielle komponenter, der modvirker biased repræsentationer;
• Post-hoc korrektioner: anvendelse af outputfiltrering eller omskrivningsteknikker for at reducere problematisk indhold.

Eksempel

Ved billedgenerering hjælper betingelse på forskellige promptvariationer som "a Black woman CEO" med at teste og forbedre repræsentationsmæssig retfærdighed.

Repræsentation og kulturel generalisering

Repræsentationsproblemer opstår, når generative modeller ikke formår at indfange den fulde diversitet i sprog, udseende, værdier og verdenssyn på tværs af forskellige befolkningsgrupper. Dette sker, når:

• Data er uforholdsmæssigt indsamlet fra dominerende regioner eller sprog;
• Minoritetsgrupper og kulturer er underrepræsenterede eller fejlagtigt karakteriserede;
• Visuelle modeller generaliserer dårligt til hudtoner, påklædning eller træk uden for de mest hyppige kategorier i træningssættet.

Eksempel

En billedmodel kan generere stereotypisk vestlige træk for prompts som "wedding ceremony", hvilket ikke afspejler den globale kulturelle diversitet.

Løsninger

• Kuration af inkluderende datasæt: anvend flersprogede, multikulturelle datasæt med balanceret repræsentation;
• Crowdsourcet evaluering: indsamling af feedback fra et globalt mangfoldigt brugerpanel til revision af modeladfærd;
• Finjustering på målgruppedemografi: anvend domænespecifik finjustering for at forbedre ydeevnen på tværs af kontekster.