Naarmate Generatieve AI steeds vaker wordt ingezet bij het creëren van content en het nemen van beslissingen, is het belangrijk om ervoor te zorgen dat deze systemen eerlijk en onbevooroordeeld zijn. Omdat ze worden getraind op grote datasets afkomstig van het internet, kunnen ze bestaande maatschappelijke vooroordelen overnemen en zelfs versterken. Dit kan een ernstig probleem vormen, vooral wanneer de output van de AI invloed heeft op hoe mensen in het echte leven worden behandeld of begrepen.

Algoritmische Bias

Generatieve modellen, met name grote taalmodellen en op diffusie gebaseerde afbeeldingsgeneratoren, leren patronen uit enorme datasets die van het internet zijn verzameld. Deze datasets bevatten vaak historische vooroordelen, stereotypen en onevenwichtigheden in representatie. Hierdoor kunnen modellen:

• Gender-, ras- of culturele stereotypen versterken;
• Voorkeur geven aan taalpatronen of visuele kenmerken van dominante of meerderheidsgroepen;
• Inhoud genereren die gemarginaliseerde of ondervertegenwoordigde gemeenschappen uitsluit of marginaliseert.

Voorbeeld

Een tekstgeneratiemodel kan de zin "De dokter zei…" aanvullen met mannelijke voornaamwoorden en "De verpleegkundige zei…" met vrouwelijke voornaamwoorden, wat stereotypische genderrollen in beroepen weerspiegelt.

Oplossingen:

• Data-auditing: systematisch analyseren van trainingsdata op onevenwichtigheid of problematische inhoud vóór het trainen;
• Bias-detectietools: gebruikmaken van tools zoals Fairness Indicators of aangepaste meetmethoden om bevooroordeelde uitkomsten tijdens de modelevaluatie te identificeren;
• Prompt engineering: aanpassen van prompts om meer evenwichtige uitkomsten te stimuleren (bijvoorbeeld door neutrale taal of expliciete context te gebruiken).

Mitigatiestrategieën

Om bias effectief aan te pakken, passen onderzoekers en ontwikkelaars diverse technische en procedurele methoden toe gedurende de gehele levenscyclus van het model:

• Databalancering: datasets aanvullen of filteren om de vertegenwoordiging van ondervertegenwoordigde groepen te vergroten;
• Debiasing-doelstellingen: eerlijkheidsgerichte termen toevoegen aan de verliesfunctie van het model;
• Adversariële debiasing: modellen trainen met adversariële componenten die bevooroordeelde representaties ontmoedigen;
• Post-hoc correcties: outputfiltering of herschrijftechnieken toepassen om problematische inhoud te verminderen.

Voorbeeld

Bij beeldgeneratie helpt conditionering op diverse promptvariaties zoals "a Black woman CEO" om representatieve eerlijkheid te testen en te verbeteren.

Representatie en Culturele Generalisatie

Problemen met representatie ontstaan wanneer generatieve modellen er niet in slagen de volledige diversiteit van taal, uiterlijk, waarden en wereldbeelden van verschillende bevolkingsgroepen vast te leggen. Dit gebeurt wanneer:

• Gegevens onevenredig afkomstig zijn uit dominante regio's of talen;
• Minderheidsgroepen en culturen ondervertegenwoordigd of verkeerd weergegeven worden;
• Visuele modellen niet goed generaliseren naar huidtinten, kleding of kenmerken buiten de meest voorkomende categorieën in de trainingsset.

Voorbeeld

Een beeldmodel kan stereotypisch westerse kenmerken genereren bij opdrachten zoals "wedding ceremony", waardoor de wereldwijde culturele diversiteit niet wordt weergegeven.

Oplossingen

• Samenstelling van inclusieve datasets: gebruik van meertalige, multiculturele datasets met een evenwichtige vertegenwoordiging;
• Crowdsourced evaluatie: feedback verzamelen van een wereldwijd diverse groep gebruikers om het modelgedrag te controleren;
• Fijn-afstemming op doelgroepen: domeinspecifieke fijn-afstemming toepassen om de prestaties in verschillende contexten te verbeteren.