Bias in AI verwijst naar systematische en oneerlijke discriminatie die ontstaat in de uitkomsten van kunstmatige intelligentiesystemen. Deze bias kan zich op verschillende manieren manifesteren, elk met unieke oorzaken en gevolgen. De meest besproken vormen zijn databias, algoritmische bias en maatschappelijke bias.

• Databias ontstaat wanneer de gegevens die worden gebruikt om een AI-model te trainen niet representatief zijn voor de bredere populatie of ingebedde vooroordelen bevatten;
• Algoritmische bias komt voort uit het ontwerp van de algoritmen zelf, zoals de manier waarop kenmerken worden geselecteerd of hoe het model invoer verwerkt;
• Maatschappelijke bias weerspiegelt de invloed van bredere sociale ongelijkheden en aannames die, vaak onbewust, in AI-systemen worden gecodeerd.

Inzicht in deze vormen van bias is essentieel, omdat ze kunnen leiden tot oneerlijke, onnauwkeurige of zelfs schadelijke beslissingen wanneer AI wordt toegepast in de praktijk.

Er zijn talloze voorbeelden uit de praktijk waarbij bias in AI tot aanzienlijke schade heeft geleid:

• In werving: sommige AI-gestuurde wervingsinstrumenten hebben mannelijke kandidaten bevoordeeld boven vrouwelijke kandidaten, omdat hun trainingsdata historische genderonevenwichtigheden in bepaalde sectoren weerspiegelden;
• In het strafrecht: risicobeoordelingsalgoritmen hebben hogere risicoscores toegekend aan personen uit minderheidsgroepen, waardoor bestaande sociale ongelijkheden werden versterkt;
• In de gezondheidszorg: diagnostische hulpmiddelen die zijn getraind op gegevens van voornamelijk één demografische groep presteerden minder goed bij patiënten uit ondervertegenwoordigde groepen.

Deze voorbeelden onderstrepen waarom het aanpakken van bias in AI niet alleen een technische uitdaging is, maar ook een essentiële ethische verantwoordelijkheid.