Voreingenommenheit in der KI bezeichnet systematische und ungerechte Diskriminierung, die in den Ergebnissen von Systemen der künstlichen Intelligenz auftritt. Diese Voreingenommenheit kann sich in verschiedenen Formen manifestieren, die jeweils eigene Ursprünge und Auswirkungen haben. Die am häufigsten diskutierten Typen sind Datenbias, algorithmischer Bias und gesellschaftlicher Bias.

• Datenbias tritt auf, wenn die zum Trainieren eines KI-Modells verwendeten Daten nicht repräsentativ für die Gesamtbevölkerung sind oder bereits Vorurteile enthalten;
• Algorithmischer Bias entsteht durch das Design der Algorithmen selbst, beispielsweise durch die Auswahl von Merkmalen oder die Art und Weise, wie das Modell Eingaben verarbeitet;
• Gesellschaftlicher Bias spiegelt den Einfluss gesellschaftlicher Ungleichheiten und Annahmen wider, die oft unbewusst in KI-Systeme einfließen.

Das Verständnis dieser Arten von Bias ist entscheidend, da sie zu unfairen, ungenauen oder sogar schädlichen Entscheidungen führen können, wenn KI in realen Anwendungen eingesetzt wird.

Es gab zahlreiche reale Vorfälle, bei denen Bias in der KI zu erheblichen Schäden geführt hat:

• Im Personalwesen: Einige KI-gestützte Rekrutierungswerkzeuge haben männliche Bewerber gegenüber weiblichen bevorzugt, da ihre Trainingsdaten historische Geschlechterungleichgewichte in bestimmten Branchen widerspiegelten;
• In der Strafjustiz: Risikobewertungsalgorithmen haben Personen aus Minderheitengruppen höhere Risikowerte zugewiesen und damit bestehende soziale Ungleichheiten verstärkt;
• Im Gesundheitswesen: Diagnosetools, die auf Daten einer überwiegend einheitlichen Bevölkerungsgruppe trainiert wurden, haben bei Patienten aus unterrepräsentierten Gruppen schlechter abgeschnitten.

Diese Beispiele verdeutlichen, warum die Auseinandersetzung mit Bias in der KI nicht nur eine technische Herausforderung, sondern eine zentrale ethische Verantwortung ist.