Mit der zunehmenden Verbreitung von Generative AI in der Inhaltserstellung und Entscheidungsfindung ist es wichtig, sicherzustellen, dass diese Systeme fair und unvoreingenommen sind. Da sie auf großen Datensätzen aus dem Internet trainiert werden, können sie bestehende gesellschaftliche Vorurteile übernehmen und sogar verstärken. Dies kann ein ernsthaftes Problem darstellen, insbesondere wenn die Ergebnisse der KI beeinflussen, wie Menschen im realen Leben behandelt oder wahrgenommen werden.

Algorithmische Voreingenommenheit

Generative Modelle, insbesondere große Sprachmodelle und bildgenerierende Diffusionsmodelle, lernen Muster aus umfangreichen Datensätzen, die aus dem Internet gesammelt wurden. Diese Datensätze enthalten häufig historische Vorurteile, Stereotype und Ungleichgewichte in der Repräsentation. Dadurch können Modelle:

• Geschlechter-, ethnische oder kulturelle Stereotype verstärken;
• Sprachmuster oder visuelle Merkmale von dominanten oder Mehrheitsgruppen bevorzugen;
• Inhalte generieren, die unterrepräsentierte Gemeinschaften marginalisieren oder ausschließen.

Beispiel

Ein Textgenerierungsmodell könnte den Satz „Der Arzt sagte…“ mit männlichen Pronomen und „Die Krankenschwester sagte…“ mit weiblichen Pronomen vervollständigen, was stereotype Geschlechterrollen in Berufen widerspiegelt.

Lösungen:

• Datenüberprüfung: Systematische Analyse der Trainingsdaten auf Ungleichgewichte oder problematische Inhalte vor dem Training;
• Werkzeuge zur Bias-Erkennung: Einsatz von Tools wie Fairness Indicators oder benutzerdefinierten Metriken zur Identifikation voreingenommener Ausgaben während der Modellevaluierung;
• Prompt-Engineering: Anpassung von Prompts, um ausgewogenere Ausgaben zu fördern (z. B. durch neutrale Sprache oder expliziten Kontext).

Strategien zur Minderung

Zur effektiven Bekämpfung von Bias wenden Forschende und Entwickelnde verschiedene technische und prozedurale Methoden im gesamten Modelllebenszyklus an:

• Datenbalancierung: Ergänzung oder Filterung von Datensätzen zur Erhöhung der Repräsentation unterrepräsentierter Gruppen;
• Debiasing-Ziele: Hinzufügen von Fairness-orientierten Begriffen zur Verlustfunktion des Modells;
• Adversariales Debiasing: Training von Modellen mit adversarialen Komponenten, die voreingenommene Repräsentationen unterbinden;
• Nachträgliche Korrekturen: Anwendung von Filter- oder Umschreibtechniken auf Ausgaben zur Reduzierung problematischer Inhalte.

Beispiel

Bei der Bildgenerierung hilft das Konditionieren auf vielfältige Prompt-Variationen wie "eine schwarze Frau als CEO", die Repräsentationsgerechtigkeit zu testen und zu verbessern.

Repräsentation und kulturelle Generalisierung

Repräsentationsprobleme entstehen, wenn generative Modelle die gesamte Vielfalt von Sprache, Erscheinungsbildern, Werten und Weltanschauungen verschiedener Bevölkerungsgruppen nicht erfassen. Dies tritt auf, wenn:

• Daten überproportional aus dominanten Regionen oder Sprachen stammen;
• Minderheitengruppen und Kulturen unterrepräsentiert oder falsch dargestellt werden;
• Visuelle Modelle sich nicht gut auf Hauttöne, Kleidung oder Merkmale außerhalb der häufigsten Kategorien im Trainingsdatensatz verallgemeinern lassen.

Beispiel

Ein Bildmodell kann für Eingaben wie "Hochzeitszeremonie" stereotypisch westliche Merkmale generieren und so die globale kulturelle Vielfalt nicht abbilden.

Lösungen

• Kuratiert inklusive Datensätze: Verwendung von mehrsprachigen, multikulturellen Datensätzen mit ausgewogener Repräsentation;
• Crowdsourcing-basierte Evaluation: Feedback von einer global vielfältigen Nutzerschaft einholen, um das Modellverhalten zu überprüfen;
• Feinabstimmung auf Zielgruppen: Domänenspezifische Feinabstimmung anwenden, um die Leistung in verschiedenen Kontexten zu verbessern.