Con la crescente diffusione dell'IA generativa nella creazione di contenuti e nei processi decisionali, è fondamentale garantire che questi sistemi siano equi e privi di pregiudizi. Poiché vengono addestrati su grandi insiemi di dati provenienti da internet, possono assimilare e persino amplificare i bias sociali esistenti. Questo può rappresentare un problema serio, soprattutto quando l'output dell'IA influisce sul modo in cui le persone vengono trattate o comprese nella vita reale.

Bias algoritmico

I modelli generativi, in particolare i grandi modelli linguistici e i generatori di immagini basati su diffusione, apprendono schemi da enormi insiemi di dati raccolti da internet. Questi dataset contengono frequentemente bias storici, stereotipi e squilibri nella rappresentazione. Di conseguenza, i modelli possono:

• Rafforzare stereotipi di genere, razziali o culturali;
• Privilegiare schemi linguistici o tratti visivi del gruppo dominante o maggioritario;
• Generare contenuti che marginalizzano o escludono comunità sottorappresentate.

Esempio

Un modello di generazione di testo può completare la frase "Il dottore ha detto…" con pronomi maschili e "L'infermiera ha detto…" con pronomi femminili, riflettendo ruoli di genere stereotipati nelle professioni.

Soluzioni:

• Audit dei dati: analisi sistematica dei dati di addestramento per individuare squilibri o contenuti problematici prima dell'addestramento;
• Strumenti di rilevamento dei bias: utilizzo di strumenti come Fairness Indicators o metriche personalizzate per identificare output distorti durante la valutazione del modello;
• Prompt engineering: modifica dei prompt per favorire output più equilibrati (ad esempio, utilizzando un linguaggio neutro o un contesto esplicito).

Strategie di mitigazione

Per affrontare efficacemente i bias, ricercatori e sviluppatori applicano una varietà di metodi tecnici e procedurali durante l'intero ciclo di vita del modello:

• Bilanciamento dei dati: aumento o filtraggio dei dataset per incrementare la rappresentazione dei gruppi sottorappresentati;
• Obiettivi di debiasing: aggiunta di termini orientati all'equità nella funzione di perdita del modello;
• Debiasing avversariale: addestramento dei modelli con componenti avversariali che scoraggiano rappresentazioni distorte;
• Correzioni post-hoc: applicazione di tecniche di filtraggio o riscrittura degli output per ridurre contenuti problematici.

Esempio

Nella generazione di immagini, la condizionamento su variazioni di prompt diversificate come "una CEO donna nera" consente di testare e migliorare l'equità rappresentativa.

Rappresentazione e Generalizzazione Culturale

I problemi di rappresentazione emergono quando i modelli generativi non riescono a cogliere la piena diversità di linguaggi, aspetti, valori e visioni del mondo tra diverse popolazioni. Ciò si verifica quando:

• I dati provengono in modo sproporzionato da regioni o lingue dominanti;
• Gruppi e culture minoritari sono sottorappresentati o caratterizzati in modo errato;
• I modelli visivi non generalizzano adeguatamente a tonalità della pelle, abbigliamento o caratteristiche al di fuori delle categorie più frequenti nel set di addestramento.

Esempio

Un modello di immagini può generare caratteristiche tipicamente occidentali per prompt come "cerimonia nuziale", non riuscendo a rappresentare la diversità culturale globale.

Soluzioni

• Curazione di dataset inclusivi: utilizzo di dataset multilingue e multiculturali con rappresentazione bilanciata;
• Valutazione tramite crowdsourcing: raccolta di feedback da un insieme globalmente diversificato di utenti per verificare il comportamento del modello;
• Fine-tuning su demografie target: applicazione di fine-tuning specifico per dominio per migliorare le prestazioni nei diversi contesti.