Generatiivisen tekoälyn yleistyessä sisällöntuotannossa ja päätöksenteossa on tärkeää varmistaa, että nämä järjestelmät ovat oikeudenmukaisia ja puolueettomia. Koska ne koulutetaan suurilla internetistä kerätyillä tietoaineistoilla, ne voivat omaksua ja jopa vahvistaa olemassa olevia yhteiskunnallisia ennakkoluuloja. Tämä voi muodostua merkittäväksi ongelmaksi erityisesti silloin, kun tekoälyn tuottama sisältö vaikuttaa siihen, miten ihmisiä kohdellaan tai ymmärretään tosielämässä.

Algoritminen vinouma

Generatiiviset mallit, erityisesti suuret kielimallit ja diffuusiopohjaiset kuvageneraattorit, oppivat kaavoja valtavista internetistä kerätyistä tietoaineistoista. Näissä tietoaineistoissa esiintyy usein historiallisia vinoumia, stereotypioita ja edustuksen epätasapainoa. Tämän seurauksena mallit voivat:

• Vahvistaa sukupuoleen, etnisyyteen tai kulttuuriin liittyviä stereotypioita;
• Suosia enemmistöryhmien kielellisiä ilmaisuja tai visuaalisia piirteitä;
• Tuottaa sisältöä, joka syrjäyttää tai jättää huomiotta aliedustettuja yhteisöjä.

Esimerkki

Tekstintuotantomalli voi täydentää lauseen "Lääkäri sanoi…" miespuolisilla pronomineilla ja "Sairaanhoitaja sanoi…" naispuolisilla pronomineilla, mikä heijastaa ammatteihin liittyviä sukupuolistereotypioita.

Ratkaisut:

• Datan auditointi: koulutusdatan järjestelmällinen analysointi epätasapainon tai ongelmallisen sisällön tunnistamiseksi ennen mallin koulutusta;
• Harhan tunnistustyökalut: työkalujen, kuten Fairness Indicatorsin tai räätälöityjen mittareiden, käyttö harhaisten tulosten tunnistamiseen mallin arvioinnin aikana;
• Prompttien suunnittelu: prompttien muokkaaminen tasapainoisempien tulosten edistämiseksi (esim. neutraalin kielen tai eksplisiittisen kontekstin käyttö).

Lievitysstrategiat

Harhan tehokkaaksi vähentämiseksi tutkijat ja kehittäjät soveltavat erilaisia teknisiä ja menettelyllisiä menetelmiä koko mallin elinkaaren ajan:

• Datan tasapainottaminen: aineistojen täydentäminen tai suodattaminen aliedustettujen ryhmien edustuksen lisäämiseksi;
• Harhanpoistotavoitteet: oikeudenmukaisuuteen liittyvien ehtojen lisääminen mallin tappiofunktioon;
• Adversaarinen harhanpoisto: mallien kouluttaminen vastakkaisilla komponenteilla, jotka estävät harhaisten esitysten muodostumista;
• Jälkikäteiskorjaukset: tulosten suodatus- tai uudelleenkirjoitustekniikoiden soveltaminen ongelmallisen sisällön vähentämiseksi.

Esimerkki

Kuvien generoinnissa monipuolisten prompttivariaatioiden, kuten "a Black woman CEO", käyttö auttaa testaamaan ja parantamaan edustuksellista oikeudenmukaisuutta.

Representaatio ja kulttuurinen yleistys

Representaatio-ongelmia syntyy, kun generatiiviset mallit eivät kata kielen, ulkonäön, arvojen ja maailmankuvien koko monimuotoisuutta eri väestöryhmissä. Tämä tapahtuu, kun:

• Data on epäsuhtaisesti peräisin hallitsevista alueista tai kielistä;
• Vähemmistöryhmät ja kulttuurit ovat aliedustettuina tai väärin kuvattuja;
• Visuaaliset mallit eivät yleisty hyvin ihonväreihin, pukeutumiseen tai piirteisiin, jotka eivät kuulu koulutusdatan yleisimpiin kategorioihin.

Esimerkki

Kuvamalli voi tuottaa stereotyyppisesti länsimaisia piirteitä kehotteelle "wedding ceremony", eikä näin ollen edusta maailmanlaajuista kulttuurista monimuotoisuutta.

Ratkaisut

• Inklusiivisten aineistojen kuratointi: käytä monikielisiä ja monikulttuurisia aineistoja, joissa on tasapainoinen edustus;
• Joukkolähteistetty arviointi: kerää palautetta maailmanlaajuisesti monimuotoiselta käyttäjäjoukolta mallin toiminnan auditointiin;
• Kohderyhmien hienosäätö: sovella alakohtaista hienosäätöä suorituskyvyn parantamiseksi eri konteksteissa.