Hallusinaatiot: Miksi Tekoäly Erehdyy Itsevarmasti

Olet oppinut, miten saat hyödyllisiä tuloksia tekoälyltä. Nyt on aika oppia, milloin niihin ei kannata luottaa.

Tekoälytyökalut ovat sujuvia, itsevarmoja ja nopeita. Ne pystyvät myös tuottamaan tietoa, joka kuulostaa täysin uskottavalta — mutta on täysin väärin. Ymmärrys siitä, miksi näin tapahtuu, on yksi tärkeimmistä asioista, jotka voit oppia tältä kurssilta.

Mikä on hallusinaatio?

Esimerkkejä hallusinaatioista käytännössä:

• Asianajaja toimittaa oikeudelle lausunnon, jossa viitataan kuuteen oikeustapaukseen. Kaikki kuusi tapausta olivat ChatGPT:n keksimiä. Yhtäkään niistä ei ollut olemassa;
• Tekoälyn tuottama tuotekuvaus sisältää teknisen ominaisuuden, joka kuulostaa uskottavalta, mutta on täysin keksitty;
• Tutkimusartikkelin tiivistelmässä esiintyy tilastotieto, jota ei ollut alkuperäisessä dokumentissa;
• Tekoäly suosittelee tiettyä säädöstä tai lakia, jota ei ole olemassa mainitulla lainkäyttöalueella.

Tekoäly ei tiedä olevansa väärässä. Se ei valehtele. Se tekee juuri sitä, mihin se on suunniteltu — tuottamaan tilastollisesti todennäköisimmän jatkon tekstille — ja näissä tapauksissa tämä prosessi tuottaa virheellistä sisältöä.

Miksi näin tapahtuu?

Muista kohdasta 1: Tekoäly ennustaa seuraavan tokenin mallien perusteella. Sillä ei ole sisäistä faktantarkistajaa. Sillä ei ole tietoisuutta siitä, mitä se tietää ja mitä ei.

Kun malli kohtaa kysymyksen, johon se ei pysty luotettavasti vastaamaan, se ei pysähdy — vaan tuottaa vastauksen, joka sopii oikean vastauksen malliin. Tuloksena on sujuvaa, rakenteellista ja virheellistä sisältöä.

Hallusinaatiot ovat todennäköisempiä, kun:

• Kysyt hyvin tarkkoja faktoja, tilastoja tai viittauksia;
• Kysyt tuoreista tapahtumista, jotka ovat mallin koulutusajankohdan jälkeen;
• Kysyt kapeista aiheista, joista on vähän koulutusdataa;
• Kysymys on "täydennä lause" -tyyppinen, mikä houkuttelee keksimään sisältöä.

Mitä harhat eivät ole

On syytä olla tarkka tässä asiassa:

• Harhat eivät tarkoita, että tekoäly olisi petollinen tai pahantahtoinen;
• Ne eivät ole merkki siitä, että tekoäly olisi rikki tai käyttökelvoton;
• Ne eivät ole satunnaisia virheitä — niissä on ennustettavia kaavoja;
• Ne eivät ole yhden työkalun ominaisuus — kaikki merkittävät tekoälyjärjestelmät tuottavat harhoja.

Kyseessä on kielellisten mallien rakenteellinen ominaisuus. Oikea suhtautuminen ei ole välttää tekoälyä, vaan tietää milloin tarkistaa tiedot.

Kultainen sääntö: sujuvuus ei ole sama kuin oikeellisuus

Tärkein asia, joka tekoälyn tuotoksista tulee sisäistää:

Vastaus voi olla erinomaisesti kirjoitettu, loogisesti jäsennelty ja täysin väärä.

Kielen laatu ei kerro mitään tiedon laadusta. Tekoäly kirjoittaa johdonmukaisella varmuudella riippumatta siitä, onko se oikeassa. Kohtele aina faktoja, tilastoja, nimiä, päivämääriä ja viittauksia varmistamattomina, kunnes olet tarkistanut ne.