Hallusinasjoner: Hvorfor KI Selvsikkert Tar Feil

Du har lært hvordan du får nyttige resultater fra KI. Nå er det på tide å lære når du ikke skal stole på dem.

KI-verktøy er flytende, selvsikre og raske. De er også i stand til å produsere informasjon som høres helt plausibel ut — men som er fullstendig feil. Å forstå hvorfor dette skjer er en av de viktigste tingene du kan ta med deg fra dette kurset.

Hva er en hallusinasjon?

Eksempler på hallusinasjoner i praksis:

• En advokat leverer et juridisk notat med henvisning til seks rettssaker. Alle seks var oppdiktet av ChatGPT. Ingen av dem eksisterte;
• En AI-generert produktbeskrivelse inneholder en teknisk spesifikasjon som virker troverdig, men som er fullstendig oppdiktet;
• Et sammendrag av en forskningsartikkel inneholder en statistikk som aldri forekom i det opprinnelige dokumentet;
• En AI anbefaler en spesifikk forskrift eller lov som ikke eksisterer i den nevnte jurisdiksjonen.

AI-en vet ikke at den tar feil. Den lyver ikke. Den gjør nøyaktig det den er designet for å gjøre — generere den mest sannsynlige fortsettelsen av teksten — og i disse tilfellene fører denne prosessen til feilaktig innhold.

Hvorfor skjer dette?

Som nevnt i Seksjon 1: AI forutsier neste tegn basert på mønstre. Den har ingen intern faktasjekk. Den har ingen bevissthet om hva den vet eller ikke vet.

Når modellen får et spørsmål den ikke kan besvare pålitelig, stopper den ikke — den genererer et svar som passer til mønsteret av hvordan et korrekt svar ville sett ut. Resultatet er innhold som er flytende, strukturert og feil.

Hallusinasjoner er mer sannsynlig når:

• Du spør om svært spesifikke fakta, statistikker eller referanser;
• Du spør om nylige hendelser etter modellens treningskutt-off-dato;
• Du spør om nisjetemaer med begrenset treningsdata;
• Spørsmålet har en "fyll inn det tomme"-struktur som inviterer til oppdiktning.

Hva hallusinasjoner ikke er

Det er verdt å være presis om dette:

• Hallusinasjoner er ikke at KI er villedende eller ondsinnet;
• De er ikke et tegn på at KI er ødelagt eller ubrukelig;
• De er ikke tilfeldige feil — de følger forutsigbare mønstre;
• De er ikke unike for ett verktøy — alle større KI-systemer hallusinerer.

Dette er en strukturell egenskap ved hvordan språkmodeller fungerer. Riktig respons er ikke å unngå KI — det er å vite når man må verifisere.

Den gyldne regel: Flyt er ikke nøyaktighet

Det viktigste å forstå om KI-utdata:

Et svar kan være vakkert skrevet, logisk strukturert, og fullstendig feil.

Kvaliteten på språket sier ingenting om kvaliteten på informasjonen. KI skriver med jevn selvsikkerhet uavhengig av om det er korrekt. Behandle alltid fakta, statistikk, navn, datoer og referanser som uverifiserte inntil du har sjekket dem.