AIFokus
AI-forskning og utvikling

Hvorfor "lyver" KI noen ganger? Hallusinasjoner forklart enkelt

O
Ole Gunnar Hellenes··6 min lesing

Sist faktasjekket:

En prikkete linje beholder samme selvsikre sjekkmerke over fylt og tom grunn og viser hvorfor KI ikke merker at den gjetter

Kort oppsummert

En KI-modell “lyver” ikke, men gjetter det mest sannsynlige neste ordet. Mangler den et godt svar, fyller den hullet med noe som høres riktig ut, like selvsikkert som når den har rett. Treningen forsterker dette, fordi modellene belønnes for å gjette i stedet for å innrømme usikkerhet, ifølge OpenAIs egen forskning.

Hva er egentlig en hallusinasjon?

En hallusinasjon er når en KI-modell legger fram noe feilaktig, upresist eller helt oppdiktet som om det var et faktum, uten å vise at den er usikker. Typiske eksempler er en bok som ikke finnes eller en lovparagraf som er feil sitert. Et tredje eksempel er en kilde som høres ekte ut, men som aldri har eksistert.

Begrepet er litt misvisende. Hos et menneske er en hallusinasjon en sanseopplevelse av noe som ikke er der, men en KI-modell har verken sanser eller bevissthet å hallusinere med. Den gjør nøyaktig det samme uansett om svaret er riktig eller feil: Den forutsier det mest sannsynlige neste ordet ut fra alt den har lært. Noen ganger stemmer mønsteret godt med virkeligheten, og andre ganger gjør det ikke det. Modellen selv “merker” ikke forskjellen.

Hvorfor skjer dette? To hovedgrunner

1. Modellen kan ikke skille mellom “vet” og “gjetter godt”

En språkmodell læres opp ved å se enorme mengder tekst, og den finner selv mønstrene i hvordan språk henger sammen. Ingen forteller den hvilke enkeltfakta som er sanne eller usanne. Erik Velldal, som forsker på språkteknologi ved Universitetet i Oslo, forklarer til forskning.no at modellene i bunn og grunn er sannsynlighetsfordelinger over hvilke ord det er mest naturlig å si videre. Møter modellen et spørsmål den mangler god dekning for, fyller den likevel inn et svar, fordi det er det den er bygget for. Den gjetter altså, og den gjør det like selvsikkert som når den faktisk har dekning for svaret.

2. Modeller trenes og testes på en måte som belønner gjetting

OpenAI peker på en årsak som er lett å overse, nemlig måten modellene blir vurdert på under trening. Det skriver selskapet i forskningsartikkelen “Why language models hallucinate” fra september 2025. De fleste tester og rangeringer gir modellen poeng for et riktig svar og null poeng både for et feil svar og for å si “jeg er usikker på dette”. Rent statistisk lønner det seg derfor for modellen å gjette i stedet for å innrømme at den ikke vet. OpenAI sammenligner det med en elev som gjetter på en flervalgsprøve i stedet for å levere blankt. Gjetting gir i det minste en sjanse for poeng, mens et blankt svar garantert gir null. Skal hallusinasjoner bli sjeldnere over tid, må dette insentivet ifølge forskerne endres i selve evalueringen, og ikke bare “fikses” i modellen.

En prøvelapp med svarbobler viser én fylt boble blant flere tomme, som når KI gjetter fremfor å innrømme usikkerhet

Blir det bedre med nyere modeller?

Delvis. Nyere modeller hallusinerer generelt sjeldnere enn tidligere generasjoner, blant annet fordi selskapene har jobbet målrettet med treningsmetoder og evaluering. Reasoning-modeller bruker mer tid på å resonnere seg gjennom et svar før de legger det fram. Også de kan redusere enkelte typer feil, fordi modellen i praksis “dobbeltsjekker” sin egen logikk underveis.

Eldre/mindre modeller Nyere/større modeller Reasoning-modeller
Hallusinerer Oftere Sjeldnere, men ikke aldri Reduserer enkelte logiske feil, men ikke oppdiktede fakta eller kilder
Løser problemet helt Nei Nei Nei

Tre søyler med synkende høyde viser at hallusinasjoner blir sjeldnere i nyere modeller, men aldri forsvinner helt

Men ingen av disse forbedringene fjerner problemet helt. Reasoning reduserer logiske feil på oppgaver med flere steg, men modellen kan fortsatt finne opp et feil faktum eller en kilde som ikke finnes. Forskjellen er bare at den kommer dit via mer overbevisende mellomregning. Modellene bygger fortsatt på å forutsi sannsynlige ord, og i praksis belønnes de fortsatt for å gjette i stedet for å innrømme usikkerhet. Så lenge det er slik, vil hallusinasjoner trolig fortsette å dukke opp, selv om det skjer sjeldnere.

Hvordan kan du beskytte deg mot å bli lurt?

  • Sjekk fakta som faktisk betyr noe mot en uavhengig kilde før du stoler på dem eller bruker dem videre. Det gjelder særlig tall, navn, lovhenvisninger, kilder og datoer.
  • Be modellen om kilder eller lenker, og sjekk at kilden faktisk finnes og sier det modellen påstår. En oppdiktet kilde som ser ekte ut, er et av de vanligste tegnene på en hallusinasjon.
  • Vær ekstra på vakt ved smale eller ferske temaer. Jo mindre data modellen har sett om noe, desto større er sjansen for at den fyller inn hullene selv.
  • Be om at modellen sier fra hvis den er usikker, i stedet for at den gir et bestemt svar. Det hjelper ikke alltid, men enkelte modeller er flinkere til å flagge usikkerhet når du ber uttrykkelig om det.
  • Ikke la selvsikker tone lure deg. En hallusinasjon høres nesten alltid like trygg og velformulert ut som et korrekt svar, så tonefallet sier ingenting om hvor riktig innholdet er.

Vanlige spørsmål

Hallusinerer alle KI-modeller like mye?

Nei, det varierer mellom modeller og oppgavetyper. Nyere, større modeller hallusinerer generelt mindre enn eldre og mindre modeller, men ingen modell er fri for det. Noen oppgaver er dessuten mer utsatt enn andre, for eksempel når du ber om presise sitater eller referanser.

Er hallusinasjoner det samme som at modellen “lyver”?

Nei. Løgn forutsetter en intensjon om å bedra, og det har ikke en KI-modell. Den gjør det samme uansett om svaret er riktig eller feil, nemlig å forutsi det mest sannsynlige neste ordet ut fra mønstre i treningsdataene. Den har ingen bevissthet om hva som faktisk er sant.

Kan hallusinasjoner fjernes helt?

Ikke med dagens teknologi og treningsmetoder, ifølge OpenAIs egen forskning. Det er mulig å redusere dem betydelig med bedre trening og evaluering. Men å garantere at en språkmodell aldri tar feil, vil kreve mer grunnleggende endringer i hvordan modellene fungerer.

Hallusinerer KI mer på norsk enn engelsk?

Det finnes ikke noe entydig svar på dette. En rimelig antakelse er likevel at modeller som har sett mindre treningsdata på et språk, har svakere dekning på det språket. Dermed er risikoen noe høyere for at de fyller inn hull med gjetning. Engelsk er fortsatt det språket de fleste store modeller har sett mest av.

Oppsummering og kilder

Det viktigste å huske:

  • En hallusinasjon er ikke løgn. Modellen har ingen intensjon om å bedra deg
  • Modeller forutsier sannsynlig tekst. De slår ikke opp fakta i en database
  • Vanlig trening og evaluering belønner gjetting fremfor å innrømme usikkerhet, ifølge OpenAIs egen forskning
  • Nyere modeller og reasoning reduserer hallusinasjoner, men fjerner dem ikke
  • Sjekk alltid tall, navn, kilder og datoer selv, uavhengig av hvor sikkert svaret virker

Kilder brukt i denne artikkelen:

Sist oppdatert: August 2026

Les også

#ai-forskning#hallusinasjon#chatgpt#claude