AI werkt niet zoals een zoekmachine die antwoorden opzoekt. Het voorspelt woord voor woord wat het meest logische volgende woord is, op basis van alles wat het ooit heeft gelezen. Meestal klopt dat prima. Maar soms “glijdt” het model weg naar iets wat klinkt als een goed antwoord, maar feitelijk nergens op slaat.

Een simpel voorbeeld: stel je voor dat je een vriend hebt die onwijs veel heeft gelezen, boeken, artikelen, forums, alles. Als jij hem iets vraagt, combineert hij razendsnel alles wat hij ooit heeft gelezen en geeft hij je een antwoord. Dat gaat negen van de tien keer goed. Maar soms combineert hij dingen op de verkeerde manier en vertelt hij je met volle overtuiging iets wat gewoon niet klopt. Niet omdat hij liegt, maar omdat het voor hem logisch aanvoelde.

Dat is precies wat AI doet als het hallucineert. En het lastige is: AI geeft zelf geen signaal dat het aan het gokken is. Het antwoord ziet er altijd even zelfverzekerd uit, of het nu klopt of niet.