Waarom hallucineert AI?

AI-hallucinaties verwijzen naar antwoorden die overtuigend klinken maar feitelijk onjuist of verzonnen zijn, zoals fictieve publicaties of foutieve weergaven van bestaande onderzoeken. Dit fenomeen kan moeilijk te herkennen zijn, omdat resultaten vaak aannemelijk zijn maar belangrijke details missen. Een recent onderzoek van OpenAI, gepubliceerd in september 2025, biedt inzicht in de achterliggende mechanismen van deze hallucinaties, gerelateerd aan de trainings- en beoordelingsmethodes van AI-systemen.

Een cruciaal aspect van het probleem is de vergelijking met een toets waarbij gokken meer kan opleveren dan het geven van een onbevestigd antwoord. Wanneer systemen alleen beoordelen op basis van correctheid en onjuiste antwoorden niet strenger worden bestraft, zal een model geneigd zijn te gokken om betere scores te behalen. Het onderzoek pleit voor een heroverweging van beoordelingscriteria, waarbij zelfverzekerde onjuistheden zwaarder moeten worden bestraft en gepaste onzekerheid meer waardering kan krijgen.

Als gebruiker van AI-tools is het essentieel om een kritisch oog te houden op de gegeven antwoorden. Het wordt aangeraden om de oorsprong van belangrijke uitspraken te controlen, bijvoorbeeld door te vragen naar de originele bron en deze zelf te verifiëren. Specifieke instructies kunnen helpen om de verwachte resultaten te sturen, hoewel deze aanpak ook geen garanties biedt voor foutloze outputs. Het definiëren van verantwoordelijkheden binnen organisaties is eveneens van belang; wie is belast met de controle en goedkeuring van AI-gegenereerde informatie?

Een handige techniek om accuratesse te bevorderen is het toepassen van factcheckprompts. Door het AI-systeem aan te sporen om zijn eerdere antwoorden kritisch te herzien, kunnen fouten en ontbrekende bronnen worden geïdentificeerd. Dit omvat het systematisch controleren van beweringen met behulp van originele bronnen, zodat gebruikers beter geïnformeerde beslissingen kunnen nemen op basis van correctieve informatie. Deze methoden kunnen helpen om de risico's van AI-hallucinaties te mitigeren en zorgen voor een meer betrouwbare inzet van technologie in zakelijke toepassingen.

Lees het volledige artikel van AI Insider.