zelfverzekerde onzin (hallucinaties) voorkomen

Kan een kunstmatig intelligent model zelf inschatten wanneer het iets niet weet, om zo zelfverzekerde onzin (hallucinaties) te voorkomen? Onderzoekers van Google DeepMind bogen zich in een studie — gepubliceerd in Nature Machine Intelligence in september 2026 — over deze vraag door te kijken naar hoe grote taalmodellen (zoals Gemma 3, GPT-4o, DeepSeek-V3 en Qwen3) besluiten om te zwijgen.

De belangrijkste bevindingen uit het onderzoek:

• Interne onzekerheid als stuurman: Uit experimenten bleek dat modellen een impliciete drempel hanteren op basis van hun eigen 'confidence' (zekerheid) om te bepalen of ze een vraag beantwoorden of ervoor bedanken. Deze interne zekerheid bleek verreweg de sterkste voorspeller.
• Direct bewijs via 'Activation steering': Door bij het open-source model Gemma 3 de confidence-gerelateerde hersenactiviteit kunstmatig te manipuleren, konden onderzoekers het model direct meer of minder vaak laten zwijgen. Dit levert causaal bewijs dat de onzekerheid echt sturend werkt.
• Metacognitieve controle: De studie toont aan dat AI-systemen een rijkere, multidimensionale interne representatie van onzekerheid bezitten. Als je ze een expliciete drempel meegeeft, passen ze hun weigeringsgedrag daar direct feilloos op aan.

Dit wijst op een fascinerende vorm van gestructureerde metacognitieve controle (zelfreflectie). Een cruciale stap naarmate AI-systemen steeds autonomer en betrouwbaarder moeten gaan functioneren in kritische situaties.

Vraag van de dag

Vind jij dat AI vaker zou moeten zeggen "dat weet ik niet" in plaats van te gokken, of heb je liever dat ze altijd een antwoord proberen te geven? Laat het weten in de reacties!

Blijf kritisch, waardeer de twijfel en tot de volgende update!