TL;DR
- Wat: Onderzoekers van Microsoft Research en universiteiten gebruiken AI om te achterhalen wat specifieke hersengebieden doen wanneer je taal verwerkt — en testen die verklaringen vervolgens in een hersenscanner.
- Waarom relevant: Dit onderzoek laat zien dat 'black box'-AI-modellen wél begrijpelijk te maken zijn — precies wat de EU AI Act straks van bedrijven verwacht.
- Wat je ermee kunt: Volg de ontwikkelingen rond explainable AI, want de technieken die hier worden gebruikt komen steeds dichter bij toepassingen die jij als ondernemer tegenkomt.
Ik viel over een tweet van Microsoft Research die me nieuwsgierig maakte: onderzoekers hebben een methode ontwikkeld om ondoorgrondelijke AI-modellen om te zetten in heldere, toetsbare hypotheses over het menselijk brein. Het onderzoek is gepubliceerd in Nature Neuroscience, en wat mij betreft zit er een verrassend relevante boodschap in voor ondernemers die met AI werken.
Wat is generative causal testing?
De methode heet generative causal testing (GCT) en werkt in twee stappen. Eerst neem je een AI-model dat hersenactiviteit voorspelt op basis van taal — een zogeheten encoding model. Dat model is op zichzelf een black box: het voorspelt wel iets, maar legt niet uit waarom. GCT vertaalt die voorspellingen naar korte, begrijpelijke beschrijvingen. Denk aan zinnetjes als "dit hersengebied reageert op voedselbereiding" of "dit stukje cortex reageert op plaatsnamen."
Dan komt stap twee: verificatie. Een taalmodel schrijft nieuwe verhaaltjes die specifiek bedoeld zijn om dat hersengebied te activeren. Proefpersonen luisteren naar die verhalen in een fMRI-scanner, en als het hersengebied inderdaad oplicht, klopt de verklaring.
Wat ik hier mooi aan vind: het is eigenlijk de wetenschappelijke methode, maar dan versneld door AI. Je stelt een hypothese op, je ontwerpt een experiment, en je kijkt of het klopt. Alleen gebeurt het opstellen van die hypothese nu automatisch.
Wat hebben ze gevonden?
De onderzoekers — van Microsoft Research, UC Berkeley, Columbia University en UCSF — hebben een aantal opvallende dingen ontdekt.
Ze konden drie hersengebieden die betrokken zijn bij plaatsverwerking (de retrospleniale cortex, de parahippocampale plaatsregio en de occipitale plaatsregio) van elkaar onderscheiden. Dat klinkt misschien technisch, maar het punt is: deze gebieden werden lang als min of meer inwisselbaar beschouwd. Met GCT bleek dat de retrospleniale cortex sterker reageert op eigennamen van locaties — "Tokyo", "Connecticut" — terwijl de andere gebieden reageren op meer algemene plaatsbeschrijvingen.
Kleine hersengebieden met verrassende voorkeuren
Nog opvallender: in de prefrontale cortex vonden ze minuscule gebiedjes — micro-regio's — die heel specifiek reageren op concepten als dialoog (woorden als "zei" en "vertelde"), kloktijden ("één uur") en numerieke metingen ("vijftig meter"). Dat zijn niet de grote hersengebieden waar neurowetenschappers zich doorgaans op richten, maar piepkleine plekjes met een verrassend scherp profiel.
Ik vind het eerlijk gezegd fascinerend dat je met AI zulke fijnmazige patronen kunt blootleggen. Het is alsof je een landkaart had van een continent, en nu ineens de straatnamen kunt lezen.
Waarom dit verder gaat dan hersenonderzoek
Het echte verhaal zit volgens mij niet alleen in de neurowetenschappelijke resultaten. Het gaat om het principe: je neemt een AI-model dat werkt maar niet uitlegt, en je maakt het begrijpelijk. De onderzoekers schrijven zelf dat GCT "oninterpreteerbare voorspellende modellen terugvertaalt naar de munt van de wetenschap: bondige hypotheses die bevestigd of weerlegd kunnen worden."
Dat principe is breder toepasbaar dan hersenscanners. Stel dat je als ondernemer een AI-model gebruikt voor klantsegmentatie, fraudedetectie of personeelsplanning. Dat model doet voorspellingen, maar kun je uitleggen waarom het een bepaalde uitkomst geeft? Met een aanpak als GCT zou je — in theorie — die voorspellingen kunnen omzetten in toetsbare verklaringen.
Ik zeg bewust "in theorie", want dit onderzoek speelt zich af in een gecontroleerde wetenschappelijke setting. Maar de richting is helder.
De link met de EU AI Act
En die richting is ook juridisch relevant. Per augustus 2026 moeten bedrijven die AI-systemen met een hoog risico inzetten voldoen aan de EU AI Act. Een van de kernvereisten: transparantie en uitlegbaarheid. Je moet kunnen aantonen hoe je AI-systeem tot een beslissing komt, van trainingsdata tot eindresultaat.
Voor veel MKB-ondernemers voelt dat als een ver-van-mijn-bedshow. Maar als je AI inzet voor beslissingen die mensen raken — denk aan sollicitatiescreening, kredietbeoordeling of medische triage — dan val je mogelijk onder de categorie 'hoog risico'. De boetes zijn niet mals: tot 35 miljoen euro of 7 procent van de wereldwijde jaaromzet voor de zwaarste overtredingen.
Wat dit Microsoft-onderzoek laat zien, is dat de technische gereedschappen om AI uitlegbaar te maken in ontwikkeling zijn. Het is geen opgelost probleem, maar het is ook geen sciencefiction meer. Onderzoekers vinden manieren om black-box-modellen open te breken en te vertalen naar iets dat mensen kunnen begrijpen en toetsen.
Wat betekent dit voor jou als ondernemer?
Laat ik eerlijk zijn: je gaat morgen geen generative causal testing toepassen in je bedrijf. Dit is fundamenteel onderzoek, geen kant-en-klaar product. Maar er zijn wel een paar dingen die ik hieruit meeneem.
Ten eerste: de vraag "Kun je uitleggen wat je AI doet?" wordt steeds belangrijker. Niet alleen vanuit regelgeving, maar ook vanuit vertrouwen. Klanten, medewerkers en toezichthouders willen begrijpen waarom een systeem een bepaalde uitkomst geeft.
Ten tweede: de technieken om die uitleg te geven worden beter. Dit onderzoek laat zien dat je zelfs bij complexe, onleesbare modellen systematisch kunt achterhalen wat ze oppikken. Dat is hoopgevend voor iedereen die AI wil gebruiken maar ook wil snappen wat er onder de motorkap gebeurt.
Kun je je voorstellen wat het zou betekenen als je bij elke AI-beslissing in je bedrijf een korte, begrijpelijke uitleg zou krijgen? Niet een technische dump van gewichten en parameters, maar een zin als: "Dit model heeft deze klant als risicovol beoordeeld vanwege betalingsgedrag in de afgelopen zes maanden." Dat is waar dit soort onderzoek naartoe beweegt.
Een korte observatie tot slot
Voor mij is dit onderzoek vooral een signaal dat de wereld van AI langzaam verschuift van "het werkt, maar we weten niet precies waarom" naar "het werkt, en we kunnen laten zien hoe." Dat is een verschuiving die ik als ondernemer toejuich. Niet omdat ik alles tot op de bodem hoef te begrijpen, maar omdat uitlegbaarheid de basis is van vertrouwen. En vertrouwen is uiteindelijk waar elke zakelijke relatie op drijft.