Een van de meest verontrustende verschijnselen rond AI waar ik de laatste tijd op stuitte, zijn de zogeheten spookreferenties.
Niet omdat AI fouten maakt. Dat wisten we al. Maar omdat het laat zien hoe gemakkelijk die fouten ongemerkt onderdeel worden van de werkelijkheid.
Sommige wetenschappers gebruikten AI niet eens om hun onderzoek te schrijven. Ze vroegen alleen of de referentielijst netjes op alfabet kon worden gezet of in de juiste stijl kon worden opgemaakt. Tijdens dat ogenschijnlijk onschuldige klusje verschenen er ineens wetenschappelijke publicaties die helemaal niet bestonden.
En niemand zag het. Niet de onderzoeker. Niet de reviewers. Niet de uitgever.
Een verzonnen bron wordt vervolgens door een volgende onderzoeker weer geciteerd. Daarna nog een keer. En voor je het weet krijgt een niet-bestaand onderzoek een eigen geschiedenis.
Dat vind ik eerlijk gezegd een angstaanjagende gedachte.
We hebben AI vaak voorgesteld als een hulpmiddel dat ons werk sneller maakt. Maar snelheid heeft een prijs. Elke minuut die AI ons bespaart, is ook een minuut waarin we iets minder zorgvuldig lijken te controleren.
Het wrange is dat de wetenschap juist gebouwd is op controle. Op wantrouwen zelfs. Een bewering is pas iets waard als iemand anders haar heeft nagelopen.
Misschien verschuift de rol van AI de komende jaren wel veel minder dan we denken. Niet AI moet slimmer worden. Wij moeten zorgvuldiger blijven.
Ik hoorde onlangs dat een grote wetenschappelijke uitgever een paar jaar geleden ongeveer tien mensen had die dit soort controles uitvoerden. Inmiddels zouden dat er ongeveer honderd zijn. Dat zegt eigenlijk alles. Niet omdat AI onbetrouwbaarder is geworden, maar omdat we steeds meer mensen nodig hebben om de rommel op te ruimen die AI kan achterlaten.
Misschien is dat wel de grootste paradox van AI. De technologie die bedoeld is om tijd te besparen, zorgt er uiteindelijk voor dat we veel meer tijd kwijt zijn aan controleren of wat we lezen eigenlijk wel bestaat.
Volg Mij !