‘AI holt het vertrouwen tussen wetenschapper en mens verder uit’

Op 7 november 2024 vond het Gala van de Wetenschap plaats, met als thema ‘kunstmatige intelligentie en de samenleving’. Felienne Hermans, hoogleraar vakdidactiek van de informatica aan de Vrije Universiteit Amsterdam, sprak onderstaande column uit.

‘Als sociale wetenschappers denken dat ze aan het maken van software iets kunnen bijdragen, dan maken ze zichzelf nog belachelijker.’

Is dit een uitspraak van Martin van Rijn, die zo vakkundig het geld van alle faculteiten naar de bèta’s heeft overgeheveld? Nee! Van Eppo Bruins dan, in een futiele poging om zijn draconische bezuinigingen te rechtvaardigen? Nee!

Nee, dames en heren, dit is een uitspraak van Edsger Dijkstra, de vader van de informatica in Nederland.

Nu was Dijkstra natuurlijk niet de alleenheerser van de informatica uit 1973. In de tijd dat Dijkstra deze uitspraak deed, was de informatica eigenlijk een heel divers veld. Wat oudere lezers zullen misschien denken aan Hugo Brandt Corstius, die taalkundige was, én informaticus.

Maar Dijkstra kreeg zijn zin, en informatica huist bijna overal in de bèta- of ingenieursopleidingen. En dat betekent dat we met z’n allen een hele nauwe blik op het veld hebben gekregen, de Bob-de-Bouwer-mentaliteit, waarbij de onderzoeksvraag is ‘kunnen we het maken?’ en het antwoord is ‘nou en of!’. Nu even meten hoe goed het werkt.

Geloof

Maar wetenschap is veel meer dan meten. Als je nu naast iemand zit waar je van houdt, kijk ik hem of haar even in de ogen. Hoe weet je dat die persoon van jou houdt? Hoe weet je dat jij van die persoon houdt? Stop je er bij je partner ’s morgens even de thermometer der liefde in? Nee, natuurlijk niet. Dat geloof je gewoon.

Want geloven is het probleem, niet weten. We wéten dat roken longkanker veroorzaakt, maar we geloven niet dat we Big Tabacco aan banden hoeven te leggen, en daardoor staan de schoolpleinen nu vol met vapende tieners. We wéten dat de aarde opwarmt en dat dat door ons komt, maar we geloven niet dat we er iets aan kunnen, of moeten, doen.

De uitdaging van de wetenschap is, en dat zeg ik met trots, geloven. Als een ander niet gelooft wat wij zeggen, dan maakt het niet uit wat wij meten of weten.

AI-hype

De ‘bètaficering’ van de informatica heb ik nooit méér ervaren dan in de huidige AI-hype. Want waar kunnen we beter bouwen en meten dan in de wereld van de algoritmes?

‘Felienne’, zeggen de AI-liefhebbers, ‘we hebben een artificial intelligence gebouwd en het werkt geweldig! In wel 95 procent van de gevallen geeft de AI het juiste antwoord.’

In eerste instantie was mijn aanvalsplan het aanvalsplan van de bèta. Maar jongens en meisjes (maar vooral jongens), 95 procent klinkt echt wel goed, maar het is niet héél veel, als miljoenen mensen het iedere dag gebruiken, dan gaan daar toch veel foutjes in sluipen, veel ‘hallucinaties‘.

‘Ja, nee, maar’, zeggen ze dan, ‘dat programmeren we er nog wel uit.’ Audrey Lorde zei dat zo treffend: Je kunt het huis van de meester niet ontmantelen met het gereedschap van de meester. Je kan niet winnen op het terrein van de bèta van de bèta’s.

En toen probeerde ik nog andere argumenten in te brengen. ‘Hoe zit dat dan met de diversiteit’, bijvoorbeeld? Want zo’n machine die op data getraind is, kan per definitie alleen de wereld weergeven die we hadden, en niet de wereld die we willen. In de wereld die we hadden, weten we bijvoorbeeld dat zwarte vrouwen systematisch minder pijnbestrijding voorgeschreven krijgen. Als we medicijnadvies met generatieve AI gaan genereren – wat nu in Nederlandse ziekenhuizen al gebeurt! – dan lopen we het risico dat we die bias meenemen, of zelfs verergeren.

En dan zeggen de bouwers ‘Ja maar Felienne, die bias bouwen we er ook nog wel uit, we kunnen zorgen dat de machines alignment hebben met wat wij willen.’ Echter, geen twee mensen willen hetzelfde. Kijk nog even naar die persoon naast je, waar je veel van houdt. Zelfs die wil niet altijd wat jij wil! Mijn man en ik willen in ieder geval niet altijd hetzelfde… Laat staan alle mensen ooit.

Ten koste van

En ten kosten van wat zetten we al die machines in? Die 1,5 graad opwarming, waarvan alle wetenschappers zeiden, let op, dat moeten we niet willen? Daar zijn we nu al. En generatieve AI gaat over twee jaar net zoveel CO₂ uitstoten als heel Nederland. Alle windmolens in de Noordzee, al die zonnepanelen op jullie daken, die hebben we dus voor niks neergezet.

Zodat wat? Zodat je geen wetenschappelijke artikelen meer hoeft te lezen? Maar ik hou van artikelen lezen! Soms zie je één zinnetje in een paper en bouw je daar een hele nieuwe theorie op. Ik wil die kans niet verliezen door een samenvatting te lezen (en als ik al een samenvatting wil lezen, dan krijg je die er bij ieder artikel van de auteurs gratis bij in de vorm van een abstract).

‘Nee, maar, Felienne’, zeggen ze dan, ‘we hebben een idee! We gaan vragen aan de AI hoe we klimaatverandering oplossen. Die AI, die weet alles. Dus die weet ook dat.’

Maar dat weten het toch al? Daar hebben we geen AI voor nodig. Als we een klimaat-AI opstarten, dan zal die meteen het antwoord geven: BIEP BIEP stop met vlees eten. BIEP BIEP stop met olie stoken. Daar hebben we geen AI voor nodig. We weten het al, maar we gelóven niet dat het echt zo erg is.

Opdrogen

Al ver voor AI klaagde wetenschapsjournalist Gaston Dorren in zijn boek Babel, heel terecht, over dat wetenschappers steeds minder tijd hebben om zijn vragen te beantwoorden, en dat de pijplijn van kennis van de wetenschap naar de mens zo zal opdrogen.

De paradox van Jevons, ook afkomstig uit de sociale wetenschappen, zegt dat als we een taak met automatiseren kunnen optimaliseren, er dan gek genoeg meer vraag naar ontstaat. Dus denk maar niet dat als we AI onze artikelen laten schrijven, we dan meer tijd over houden voor wetenschapscommunicatie. Er zal ons alleen maar gevraagd worden om nog meer wetenschap te produceren, want dat gaat toch zo snel met algoritmes?

Ik hoor het mijn decaan al zeggen: ‘Felienne, waarom heb jij vijf papers geschreven en een beetje staan ouwehoeren bij het Gala van de Wetenschap? Je had ook tien papers kunnen schrijven!

Daarom vind ik dat wetenschappers uiterst terughoudend moeten zijn met het gebruik van generatieve AI. Niet alleen vanwege de onbetrouwbaarheid, de bias, en de klimaatimpact, maar vooral omdat het het beeld van de wetenschap (en ook van de kunst, en muziek, en literatuur) vernauwt tot een product waarvan we maar zoveel mogelijk moeten produceren, een puzzel om op te lossen, een patroon om te herkennen. Maar wetenschap gaat over communiceren, van mens tot mens.

Ik ben niet te flauw om toe te geven dat ik nooit een wetenschappelijk artikel heb gelezen over klimaatverandering, of over longkanker en roken. Ik ben een informaticus, kanker of klimaat zijn mijn vakgebieden helemaal niet. Maar ik geloof het onderzoek, want ik vertrouw de wetenschapper die het onderzoek doet, ik vertrouw de journalist die het samenvat, ik vertrouw de overheid die bijbehorend beleid uitvoert – omdat er een relatie van mens tot mens bestaat.

En dat vertrouwen tussen wetenschapper en mens is al zo broos, dat mogen we beslist niet verder uithollen door generatieve AI in te zetten voor inherent menselijk denkwerk.