‘Een AI-systeem moet kunnen zeggen: dat is geen goed idee’

Hoe meer we uitbesteden aan AI, hoe belangrijker het is dat we AI-systemen kunnen vertrouwen. AI-onderzoeker Pınar Yolum stelt dat betrouwbare AI-systemen bezwaar moeten kunnen maken tegen opdrachten en dat ze het moeten zeggen als ze iets niet weten.

Als we in de toekomst steeds grotere taken willen uitbesteden aan kunstmatige intelligentie (AI), dan moeten we ervoor zorgen dat deze systemen betrouwbaar zijn. Volgens Pınar Yolum, hoogleraar betrouwbare AI aan de Universiteit Utrecht, betekent dat dat AI-systemen onder andere moeten kunnen aangeven dat ze iets niet weten. ‘Neem ChatGPT. Daar krijg je soms heel goede antwoorden van, maar soms ook incorrecte antwoorden. Als een systeem zegt ‘ik weet het niet’ in plaats van dat het een fout antwoord geeft, dan creëert dat betrouwbaarheid.’