In de grootste enquête tot nog toe onder AI-onderzoekers zegt een meerderheid dat er een niet-verwaarloosbaar risico bestaat dat de mens uitsterft door de ontwikkeling van AI.
Veel onderzoekers op het gebied van kunstmatige intelligentie (AI) zien de toekomstige ontwikkeling van AI die de mens overtreft als een mogelijk gevaar voor het voortbestaan van onze soort. Al is er ook veel onenigheid en onzekerheid over dergelijke risico’s.
Deze bevindingen komen uit een enquête onder 2700 AI-onderzoekers. De deelnemers zijn erop geselecteerd dat zij nog kort geleden hebben gepubliceerd op de zes belangrijkste AI-conferenties, en dus actief en deskundig zijn in het vakgebied. Het is de grootste enquête in zijn soort tot nu toe.
Socioloog over zelfmoordpreventie: ‘Probeer iemand met suïcidale gedachten uit het dal te helpen’
Socioloog Diana van Bergen en haar collega’s hebben een beurs van 9 ton gekregen voor een zelfmoordpreventieproject. ‘We weten dat er in de direct ...
De enquête vroeg deelnemers hoe zij dachten over mogelijke tijdpaden voor toekomstige technologische mijlpalen op het gebied van AI, en ook van de (goede en slechte) maatschappelijke gevolgen daarvan. Bijna 58 procent van de onderzoekers gaf aan dat er volgens hen een kans van 5 procent is dat de mens uitsterft, of dat er andere extreem slechte AI-gerelateerde uitkomsten zijn.
Vernietiging van de mensheid
‘Dit is een belangrijk signaal dat de meeste AI-onderzoekers het niet ongeloofwaardig vinden dat geavanceerde AI de mensheid vernietigt’, zegt AI-onderzoeker Katja Grace van het Machine Intelligence Research Institute in de Amerikaanse staat Californië, een van de auteurs van het artikel. ‘Ik denk dat dit wijdverbreide geloof in een niet-verwaarloosbaar risico veelzeggender is dan het exacte percentage.’
Maar er is nog geen reden tot paniek, zegt risico-onderzoeker Emile Torres van Case Western Reserve University in Ohio. Veel AI-experts ‘hebben geen goede staat van dienst’ als het gaat om het voorspellen van toekomstige AI-ontwikkelingen’, zegt hen.
Grace en haar collega’s erkennen dat AI-onderzoekers geen experts zijn in het voorspellen van de toekomst van AI. Toch wijzen ze erop dat deelnemers van hun eerdere enquête uit 2016 AI-mijlpalen ‘redelijk goed voorspelden’.
Vergeleken met antwoorden uit een enquête van 2022, voorspelden veel AI-onderzoekers nu dat AI bepaalde mijlpalen eerder zal bereiken dan eerder voorspeld. Dit valt samen met het debuut van ChatGPT in november 2022, en de haast van Silicon Valley om op grote schaal soortgelijke AI-chatbotdiensten in te zetten.
Taylor Swift
De ondervraagde onderzoekers voorspelden dat binnen de komende tien jaar AI-systemen een kans van 50 procent of meer hebben om de meeste van 39 voorbeeldtaken met succes uit te voeren, waaronder het schrijven van liedjes die niet te onderscheiden zijn van een Taylor Swift-hit, of het programmeren van een volledige website. Andere taken, zoals het fysiek installeren van elektrische bedrading in een nieuw huis, of het oplossen van wiskundige vraagstukken, zullen naar verwachting langer duren.
De mogelijke ontwikkeling van AI die de mens in elke taak overtreft, werd geschat op 50 procent kans in 2047, terwijl de mogelijkheid dat alle menselijke banen volledig automatiseerbaar zouden worden, geschat werd op 50 procent in 2016. Deze schattingen liggen 13 jaar en 48 jaar eerder dan die in het onderzoek van vorig jaar.
AI-winter
Maar de hooggespannen verwachtingen over de ontwikkeling van AI kunnen ook niet uitkomen, zegt Torres. ‘Veel van deze doorbraken zijn behoorlijk onvoorspelbaar. En het is heel goed mogelijk dat het AI-veld nog een winter doormaakt.’ Daarmee verwijst Torres naar het opdrogen van de financiering en interesse van bedrijven in AI in de jaren zeventig en tachtig.
Er zijn ook meer acute zorgen zonder bovenmenselijke AI-risico’s. Een grote meerderheid van de AI-onderzoekers, 70 procent of meer, noemde AI-scenario’s met deepfakes, manipulatie van de publieke opinie, AI-wapens, controle over bevolkingen door autoritaire staten en verergering van de economische ongelijkheid ‘substantieel of extreem zorgwekkend’.
Torres benadrukte ook de gevaren van AI die bijdraagt aan desinformatie over existentiële kwesties zoals klimaatverandering of het in stand houden van de democratie. ‘We hebben hier en nu al de technologie die de [Amerikaanse] democratie ernstig kan ondermijnen’, zegt Torres. ‘We zullen zien wat er gebeurt bij de verkiezingen van 2024.’
