In haar boek Regels voor robots pleit Katleen Gabriels, moraalfilosofe aan de Universiteit Maastricht, voor ethische regels voor robots en systemen die draaien op kunstmatige intelligentie. En voor ingenieurs.
Een stofzuigrobot die je huis schoonmaakt en een robotchirurg die een precisieoperatie uitvoert. Zomaar twee voorbeelden van kunstmatige intelligentie (KI) in het leven anno 2020. Of we het willen of niet, we kunnen niet meer om KI heen. In combinatie met big data leidt dit tot ongekende mogelijkheden. De techniek roept tegelijkertijd vele vragen op. Welke beslissingen delegeren we bijvoorbeeld aan machines en welke niet? En wie bepaalt wat zelflerende systemen leren?
Katleen Gabriels houdt zich al haar halve leven bezig met grote levensvragen. Onlangs verscheen haar boek Regels voor robots waarin ze pleit voor regels voor robots en KI-systemen, maar ook voor ingenieurs en andere ontwerpers. ‘Ik hou me bezig met vragen over diepmenselijke thema’s zoals moraliteit en technologie’, zegt ze. ‘De fascinatie ontstond tijdens mijn promotieonderzoek. Dat ging over Second Life, de virtuele wereld zonder regels waarin je jezelf zogezegd opnieuw kon uitvinden. Vragen over regels, morele kwesties en nieuwe computertechnologie kwamen vanzelf bovendrijven en die boeien mij nog steeds.’
Waarom dwangmatige positiviteit slecht is voor je mentale gezondheid
Een positieve mindset heeft voordelen, maar je kunt ook te ver gaan. Onderzoek naar ‘toxische positiviteit’ kan de balans herstellen.
U doet onderzoek op het grensvlak van techniek en filosofie. Wat is daar zo interessant aan?
‘Techniek is verweven met de mens en die verbondenheid wordt alleen maar sterker. Als je vroeger slechte ogen had, was dat heel vervelend. Met de uitvinding van de bril verbeterden vele levens. Technisch gezien kunnen we steeds meer. KI-systemen kruipen letterlijk onder de huid. De vraagt rijst dan in hoeverre we nog kunnen uitloggen en hoe we ervoor kunnen zorgen dat mensen kritisch kunnen omgaan met de informatie waarmee ze worden overspoeld. Deze tijd schreeuwt om ethiek om ons te helpen lastige beslissingen te nemen.’
Technische vernieuwingen en innovaties gaan razendsnel. Wat gisteren onmogelijk leek, is morgen een fluitje van een cent.
‘Dat is waar. Kunstmatige intelligentie bestaat sinds de jaren vijftig en doorging sindsdien een aantal zomers en winters. Dankzij deze techniek kunnen computers met elkaar communiceren en zijn zelfrijdende auto’s volop in ontwikkeling. De zoekmachine van Google, de tijdlijn van Facebook en Alexa van Amazon: veel van onze dagelijkse technologie bevat KI-toepassingen. En dat wordt alleen maar meer.’
We staan voor een periode waarin we alles kunnen bedenken en uitvinden. Maar willen we dat en wie bepaalt dat?
‘Over deze vraag moet je in debat gaan met onderzoekers, burgers en beleidsmakers. Dat gaat traag omdat het over zulke grote en soms delicate kwesties gaat. Over het algemeen ben ik optimistisch. De eerste reageerbuisbaby werd in 1978 geboren. Nu zijn we meer dan veertig jaar verder en is er een wettelijk en democratisch kader voor, althans in de Lage Landen.’
In uw boek pleit u voor ethische regels voor zowel robots als ingenieurs.
‘Ook ingenieurs moeten hun morele verantwoordelijkheid nemen en op voorhand – dus voordat een prototype wordt gemaakt – stilstaan bij ethische vraagstukken. Ik laat tijdens lezingen en lessen vaak een filmpje zien van een automatisch zeeppompje dat niet werkt bij zwarte handen omdat die minder licht reflecteren dan witte. Dit probleem had voorkomen kunnen worden als het product op voorhand was getest met een brede groep gebruikers.
Hier ligt de verantwoordelijkheid bij de programmeurs en ingenieurs, maar niet alléén bij hen. Als je een verandering teweeg wilt brengen, zal dat ook moeten gebeuren binnen de muren van universiteiten en hogescholen en zul je er ook op de werkvloer aandacht aan moeten besteden. Maar ook beleidsmakers moeten er aandacht aan besteden. De tijd van profits before principles moeten we, zeker bij de grote tech-bedrijven, definitief achter ons laten.’
Hoe maakt u zelf morele keuzes?
‘Door de dialoog aan te gaan, bijvoorbeeld via het onderwijs, en vervolgens dat debat in kaart te brengen, zoals in Regels voor robots. Het gaat namelijk altijd om afwegingen. Wat goed is voor een bedrijf, kan minder goed zijn voor een klant. Als ik met studenten werk, laat ik ze vragen stellen en de dialoog voeren om daarna afwegingen te maken. Daar leren ze ook dat moraliteit contextafhankelijk is.’
Wat is de rol van kunstmatige intelligentie in 2030 in Nederland?
‘Ik vind dat een ingewikkelde vraag, maar ik denk dat we zullen voortborduren op wat we vandaag de dag doen. In bepaalde vakgebieden, zoals de geneeskunde, zal het sneller gaan. KI-systemen zijn al beter in het diagnosticeren van borstkanker dan artsen. Een computer ziet bepaalde afwijkingen sneller en nauwkeuriger dan mensen doen. Daarnaast zal de samenwerking tussen de mens en KI-systemen nog intensiever worden en moeten we besluiten nemen op basis van waar beide goed in zijn. Dat een eigenschap als empathie kan worden gekoppeld aan een machine is een utopie.’
Bent u er ook bang voor?
‘Angst is een slechte raadgever. We moeten vooral inzetten op bewustwording.’
