Almachtige algoritmes in een geautomatiseerde wereld

Een algoritme dat in staat is je ware liefde te vinden: geloofwaardig of een brug te ver?

Veel mensen zijn lichtgelovig als het om algoritmes draait, vanwege hun onkunde om te begrijpen wat ze nou eigenlijk zijn. Hier wordt dan ook gretig gebruik van gemaakt door mensen die mythes exploiteren over waar algoritmes wel en niet toe in staat zijn. Om deze onwetendheid weg te nemen, laat wiskundige Hannah Fry in haar boek Algoritmes aan de macht zien waar een algoritme zijn resultaten op baseert.

Kennis van algoritmes is belangrijk, want ze krijgen steeds meer macht. Dit gaat verder dan een op jou afgestemde afspeellijst op Spotify of Netflix die beter weet wat jij wilt horen of zien dan jijzelf. Algoritmes kunnen ons mogelijk helpen borstkanker te diagnosticeren, seriemoordenaars op te sluiten en vliegtuigongelukken te voorkomen. ‘Maar in onze drang om te automatiseren, in onze haast om veel van de wereldproblemen op te lossen, lijken we het ene probleem te hebben ingeruild voor het andere. De algoritmes hebben ons opgescheept met een wirwar van complicaties die ze moeten ontwarren’, stelt Fry. ‘Waar je ook kijkt zijn er problemen met privacy, vooroordelen, vergissing, verantwoordelijkheid en doorzichtigheid die niet een-twee-drie zullen verdwijnen.’

Voer je een algoritme met data waarin vooroordelen verscholen zitten, dan zal het algoritme deze vooroordelen overnemen. Het boek staat vol met verhalen over de schade die algoritmes op deze manier aanrichten. Denk aan een recidive-algoritme dat beklaagden met een donkere huidskleur eerder als een hoog risico inschat omdat het zijn berekeningen baseert op bevooroordeelde historische data. Dit kunnen we alleen voorkomen als we begrijpen hoe data het algoritme beïnvloeden.