Geautomatiseerd racisme

Een PVV-stemmend familielid riep eens: ‘Ik heb niks tegge vrèmde, ma die ís neet van hiej!’ (Voor niet-Limburgers: ‘Ik heb niks tegen vreemdelingen, maar hij komt hier niet vandaan.’) In mijn familie is dit inmiddels dé kreet geworden waarmee je iemand terechtwijst die onbedoeld xenofoob doet. Zo houden we elkaar scherp. Hopen we.

Hoezeer (onbewust) racisme aan de orde van de dag is, wordt pas duidelijk wanneer je menselijke handelingen overlaat aan machines. Denk aan het fotoherkenningssysteem van Twitter, dat steevast witte mensen op afbeeldingen als preview laat zien. En veel erger: in de VS onderzochten wetenschappers algoritmes die worden gebruikt door de politie. Deze algoritmes voorspellen in welke wijk criminaliteit zal plaatsvinden. Of hoe waarschijnlijk het is dat een persoon die wordt vrijgelaten opnieuw wetten zal breken. Racistische kunstmatige intelligentie (AI) heeft dan levensveranderende gevolgen.