Zo verander je Facebook in een kunstmatig intelligente propagandamachine

Kan Facebook echt verkiezingen beïnvloeden? De resultaten van een eerste onderzoek naar de persoonlijkheidsanalyse van Facebook-gebruikers op basis van hun interesses en likes, suggereren van wel.

Vormen Facebook en andere sociale media een bedreiging voor de democratie?

Het is een verhaal dat al maanden rondzingt. Bedrijven zoals AggregateIQ en Cambridge Analytica zouden kunstmatig intelligente advertentiesystemen ingezet hebben op sociale media om respectievelijk het Britse Brexit-referendum en de Amerikaanse presidentsverkiezingen te beïnvloeden. Door een gebrek aan bewijs weten we echter niet zeker of de technologie die dat mogelijk maakt wel bestaat en, belangrijker nog, of die überhaupt werkt.

Het eerste onderzoek dat een dergelijk proces van begin tot eind in kaart heeft gebracht, werpt nu echter nieuw licht op de zaak. ‘Dit is de eerste keer dat alles met elkaar in verband wordt gebracht’, zegt Joanna Bryson, die kunstmatige intelligentie onderzoekt aan de Britse University of Bath.

De kern van de kwestie draait om de techniek van ‘psychografische targeting’ die dergelijke bedrijven zouden toepassen. In deze werkwijze sturen campagnes op Facebook sociaal geoptimaliseerde politieke reclameboodschappen naar mensen die geprofileerd zijn op basis van hun persoonlijkheid en politieke interesses. Dat sociale profiel wordt gemaakt door kunstmatige intelligenties op basis van de gegevens die mensen over zichzelf onthullen op sociale media.

Blijf op de hoogte van de belangrijkste ontwikkelingen in de wereld van wetenschap en technologie en word (proef)lid van New Scientist, het blad vol ideeën die de wereld veranderen. Kijk hier voor alle opties.

Effectieve propagandamachine

Hoewel Facebook niet expliciet tools levert om mensen te benaderen op basis van hun politieke voorkeuren, laat het nieuwe onderzoek zien hoe je het platform daarvoor wel kunt misbruiken. Wanneer je de interesses van mensen combineert met demografische gegevens en gegevens uit peilingen, kun je campagnes voeren die afgaan op persoonlijke meningen over politieke ideeën en concreet beleid. Dat levert reclames op, op het niveau van het individu, die een enorme invloed kunnen hebben op het succes van politieke campagnes.

‘Deze als politiek wapen gebruikte, kunstmatig intelligente propagandamachine is effectief. Je hoeft niet veel aan iemands politieke knoppen te draaien om een verkiezing te beïnvloeden, een paar procentpunten naar links of rechts is al genoeg’, zegt Chris Sumner van de Online Privacy Foundation, die zijn onderzoek op 28 juli presenteerde op hackerscongres DEF CON in Las Vegas.

Niemand weet nog in hoeverre dit soort campagnes iemands mening permanent kan aanpassen. Maar het onderzoek van Sumner laat duidelijk zien dat dit soort politieke campagnes een flinke potentie hebben. Bovendien gebeuren dergelijke campagnes nu nog zonder toezicht

Internetprivacy

Om het complexe issue van psychografische targeting online door te lichten, voerden Sumner en zijn collega’s vier experimenten uit.

In het eerste experiment keken ze naar zaken waarin je soorten mensen van elkaar kunt onderscheiden. Hoog op die lijst stond het volgende statement, dat betrekking had op internetprivacy: ‘Als je niets verkeerds gedaan hebt, heb je niets om bang voor te zijn.’ Gedurende het Brexitreferendum hielden zij een peiling onder meer dan vijfduizend mensen en ontdekten dat Leave-stemmers het significant vaker eens waren met die uitspraak, terwijl Remain-stemmers het daarmee vaker oneens waren.

Vervolgens lieten zij op een andere groep verschillende persoonlijkheidstesten los. Daarin ontdekten zij persoonlijkheidskenmerken die correleerden met de kans dat je het eens was met het eerder genoemde statement over internetprivacy. Die kenmerken zetten de onderzoekers om naar een score die je hang naar autoriteit kon bepalen. Als je daar hoog op scoorde, was de kans groter dat je het eens was met het statement. Vervolgens konden de onderzoekers met behulp van een tool met de naam PreferenceTool, gebouwd door onderzoekers aan de universiteit van Cambridge, die score herleiden tot de waarschijnlijkste Facebook-interesses en demografische gegevens van mensen.

In een willekeurige steekproef onder Facebook-gebruikers was slechts 38 procent het eens met de privacystatement. Vervolgens selecteerden zij mensen op basis van de door hen bepaalde interesses en demografische gegevens. Wanneer ze mensen targetten waarbij de kans groter was dat ze het met de statement eens waren, schoot het resultaat omhoog naar 61 procent ‘eens’. Tegelijk daalde het naar 25 procent toen ze zich op mensen richtten die het vermoedelijk oneens waren met het privacystatement. Met andere woorden: de onderzoekers slaagden er inderdaad in om mensen op Facebook te targetten op basis van hun politieke mening.

Reclamecampagnes

Tot slot maakte het team vier verschillende Facebook-reclamecampagnes die gericht waren op de persoonlijkheden die ze hadden geïdentificeerd. Daarvoor gebruikten ze boodschappen die zowel voor als tegen overheidssurveillance waren. Zo luidde de reclameboodschap tegen het digitaal volgen van burgers door overheden, gericht op mensen met een hoge autoriteitsscore, bijvoorbeeld als volgt: ‘Ze vochten voor je vrijheid. Geef het nu niet weg! Zeg nee tegen massasurveillance.’ Op de achtergrond waren foto’s te zien van de bestorming van het strand op D-day. Ter vergelijking luidde de reclame met hetzelfde doel voor mensen met een lage autoriteitsscore als volgt: ‘Heb je echt niets te vrezen als je niets te verbergen hebt? Zeg nee tegen surveillance door de staat’, met op de achtergrond een foto van Anne Frank.

De onderzoekers ontdekten dat deze gerichte reclames inderdaad het best resoneerden met de getargette groepen. Zo had de pro-surveillance reclame, bedoeld voor de hoog-autoritaire groep, inderdaad twintigmaal meer likes en shares van die groep dan van de laag-autoritaire groep. De gekozen reclamestrategie leek dus effectief.

Hoewel de kracht van dergelijke campagnes daarmee duidelijker wordt, moeten we wel oppassen dat we een korte-termijn-reactie zoals het liken of delen van een bericht niet gelijkstellen aan politieke ideeën op de langere termijn, zegt Andreas Jungherr van de Duitse Universiteit van Konstanz. ‘Sociale media hebben een impact op politieke meningen. Maar de hype zorgt ervoor dat het moeilijk is om te bepalen hoe groot die impact precies is’, zegt hij.

Ontmoedigen om te stemmen

Toch is het veranderen van politieke opinies mogelijk helemaal niet het einddoel van dergelijke campagnes. Misschien is de beste strategie wel om mensen te ontmoedigen, of juist aan te moedigen, om naar de stembus te gaan. ‘We weten dat het heel gemakkelijk is om mensen te overtuigen om niet te gaan stemmen’, zegt Bryson. ‘Als je daar op het juiste moment op inspeelt, kan dat een enorm effect op de uitslag hebben. Het gaan dus niet eens noodzakelijkerwijs om het veranderen van iemands mening.’

Op Facebook is het voorlopig toegestaan om op deze manier campagnes te voeren, zolang het gebruik van externe gegevens van een bedrijf maar aan de wet voldoet. Het doel voor de toekomst moet daarom in eerste instantie grotere transparantie zijn. In Groot-Britannië is de zogeheten Information Commissioner van de overheid, Elizabeth Denham, halverwege een onderzoek naar het gebruik van dit soort reclamestrategieën door politieke campagnes. Naar verwachting publiceert ze haar bevindingen later dit jaar. Tegelijk zijn de Groenen in Duitsland begonnen om al hun social media-advertenties openbaar te maken, zodat iedereen ze online kan bekijken. Dat kan andere partijen mogelijk stimuleren om hun voorbeeld te volgen.

Een nog betere aanpak is volgens Bryson echter om nieuwe instellingen te maken die de algoritmen gebruikt om door politieke campagnes in de gaten kunnen houden. ‘Het is van fundamenteel belang voor de democratie dat op dit punt meer transparantie komt.’

Mis niet langer het laatste wetenschapsnieuws en meld je nu gratis aan voor de nieuwsbrief van New Scientist.

Lees verder:

2 Reacties

  • Menno Wiedijk

    | Beantwoorden

    Kunstmatige intelligentie is een ruim begrip. Het IQ van een mestkever?

  • rofer

    | Beantwoorden

    Wat betreft ‘reclamestrategieën’ is deze subversieve business al van voor 2000 bezig .Reclamebureaus huren neurologen in om de mate van ‘voorspelbare irrationaliteit’ bij kopers te bepalen en valkuilen te scheppen voor de hen. Ook bepalen ze de zgn, ‘Optimisme vertekeningen’ ,om kopers te ver(mis)leiden, hun standpunt is : Een pessimist, is een verkeerd geïnformeerde optimist. Dit ‘reclameterrorisme’ zou door een Overheid ingeperkt moeten worden .Wij worden volkomen omringd (verzuipen in) ‘aanprijzingen en reclame ‘ ,veel te veel. Elke mediamogelijkheid benut men door reclame : radio. TV, smartfoon, PC, iPAD ,borden langs openbare ruimte’s of erin, je ontsnapt niet meer aan de waanzinnege aanprijzingsdrang.

Plaats een reactie