Gepost door: Voestermans and Verheggen | 19 maart, 2018

Weer wordt misbruik van persoonlijkheidsgegevens aan de kaak gesteld

Opnieuw is de aandacht gevestigd op misbruik van facebookgegevens. Nu in de Volkskrant van 19 maart 2018. Hier staat het artikel in de New York Times waarop de Volkskrant zich baseert. (In de blog van 10 september 2017 staan verwijzingen naar eerdere stukken over Cambridge Analytica. De directe verbinding met Steve Bannon die nu zowel in de NRC als in de Volkskrant – helaas minder makkelijk te linken – wordt onthuld was mij destijds niet bekend.)

Beïnvloeding vroeger en nu

Niet zo heel lang geleden bracht ook Tegenlicht van de VPRO een item over de beïnvloeding van het individu op een op de persoon toegesneden wijze op basis van “data-extractivisme”, de term die Evgeny Morozov voor dit slinkse data mining bedacht.

Het was een tamelijk verontrustende aflevering, waarin door experts op het gebied van big data en psychometrie het beeld werd geschetst dat vooral wij gewone consumenten zijn overgeleverd aan beïnvloeding en nudging – het met zachte hand bijgestuurd worden – door niet alleen goedwillende gedragsveranderaars maar vooral ook kwaadwillige politici. Maar hoe bruikbaar zijn de big data?

Nu is desinformatie van alle tijden. Hoe lang is het geleden dat het in de oude wereld van het begin van de vorige eeuw de afspraak was tussen kapitaal en kerk dat deze laatste het volk dom zou houden en de eerste, de werkgevers, de arbeiders arm? Dat pact hield stand door steeds maar weer leugens te verkopen, alternatieve feiten te presenteren en bij voortduring angstgevoelens te bespelen, zodanig dat de mensen zich schikten; nudging avant la lettre.

De rijken behielden hun rijkdom en de gewone mensen deden het zware werk. Die ordening veranderde onder invloed van sociale bewegingen in de laat negentiende en gedurende de eerste helft van de twintigste eeuw. We weten uit de analyse van Thomas Piketty dat de herverdeling die plaats vond tussen de twee wereldoorlogen en even daarna – de periode waarin de ongelijkheid tijdelijk werd beteugeld – het gevolg was van beleid om de schokken van zoveel oorlogsgeweld te boven te komen. In deze periode van toenemende welvaart voor de arbeidende bevolking werden de autoriteit van de kerk en van de gevestigde orde drastisch aan de kaak gesteld. Het volk ‘ontkuddelijkte’ een term die we in Cultuur & Lichaam en in Culture as Embodiment overnamen van Jan Roes, omdat die beter beschrijft wat er gebeurde. Mensen werden niet ongevoeliger voor religie of ‘ietsismen’, maar ze geloofden niet meer als onmondige schapen die zo nodig door een herder moesten worden geleid. Dat verhaal ging er na de kritiek van de jaren zestig niet meer in.

Maar de desinformatie in de periode dat kerk en staat samenwerkten om het volk dom te houden en ideologische strijd werd geleverd om de hearts and minds van de gewone man en vrouw door sociaaldemocraten en christendemocraten valt in het niet bij wat vandaag de dag aan de hand mens en machiene zijn onontwarbaar verknoopt en onze leefwereld is technologie en menselijkheid ineen. Wat er met ons allemaal gebeurt door door en met mensen die grotendeels ‘vercomputerd’ zijn weet niemand. Ook Zuckerberg niet, maar dat er van onze onachtzaamheid wordt geprofiteerd is zonneklaar.

De disussie daarover is amper begonnen De ongelijkheid is terug als nooit tevoren. Maar daarmee ook de misleiding en het scheppen van een droomwereld waarin grote groepen het zicht ontnomen wordt op wat er werkelijk is verbeterd. Ik bedoel het massale inmasseren van waandenkbeelden over hoe de wereld er voor staat. De verkiezing van Trump en ‘Brexit’ hebben laten zien  dit gebeurt met behulp van Big Data zoals die ook gebruikt worden om de consument gericht te benaderen.

Cambridge Analytica: de Big Five van het persoonlijkheidsonderzoek

Minder bekend is hoe het een en ander in zijn werk gaat. We worden dit keer geconfronteerd met een heel andere techniek die mede door grootschalig psychologisch onderzoek is geïnspireerd. Daar ging een deel van de uitzending van Tegenlicht over. Het gaat niet langer om het opsporen van profielen van potentiële kopers maar om het bestoken van heel precies uitgezochte individuen van een welbepaald persoonlijkheidstype met op maat gesneden informatie. De verwachting is dat ze zich daar ongemerkt naar voegen en zo een bepaalde politicus aan de macht brengen.

Alexander Nix, de zegsman van de firma die dit uitzoekt, ‘Cambridge Analytica’ legt het zo uit:

“Five different faces, each face corresponding to a personality profile. It is the Big Five or OCEAN Model (het bekende instrument waarmee de Big Five van het persoonlijkheidsonderzoek worden opgespoord: openness, conscientiousness, extroversion, agreeableness, neuroticism). At Cambridge we were able to form a model to predict the personality of every single adult in the United States of America. The success of Cambridge Analytica’s marketing is based on a combination of three elements: behavioral science using the OCEAN Model, Big Data analysis, and advertisement targeting (AT). ‘Ad Targeting’ is personalized advertising, aligned as accurately as possible to the personality of an individual consumer.” Via Facebook en door de invullers van de vragenlijst te belonen werd buiten medeweten van de proefpersonen met de gegevens AT gepleegd: boerenbedrog dus en illegaal.

Het lijkt inderdaad een fluitje van een cent om mensen die bijvoorbeeld niet zo open zijn, een beetje neurotisch, wat opgesloten in zichzelf en gauw op hun teentjes getrapt te confronteren met alternatieve feiten die hun woede aanwakkeren en hun angst vergroten, waardoor een politicus in beeld komt die aan de ellende waarin deze mensen verkeren een einde zal maken.

Het World Wide Web revisited

Dat vraagt om een herijking van het oordeel in Culture as Embodiment over de zegeningen van het internet.

In dat boek was ik tamelijk optimistisch over de wereld waarin moderne communicatiemiddelen ervoor zorgen dat bijvoorbeeld machthebbers snel met hun laakbare daden worden geconfronteerd. Inmiddels kijk ik er anders tegen aan. Niet dat ik niet geloof in de kritische functie van deze nieuwe vormen van communicatie. Maar ik zie nu ook de keerzijde. Ik heb me danig verkeken op het gemak waarmee mensen kritiekloos hun gevoelens en opvattingen prijs geven in het volste vertrouwen dat deze gegevens op het wereldwijde net in een soort anonieme wolk blijven hangen en uitsluitend bij de direct betrokkenen terecht komen. Dat blijkt niet zo te zijn. Ook is verbinding alleen veel te dun en leidt tot geklets en gesloten bubbels, blijkt. Dat geklets werd al opgemerkt bij de opkomst van de telefonie, ik meen door de schrijver E.M. Foster.

Wie had er bij de optimistische ontvangst van eerst het internet zelf en later van de sociale media zicht op de snelheid en de omvang, waarmee de gegevens in de kolossale geheugens kunnen worden gecombineerd en gerubriceerd, zodat er allerlei commercieel interessante, maar naar het nu blijkt, ook politiek bruikbare voorspellingen mee kunnen worden gedaan? Wie had gedacht dat machines in no time leren hoe uit deze data de meest essentiële punten te halen en die te gebruiken voor de beïnvloeding van onze keuzes? Ik herinner me nog heel goed de verwachtingen die het World Wide Web begin jaren negentig wekte. De zoekmachine Google bestond immers pas vanaf 1998. Voor die tijd kon nog kiezen uit een hele reeks zoekmachines (wie zegt de naam Mozaic – later Netscape -, Gopher of Ilse nog wat?). We waren verrukt over het aan het Amerikaanse leger ontleende netwerk aan gecomputeriseerde informatie, waar – zo dachten we toen – geen enkele regering of welke instantie ook vat op zou kunnen krijgen. Zo zag het er in het begin uit. En ook nog toen de Arabische lente begon. Maar inmiddels is er dat onbetrouwbare, op geldelijk gewin gerichte Facebook, waar computationele operaties op onze bereidwillig verstrekte gegevens politiek gewicht krijgen op een manier waarvoor nooit toestemming is gegeven. Los van alle betogen over de hybride tussen mens en machiene: wettelijk kan wel degelijk paal en perk worden gesteld aan dit verdienmodel. Het algoritme achter Facebook, maar ook achter YouTube voorziet de consumenten van deze platforms van nieuwe input die ‘instantdenkers’ van ze maakt, mensen die denken dat ze informatie tot zich nemen die hen tot nadenken stemt, maar in feite beschikken ze over veel te weinig kennis om echt na te kunnen denken over wat het algoritme biedt. Ze nemen het gewoon instant tot zich. En dat in steeds grotere hoeveelheid. Het algoritme weet intussen van niets uiteraard en blijft maar aanleveren. Hoe dat in zijn werk gaat is helaas – en onterecht – bedrijfsgeheim van Facebook en Google.

De dreiging

Yuval Harari is een mooi voorbeeld van iemand bij wie de schrik voor dit ongebreidelde gebruik van data er goed in zit. In zijn boek Homo Deus kondigt hij een nieuwe godsdienst aan: het Dataïsme. Hij doelt op de bijna religieuze verering voor de alwetende Data Mining door experts op het terrein van big data. Harari voorspelt dat het ‘Dataïsme het humanisme zal vervangen, als we niet uitkijken. Ook zal de machine de mens overtreffen op tal van relevante gebieden. Harari vertelt in zijn boek het volgende relaas:

“In a Dataist society I will ask Google to choose. “Listen, Google,” I will say, “both John and Paul are courting me. I like both of them, but in a different way, and it’s so hard to make up my mind. Given everything you know, what do you advise me to do?” And Google will answer: “Well, I know you from the day you were born. I have read all your emails, recorded all your phone calls, and know your favourite films, your DNA and the entire biometric history of your heart. I have exact data about each date you went on, and I can show you second-by-second graphs of your heart rate, blood pressure and sugar levels whenever you went on a date with John or Paul. And, naturally enough, I know them as well as I know you. Based on all this information, on my superb algorithms and on decades’ worth of statistics about millions of relationships — I advise you to go with John, with an 87 per cent probability of being more satisfied with him in the long run. “Indeed, I know you so well that I even know you don’t like this answer. Paul is much more handsome than John and, because you give external appearances too much weight, you secretly wanted me to say ‘Paul’. Looks matter, of course, but not as much as you think. Your biochemical algorithms — which evolved tens of thousands of years ago in the African savannah — give external beauty a weight of 35 per cent in their overall rating of potential mates. My algorithms — which are based on the most up-to- date studies and statistics — say that looks have only a 14 per cent impact on the long-term success of romantic relationships. So, even though I took Paul’s beauty into account, I still tell you that you would be better off with John.”

Tegengeluid

Maar er zijn ook belangrijke tegengeluiden. Die kwamen niet aan bod in VPRO Tegenlicht. Immers, er is vanuit de psychologie wel het nodige af te dingen op het gepoch van Cambridge Analytica over de Big Five. Het gaat altijd nog om een selectieve groep mensen die de vragenlijst op het internet hebben ingevuld. Het is bovendien zeer de vraag of de vijf persoonlijkheidskenmerken waarop de keuze voor de te beïnvloeden groepen is gebaseerd ecologisch valide zijn. Het is lang niet zeker of we echt met werkelijk bestaande groepen mensen te maken hebben. Maar dat op die manier politieke zaken kunnen worden beïnvloed is al wel gebleken. Vaststaat evenwel dat er bij deze hele operatie misbruik is gemaakt van Facebook data.

En dan de Big Data. Samantha Joel onderzocht (klik in de gepresenteerde reeks de TedX van Samantha aan in de derde rij) of door de mensen zelf gerapporteerde eigenschappen gebruikt kunnen worden in machine learning bij het voorspellen van romantische aantrekking. Dit onderzoek zet vraagtekens bij de effectiviteit van algoritmen en Big Data zodra het gaat om affectief geladen items. Het blijkt dat dit soort data de echte match niet voorspellen. Daar is veel meer voor nodig. Misschien dat een fotootje het verschil maakt, maar zeker is dat talige beweringen onvoldoende zijn. Worden dat soort big data door algoritmen bewerkt, dan is dat onvoldoende om er conclusies met betrekking tot echt gedrag aan te verbinden. Harari is me te snel in zijn enthousiasme.

Het onderzoek van Joel c.s. is een eerste stap op het terrein van de zo verwaarloosde invloed van affectieve voorkeuren op beslissingsprocessen. Robert Zajonc maakte begin jaren tachtig al de slagzin: “preferences need no inferences” (met deze zin en de naam Zajonc zoek je het artikel zo op). In taal vervatte oordelen komen langs een heel andere weg tot stand dan affectief georganiseerde voorkeuren. En die laatste zijn nu juist van groot belang bij beslissingen inzake affectief geladen onderwerpen. Ook Daniel Kahneman wijst daarop in zijn boek Thinking Fast and Slow. Vallen clicks en gewoon wat achteloos lekker surfen en daarbij reclame tegenkomen of ‘nieuws’ nep of echt onder voorkeuren, onder de ‘preferences‘ van Zajonc? Dat staat te bezien. Ik weet niet of die clicks en het surfgedrag voldoende affectief worden aangestuurd om aan de registratie ervan verregaande conclusies te verbinden. Maar zoveel is zeker: wat we over onze smaken vertellen en woordelijk beweren geeft te weinig houvast.

Voorkeuren op basis van emoties en gevoelens zitten niet van binnen. Worden ze aangestuurd door lichaamloze hersenen? Niks daarvan. Affectieve sturing en intuïtief gedrag zijn evenals cognitief georganiseerd gedrag het gevolg van afstemmingsrelaties tussen lichamen in meervoud, het kernthema in onze twee boeken. Opvattingen, gevoelens en gedragingen ontstaan niet in wat je ietwat kort door de bocht ‘het vacuüm van het enkelvoudige individu’ kunt noemen. Ze vereisen ijking en training door experts en ondersteuning in de groep. Effectief verweer tegen misleidende sturing door emotie en gevoel is alleen mogelijk in groepen: op school, in het gezin, in verenigingen waar deskundig wordt uitgelegd hoe de beinvloeding in zijn werk gaat en wat je ertegen kunt ondernemen. Onderwijs, onderwijs en nog eens onderwijs; zo dat onderling over onze loslippigheid gesproken wordt en facebook geen zaak blijft van het geisoleerde individu voor het beeldscherm. Laat de jongens en meisjes er samen over praten. Laat het een thema zijn in het gezin, bij sport, en maak facebook onderdeel van een training in communicatie. Dat helpt. Naast natuurlijk ingrepen van de facebookmaffia zelf onder leiding van de oudere jongere Zuckerberg. Hopelijk komen er verantwoordelijker leiders aan het roer daar! En een paar concurrenten zou ook mooi zijn, maar daar heb je zelfbewuste gebruikers voor nodig.

Onderzoek naar affectieve sturing en groepsgewijze training van emotie en gevoel staat nog in de kinderschoenen, maar het kan op den duur uitwijzen dat menselijke interactie met als kernactiviteit keuze en beïnvloeding (en de daarop volgende beslissingen) niet algoritmisch georganiseerd is. Maar daarover een andere keer.

In het boek Homo Deus van Harari spelen algoritmen een hoofdrol in zijn relativering van humanisme. Maar bijv. zeggen dat emoties algoritmisch zijn gaat wel heel ver. Een algoritme is altijd intern aan het organisme of apparaat en staat gelijk aan een berekening in geprogrammeerde stappen of ingeval van deep learning door de computer zelf aangegeven procedures. Naast dat emoties en gevoelens electroCHEMISCH zijn, spelen ze TUSSEN mensen. Misschien dat een quantumalgoritme, wat in feite parallelle en onmiddellijke berekeningen mogelijk maakt, ooit het menselijk brein in rekenkracht kan evenaren. Misschien dat zo ooit achterhaald kan worden hoe menselijke interactie als ‘computationeel proces’ – als het dat al is; we weten het niet – in zijn werk gaat. Maar zover zijn we nog lang niet en dat maakt dat Big Data Mining voorlopig niet echt effectief zal blijken bij het over de hele linie beïnvloeden van mensen. Dit laat onverlet dat frequente en herhaalde blootstelling aan dezelfde ideeën zo op mensen inbeukt, dat ze opschuiven in de richting van het aangeboden materiaal. Over wat daaraan te doen is een andere keer.

Paul Voestermans

(Met dank aan Ruud Abma voor de waardevolle suggesties.)

Advertenties

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit /  Bijwerken )

Google photo

Je reageert onder je Google account. Log uit /  Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit /  Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit /  Bijwerken )

Verbinden met %s

Categorieën

%d bloggers liken dit: