Wat moeten we aan met Yuval Harari?

Yuval Harari is kampioen van dat technische oplossingen de wereld leefbaarder maken. Mensen zijn in dat verband maar wat lastig. In menig interview komt dit technisch perspectief ruim aan bod. Ik wil niemand zijn of haar interesse in wat Harari te zeggen heeft ontnemen. De boeken lezen lekker weg en je krijgt als lezer vast ook goede ideeën. Geen misverstand daarover. Toch plaats ik kritische kanttekeningen op het gevaar af een beetje van de glans van zijn boeken af te halen. Want het is nogal wat als je kunt claimen dat het bed side literature is van Merkel, Obama etc. Ik spreek regelmatig mensen die ook zo hun bedenkingen hebben bij deze vlotte schrijver en prater en zich afvragen of die lof niet meer de moeite geldt die Harari heeft genomen om het allemaal zo mooi en toegankelijk op te schrijven in plaats van dat de lof echt op de inhoud betrekking heeft.

Want wat moeten we aan met Harari?

Het boek Sapiens heeft onmiskenbaar positieve kanten die vermoedelijk in de stripversie behouden blijven. Maar ook heel veel negatieve, o.a. de bewering dat we wiliswaar weinig weten van de prehistorie van de jagers/verzamelaars, maar dat dit ons niet hindert met zekerheid te zeggen dat de deze mensen erg lijken op de meest nare groep chimpansees of mischien op liefdevolle bonobo’s, apen dus; van echte mensen geen sprake. Hoe weet hij dat? En hoe weet hij dat wij mensen altijd opgesloten zullen zitten in mythen en verbeelding, of dat elke illusie een gevangenis is (p. 133)? Met in Homo Deus het humanisme als de super-gevangenis waaruit ontsnappen welhaast onmogelijk is (zie verderop).

Ik merk onder mijn vrienden dat ze het boek met plezier gelezen hebben en er veel van hebben opgestoken. Geen twijfel mogelijk. Je harkt al die ‘kennis’ (hoewel….?) niet zomaar even bij elkaar, zelfs al ben je helemaal thuis op Wikipedia en kun je de zoekmachine bedienen als geen ander. Het maakt veel indruk als je na lezing van Harari bij de borrel of aan de keukentafel het humanisme onderuit kunt halen en kunt vertellen dat de mensen altijd in illusoire grote verhalen hebben geloofd. En dat daar nu een nieuw verhaal bij komt, namelijk dat alle indoctrinatie door welk -isme ook, vervangen kan worden door ‘dataïsme’, een ‘-isme’ dat je de hulp van zelflerende machines belooft om op die manier je vooroordelen te voorzien van een op basis van deep learning verkregen waarmerk: het veredelde telraam kookt je beslissingen voor tot in de hofmakerij aan toe. Prachtig, indrukwekkend. Iedereen stil. Maar klopt het?

Eerlijk gezegd kun je beter in plaats van Home Sapiens en Homo Deus The dawn of everything lezen van David Graeber en David Wengrow, ook al gaat Sapiens en Homo Deus erin als koek en moet je voor dit boek van de beide Davids Ausdauer hebben. (Maar ook in dit boek van Graeber & Wengrow staan helaas grove missers, bv. over Rousseau en de Verlichting, maar daarover elders meer. En deze bespreking is ook niet mis.)

Home Deus bevat optimistische pagina’s over hoe we honger onder de knie hebben gekregen. Zozeer, voegt de schrijver ons fijntjes toe, dat we nu zelfs met het probleem van teveel voedselinname opgescheept zitten; en hij is heel precies; 1 miljoen doden door honger en 3 miljoen door obesitas. Wat de infectieziekten betreft geldt hetzelfde verhaal: ze zijn grotendeels bedwongen. Covid-19 was er nog niet toen Homo Deus geschreven werd. De lezer weet intussen veel meer over virussen en infectieziekten dan in Harari’s boeken staat. Voor de schrijver biedt de nieuwe epidemie alle gelegenheid om in interviews aanvullingen te geven.

En dan oorlog. Ook hier is Harari optimistisch. De in militaire parades getoonde wapens gingen niet af. Terrorisme wordt afgedaan als theater; de slachtoffers worden overdreven.

Je gaat je afvragen waarover de schrijver zich echt zorgen maakt; en nu komt het: “als het voorkomen van honger, infectieziekten en oorlog niet meer onze zorg zijn dan moet wel iets anders hun plaats op de agenda innemen”. En ja hoor, er komen nieuwe problemen op ons af.  

De wetenschap stelt ons steeds meer in staat om wat “de menselijk conditie”, het menselijk tekort wordt genoemd, naar onze hand te zetten en de dood te bestrijden. Wie genoeg geld heeft kiest voor “het optuigen van het biochemische systeem” de upgrading van mensen naar goden. Weg met de dood en in plaats daarvan eeuwige jeugd (is dat niet het ultieme fantasma van de man en de vrouw die zoekt naar een partner wiens of wier jeugd op hem afstraalt?). Het nieuwe probleem is dat zo een fundamentele tweedeling ontstaat tussen mensen die zich deze ‘upgrading’ kunnen veroorloven en mensen die dat niet kunnen.

Dan: de vooruitgang van de wetenschap zal geluk op afroep binnen bereik brengen. Maar ook dat geeft nieuwe problemen. Door het streven naar onsterfelijkheid en geluk door biologische upgrading komt de 300 jaar oude religie van het humanisme en liberalisme – een korte geschiedenis vindt Harari als je het vergelijkt met Egyptische farao’s die 3000 jaar over leven en dood gingen – onder druk te staan. Immers, was homo sapiens niet de soort die in de eeuwen van de Verlichting god door de mens verving en het humanisme tot nieuwe religie verhief? Het gaf ons de vrije wil, de moraal dat de mens de maat is van alle dingen, het subjectivisme van dat schoonheid ligt ‘in the eye of the beholder’ en het individualisme van dat als iets goed voelt het verder prima is. Harari vraagt zich af of dit zingevingssysteem wel bestand is tegen een aanval vanuit de wetenschap. Ontwikkelingen in de wetenschap stellen de mens een upgrade in het vooruitzicht en daarmee een fris, nieuw “techno-humanisme”. Op den duur zal de mens zichzelf overstijgen met datagestuurde of voortgedreven supermachines die veel van wat mensen zijn en kunnen overbodig maken. Zie hier de nieuwe agenda van Harari in zijn boek Homo Deus.

Maar helaas. Met zo’n agenda ontspoort het werk van Harari. Het ontspoort in algemen zin door overdreven nadruk op technische oplossingen. Wetenschapis geen techniek. Het is een gedurfde onderneming gericht op de verklaring en op zijn minst de adequate beschrijving van fenomenen die ons voor onopgeloste raadsels plaatsen.

Maar het ontspoort op specifieke gebieden. Het is ondoenlijk zowel Sapiens als Homo Deus helemaal uit te kammen op waar en hoe precies. Ik beperk me tot drie thema’s: (1) De behandeling van emotie en gevoel: beide zijn in zijn ogen algoritmische processen. Maar zijn ze dat? 2) Het algoritmische affectsysteem van mensen wordt door Artificiële Intelligentie biochemisch-bionisch vervolmaakt, zegt Harari. Kan dat? Tenslotte (3) Zijn aanval op het verlichtingshumanisme. Is die terecht? Deze drie thema’s leiden tot een regelrechte dystopie. Harari bedoelt dit alles als waarschuwing, maar daarbij baseert hij zich op een verkeerde voorstelling van zaken

Emoties en gevoelens zijn algoritme-gestuurde lichamelijke processen. Is dat zo?

Het blijft moeilijk om in het menselijk affect-systeem een bruikbaar onderscheid te maken tussen emotie en gevoel. De geschiedenis van filosofie en psychologie zit vol misvattingen, die levensgroot opduiken in Homo Deus.

Je kunt het probleem laten beginnen bij Descartes en Spinoza. Descarte rekende de passies tot de machinerie van het menselijk lichaam. Daartegenover staat Spinoza die vooral de nadruk legt op hoezeer de passies vormgeving vereisen en pas door verstandige training in de gemeenschap gepolijst raken. Tegenwoordig omvatten de passies zowel emotie als gevoel.

Descartes won het in de filosofie toch een beetje van de in zijn geschriften nogal hermetische Spinoza. Daardoor is het menselijk affectsysteem en vooral de emoties erin hoofdzakelijk een aangelegenheid geworden de bio-fysiologie, van wat ik in onze boeken Cultuur & Lichaam en Culture as Embodiment ‘Lichaam 1’ heb genoemd, het microfunctionele lichaam; het lichaam van “de zachte machine propvol tengere draadjes en slangetjes” zoals Vroman dichtte. Voor zover emoties belangenbehartigers zijn en deel uitmaken van het geautomatiseerde detectiesysteem dat o. a. de vier V’s activeert: vechten, vluchten, vrijen en (vr)eten, kun je zeggen dat ze algoritmisch worden aangestuurd. Dat geldt min of meer ook voor afgeleide begeerten en angsten. Ze zijn niet gemakkelijk ‘cognitief doordringbaar’ – een technische term voor de mogelijkheid tot controle; bijvoorbeeld, omdat ze in belangrijke mate ‘wired-in’, ingebakken zijn. Onderdrukken van de reactie is er vaak niet bij. Wegrennen bij accuut gevaar, vechten bij dreiging, het vermijden of afgaan op dingen die van vitaal belang zijn – daarbij gaat het om die ingebakken, automatische emotieregulatie.

Maar er is meer. Naast emoties zijn er gevoelens. Lichaam 2 is het expressieve lichaam dat bij elke interactie onmisbaar is. En bij dat expressieve lichaam spelen juist gevoelens een belangrijke rol. Wanneer we zeggen” nu wordt ik emotioneel” bedoelen we dat ons gemoed volschiet en bijgevolg dat wat we denken en doen kleuren zal.

Mensen verschillen in de mate van het uiten van hun gevoelens maar er zal altijd sprake zijn van vormgeving, expressie en getraind zijn in de groepen waartoe iemand behoort. Zo zorgen mensen uiteindelijk voor een hanteerbare gevoelshuishouding. In hun gepolijste vorm bepalen gevoelens mede de kwaliteit van het denken. Gevoelens zijn interactief van aard; duidelijk meer dan emoties. Van algoritmisering is geen sprake. Gevoelens zijn daarvoor te zeer cognitief doordringbaar (al zitten er ook moeilijk beheersbare kanten aan omdat ze toch ook met emoties samenhangen). Uiteindelijk betekent cognitieve doordringbaarheid precies dat: dat er vorm gegeven kan worden aan wat we voelen. Maar die toch ook onbeheersbare kant maakt het onderscheid tussen emotie en gevoel juist zo ingewikkeld en controversieel.

Hoe dan ook: emotie en gevoel verschillen op tal van punten ook al is de overlap groot; vooral als om het gevoelens gaat die mede afhankelijk zijn van wired-in reacties zoals bijv. walging, angst, en andere basis-emoties.

Het broodnodige onderscheid tussen emotie en gevoel is helaas niet algemeen geworden in de gedragswetenschappen. Het heeft geleid tot veel verwarring over emotie en gevoel. Vooral ook in het spraakgebruik.

Langzaamaan breekt evenwel het inzicht door dat beide uit elkaar gehaald moeten worden. Emoties zijn ingebakken reactiewijzen op gebeurtenissen van belang. Ze maken deel uit van de wereld van interne fysische mechanismen. Het zijn actietendenties en belangenbehartigers (Frijda). Gevoelens kennen een leergeschiedenis, sturen en kleuren het menselijk doen en laten, in het bijzonder hoe we over dingen denken en wat we vervolgens min of meer overwogen gaan doen. Ze maken deel uit van de wereld van menselijke interactie. Ze bepalen mede de kwaliteit van het denken.

Welnu, in de boeken van Harari over wat emoties en wat gevoelens zijn en wat hun respectieve rol is in de aansturing van gedrag, geen spoor. Het hele onderwerp ontbreekt. In Sapiens komen emoties en gevoelens nauwelijks aan bod en in Homo Deus zijn gevoelens eenvoudigweg subjectieve gewaarwordingen die niet goed van emoties worden onderscheiden en voortdurend gemanipuleerd kunnen worden.

Hij gooit emoties en gevoelens op één hoop en neemt van beide aan dat ze aangestuurd worden door algoritmen. Die maken – zo gaat het verder – dat emoties en gevoelens, ik citeer: “aangescherpt (zijn) door de evolutie om dieren (waaronder de mens P.V.) te helpen de juist beslissing te nemen. Onze liefde, onze angsten, onze passies zijn geen mistige spirituele verschijnselen goed voor poëzie. Integendeel, ze bevatten eeuwen aan praktische wijsheid”. Dat klinkt verstandig en je denkt meteen: dat klopt want de activering van emoties volgt een algoritme, zoals zoveel in een organisme. Maar gevoelens niet. Die worden gevormd in de gemeenschap waartoe je behoort en voor hun rol in het menselijk verkeer is er geen algoritmisch script.

Waarom zegt Harari dan toch dat heel het menselijk gevoelsleven algoritmisch is? Ik denk omdat hij dan meteen over kan gaan op zijn stokpaardje: de wetenschap is al zover dat binnen afzienbare tijd deze eeuwenoude menselijke gevoelsalgoritmen overgenomen worden door “superieure algoritmen die nooit vertoonde rekenkracht en gigantische databases gebruiken”. Maar dat is dus een misvatting, zoals ik hierboven heb laten zien.

Verbeterde biotechnische algoritmen

Het verdienmodel van Facebook en Google heeft algoritmen in een kwaad daglicht gesteld. Maar er zijn natuurlijk onmisbare algoritmen. Type 1 diabetes patiënten beschikken al over slimme insulinepompjes waarvan het algoritme allerlei gegevens laat uitmonden in de juiste hoeveelheid insuline. Algoritmen zijn onmisbaar op de intersive care waar een grote hoeveelheid gegevens gemonitord moeten worden. Er zullen ledematen geconstrueerd worden en andere lichamelijke hulpstukken, waarbij algoritmen zorg dragen voor optimaal functioneren, maar het ‘hacken’ van het menselijk gevoelsleven is een brug te ver. En dat wordt ons als een dreiging voorgehouden op basis van de onjuiste aanname dat gevoelens algoritmisch worden aangestuurd

Hij zegt het niet alleen in Homo Deus maar ook in bijna elk interview: de algoritmen van Google en Facebook weten precies hoe je je voelt; ze weten alles van je. Je gevoelsleven kan grotendeels voorspeld worden door Google’s algoritmen en ‘data mining’ en beter dan je dat zelf kunt. Waarom zou je nog naar je eigen gevoelens luisteren? Het bekende verhaal van Harari dat alle kranten haalde, zijn boeken een plek op menig nachtkastje bezorgt (tot in de Amerikaanse presidentiële slaapkamer aan toe) en zijn beeltenis regelmatig op TV brengt is dat van de knappe jongen versus de wat lelijkere. Ze strijden met elkaar om de aandacht van hetzelfde meisje. De vraag is: met wie is ze beter af? Google weet dan te vertellen – op basis van wat het algoritme over het meisje aan gegevens verzameld heeft – dat het de lelijke is, terwijl het meisje voor de knappe gaat. Ze zal er te laat achter komen dat het advies van Google beter was. Wat een onzin!

Het is nog niet in real life uitgeprobeerd, maar ik denk dat dit hele verhaal helemaal niet laat zien wat data mining vermag, maar verraadt hoe beperkt te kijk van Harari op gevoelens is. Hofmakerij blijkt moeilijker te voorspellen vanuit big data omdat het om gevoelens gaat die mede vorm krijgen in gemeenschap met anderen. Juist deze interactieve afstemmingrelaties krijgen ten onrechte geen enkele aandacht in Harari’s betoog over algoritmen. Omdat de gevoelens bij hem opgesloten zitten in de subjectieve ervaring en in geen relationeel verband staan, kunnen ze gemakkelijk op één lijn worden gezet met algoritmen die door het ‘diepe leren’ van de computer worden voortgebracht; algoritmen die mensen besturen, tegen hun zin, als zijn ze gehacked. Bij emoties is machinale productie tot op zekere hoogte denkbaar – zie de woedende Robocop – maar zodra het over gevoelens gaat is dat onzin. Het hele verhaal is bedoeld om het zogenaamde evolutionaire humanisme van maakbare superieure bionische mensen met een zweem van wetenschappelijkheid te omgeven.

Humanisme op de korrel

Het is niet duidelijk waarom Harari zo uithaalt naar het humanisme en denkt dat het zal worden vervangen door techno-humanisme en ‘dataïsme’. Dat is de 21^steeeuwse religie die het bestaande humanisme op den duur obsoleet zal maken. In deze nieuwe religie gaat het idee dat het menselijke gevoelsleven gebaseerd is op biochemisch algoritmen, samen met het idee van zelflerende machines die aan data miningdoen. Dataïsme en moderne genetische engineering zullen op den duur de standaard menselijke regulering van het gevoelsleven vervangen, aldus de dystopie van Harari.

Het biochemisch algoritme komt in de plaats van het zelf en de vrije wil als tot nu toe de peilers van het ‘humanisme’. Die twee zullen niet langer kunnen bestaan omdat ze in strijd zijn met wat de wetenschap leert, namelijk dat de vrije wil niet bestaat en het zelf in de biochemische ordening van het menselijk organisme onvindbaar zal blijken. Dat beweert Harari met klem. Hij lijkt er geen been in te zien om zich te profileren als kennen van alle wetenschappen, ook al is hij van huis uit historicus. De biochemie is volgens hem nu al zo geavanceerd dat we er ons zelf mee kunnen ‘upgraden’ (nog slimmer, nog mooier, nog volmaakter) en dat ad libitum, gewoon omdat mensen het willen. Dat schept een ongekende ongelijkheid en dus raakt het ideaal gelijkheid tussen mensen obsoleet. Er bestaat nog wel een ‘verhalen vertellend zelf’ dat voor zover mogelijk nog voor enige compensatie zorgt voor wie achterblijft, en belijkwaardigheid zal nog wel een ideaal blijven, maar er komt desondanks grote ongelijkheid en een fundamentele tweedeling.

Harari negeert hier hoe heel de mensengeschiedenis door allerlei politieke systemen – in de sociaal- en christen- en moslim-democratie en in liberale richtingen – geprobeerd hebben om op den duur iedereen te laten meeprofiteren van innovaties, simpelweg uit welbegrepen eigenbelang. Niks hierover bij Harari.

Volgens Harari vernietigt wetenschap het humanisme, dat met zijn liberale kijk op het menselijk bestaan al meer dan 300 jaar de dienst uitmaakt op een wijze waaraan geen ontsnappen mogelijk lijkt; pas wetenschap biedt een uitweg die meteen ook het einde ervan zal inluiden. Maar dat vindt hij niet erg want er zijn wel meer wereldbeelden gesneuveld. Wetenschap ondermijnt gaandeweg de voorwaarden waaronder het humanisme kon uitgroeien tot een dominante religie. Hariri vindt het op wetenschappelijke gronden niet langer vol te houden is dat alle mensen gelijk zijn en dat er individuele ‘zelven’ zijn met een vrije wil. Grote woorden en weinig argumenten.

Het eerste – dat gelijk zijn – is niet zo, zegt hij, want straks kunnen er door de moderne wetenschap bionische supermensen gemaakt worden. Het tweede – vrije wil – is volgens hem nog grotere onzin want mensen maken keuzes op basis van de genetische en elektrochemische samenstelling van hun organisme. Van een instantie die als een zelf vrij beslist is geen sprake.

Als je de vrije wil, het zelf of de persoon en de gelijkheid van alle mensen om zeep hebt geholpen is het enige dat nog rest de AI-machines die met de data van mensen aan de haal gaan. Als je het menselijk gevoelsleven terugbrengt tot een algoritme doen slimme deep learning machines het vanzelfsprekend beter.

Dat is me nogal een grote klap voor ons ego! – veel groter dan die van Copernicus, Darwin en Freud bij elkaar! Maar is het waar? Harari noemt in voetnoot 2 van hoofdstuk 8 van Homo Deus, waarin het controleverlies van de homo sapiens wordt behandelt, de Libet-experimenten. Deze experimenten zouden aantonen dat voordat er een bewuste beslissing wordt genomen, het brein al volledig automatisch heeft uitgemaakt wat er gebeuren zal. Op die experimenten is veel kritiek. Daar doet Harari niets mee. (Voor wie in deze kritiek geïnteresseerd is is er genoeg te googlen op namen van auteurs als Herman Kolk, Daniel Dennett, André Alemans etc.)

Die kritiek is er en de vrije wil bestaat. Niet als louter individuele eigenschap maar als resultaat van afstemmingsrelaties tussen mensen. Dat de wil vrij is, is een emergente eigenschap van gemeenschappen waarin mensen geacht worden aan elkaar verantwoording over hun daden af te leggen. En geloven is een onmisbare cognitieve categorie; je kunt bijna zeggen dat onder mensen alles waar we allemaal echt voor gaan van geloof gemaakt is zoals we in Culture as Embodiment argumenteren. Zonder geloof gaat het onder mensen niet, maar je kunt je verdomd gemakkelijk vergissen in geloofssoorten waarbij elke evidentie uitblijft: complotten, wanen, religies, ideologieën die heil beloven voor iedereen etc.

Wat we kunnen leren van de missers in Harari’s boeken? Dat algoritmen verre gehouden moeten worden van de controle op interactie tussen mensen. Dat is de verantwoordelijkheid van de politiek. Dringen ze in deze sfeer door dan zit er een wederrechtelijke toe-eigening bij van controle van mensen over mensen. Dat is het probleem van Facebook, Google en hun verdienmodel, maar ook van regiems als die in Rusland en China die garen spinnen bij algoritmische controle.

Elders op dit weblog heb ik in de post “Weer wordt misbruik van persoonsgegevens aan de kaak gesteld” dit zogenaamde hacken van mensen geconfronteerd met een scherpe kritiek vanuit de gedragswetenschap. Dat ga ik niet herhalen. Maar wat belangrijker is: als dictators de ware gevoelens van mensen hacken via AI, komen ze erachter dat de meerderheid hen niet ziet zitten. Wat te doen, is dan de vraag waarop vermoedelijk geen Leninistisch antwoord mogelijk zal zijn.

(Nog onder constructie)