Gepost door: Voestermans and Verheggen | 22 februari, 2019

Wat gebeurt er met een groepje zelflerende robots zodra ze bijeen zijn?

Het zal nog een tijd duren maar er komen robots die zichzelf kunnen leren naar andere robots te kijken en er mee te interacteren. Ze zullen gevoed worden met beelden van allerlei soorten robots zoals ze nu al gevoed worden met foto’s van honden en katten zodat ze die feilloos kunnen herkennen. Robots zullen leren andere robots te identificeren en naar bevind van zaken te handelen. Sommige apparaten zijn nu al bedreven in het detecteren van röntgenfoto’s waarop alarmerende afwijkingen te zien zijn. Het zal snel gaan. Voor je het weet vormen robots een groep. Weliswaar geen intrinsiek sociale groep die weet heeft van groepstoebehoren, maar wel een aggregaatgroep, gewoon omdat ze door mensen bij elkaar zijn gezet. En wat dan?

 

Wat zullen de robots doen met elkaar? Laten we de zaak een beetje satirisch overdrijven. Ze zullen al heel gauw onderscheid gaan maken tussen de verfijnde robots met de echt menselijke kenmerken van hun ontwerpers en de grofstoffelijke apparaten die deze kenmerken ontberen omdat ze bijvoorbeeld het zware werk doen in een autofabriek. De vermenselijkte varianten zullen vast vaker benaderd worden vanwege de opmerkelijke voorkeursbehandeling door hun makers. Ze worden immers gebruikt in de ouderenzorg bijvoorbeeld en krijgen daar de status van metgezel. Dat levert op zijn beurt status op in de groep van robots. Ach, zo drukken wij dat uit maar computers begrijpen zichzelf niet, weten we, dus hoe zo’n ‘inzicht’ algoritmisch  doorbreekt?…..voer voor filosofen!

De voorkeursbehandeling van vrouwelijk uitziende robots bij taken die verzorgend van aard zijn zal ook gevolgen hebben voor wat er geleerd wordt en meegnomen wordt in de uitvoering van allerlei andere werkzaamheden. Vergelijkbare vooroordelen als bij ons zullen het gevolg zijn.

Let wel, het zijn zelflerende machines, dus zullen de grofstoffelijk uitziende exemplaren al gauw laten zien dat ze die behandelingsverschillen hebben geïntegreerd in hun systeem. Wie weet zullen ze vermijdingsgedrag vertonen of juist proberen in de gunst te komen van de menselijk uitziende robots. Het is niet onwaarschijnlijk dat een bijzonder vaak opgemerkt extra fraai exemplaar een speciale plaats krijgt toebedeeld in de groep van robots. Niets menselijks is ze immers vreemd. Misschien wordt er wel eentje tot god gemaakt. Ook dat kan zomaar gebeuren als er maar lang genoeg deep learning plaatsvindt. Ook zal er naar de zin van dit alles worden gezocht en ook dat gebeurt op basis van hoe de zelflerende apparaten hun algoritme aanpassen. Op den duur zal het algoritme zich bevrijden van de indruk dat alles vastligt en zal met de vrije wil op de proppen komen. Die ontstaat immers wanneer de groep zich bevrijdt van dwang en individuen op zoek gaan naar de optimalisering van de uitvoering van hun taak.

 

Ik wil hiermee zeggen dat in de discussies over Artificiële Intelligentie en over slimme algoritmen die van alles uit de omgeving in hun systeem integreren, veel te weinig rekening wordt gehouden met dat robots in meervoud zullen bestaan. De analogie met ons, mensen mag wel wat verder worden doorgevoerd. Wij mensen komen tenslotte tot waarnemingen en gedragsveranderingen op basis van ons functioneren in groepen. Mag je bij ons spreken van zelflerende systemen die zonder erg hun eigen weg gaan op basis van waarmee ze ongemerkt gevoed zijn simpelweg door naar  anderen te kijken? Ik denk van wel. Wij hebben immers zelden precies in de gaten op basis waarvan wij ons gedrag hebben aangepast. En dat is bij de zelf-lerende machines precies zo. Er is niemand die zijn eigen programma met al die instructies door en door kent. Zelfs niet bij benadering. En al helemaal niet dat van anderen. Wij doen de dingen die we in de groep van experts hebben opgedaan vrijwel automatisch en leggen met een zeker gemak precies dat gedrag ten uitvoer wat in overeenstemming is met wat te doen gebruikelijk is.

 

Zo zal het ook met de robots gaan. De wet-ware van onze electrochemie is weliswaar vervangen door hard-ware van silicium etc., maar de zelfinstruering die op den duur zo sophisticated wordt dat de robots met elkaar kunnen gaan interacteren, zal grote gelijkenis vertonen met wat wij zelf doen. Dezelfde statusbelustheid, vergelijkbare hiërarchie, overeenkomstig sekseonderscheid, zingevingsproblemen van vergelijkbare orde. De vrije wil die bij ons ook bestaat bij de gratie van je goed mogelijk informeren en dan op het juiste moment de juiste beslissing nemen, zal ook onder robots gaan figureren als het kenmerk bij uitstek van adequaat functioneren op basis van het best denkbare algoritme. Robots zijn inderdaad net mensen.

 

Een brein is geen brein, twee brein is een half brein, drie brein is pas een echt brein schreef Hendrik Spiering hier al in 1999 in zijn bespreking van Wolf Singers bijdrage aan een boek over sociale cognitie. Ik denk niet dat toen beseft werd hoe waar dit is. Wolf Singer schreef: “Analyse van de inhoud van één hersenpan kan de fundamentele bewustzijnservaring niet verklaren, Maar de dialoog tussen twee breinen kan die verklaring wel leveren”. Dat zal straks ook gelden voor kunstmatige breinen.

 

Maar breinen in meervoud is niet genoeg. We zagen al dat de robots uiterlijke kenmerken hebben die aanleiding gaven tot statusverschillen. Je kunt dus zeggen dat ze een ‘lichaam’ hebben. Ook in de zin van datgene waarmee de voortbewegen en handelingen verrichten, natuurlijk, net zoals wij. Maar ook in de zin van dat wat er voor anderen te zien is en waarop gereageerd wordt. Dat leer je van de ‘embodied cognition’ beweging in de psychologie en neurowetenschap. We besteden er veel aandacht aan in Cultuur & Lichaam, en in Culture as Embodiment. Lichamen en breinen in meervoud  – of die nu van mensen zijn of van robots – vormen het sociale netwerk waarbinnen de algoritmen van zelflerende machines getuned en geijkt worden voor de noodzakelijke taken. Ze zullen de wereld van mensen verdubbelen en met dezelfde problemen opgescheept.

Een paar dagen nadat ik dit schreef maakte Bennie Mols voor een conferentie van SMC050 een videoboodschap waarin hij uitlegt dat we nog een grote verscheidenheid aan robotvormen kunnen verwachten, vergelijkbaar met de soorten-explosie in het Cambrium toen het oog ontwikkeld raakte. Deze boodschap vindt u hier. Helaas ook in deze boodschap weinig aandacht voor de sociale dimensie, maar met de twee ontwikkelingen die hij schets moeten we terdege rekening houden.

 

Het is niet anders; wij, maar ook de robots kunnen niet ontsnappen aan de sociale dimensie van alles wat de mens en zijn kunstmatige evenknie is.

“When I compare the living organism with such a machine, I do not for a moment mean that the specific physical, chemical, and spiritual processes of life as we ordinarily know it are the same as those of life-imitating machines. I mean simply that they both can exemplify locally anti-entropic processes, which perhaps may also be exemplified in many other ways which we should naturally term neither biological nor mechanical”.

Norbert Wiener, The human use of human beings (1950).

 

 

 

 

 

 

Advertenties

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit /  Bijwerken )

Google photo

Je reageert onder je Google account. Log uit /  Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit /  Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit /  Bijwerken )

Verbinden met %s

Categorieën

%d bloggers liken dit: