Gaat kunstmatige intelligentie (KI) ons overheersen?
In een vorig blog (21 december) heb ik gesteld dat het antwoord op deze vraag mede afhangt van hoe we de mens zien: als een elektrochemisch systeem van algoritmen, of als een beest met geest, om Troelstra even te citeren.
In het eerste geval is een uiteindelijke overheersing door zelflerende systemen, zoals die nu al ontwikkeld worden door Google en Amazon, erg waarschijnlijk. Het is in dat geval namelijk heel gemakkelijk om een verbinding te maken tussen mens en machine (het virtuele systeem), door elementen van dat systeem in de mens te implanteren. In feite gebeurt dat nu al in de medische praktijk. Zo worden automaatjes geïmplanteerd, die bij suikerpatiënten de insuline afgifte reguleren, of pacemakers, die de hartritmes regelen. Het is een kleine moeite om die implantaten te verbinden met een virtueel systeem, dat dan vervolgens meer kan regelen dan hetgeen waarvoor die implantaten bedoeld zijn. Zo zullen er ook hersenimplantaten beschikbaar komen, die gestoorde hersenfuncties, als gevolg van een beroerte of herseninfarct, kunnen overnemen. De volgende stap is dan dat ook meer gecompliceerde stoornissen, zoals Alzheimer, Parkinson of Multiple Sclerose op die manier kunnen worden verholpen. En als laatste niet ondenkbare mogelijkheid kunnen meer mentale hersenfuncties, zoals de gewetens- of wilsfunctie door implantaten worden aangestuurd. Dit is echter zo’n complex proces, dat dit alleen maar zal kunnen als die implantaten met een groot zelflerend systeem zijn verbonden. Voor die mensen is dan de overheersing door KI een feit. En het zou kunnen zijn dat dit zo ‘perfect’ werkt, dat niet alleen zieke mensen, maar ook gezonde mensen op dit soort systemen kunnen worden aangesloten. Het is denkbaar dat daar massaal gebruik van wordt gemaakt. De mensen hebben volgens deze visie immers geen vrije wil, dus als gezien wordt dat de systemen op het eerst gezicht effectiever en succesvoller zijn dan het per definitie beperkte menselijk brein, dan is de ‘keuze’ snel gemaakt. We gaan dan leven in een wereld die overheerst wordt door ‘cyborgs’ (cybernetic organisms): humanoïde robotten, oftewel de posthumane mens, de homo mechanicus.*)
Dit alles zou ook nog kunnen gebeuren via het ‘internet der dingen’. Er worden dan gadgets in je huis of in je auto geplaatst, die behalve datgene doen wat ze moeten doen (thermostaat, zelfsturende auto, enz.) ook opnemen wat er in je huis of in je auto gebeurt. Deze gegevens worden dan weer opgenomen door de zelflerende systemen, die op die manier nog weer meer over je te weten kunnen komen. Vervolgens kunnen vanuit die ‘dingen’ ook weer instructies gestuurd worden naar je hersenen – al zal dat nog vrij lastig zijn als er in je hersenen of elders in je lichaam niet een ‘ontvangsttoestel’ is geplaatst.
Als de mens echter een ‘beest met geest’ is met een vrije wil, dan ligt de zaak wat gecompliceerder. Weliswaar kan ook in dat geval de route van geest via hersenen naar bewustzijn en gedrag geblokkeerd worden door een virtueel systeem, maar dan wordt daar wel bewust voor gekozen. En het is heel wel denkbaar dat een aanzienlijk aantal mensen daar dan niet voor kiest. Zij zien dan willens en wetens af van de voordelen die aansluiting op het virtuele netwerk biedt, omdat ze
niet door het netwerk gedomineerd willen worden. Zelfs is het denkbaar dat deze mensen op een bewuste wijze gebruik kunnen maken van KI, terwijl ze zelf meester blijven. Deze mensen zijn dan geen cyborg maar een verbeterde versie van de humane mens: de homo spiritus.**)
Welke kant zal het opgaan, en wat zullen in beide gevallen de consequenties zijn? Daarover in het volgende blog.
*) De term is van Dorien Pessers, Afscheidscollege op de VU, 7 juli 2017, zie De Groene Amsterdammer, 7 september 2017.
**) Yuval Noah Harari gebruikt hier de term: Homo Deus, de mens als scheppende God. Zie zijn boek met die titel, 2017.

Gaan zelflerende computersystemen (Kuntsmatige intelligentie, KI of AI) de mensheid overheersen? Je hoort daar de laatste tijd heel veel over – het lijkt wel een hype (Kunstmatige intelligentie, van hype naar hype, door Christian Jongeneel in het Technisch Weekblad van 8 december). Ik doe daar graag aan mee – dus hierover mijn eerste blog (het zal niet het laatste zijn).
Om uit deze tegenstelling te geraken is ‘verwantschap’ nodig. Maar wat is dat eigenlijk? ‘Verwantschap’ is het besef dat we allemaal broeders en zusters zijn, voortkomende uit dezelfde bron: het leven zelf. Ook dieren en planten, de hele levende natuur, komt uit die bron voort. Dit werd beseft door Franciscus van Assisi, die de dieren en planten met ‘broeder’ en ‘zuster’ aansprak. ‘Verwantschap’ is dat je je verbonden voelt met de ander en met de natuur, dat het je kan schelen hoe het met hem of haar gaat, en dat je bereid bent je daarvoor in te zetten. Het is ook je realiseren dat wat die ander overkomt ook jouzelf overkomt.
Ik zou dit lijstje moeiteloos kunnen uitbreiden (onderwijs, defensie, gezondheidszorg), maar dat laat ik maar aan u over. Overigens is de politiek onder leiding van Merkel, Schäuble, Rutte en vooral Dijsselbloem op één gebied uitzonderlijk succesvol geweest: het vernietigen van de Griekse economie (Hoe zij dit voor hun geweten kunnen verantwoorden zou ik niet weten. Voor details verwijs ik naar De Groene Amsterdammer van 30 november – een artikel van Edward Geelhoed.).
The other week I witnessed a concert he gave in Amsterdam together with Mira Awad. Their performance was preceded by the documentary. They are wonderful singers. He is a kind of hybrid between Bob Dylan and Pete Seeger. It was a very moving evening.
Hebben alle mensen een geweten? Ik? U? Rutte (die niet in zijn eerste leugentje gestikt is – ik ook niet trouwens)? Merkel? Berlusconi? Trump? Zijn fundamentalistische kiezer? Mugabe? Poetin? Erdogan? Assad? Mladic? Een jihadist, die op onschuldige burgers of kinderen schiet? Een ‘onschuldig’ kind dat een koekje van een schaaltje pikt? Een verzetsstrijder, die een moord pleegt om erger te voorkomen? Een straaljagerpiloot die een gekaapt vliegtuig met passagiers uit de lucht schiet, omdat dat de piloot van dat toestel een aanslag wil plegen op een vol stadion? (Ik zag gisteravond het toneelstuk Terror van Ferdinand von Schirach dat handelt over dit dilemma. Een aanrader:
rekenen (het volgen van je geweten is dan leven volgens de deugden, zoals voorzichtigheid, gematigdheid, moed, enz.). Deze normen onderscheiden zich psychologisch nauwelijks van meer oppervlakkige voorschriften, zoals goede manieren of kledingvoorschriften. Het niet opvolgen daarvan kan tot dezelfde schuld- of schaamtegevoelens leiden als niet deugdzaam handelen.
Tegenwoordig rijden de trams in Den Haag en Rotterdam nog steeds vrijwel geluidloos, ze zoeven over de rails zoals destijds de trams in Cottbus. Maar Amsterdam is, voor zover mijn ervaring reikt, de enige stad (ter wereld?) waar de trams niet alleen als vanouds lawaai maken, maar als je er in zit veel meer dan dat. Bij optrekken, remmen, en in de bochten, word je vergast op een luid en snerpend piepen, of een krakend kreunen, wat ergens vanuit de harmonicaverbinding schijnt te komen. Ook gaat het optrekken en het remmen vaak gepaard met dreigend gebonk (niet altijd in iedere tram, maar wel vaak). Dit alles geldt met name voor de Combino trams, die op alle lijnen rijden op twee na. Alleen de wat oudere trams, op de lijnen 24 en 5, kennen deze euvelen niet. Als je de trams op straat hoort, maken ze het lawaai van staal dat ratelt over staal. Bij de Rotterdamse en Haagse trams is dat niet zo.
Het zal u waarschijnlijk niet ontgaan zijn: de advertentie van de Rabobank onder de titel: Growing a better world together. De advertentie suggereert dat de Rabobank, samen met zijn klanten – daar moet je dan natuurlijk wel bij willen horen – het wereldvoedselprobleem wel even zullen oplossen. Alsof dat zo simpel kan. Wat een pretentie, wat een arrogantie! Ik heb me aan deze advertentie geërgerd om drie redenen. De eerste is de misleiding, en zoals ik a zei, de pretentie. De tweede is dat ik me als stomme consument niet bepaald serieus genomen voel. De derde is dat een serieus probleem – honger – gebruikt wordt voor een commerciële actie. Ik vind dat onethisch.
Via mijn vrouw Anne kreeg ik een interessante vraag aangereikt uit de Hart Sutra Club: Wat is het om mens te zijn? Je kunt die vraag ook parafraseren: wat is de essentie van het mens zijn? Als ik het in abstracte zin formuleer is het antwoord op deze vraag niet zo moeilijk. Ik zou zeggen: bewustzijn, dat zich ook bewust is van zichzelf. Of om met Troelstra te spreken: ‘Een beest met geest’. Maar als je deze vraag persoonlijk maakt wordt het veel lastiger: wie of wat is de mens? Dat is eenzelfde soort spirituele vraag als de vraag: Wie ben ik?