Gaat kunstmatige intelligentie (KI) ons overheersen?
In een vorig blog (21 december) heb ik gesteld dat het antwoord op deze vraag mede afhangt van hoe we de mens zien: als een elektrochemisch systeem van algoritmen, of als een beest met geest, om Troelstra even te citeren.
In het eerste geval is een uiteindelijke overheersing door zelflerende systemen, zoals die nu al ontwikkeld worden door Google en Amazon, erg waarschijnlijk. Het is in dat geval namelijk heel gemakkelijk om een verbinding te maken tussen mens en machine (het virtuele systeem), door elementen van dat systeem in de mens te implanteren. In feite gebeurt dat nu al in de medische praktijk. Zo worden automaatjes geïmplanteerd, die bij suikerpatiënten de insuline afgifte reguleren, of pacemakers, die de hartritmes regelen. Het is een kleine moeite om die implantaten te verbinden met een virtueel systeem, dat dan vervolgens meer kan regelen dan hetgeen waarvoor die implantaten bedoeld zijn. Zo zullen er ook hersenimplantaten beschikbaar komen, die gestoorde hersenfuncties, als gevolg van een beroerte of herseninfarct, kunnen overnemen. De volgende stap is dan dat ook meer gecompliceerde stoornissen, zoals Alzheimer, Parkinson of Multiple Sclerose op die manier kunnen worden verholpen. En als laatste niet ondenkbare mogelijkheid kunnen meer mentale hersenfuncties, zoals de gewetens- of wilsfunctie door implantaten worden aangestuurd. Dit is echter zo’n complex proces, dat dit alleen maar zal kunnen als die implantaten met een groot zelflerend systeem zijn verbonden. Voor die mensen is dan de overheersing door KI een feit. En het zou kunnen zijn dat dit zo ‘perfect’ werkt, dat niet alleen zieke mensen, maar ook gezonde mensen op dit soort systemen kunnen worden aangesloten. Het is denkbaar dat daar massaal gebruik van wordt gemaakt. De mensen hebben volgens deze visie immers geen vrije wil, dus als gezien wordt dat de systemen op het eerst gezicht effectiever en succesvoller zijn dan het per definitie beperkte menselijk brein, dan is de ‘keuze’ snel gemaakt. We gaan dan leven in een wereld die overheerst wordt door ‘cyborgs’ (cybernetic organisms): humanoïde robotten, oftewel de posthumane mens, de homo mechanicus.*)
Dit alles zou ook nog kunnen gebeuren via het ‘internet der dingen’. Er worden dan gadgets in je huis of in je auto geplaatst, die behalve datgene doen wat ze moeten doen (thermostaat, zelfsturende auto, enz.) ook opnemen wat er in je huis of in je auto gebeurt. Deze gegevens worden dan weer opgenomen door de zelflerende systemen, die op die manier nog weer meer over je te weten kunnen komen. Vervolgens kunnen vanuit die ‘dingen’ ook weer instructies gestuurd worden naar je hersenen – al zal dat nog vrij lastig zijn als er in je hersenen of elders in je lichaam niet een ‘ontvangsttoestel’ is geplaatst.
Als de mens echter een ‘beest met geest’ is met een vrije wil, dan ligt de zaak wat gecompliceerder. Weliswaar kan ook in dat geval de route van geest via hersenen naar bewustzijn en gedrag geblokkeerd worden door een virtueel systeem, maar dan wordt daar wel bewust voor gekozen. En het is heel wel denkbaar dat een aanzienlijk aantal mensen daar dan niet voor kiest. Zij zien dan willens en wetens af van de voordelen die aansluiting op het virtuele netwerk biedt, omdat ze
niet door het netwerk gedomineerd willen worden. Zelfs is het denkbaar dat deze mensen op een bewuste wijze gebruik kunnen maken van KI, terwijl ze zelf meester blijven. Deze mensen zijn dan geen cyborg maar een verbeterde versie van de humane mens: de homo spiritus.**)
Welke kant zal het opgaan, en wat zullen in beide gevallen de consequenties zijn? Daarover in het volgende blog.
*) De term is van Dorien Pessers, Afscheidscollege op de VU, 7 juli 2017, zie De Groene Amsterdammer, 7 september 2017.
**) Yuval Noah Harari gebruikt hier de term: Homo Deus, de mens als scheppende God. Zie zijn boek met die titel, 2017.

Gaan zelflerende computersystemen (Kuntsmatige intelligentie, KI of AI) de mensheid overheersen? Je hoort daar de laatste tijd heel veel over – het lijkt wel een hype (Kunstmatige intelligentie, van hype naar hype, door Christian Jongeneel in het Technisch Weekblad van 8 december). Ik doe daar graag aan mee – dus hierover mijn eerste blog (het zal niet het laatste zijn).
Om uit deze tegenstelling te geraken is ‘verwantschap’ nodig. Maar wat is dat eigenlijk? ‘Verwantschap’ is het besef dat we allemaal broeders en zusters zijn, voortkomende uit dezelfde bron: het leven zelf. Ook dieren en planten, de hele levende natuur, komt uit die bron voort. Dit werd beseft door Franciscus van Assisi, die de dieren en planten met ‘broeder’ en ‘zuster’ aansprak. ‘Verwantschap’ is dat je je verbonden voelt met de ander en met de natuur, dat het je kan schelen hoe het met hem of haar gaat, en dat je bereid bent je daarvoor in te zetten. Het is ook je realiseren dat wat die ander overkomt ook jouzelf overkomt.
In 1972 the study Limits to Growth was published. It was an overview of several so called future scenarios. It sometimes is said that the study didn’t predict the future correctly, because it didn’t predict climate change. But that was not the theme of the study. The study showed that unlimited growth in a finite ecosystem (planet earth) is not possible. Either one has to limit growth by deliberately changing some of the input variables of the system or the system will collapse spontaneously. And because we didn’t fundamentally change our goal (unlimited growth), now we can see the beginning of the collapse. So the study is more up-to-date than ever.
Maar als intuïtie niet het blindvaren op Systeem 1 is, wat is het dan wel? Daarvoor moeten we te rade gaan bij de transpersoonlijke psychologie (Jung, Wilber, en vele anderen). Intuïtie blijkt dan een onmiddellijk inzicht te zijn dat juist niet gebaseerd is op associatie, interpretatie, ervaring of redelijk denken. Het doet zich vaak voor als een inval ‘out of the blue’. Het vereist training en zelfreflectie om bij zichzelf te leren onderscheiden tussen intuïtie en invallen van andere oorsprong. Over de vraag of intuïtie altijd ‘correct’ is, is het laatste woord overigens nog niet gesproken.
In dit blog geef ik een voorbeeld van een dergelijk gebed, afkomstig uit Gebedsboekje voor zoekers, 2010 (Dat is hier en daar nog verkrijgbaar). Een beetje pathetisch misschien, maar ach. . .
Nog eens terugdenkend aan de uitzending van ‘Zomergasten’ van 30 juli (met burgemeester Van der Laan) trof me iets dat ik als een belangrijk verschil zie tussen Van der Laan enerzijds en de heren Pechtold, Rutte en Buma anderzijds. Dat is dat Van der Laan ontroerd kan worden, terwijl ik me dat bij de andere drie niet kan voorstellen. Dat kan ik natuurlijk helemaal mis hebben, maar dit is mijn persoonlijke indruk.
Het is niet alleen het verdriet dat ons bij elkaar brengt. Ook het succes van de vrouwen in het EK – ik weet nog niet of ze dat vanavond kunnen voortzetten – verbroedert en verzustert (Och heden, die termen mogen vandaag de dag niet meer. . . )