Er zijn in de geschiedenis van de mensheid altijd perioden en momenten geweest waarin een veelheid van mensen zich heeft onderworpen aan een externe autoriteit (God, priester, goeroe, demagoog), godsdienst, ideologie of hype ten koste van hun individuele autonomie. Ook heden ten dage zien we dat gebeuren. Het kan zich op massale schaal voordoen (nazisme, fascisme, communisme, godsdienst), of op kleinere schaal (goeroe’s, sektes). Het kan eeuwen duren (middeleeuwen), jaren, of enkele dagen of uren (bijv. in voetbalstadions of bij massademonstraties). Een merkwaardig aspect van dit verschijnsel is dat de mensen in een dergelijk proces in hoge mate hetzelfde gedrag vertonen en hetzelfde denken, maar vaak weinig diepgaand onderling contact hebben (zie bijvoorbeeld: Kurt Baschwitz, Denkend mens en menigte, 1940). Ze blijven relatief geïsoleerde individuen.
De interessante vraag die zich nu voordoet, zullen we ons ook op die manier gaan uitleveren aan de grote, zelflerende intelligenties die in de komende tijd zullen worden ontwikkeld? Zullen we ons in ons dagelijks gedrag laten leiden door de adviezen, of zelfs instructies die deze systemen aan ons voorleggen, met name als blijkt dat die adviezen en instructies veel sneller en veel effectiever tot voor ons heilzame gevolgen leiden dan we dat zelf kunnen doen?
Maar zal het echt zo zijn, dat die adviezen, instructies en ‘handelingen (via ‘cyborgs’) van die systemen altijd heilzaam zijn? Dat hangt van een paar dingen af. In de eerste plaats van hoeveel die systemen van ons weten. Het is nu al zo dat Facebook, Google, Amazon en dergelijk organisaties al meer weten over onszelf dan we zelf op een rijtje hebben, dus dat ze vaak beter lijken te weten wat we in bepaalde situaties moeten doen of kiezen dan wijzelf. Het valt te verwachten dat in de nabije toekomst dit nog verder geperfectioneerd gaat worden.
In de tweede plaats hangt het er van af hoe die systemen geprogrammeerd gaan worden. Wat is het doel waarnaar zij streven? Is het zo dat die systemen altijd werken tot heil van het individu of van de collectiviteit? En wat zullen de systemen doen als er tegenstrijdigheid ontstaat tussen de effecten van verschillende handelingen? Is het bijvoorbeeld geoorloofd mensen te doden om erger onheil te voorkomen, en waar ligt in dat geval de grens? (Een interessante case is aan de orde in het toneelstuk Terror, nog te zien in Juni 2018, zie https://www.ntk.nl/voorstelling/terror. Ook science fiction, zoals de roman Ik, robot, van Isaac Asimov, gratis uitgedeeld door Openbare Bibliotheken, laat zien waar die situatie toe kan leiden ).
Wat zal het worden? Zal de post-humane mens, de homo spiritus, meester blijven over de intelligentie-systemen, of zullen we er slaaf van worden (homo servus)? En in het laatste geval: wie zijn de meesters? De (super-)rijke bezitters van de systemen? Maar zij zijn niet in staat die systemen te programmeren. Dus misschien zijn het de weinige techneuten die deze systemen nog min of meer begrijpen, en ze min of meer kunnen programmeren die de werkelijke meesters zijn. In dat geval mag je hopen dat zij geen cyborgs zijn, want dan is de kans niet uitgesloten dat de zelflerende systemen de macht overnemen, en de techneuten zelf ook slaven worden.
Ik denk dat onze enige hoop gelegen is in de menselijke geest, waarin we dus allereerst moeten geloven, en die we dan vervolgens zo goed mogelijk moeten ontwikkelen. Die geest zal dan beseffen, dat moeilijkheden en pijn een onlosmakelijk deel uitmaken van het leven zelf, en dat we gemakzucht niet boven alles zouden moeten stellen en niet zouden moeten streven naar een uitsluitend soepel en gladjes verlopend bestaan. Een dergelijk bestaan zou armoedig en leeg zijn. Als velen van ons zich dat realiseren, kan het zijn dat de toekomst niet is aan de systemen, maar aan de homo spiritus, die dan zelf kan beoordelen of, en in welke mate, die systemen bijdragen tot ons welzijn, en in hoeverre en op welke wijze hij van die systemen gebruik wil maken. Intussen raad ik u aan om uiterst kritisch te zijn met het toelaten van gadgets en apparatuur in uw huis of auto, en zeker in uw lichaam (of dat van uw kinderen!), die verbinding heeft met internet. U heeft die apparatuur al (bijvoorbeeld uw navigatiesysteem, thermostaat, telefoon of computer), dus u kunt er maar beter zeker van zijn dat die apparatuur niet op oneigenlijke wijze gebruikt wordt.
Verantwoording.
Deze blogs over KI zijn sterk geïnspireerd door: Dorien Pessers, Afscheidscollege op de VU, 7 juli 2017, zie De Groene Amsterdammer, 7 september 2017; het artikel van Christian Jongeneel in Het Technisch Weekblad van 8 dec. 2017: Kunstmatige intelligentie, van hype naar hype; en het boek van Yuval Noah Harari, Homo Deus, 2017.

niet door het netwerk gedomineerd willen worden. Zelfs is het denkbaar dat deze mensen op een bewuste wijze gebruik kunnen maken van KI, terwijl ze zelf meester blijven. Deze mensen zijn dan geen cyborg maar een verbeterde versie van de humane mens: de homo spiritus.**)
Gaan zelflerende computersystemen (Kuntsmatige intelligentie, KI of AI) de mensheid overheersen? Je hoort daar de laatste tijd heel veel over – het lijkt wel een hype (Kunstmatige intelligentie, van hype naar hype, door Christian Jongeneel in het Technisch Weekblad van 8 december). Ik doe daar graag aan mee – dus hierover mijn eerste blog (het zal niet het laatste zijn).
Om uit deze tegenstelling te geraken is ‘verwantschap’ nodig. Maar wat is dat eigenlijk? ‘Verwantschap’ is het besef dat we allemaal broeders en zusters zijn, voortkomende uit dezelfde bron: het leven zelf. Ook dieren en planten, de hele levende natuur, komt uit die bron voort. Dit werd beseft door Franciscus van Assisi, die de dieren en planten met ‘broeder’ en ‘zuster’ aansprak. ‘Verwantschap’ is dat je je verbonden voelt met de ander en met de natuur, dat het je kan schelen hoe het met hem of haar gaat, en dat je bereid bent je daarvoor in te zetten. Het is ook je realiseren dat wat die ander overkomt ook jouzelf overkomt.
Ik zou dit lijstje moeiteloos kunnen uitbreiden (onderwijs, defensie, gezondheidszorg), maar dat laat ik maar aan u over. Overigens is de politiek onder leiding van Merkel, Schäuble, Rutte en vooral Dijsselbloem op één gebied uitzonderlijk succesvol geweest: het vernietigen van de Griekse economie (Hoe zij dit voor hun geweten kunnen verantwoorden zou ik niet weten. Voor details verwijs ik naar De Groene Amsterdammer van 30 november – een artikel van Edward Geelhoed.).
The other week I witnessed a concert he gave in Amsterdam together with Mira Awad. Their performance was preceded by the documentary. They are wonderful singers. He is a kind of hybrid between Bob Dylan and Pete Seeger. It was a very moving evening.
Hebben alle mensen een geweten? Ik? U? Rutte (die niet in zijn eerste leugentje gestikt is – ik ook niet trouwens)? Merkel? Berlusconi? Trump? Zijn fundamentalistische kiezer? Mugabe? Poetin? Erdogan? Assad? Mladic? Een jihadist, die op onschuldige burgers of kinderen schiet? Een ‘onschuldig’ kind dat een koekje van een schaaltje pikt? Een verzetsstrijder, die een moord pleegt om erger te voorkomen? Een straaljagerpiloot die een gekaapt vliegtuig met passagiers uit de lucht schiet, omdat dat de piloot van dat toestel een aanslag wil plegen op een vol stadion? (Ik zag gisteravond het toneelstuk Terror van Ferdinand von Schirach dat handelt over dit dilemma. Een aanrader:
rekenen (het volgen van je geweten is dan leven volgens de deugden, zoals voorzichtigheid, gematigdheid, moed, enz.). Deze normen onderscheiden zich psychologisch nauwelijks van meer oppervlakkige voorschriften, zoals goede manieren of kledingvoorschriften. Het niet opvolgen daarvan kan tot dezelfde schuld- of schaamtegevoelens leiden als niet deugdzaam handelen.
Tegenwoordig rijden de trams in Den Haag en Rotterdam nog steeds vrijwel geluidloos, ze zoeven over de rails zoals destijds de trams in Cottbus. Maar Amsterdam is, voor zover mijn ervaring reikt, de enige stad (ter wereld?) waar de trams niet alleen als vanouds lawaai maken, maar als je er in zit veel meer dan dat. Bij optrekken, remmen, en in de bochten, word je vergast op een luid en snerpend piepen, of een krakend kreunen, wat ergens vanuit de harmonicaverbinding schijnt te komen. Ook gaat het optrekken en het remmen vaak gepaard met dreigend gebonk (niet altijd in iedere tram, maar wel vaak). Dit alles geldt met name voor de Combino trams, die op alle lijnen rijden op twee na. Alleen de wat oudere trams, op de lijnen 24 en 5, kennen deze euvelen niet. Als je de trams op straat hoort, maken ze het lawaai van staal dat ratelt over staal. Bij de Rotterdamse en Haagse trams is dat niet zo.
Het zal u waarschijnlijk niet ontgaan zijn: de advertentie van de Rabobank onder de titel: Growing a better world together. De advertentie suggereert dat de Rabobank, samen met zijn klanten – daar moet je dan natuurlijk wel bij willen horen – het wereldvoedselprobleem wel even zullen oplossen. Alsof dat zo simpel kan. Wat een pretentie, wat een arrogantie! Ik heb me aan deze advertentie geërgerd om drie redenen. De eerste is de misleiding, en zoals ik a zei, de pretentie. De tweede is dat ik me als stomme consument niet bepaald serieus genomen voel. De derde is dat een serieus probleem – honger – gebruikt wordt voor een commerciële actie. Ik vind dat onethisch.