Some subjects have been very hard to convince that Eliza is not human.
(Joseph Weizenbaum)

IK ben nooit erg onder de indruk geweest van ChatGTP, want in 1987 had ik al Eliza op mijn computer staan. Dat was een therapieprogramma ontwikkeld door Joseph Weizenbaum op basis van de Rogeriaanse theorie. Er was natuurlijk nog geen Siri, dus je kon met dat prgramma alleen communiceren via ingetypte teksten, en Eliza antwoordde dan ook alleen met tekst. Niettemin was ik verbijsterd door hoe ‘echt’ de therapeut leek. Als proef heb ik toen een tijdje met Elize gechat en hoewel ik al snel door had hoe het werkte vond ik het verbluffend authentiek. Dus toen ChatGTP kwam was ik niet echt verbaasd.

Weizenbaum wilde met Eliza aantonen dat chatbots slechts een script afdraaiden en zelf niet intelligent waren, laat staan ‘menselijk’. Maar het liep anders. Eliza werd ongelooflijk populair en vele mensen verklaarden dat ze er echt door geholpen waren. Ik weet eigenlijk niet waarom het is verdwenen, lang voor de komst van AI.

Momenteel staan chatbots ter discussie, sinds er verhalen rondgaan dat bij sommige mensen chatbots een psychose hebben veroorzaakt. Enige tijd geleden heeft chatten zelfs rot een suïcide geleid van een 16-jarige jongen die in de weken daarvoor intensief met een chatbot had gesproken. Ik vind dat niet verbazend, want er wordt wel eens vergeten dat een chatbot alleen maar teruggeeft wat je er in stopt. Als er niet van tevoren al inhoudelijke algoritmens ingebouwd zijn, gegeven ze alleen maar terug wat je er zelf in stopt, en versterken dat. Als je depressief bent, bevestigt de chatbot je daarin.

Mark Zuckerberg is van mening dat chatbots een goed middel kunnen zijn ter bestrijding van eenzaamheid. Maar het tegendeel is het geval. Tijdelijk kunnen ze helpen je minder eenzaam te voelen maar na geruime tijd wreekt het zich dat chatbots wel levend lijken ( en ook zo geconstrueerd worden) maar het in feite niet zijn. Als men dat gaat ontdekken slaat de eenzaamheid verhevigd toe.

Door ons gebruik van AI en chatbots neemt het offline contact af en mechaniseert onze samenleving. We denken dat de chatbot een Ander is, maar het is een projectie van onszelf, eventueel vervormd door van buiten ingebouwde algoritmes. Is dat erg? Wel als je je realiseert dat persoonlijke groei niet in de laatste plaats gestimuleerd wordt door persoonlijk contact met een echte Ander; met name zijn/haar ziel (Emmanuel Levinas, De Tijd en de Ander, Ambo). Door AI en chatbots verarmt onze cultuur verder, wat nu al gebeurt door de enorme nadruk op materiële consumptie. Verdere nadelen kunt uzelf wel bedenken.

Ik zal AI weinig gebruiken, en dan alleen nog maar in het bewustzijn van wat ik aan het doen ben, als hulpmiddel, gereedschap (als ik er tenminste niet onbewust ingezogen ben).

.

N.B.: Omdat ik de tweede helft van volgende week afwezig ben komt mijn volgende blog al op dinsdag a.s.