Het toeslagenschandaal laat zien wat algoritmen bij slordige toepassing te weeg kunnen brengen. Het probleem bij de toeslagenaffaire is, dat de overheid nog steeds wil vasthouden aan een rechtvaardige compensatie aan ouders die ten onrechte schade hebben geleden. Men wil vermijden dat sommigen te veel en anderen te weinig compensatie krijgen (of zelfs al hebben gekregen). Om dat te doen moet elk dossier met de hand worden bekeken. Overigens moet dat ook volgens de wet. Als ze dat consequent blijven volhouden dan duurt het nog maar 18 jaar voor dat de affaire is afgerond (volgens de Raad van State).
Dit probleem is onoplosbaar, en een gevolg van het oorspronkelijk handelen volgens een algoritme, dat bleek te discrimineren tussen in Nederland geborenen en mensen met een buitenlandse achtergrond. Daardoor zijn vele ten onrechte aangesproken op te veel ontvangen toeslagen en dientengevolge beboet, met honderden rechtszaken als gevolg. Tot zover de omschrijving van het probleem – dat is overigens te kort door de bocht, maar als ik het probleem in detail uit de doeken zou doen had ik een vuistdik rapport nodig. Maar de conclusie uit de vorige alinea staat.
Dit probleem is dus onoplosbaar, zoals vele andere problemen die door de vorige kabinetten zijn gecreëerd of voor zich uit geschoven (met instemming van de meerderheid der kiezers). Waarom ik dit probleem aan de orde stel is omdat het als een casus kan dienen in de discussie over AI. Want het is wel zeker dat als AI wordt toegepast bij vele overheidsmaatregelen, wat men van plan is, dat er soortgelijke fouten zullen worden gemaakt. AI geeft immers terug wat je er in stopt, en dat blijft mensenwerk. Daarom denk ik dat we AI met de grootste voorzichtigheid moeten gebruiken, en als het te vermijden is, helemaal niet.
Intussen draagt AI al op dit moment bij aan de vernietiging van de wereld, door het waanzinnig hoge energie- en watergebruik van de huidige datacentra. Laten we het dus zo weinig mogelijk gebruiken en onze stem verheffen tegen de gewetenloze toepassing ervan.