febr.
2022
febr.
2022
door Victor Christiano
febr. 2022
Er zijn tegenwoordig ontwikkelingen in de richting van een wereldwijde computergestuurde samenleving, waar mensen en robots als vergelijkbaar worden beschouwd. Deze trend zal uiteindelijk stuklopen, want de onvrijheid en onleefbaarheid zullen er steeds meer door toenemen. Te hopen is dat men in gezaghebbende kringen tot bezinning komt vóór de schadelijke gevolgen van computerbestuur dramatische vormen gaan aannemen.
Al in de jaren 1960 leefden er ideeën over superintelligente computers. Met name in science fiction films werd over de mogelijkheden van de – toen in werkelijkheid nog heel beperkte – computertechniek grenzeloos verder gefantaseerd. Zo kwam in de tv-serie Star Trek een buitengewoon intelligente robot genaamd Data voor die heel menselijke trekjes had. Zulke superrobots ofwel humanoïden worden inmiddels in sf-literatuur regelmatig ten tonele gevoerd.
Niet alleen science fiction schrijvers maar ook serieuze futuristen kwamen in de begintijd van de computer met ideeën over buitengewone computerintelligentie. Zo schreef bijvoorbeeld de bekende automatiseringsadviseur John Diebold: “Man's intellect no longer sets him apart from the rest of creation. He has created machines that increasingly are able to think like him and even out-think him.” [ref. 1]
Naarmate de computertechniek verder werd ontwikkeld bleek steeds meer dat computerintelligentie aan grote beperkingen onderhevig is. Het kost veel intellectuele inspanning om een goed werkende en betrouwbare computerapplicatie te maken. Software-ontwikkelaars doen hun best om perfecte programma's te maken, maar ze weten ook dat dit ideaal niet haalbaar is. Er kunnen in een toepassing altijd onontdekte fouten zitten en die kunnen ook heel ernstig zijn. Toch hebben veel mensen nog steeds een naïef vertrouwen dat computers geen fouten maken.
Het geloof in de computer begon op te komen toen het in de vorige eeuw mogelijk bleek om computers heel snel en foutloos administratieve routinetaken te laten uitvoeren. De computers werden daartoe geprogrammeerd omdat er in de samenleving enorm veel saai rekenwerk en administratie moest worden verricht. De administratieve automatisering betekende geweldige maatschappelijke vooruitgang. De systeemontwerpers en programmeurs beseften heel goed dat een computer uit zichzelf niets kan, dat er heel wat menselijke creativiteit en intelligentie nodig is om deze apparaten tot nuttige machines te maken.
Computers werden bijzonder waardevol in de samenleving, maar er werd helaas door veel mensen vergeten dat ze alleen maar intelligent lijken te zijn omdat ze door mensen zijn geprogrammeerd. Toen het leven dankzij de computer en het internet een stuk makkelijker en interessanter was geworden kwamen er nog meer ideeën over een computergestuurde samenleving van heerlijk nietsdoen. Men begon te fantaseren over een “dolce far niente”, waar robots al het werk doen en superintelligente computers alle moeilijke beslissingen nemen.
Deze fantasieën over een heerlijke nieuwe wereld dankzij computerintelligentie hebben ertoe geleid dat tegenwoordig in sommige gezaghebbende kringen serieus wordt gestreefd naar een computergestuurde samenleving waarin ook het menselijke gedrag steeds meer onder computercontrole komt.
Opmerkelijk wat dit betreft is bijvoorbeeld het boek “The fourth industrial revolution” [ref.2], geschreven door de oprichter van het invloedrijke WEF (World Economic Forum), Klaus Schwab. Daarin beschrijft de auteur uiteenlopende conclusies uit toekomstonderzoek, zoals: “People are becoming more and more connected to devices, and those devices are increasingly becoming connected to their bodies. Devices are not just being worn, but also being implanted into bodies, serving communications, location and behavior monitoring, and health functions.“
Zulke geïmplanteerde digitale apparaatjes kunnen het mogelijk maken om mensen te koppelen aan en te sturen vanuit een omvangrijk digitaal controlenetwerk. Dergelijke toekomstscenario's worden bedacht door personen die het verschil tussen mensen en machines niet begrijpen. Dat verschil is zo groot dat het eigenlijk absurd is om mensen en machines met elkaar te vergelijken. Mensen zijn in essentie spirituele wezens en als zodanig in staat tot initiatief en verantwoordelijkheid, terwijl machines altijd onbezielde apparaten blijven, hoeveel computerintelligentie men er ook in stopt.
Er lijkt onder de bevolking een verontrustende bereidheid te bestaan om te leven in een toekomstige computergestuurde maatschappij. Dat heeft te maken met het tegenwoordig overheersende materialistische mens- en wereldbeeld. Veel mensen zijn van zichzelf vervreemd en daardoor hun eigen menselijke superioriteit over machines vergeten. Ze vinden het bijvoorbeeld normaal dat wordt gesproken over “samenwerking van robots en mensen” in plaats van over gebruik van robots door mensen.
Het verschil tussen mensen en machines wordt niet algemeen ingezien doordat de hedendaagse wetenschap het bestaan van de spirituele essentie in ieder mens wil ontkennen. Vanuit de wetenschap heeft het materialisme zich in andere sectoren van de samenleving verspreid. Daardoor zijn veel mensen hun zelfvertrouwen kwijtgeraakt. Men heeft zijn hoop op de computer gevestigd in plaats van op zichzelf.
Door de opkomst van het materialisme is het spiritueel-humanistische mensbeeld dat in de Renaissance opkwam voor een groot deel verloren gegaan. De vooruitgang in de moderne cultuur is te danken aan de creatieve vermogens die zich dankzij het spirituele mensbeeld konden ontplooien. Maar de hedendaagse materialistische mens zet zichzelf als creatief wezen buiten spel door de computer boven zichzelf te plaatsen.
Met computerintelligentie ofwel AI (Artificial Intelligence) als zodanig is niets verkeerd. Het heeft voor de mens veel voordeel om bepaalde werkzaamheden door automatisering makkelijker of zelfs overbodig te maken. Door dat te doen kunnen we aandacht en energie besteden aan activiteiten die meer in overeenstemming zijn met onze menselijke drijfveren en creatieve mogelijkheden.
De technologie heeft voor steeds meer mensen bestaanszekerheid en vrijheid mogelijk gemaakt. Computerintelligentie kan verder bijdragen aan de vooruitgang van de moderne cultuur. Te verwachten is dat de ontwikkelingen op dit gebied steeds sneller zullen gaan. Over enkele jaren zal de robot in allerlei omgevingen een normaal verschijnsel zijn. Dat zou niet verontrustend zijn als het verschil tussen mensen en robots algemeen in de samenleving werd begrepen. De computertechniek kan enorm verder bijdragen aan de welvaart, veiligheid en vrijheid. In een sterk geautomatiseerde maatschappij heeft de mens tijd beschikbaar om zichzelf te ontplooien, met andere mensen te communiceren en creatief bezig te zijn.
Moderne robots kunnen bepaalde werkzaamheden vrijwel volledig automatisch verrichten. Ze worden toepassingsgericht ontworpen en kunnen vaak nog verder voor een specifieke taak worden geprogrammeerd. Robots kunnen heel nuttig zijn, mits de mens er de gebruiker van blijft.
De robotica kan de mens verlossen van uiteenlopende saaie, lastige, gevaarlijke en zware werkzaamheden. Succes-ondernemingen, zoals het Deense bedrijf MiR (Mobile Industrial Robots), zijn op dat principe gebaseerd. De oprichter van MiR ontwierp in 2011 met het Lego-spel van zijn zoon zijn eerste industriële robot, en inmiddels werken er 220 mensen bij zijn bedrijf. [ref.3]
Een ander voorbeeld van nuttige robottechniek zijn de automatische stofzuigers die tegenwoordig toenemend te koop zijn. Zo'n stofzuigrobot reinigt de vloer terwijl hij zich zelfstandig door de ruimte voortbeweegt en daarbij uiteenlopende obstakels ontwijkt. De tegenwoordige automatische stofzuigers functioneren nog niet optimaal, maar er wordt in verschillende bedrijven gewerkt aan het verder verbeteren van deze apparaten.
Een goede robot is niet een machine die op een mens lijkt maar een automatisch apparaat met een nuttige speciale functie. Toch zijn de ideeën om robots menselijk te maken nog niet voorbij. Opmerkelijk is bijvoorbeeld dat experimenteel onderzoek werd verricht betreffende hoe mensen reageren op communicaties door een robot. Daarbij ging het onder meer om de bereidheid om aanwijzingen van een robot op te volgen. Vastgesteld werd dat die bereidheid toeneemt als mensen vriendelijk door de robot worden aangeraakt. [ref.4]
Te denken geeft ook dat de nieuwe generatie robots soms wordt aangeduid met de term cobots, een afkorting van “collaborative robots”. De gedachte achter deze naamgeving is dat robots en mensen samenwerken, hetgeen natuurlijk onzinnig is; robots werken niet samen met mensen maar worden door mensen gebruikt. In de praktijk is dat ook zo; deze nieuwere apparaten zijn heel praktisch en hebben geen humanoïde hoedanigheden. Als deze robots vakkundig worden gebruikt zijn ze erg nuttig, maar als ze worden ingezet alsof ze gelijkwaardig zijn aan mensen zal dat zeker tot onwerkbare situaties en hoge kosten leiden. Een robot die op een mens lijkt kan misschien grappig zijn als curiositeit maar is volstrekt niet zinvol.
Dat tegenwoordig wordt gesproken over cobots duidt er op dat de ideeën over humanoïde robots nog steeds de wereld niet uit zijn. Toch is men in het bedrijfsleven in het algemeen realistisch genoeg om te begrijpen dat mensachtige robots niet zinvol zijn. De zogenoemde cobots zijn in werkelijkheid gewoon innovatieve robots die veiliger en praktischer zijn dan de oudere typen.
Veel meer verontrustend dan de opkomst van de industriële en huishoudelijke robots is het misplaatste vertrouwen dat veel autoriteiten hebben in softwarematige robots, de zogenoemde algoritmen ofwel computermodellen. Aan de output van deze algoritmen lijkt men meer waarde toe te kennen dan aan de adviezen van bekwame mensen. Het computermodel heeft tegenwoordig vaak een hogere status dan de menselijke expert.
Dat is des te meer verontrustend als het betreffende algoritme zelflerend is. Zulke software doorzoekt grote hoeveelheden gegevens ofwel data en past zichzelf dan aan op grond van analyse daarvan. Het vertrouwen op de uitkomsten van zulke zelflerende algoritmen is een soort heilig geloof geworden dat wel wordt aangeduid als dataïsme. Dat het bestuurlijk toepassen van zelflerende software al tot grote misstanden heeft geleid is bekend. Zo gebruikte de overheid een systeem genaamd SyRI (Systeem Risico Indicatie) om uitkeringsfraude op te sporen. Daarmee werden allerlei persoonlijke gegevens gekoppeld en automatisch geanalyseerd. Dat leidde zoals te verwachten tot onjuiste en onrechtmatige conclusies, waarna SyRI in 2020 door de rechter werd verboden. [ref.5]
Misplaatst vertrouwen in algoritmen was waarschijnlijk ook een belangrijke factor in de toeslagenaffaire. Tienduizenden mensen werden jarenlang onterecht door de Belastingdienst van fraude beschuldigd en ernstig financieel benadeeld. Uiteindelijk kwam dit aan het licht en werd besloten dat de gedupeerden schadevergoeding zullen ontvangen.
Ondanks deze fiasco's met bestuurlijke computerintelligentie lijkt de overheid op de ingeslagen weg te willen doorgaan. Zo is er een nieuwe wet in de maak, genaamd WGS (Wet Gegevensverwerking Samenwerkingsverbanden), waarmee grootschalige koppeling en analyse van persoonsgegevens uit diverse bronnen mogelijk wordt. Dat systeem gaat nog verder dan het door de rechter verboden SyRI, en wordt daarom wel aangeduid als Super SyRI.
Ook in de gezondheidszorg is al geruime tijd een ontwikkeling gaande in de richting van toenemend vertrouwen op de computer. Er wordt zelfs gedacht over de mogelijkheid dat artsen dankzij computerintelligentie overbodig worden. [ref.6] Dat zulke ontwikkelingen mogelijk worden geacht heeft te maken met een andere ongunstige trend in de gezondheidszorg: patiënten worden steeds meer voornamelijk gezien als biochemische systemen.
Nog niet zo lang geleden beschouwde de arts een patiënt als een mens met wie gecommuniceerd kon worden. De anamnese, het persoonlijke gesprek, was essentieel bij het stellen van een diagnose. In de tegenwoordige gezondheidszorg lijkt men de patiënt alleen nog maar te zien als een defecte biochemische machine. Het is dan ook begrijpelijk dat men lerende algoritmen meent te kunnen inzetten om de taak van de dokter over te nemen.
Opvallend was bijvoorbeeld dat een softwarerobot voor het oncologie-examen bleek te kunnen slagen. [ref.6] Deze computerapplicatie had daartoe zelfstandig een omvangrijke hoeveelheid oncologische feitenkennis in zijn geheugen verzameld.
Het idee dat het overdragen van menselijke verantwoordelijkheid aan de computer de wereld ordelijker en leuker kan maken zal vroeg of laat op een enorme teleurstelling uitlopen. Hoe eerder men tot het inzicht komt dat deze naïeve hoop tot chaos en ellende leidt hoe beter. Want hoe langer deze ontwikkeling door gaat des te erger zullen de rampzalige gevolgen zijn.
Computers en robots zijn prima zolang wordt beseft dat dit gewoon nuttige hulpmiddelen zijn. De problemen ontstaan doordat mensen meer vertrouwen in de computer hebben dan in zichzelf. Dat gebeurt tegenwoordig helaas al te vaak. “Mensen volgen vaak blind de uitkomsten van het systeem op,” aldus cultuursocioloog Siri Beerends. [ref.5]
Het kan beginnen met gemakzuchtig vertrouwen in computerintelligentie in het dagelijkse leven. Volgens een “Young Global Leader” van het WEF wordt het bijvoorbeeld normaal om door een algoritme te laten bepalen welke boodschappen gekocht zullen worden. Daarbij houdt de lerende computer rekening met de subjectieve voorkeuren van de persoon. Na verloop van tijd kent het algoritme je smaak zelfs beter dan je dat zelf doet, meent deze auteur. [ref.7]
Ook met betrekking tot belangrijker onderwerpen kan een toename worden waargenomen van irrationeel vertrouwen in computerintelligentie. Dat kan met name in de politiek tot desastreuze ontwikkelingen leiden. Door het naïeve vertrouwen in de computer zal uiteindelijk niet een utopische maar een dystopische samenleving ontstaan. De computergestuurde maatschappij zal een enorm fiasco worden. De wal zal het schip wel keren maar dat zal met rampzalige toestanden gepaard gaan. Te hopen is dat men in gezaghebbende kringen eerder tot bezinning komt.
Referenties:
1. John Diebold: “Man and the computer”; Frederick A. Praeger, New York, 1969.
2. Klaus Schwab: “The fourth industrial revolution”; World Economic Forum, 2016.
3. Mobile Industrial Robots A/S; www.mobile-industrial-robots.com.
4. Laura Hoffmann, Nicole C. Krämer: “The persuasive power of robot touch. Behavioral and evaluative consequences of non-functional touch from a robot.” PLoS ONE, 5 mei 2021.
5. Siri Beerends: “Met deze nieuwe wet is het wachten op een toeslagenaffaire 2.0”; oneworld.nl, 1 febr. 2021.
6. Vivian Lammerse: “Een machine als huisarts: worden we daar beter van”; scientias.nl, 26 jan. 2019.
7. Ida Auken: “Welcome to 2030: I own nothing, have no privacy and life has never been better”; forbes.com, 10 nov. 2016.
De publicatie van FiLOSCOOP wordt verzorgd door Bureau Everink te Almere.
Copyright © 2022 Victor Christiano, Bureau Everink