De robot is geen collega!

Scheld je ook wel eens op de computer als het ding niet doet wat jij wilt? Dicht je een apparaat soms persoonlijkheid toe? Mijn oude gitaren zijn voor mij als vrienden, metgezellen door het leven. Filosoof Anthony Kenny (geboren 1931) noemt dit “technologisch antropomorfisme” (een instrument of machine als mens met menselijke eigenschappen aanspreken). Niet doen, en gevaarlijk, stelt hij. Volgens hem heeft artificiële intelligentie, bijvoorbeeld, net zoveel met intelligentie te maken, als een klok met tijdsbesef: niets (wellicht slim geconstrueerd en vanuit sommige opzichten zinvol en vanuit andere opzichten achteraf vaak beslist niet). Het attribueren van intelligentie en andere humane eigenschappen, zoals gevoel en taalbegrip aan techniek, is gevaarlijk en vaak een bron van het onderschatten van het belang van mens-mens relaties en interacties. Hoe “slimmer” de techniek, hoe gevaarlijker, aldus Kenny.

Hoe prachtig een viool in bekwame handen ook mag klinken, het ding heeft geen ziel. Een robot is geen collega, maar een instrument (zelfs als jij er door "bespeeld" wordt, daar ga ik zo verder op in). Antropomorfisme helpt een gebruiker soms wel de mogelijkheden en beperkingen van een instrument beter te leren kennen. Als je een machine moet leren gebruiken, en je benadert het ding via het toekennen van menselijke eigenschappen, bijvoorbeeld als je bij het schakelen in de auto het ding hoort krassen en je zegt: dat vindt hij niet prettig, dan helpt dat het apparaat sneller te leren begrijpen. Bij het werken met computers geldt dit wellicht nog meer, als je teveel rekencapaciteit vraagt, bijvoorbeeld, zeg je: “nu gaat hij over zijn nek”, of “hij hangt”.

Er is één heel groot verschil tussen oudere technologieën, zoals violen en computers en nieuwere technologieën (internet zoekmachines, robots, chatbots, etc.). Oudere technieken zijn voornamelijk instrumenten in onze handen; hoewel we slechts een beperkte subset van ons eigen handelingsrepertoire kunnen inzetten, is dat wel om onze eigen gestelde doelen te behalen. Maar nieuwe techniek gebruikt vaak zonder dat je het bewust bent jou als instrument. Daarom zijn nieuwe technologieën slechts zeer ten delen op te vatten als instrumenten of gereedschappen. Bij instrumentele techniek is duidelijk wat het jou kan aandoen: een stuurfout in de auto, kan dat tot een naar ongeluk leiden, een misslag met de hamer kan leiden tot een zere duim of erger. Bij nieuwe technologieën is dit echter onduidelijker.

Nieuwe technologieën hebben soms jou als (deel)onderwerp, zonder dat je dat doorhebt en/of er (bewust) voor gekozen hebt. Terwijl jij denkt dat jij iets op het internet zoekt, wordt jouw zoekgedrag geanalyseerd en wordt jij aan een steeds beter passend profiel toegekend. Of je verplaatsingspatronen in de openbare ruimten worden geregistreerd (type winkelende consument, wandelaar, etc.). Of hoe goed je concentratie is, hoe vaak je in de auto corrigeert op een rechte weg (lane-departure, bv ivm verzekeringspremie), hoe diep je hoe lang slaapt, hoeveel stappen je zet, hoeveel van welk product je uit je koelkast gebruikt, etc. Ongevraagd krijg je een digitale tweeling, een schaduwwerkelijkheid, die door derden goed te volgen is om jou op tijd te waarschuwen, of, in slechte handen, te manipuleren of zelfs uit te schakelen. Toegepaste wetenschap doet met het opstellen van bv Persona’s (profielen van mensen met bv afstand tot werk) ook een duit in het zakje, maar dat is door de Algemene verordening gegevensbescherming (AVG) en het niet beschikken over zoekmachine (en algoritmes) a la Google, feitelijk vooral fancy.

Technologisch antropomorfisme maakt ons tolerant naar deze nieuwe systemen, die allemaal “iets” oplossen. Welk probleem was het ook alweer? Oh ja, gepersonifieerde reclamegelden bekostigen BigTech en zo de economie, onder het motto “technologische vooruitgang”, met als “uitdaging” ecological decline (nog op te lossen, goed voor toekomstige BigTech/economie). Gisteren nog las ik dat een tekort aan onderwijzers opgelost kan worden door ... de robot als onderwijzer! 

Iedere onderwijzer een hooglerarensalaris betalen zou die tekorten vast effectiever oplossen, het is een kwestie van keuze. Menszijn doen we in verbinding met elkaar! Een robot inzetten omdat een mens (het) niet kan, maakt de machine geen collega, tenzij we geen bezwaar hebben tegen technologisch antropomorfisme. I object!