De wereld om ons heen robotiseert in rap tempo. Dat heeft invloed op onze sociale interacties, de dienstverlening van bedrijven en instanties (probeer maar eens een echt mens te spreken of iets buiten het boekje gedaan te krijgen), de samenleving als geheel en ons menszijn. Terwijl machines dankzij kunstmatige intelligentie (artificial intelligence, AI) ‘menselijkere’ trekjes krijgen, lijken mensen steeds meer op robots. Volgens cultuursocioloog Siri Beerends kennen we machines te vaak menselijke eigenschappen toe en hebben we een te mechanistisch mensbeeld. Ook het debat wordt volgens haar beheerst door een technologische mindset. Strakke goed-foutschema’s hebben intenties, gevoelens en het diepe gesprek vervangen. Hoe behouden we menselijke waarden in een mechanische wereld? Kunnen we de mens nog wel redden?

Het was een van de vele menselijke dieptepunten in coronatijd. Een terminaal zieke man wilde nog één keer zijn vrouw zien die in een woonzorgcentrum in Goes verbleef. Met zijn laatste krachten vertrekt hij daags voor zijn dood met Stichting Ambulancewens naar de zorginstelling. Ter plekke blijft de deur dicht. Familie van het echtpaar dat 55 jaar was getrouwd en vrijwilligers van de stichting wachten een uur buiten, tevergeefs. De leidinggevende blijkt onverbiddelijk: “Wat als ze met corona terugkomt?” In de media legt het hoofd van de zorginstelling later uit dat de publieke verontwaardiging over het incident niet terecht was: ‘in het kader van menselijkheid’ hadden ze tot wel twee keer toe echtelijk bezoek toegelaten toen de man terminaal bleek. Die eerdere bezoekjes hadden ‘impact’ gehad op de conditie van de 82-jarige vrouw, die al twee maanden opgesloten zat in haar eenpersoonskamer. Voor haar ‘conditie’ was het daarom maar beter ook dat het allerlaatste vaarwel was geskipt, vond ook haar behandelend arts. Boven-dien was het bezoek maar één uur van tevoren aangekondigd. Regels zijn tenslotte regels. 

Het grootste gevaar van technologie is niet dat machines als mensen worden, maar dat mensen als machines gaan denken. Dé quote van de 21ste eeuw komt van een anonieme bron. Cultuursocioloog en onderzoeker Siri Beerends (35) kan zich er wel in vinden. Volgens haar willen we graag dat machines op onszelf lijken, maar vergeten we ondertussen zelf ‘mens’ te zijn. Beerends: “Het technologische systeem heeft een eigen dynamiek en logica. Aan de andere kant zijn er voor de technologische mindset niet eens geavanceerde apparaten nodig. Blind de protocollen volgen heeft hetzelfde effect.”

Op het Haagse terras waar het gesprek plaatsvindt dreigt het eventjes te duren voor we onze drankjes krijgen. ‘Het systeem is in de war’ en daarmee automatisch ook de serveerster. Het incidentje toont dat het leven met al die digitalisering niet per se eenvoudiger wordt. Ironisch, want dé grote belofte van digitalisering is efficiëntie, zegt Beerends. “Het idee is dat je met computers mensen beter managet, dat het simpeler wordt. Dat machines al het vervelende werk gaan doen en wij ons met betekenisvolle zaken bezig kunnen houden. Die belofte is niet uitgekomen. Technologie heeft het leven in sommige opzichten eerder ingewikkelder gemaakt.”

Technoloog, kunstenaar en filosoof Koert van Mensvoort noemt dat ‘wilde technologie’: systemen bedoeld om de woeste natuurkrachten te temmen zijn volgens hem zelf wild geworden. Als een tweede natuur verstrengelen technologieën ons; ‘de smartphone lijkt een verlengstuk van ons brein, de auto van onze benen en het scherm van onze ogen’, schrijft hij. Industrialisering, massamedia en globalisering brachten in de twintigste eeuw al radicale veranderingen. In onze tijd dringen algoritmes, drones, big data en intieme technologie lichaam en geest binnen. We moeten niet alleen de ijsbeer redden, maar ook de mens, riep de kunstenaar, die pleit voor vreedzaam samenleven met robots, een paar jaar geleden al. 

Beerends: “De Silicon Valley-visie op de mens regeert ons dagelijks leven. De kwantificeerbare benadering van het leven zorgt ervoor dat we allemaal als nerds moeten leven, met zo min mogelijk menselijk contact, want alles kan ook online geregeld worden. Voor Silicon Valley is de hele mens eigenlijk een start-up, maar er zijn meer subculturen dan die van de techneuten.”

Vooral sinds corona zijn mensen vergroeid geraakt met apparaten. Digitalisering is in een stroomversnelling geraakt. Kunstmatige intelligentie, 5G, drones en als het aan Facebook ligt Metaverse, een compleet
virtuele wereld, zijn geen toekomstmuziek meer. 

Een kritische blik op nieuwe technologische toepassingen wordt vaak weggezet als angst voor het onbekende, zegt Beerends. “Technologie is niet eng, maar wat we moeten vrezen is onze omgang ermee. De neiging om technologie op een voetstuk te plaatsen en zelf niet meer na te denken is groot.”

Op internet en in publicaties in onder meer Vrij Neder-land neemt de Haagse regelmatig stelling tegen dogma-
tische digitalisering en ‘dataïsme’, de filosofie en het geloof dat we via met big data volgevreten computers onze ‘beperkte’ humanistische werkelijkheid kunnen verruilen voor een nieuwe wereld waar apps en apparaten ‘optimale kennis, geluk en harmonie’ brengen. 

De scheidslijn tussen utopische taferelen en dystopie is dun. Het heilige geloof in digitalisering bij zowel bedrijven als overheid brengt de controlemaatschappij dichtbij. Beerends: “Het grote gevaar van doorgeslagen digitalisering is uniformiteit. Computersystemen zijn rechtlijnig, alles wat afwijkt wordt eruit gepikt. In Eindhoven was er bijvoorbeeld een smart city-project waar het systeem spontaan dansen op straat aanmerkte als verdacht gedrag. Surveillancetechnieken pakken alleen goed uit voor de meetbare meerderheid. Er is al veel gezegd over hoe gezichtsherkenning de westerse witte man bevoordeelt, maar ik zie die meetbare meerderheid breder. Alles wat afwijkt van de norm, elk ongewoon verzoek wordt afgewezen. Door controlesystemen, en door de dreiging om zelfs afgesloten te worden van voorzieningen als een hypotheek, zoals in China gebeurt, treedt er een social chilling-effect op. Mensen gaan zich dan voorspelbaarder gedragen. Als robots dus.”

De Silicon Valley-visie op de mens regeert ons dagelijks leven

Siri Beerends, cultuursocioloog

Om goed om te gaan met technologie hebben we menselijke waarden juist hard nodig, stelt Beerends, die als buitenpromovendus aan de Universiteit Twente de relatie tussen kunstmatige intelligentie en authenticiteit onderzoekt. “Wat mij fascineert is hoe culturele idealen van ‘jezelf zijn’ en authenticiteit veranderen onder invloed van technologieën,” zegt ze over haar onderzoek. “Jezelf zijn is populair, maar tegelijkertijd wordt er continu gesleuteld aan de mens. Via psychofarmaca bijvoorbeeld, maar ook via apps en apparaten die onszelf en onze prestaties moeten verbeteren. We zijn geobsedeerd door het idee van ‘mensachtige’ machines, terwijl het omgekeerde relevanter is: hoe wij in dat proces zelf meer op machines gaan lijken. Dat roept vragen op: zoals wat is echt en nep, hoe menselijk zijn we zelf nog, en wat bedoelen we daarmee?” 

Intenties, empathie, bewustzijn, gevoelens, zintuiglijke ervaringen. Het zijn een paar menselijke concepten die machines, hoe ‘slim’ ook, ontberen. Beerends wil desondanks geen eenduidige definitie geven van menselijkheid: “Een computernerd kan een lijstje met menselijke eigenschappen pakken en afvinken wat computers allemaal al kunnen. Maar juist ondefinieerbaarheid typeert menselijkheid.” 

Hoe menselijk computers zijn, is wel vooral een definitiekwestie. Beerends: “Alleen al het begrip kunstmatige intelligentie is misleidend. Intelligentie is meer dan rekenkracht of patroonherkenning. Het brein heeft ook mysteries; veel aspecten van onze hersenen zijn niet kwantificeerbaar of na te bouwen. Er wordt nu ook gewerkt aan artificial consciousness. Mensen

denken dan: o, dat is een computer met bewustzijn, maar dat geldt alleen als je een mechanistische definitie van bewustzijn hanteert. Je ziet bewustzijn dan bijvoorbeeld niet als een wisselwerking tussen geest, lichaam en omgeving.”

Dat geldt ook voor empathie: “AI-bedrijven zullen zeggen dat hun chatbots empathisch zijn omdat ze emoties herkennen, maar mensen kunnen breeduit glimlachen en van binnen diep ongelukkig zijn. Toch gebruiken adverteerders dit soort emotieherkenning om hun producten beter te targeten. Ook bij sollicitaties wordt gewerkt met happiness- en sadness-scores. Als jij denkt dat iemands gezichtsuitdrukking altijd gelijkstaat aan hoe iemand zich voelt, heb je een robotisch mensbeeld.”

Het robotische mensbeeld beheerst volgens Beerends bijna alle aspecten van het leven. Van onderwijs en zorg tot het debat en zelfs de dood. “Alles moet kwantificeerbaar en stuurbaar zijn. Het hele coronabeleid volgt ook een soort computerlogica. Het virus moet worden uitgeschakeld door alles te meten, modelleren en te surveilleren. Gezondheid is een maakbaar goed geworden, de dood een technisch probleem dat koste wat het kost moet worden opgelost. Dat dit ondertussen ten koste gaat van het leven zelf wordt over het hoofd gezien. Wat niet makkelijk meetbaar is, raakt in het geding. Je vrienden en familie kunnen zien is belangrijk. Het opschorten van dat leven wordt, zoals wetenschapshistoricus Bert De Munck schreef, als onvermijdelijk gezien, zelfs als het aantal gezonde levensjaren dat ermee wordt gewonnen beperkt blijft. Blijkbaar kunnen we niet meer zelf nadenken over welke risico’s we acceptabel vinden.”

Corona heeft tegelijkertijd de grenzen van digitalisering zichtbaar gemaakt, zegt ze. “Iets als onderwijs kun je zien als een informatietransactie, maar na anderhalf jaar online onderwijs groeit het besef dat er meer bij komt kijken, zoals sociale vaardigheden en spontane interacties.” 

Ook het diversiteitsdebat wordt geregeerd door wat Beerends ‘robotische wokeness’ noemt. “Wokeness gaat uit van strakke goed-foutschema’s voor de correcte benadering van iets. Je moet in de juiste codes spreken voordat er überhaupt naar je wordt geluisterd. Het gaat zelfs letterlijk om diversiteitscodes. Maar communicatie is ook context. Een goed voorbeeld zag ik laatst op sociale media. Een vrouw vertelde dat ze in een speeltuin een andere vrouw tegenkwam die in niet-politiek-correcte bewoordingen over haar gehandicapte dochtertje sprak. Ze had haar kunnen ‘cancelen’, maar ze was niet beledigd. De term die de andere vrouw gebruikte maakte haar niet uit, omdat ze aanvoelde dat haar intenties goed waren, zei ze. Uiteindelijk hadden ze een goed gesprek en een leuke middag samen.”

Als het aan Big Tech ligt, wordt zelfs die complexiteit van menselijke interactie geautomatiseerd. Beerends: “Zo wil Facebook ironische posts van mensen gaan labelen als ‘sarcasme’. Dat gaat ten koste van vrijheid, maar ook van context, betekenisgeving en het diepe gesprek. Een sarcastische opmerking kan keihard zijn, maar liefdevol bedoeld. Andersom kan een mierzoete tekst hatelijk zijn. Juist die gelaagdheid maakt menselijke interactie interessant.”

Menselijkheid kan van vijanden vrienden maken. Technologische utopisten zien menselijke interventie desondanks als een hobbel op weg naar een perfecte wereld waarin computers het beter doen dan mensen. “Maar wat is beter? Computers worden door mensen aangestuurd. De clickworkers van techbedrijven die plaatjes categoriseren om computersystemen te trainen doen lopendebandwerk. Het is ghost work, onzicht-
baar werk achter de schermen. Vaak wordt dan gezegd: het is een kwestie van tijd. Als computers intelligent genoeg worden, is dat mensenwerk overbodig. Dat is een denkfout. Machines kunnen geen mensen worden. Ze kunnen hooguit menselijke concepten als empathie en gevoel simuleren.”

Waarom willen mensen dan toch machines vermenselijken? Beerends: “Het heeft iets narcistisch om onszelf te willen nabouwen. Het is ook best nihilistisch om alle ongemakken met technologie te willen oplossen. Ik denk dat we onszelf willen begrijpen door via de lens van AI naar onszelf te kijken. Machines zijn een spiegel. Alle fouten of vooroordelen van mensen komen terug in de systemen. Sommigen willen die ethische bezwaren dan weer oplossen met technische aanpassingen, maar dan wordt het systeem nog frictielozer en juist dat is het gevaar, dan krijg je een soort Brave New World. Voor sommigen is dat ideaal, maar dat toekomstbeeld deel ik niet.

“De grote verhalen vertellen ons dat verregaande technologisering van het menselijke leven onvermijdelijk is. Technologie wordt vaak neergezet als een ontembare natuurkracht. Door blind daarin mee te gaan wordt het een selffulfilling prophecy,” zegt Beerends, die werkzaam is bij medialab Setup, waar ze met kunstenaars en ontwerpers alternatieve toekomsten met technologie verbeelden. “We praten ook vaak over onszelf in termen van de laatste stand van de technologie. Vroeger hadden we het over de hersenen als een klok. Nu noemen we ons brein hardware. Maar waarom gebruiken we geen andere metaforen? Als we het anders willen doen, moeten we elkaar nieuwe verhalen vertellen. Onze menselijke fantasie en verbeeldingskracht gebruiken.” 

Of verbeelding genoeg tegenwicht kan bieden aan grote belangen van techbedrijven, controlezuchtige overheden en ‘onze hang naar totale risico-uitbanning’ is voor Beerends de hamvraag. “Misschien moet uiteindelijk ons systeem waarin alles draait om economische groei en het voorspelbaar maken van menselijk gedrag ook op de schop, willen we de mens redden.”

Volgens sommige wetenschappers is het einde van het humanistische tijdperk nabij. Transhumanisten dromen van de geüpgradede supermens die bovendien eeuwig leeft (je moet er maar zin in hebben). Beerends: “Het transhumanistische ideaal waarin mensen ‘beter’ worden dankzij technologie is eigenlijk achterhaald. Het is het oude idee van ‘better, faster, stronger, longer’ maar dan in een digitaal jasje. In deze tijden van burn-outs en klimaatverandering zijn ‘less’ en ‘langzamer’ ook relevante waarden. Doorgeslagen digitalisering heeft iets regressiefs.”

Het leven versus techniek is het grote conflict van de 21ste eeuw

Ad Verbrugge, universitair hoofddocent filosofie

Doorgeslagen digitalisering is voor Beerends terug te leiden naar het efficiëntie-ideaal van het kapitalisme, en misschien verder terug naar aspecten van de Verlichting. Als een tegenreactie stelden romantici toen het gevoelsleven, spontaniteit en verbeelding boven de kille rationaliteit van het vooruitgangsdenken. Ook nu is er een voorzichtige herwaardering van het onbeheersbare, als tegengif voor de overgereguleerde samenleving, waarin maakbare mensen zich als robots gedragen. Zo rebelleert Lars von Trier in zijn laatste film Druk tegen de illusie van controle. Ook denkers als Ad Verbrugge, universitair hoofddocent filosofie aan de Vrije Universiteit, spreken zich uit tegen ‘de technische stand van de samenleving’. “Het leven versus techniek is het grote conflict van de 21ste eeuw,” zei Verbrugge eerder. “Dus het leven als een eigen waarde, dat een eigen recht van spreken heeft, versus het leven dat gestuurd en beheerst wordt, vanaf de conceptie tot aan de dood, op een gepland moment, en alles daartussenin dat wordt verbeterd of gemanipuleerd door apparaten, instrumenten, schermen, medicijnen, Big Tech en industriële voeding.”

Hebben we nog wel een keuze als machines onverhoopt de macht overnemen? Volgens Beerends zal het zo’n vaart niet lopen: “Autonome computers werken alleen in een gecontroleerde omgeving. In de menselijke samenleving voert chaos de boventoon; kijk maar om je heen,” zegt ze, wijzend naar de drukte om ons heen. “De zelfrijdende auto is daar een voorbeeld van. Die wordt al jaren beloofd, maar of het gaat werken is nog de vraag. Ik denk dat we de komende tijd best voor verrassingen zullen komen te staan.”

Daags na het gesprek – dat, omdat we geen robots zijn, wordt afgerond met een wijntje – staat er een klein nieuwsberichtje op de NOS-site: de VS zijn een onderzoek gestart naar de zelfrijdende functie van Tesla’s. Reden: er zijn meldingen over problemen met het herkennen van geparkeerde voertuigen van hulpdiensten, wat tot ongelukken met hulpverleners heeft geleid.

“It’s silly, no? When a rocket ship explodes, and everybody still wants to fly” zong Prince in de jaren tachtig. Het is te hopen dat de mens in zijn zoektocht naar volmaaktheid zichzelf niet cancelt. Aan de andere kant: het is de mens eigen om het voor onszelf te verprutsen.