Ik sluit mijn ogen in de hoop fluitende vogels te horen. Maar ik hoor het gespetter van regen. Frustrerend vind ik dat. Direct klinkt het gespetter nog luider. Nee, ik ben niet buiten, ik zit binnen, met mijn telefoon naast me en mijn Muse headband als een soort koptelefoon op mijn hoofd. Het apparaat, bedoeld als hulp bij meditatie, meet mijn hersengolven. Ben ik rustig, dan klinken er fluitende vogels uit mijn telefoon. Word ik onrustig, dan hoor ik regen.

Het lijkt paradoxaal om een apparaat voor meditatie te gebruiken. Immers, meditatie gaat om het loskomen van de wereld om je heen – niet om sensoren aan je brein te verbinden. En ze heeft al helemaal niets uitstaan met het doelmatig streven naar een geluidje op je telefoon.

Toch, zo simpel ligt het niet. Want het geluid heeft wel degelijk een diepgaande betekenis. De vogels fluiten alleen als ik echt rustig ben. Zolang ik gericht ben op het teweegbrengen van het gefluit en mij daarom alleen met mijn telefoon bezighoud, ben ik niet rustig en hoor ik dus gespetter. Ik kan mijn doel (rust) alleen bereiken als rust geen doel meer is. Dat klinkt al meer als meditatie.

Als ik even later de vogels hoor, verschijnt er een glimlach op mijn gezicht, blij dat ik mijn doel heb bereikt. En ja hoor, het begint weer te regenen.

Bovenstaand voorbeeld laat zien dat we moeten oppassen voor een te simpele weergave van wat technologie met ons doet.

Twee kampen

Technologische ontwikkelingen verdelen de samenleving doorgaans in twee kampen. Het ene kamp ziet de voortschrijdende technologie als een bedreiging die onze natuurlijke relatie met de wereld verstoort. In deze visie staan apparaten als mijn hoofdband haaks op meditatie. Het andere kamp beschouwt technologie als een nuttig instrument, die onze mogelijkheden vergroot. In deze visie helpen apparaten concentratieproblemen de wereld uit.

Beide visies erkennen echter onvoldoende hoe mens en technologie verweven zijn. Technologie is gevaarlijk noch nuttig gereedschap. Mens en technologie ontwikkelen zich samen. Mediafilosoof Marshall McLuhan zei het al: „Wij vormen onze gereedschappen en daarna vormen zij ons”.

Techniek creëert een nieuwe ruimte waarin wij weer nieuwe vormen van gedrag ontwikkelen. Zinniger dan je af te vragen of dat een gevaar of een kans is, kun je je afvragen hoe technologie onze wereld vormgeeft. Wat voor ruimte ze schept.

Makkelijk is dat niet. Laten we eens kijken naar kunstmatige intelligentie (artificial intelligence, kortweg AI genoemd). AI maakt mensen vooral angstig. Dat AI een bedreiging is, zien we in films als Bladerunner 2049, Her, Ex Machina en Tau, in The Matrix en Terminator. Daarin wordt een dystopische wereld getoond waarin de mens afhankelijk wordt van algoritmes die zich ten slotte tegen hem keren.

Dat de menselijke wetenschap zich uiteindelijk tegen zijn schepper keert, is een oud gegeven. Het gaat terug tot Frankenstein en Faust – ook in die verhalen krijgt de mens goddelijke scheppingskrachten die later noodlottig worden.

Tegenover de angst staat de utopie. Volgens de optimisten zal AI ons leven makkelijker en veiliger maken – denk aan zelfrijdende auto’s en intelligente koelkasten. Het zal op den duur oplossingen aandragen voor files, hongersnood en klimaatverandering. We zullen langer leven door verbeterde diagnostiek en meer vrije tijd hebben omdat algoritmes het werk overnemen.

Zakje chips

Maar wat als AI een heel ander effect heeft? Als zowel angst als optimisme ertoe leiden dat we de verkeerde vragen stellen? Laten we eens proberen anders na te denken over de implicaties van AI.

Een paar voorbeelden. Een algoritme blijkt in staat om stempatronen te herkennen uit de minutieuze vibraties van objecten. Aan de hand van de kleine bewegingen van een zakje chips konden onderzoekers analyseren wat er in de andere kamer, achter geluiddicht glas, werd gezegd. Hetzelfde kan ook worden gedaan met trillingen aan de oppervlakte van een glas water of die van bladeren van een plant.

Nog een voorbeeld. Een applicatie kan de tekenen van ziekte van Parkinson herkennen door slechts drie minuten videomateriaal van een gezicht te analyseren. Zet de applicatie op een smartphone en je kunt zelf een diagnose stellen.

Derde voorbeeld. Amazon heeft patent aangevraagd voor de virtuele assistent Alexa; zij kan de emotie uit een stem destilleren om vervolgens een product aan te bieden. U bent verdrietig? Kijkt u dan vooral naar deze film of lees dit boek.

Ten slotte vonden onderzoekers correlaties tussen woordkeus, zinsopbouw en diverse mentale aandoeningen. Mensen die weinig aanduidingen van tijd en plaats gebruiken (zoals ‘gisteren’, ‘recent’ of ‘dichtbij’), bleken meer onthecht van de werkelijkheid te zijn dan anderen. En gebruik je veel krachttermen als ‘belangrijk’ en ‘superieur’? Dan zou je wel eens last kunnen hebben van grootheidswaanzin.

Al deze berichten wijzen op de onverwachte effecten van AI. Dat is niet nieuw bij grote technologische innovaties. De spoorwegen waren aanvankelijk bedoeld voor het vervoer van goederen, maar brachten een revolutie teweeg in het vervoer van mensen. Auto’s waren bedoeld om ons te vervoeren, maar bleken en passant onze steden te transformeren: meer wegen en garages en minder mensen die dankzij de auto verder van hun werk gingen wonen, in voorsteden.

Nieuwe producten

Grote technologische doorbraken hebben dus altijd iets onverwachts. Dat is nog sterker het geval bij digitale technologie. Daar worden nieuwe producten namelijk als ‘lagen’ boven op oude producten gebouwd. Een bezorgdienst bovenop een taxi-app bovenop een GPS-dienst op een mobiele telefoon. Een mobiele betaling bovenop een videogame bovenop een social media platform. Digitale producten blijven een soort ‘halffabricaten’ – en we weten van tevoren niet welke nieuwe lagen zullen worden toegevoegd.

Iedere dag leveren wij stapels input waarmee algoritmes worden ‘getraind’: foto’s, video’s, stemgeluid, locatiedata. We weten niet welke output er straks aan deze data wordt verbonden. Welke correlaties er worden gevonden als het gaat om intelligentie, politieke voorkeur, seksuele geaardheid, lievelingskleur.

Die nieuwe en – vooral – onverwachte verbindingen kunnen een grote invloed hebben op hoe wij, mensen, in de wereld staan. AI zou een heel oud fenomeen kunnen terugbrengen: een magische ervaring van de werkelijkheid. Drie voorbeelden.

1. Individualiteit

Wij gaan ervan uit dat wij los staan van de wereld om ons heen, dat wij een eigenheid hebben die on-scheidbaar (‘in-dividuum’) is. Binnen in ons hebben wij een privéruimte, afgesloten voor de buitenwereld. Maar wat gebeurt er wanneer onze emoties (of aandoeningen) van ons gezicht zijn af te lezen? Als ze in onze stem zijn te horen, terwijl wij nietsvermoedend door een winkelstraat lopen? Wat blijft er over van de privéruimte als woorden onze geestestoestand verraden?

In eerste instantie lijkt meer inzicht in onze omgeving onze individualiteit te versterken – we kunnen er immers naar handelen. Maar meer inzicht in onze omgeving laat óók zien hoe wij verweven zijn met die omgeving. Daar komt ook een deel van de huidige morele verontwaardiging vandaan – we kunnen uitrekenen welke schade we het milieu berokkenen als we een biefstuk eten of met het vliegtuig een weekendje naar Barcelona gaan. En we houden elkaar daar verantwoordelijk voor.

Maar laten we verder redeneren. Stel, in een trein zit een man luid te telefoneren. Bij tien mensen in de coupé levert dat – meetbare – irritatie op. Omdat ze geïrriteerd zijn, krijgen die mensen bij thuiskomst ruzie. Het laat zien hoe een schijnbaar individuele keuze (ruzie maken) op onverwachte wijze verbonden is met een andere gebeurtenis (hardop telefoneren) uit de omgeving.

We zijn als individuen niet te scheiden van onze omgeving.

2. Bijgeloof

AI kan rationaliteit veranderen in bijgeloof. Algoritmes worden complexer, ze kunnen steeds vaker onverwachte verbindingen leggen. Je zoekt een huis? Het algoritme raadt huis A aan in plaats van huis B, omdat het nu eenmaal weet dat je ouder wordt in huis A, zonder dat je de achterliggende oorzaak begrijpt.

Onwaarschijnlijk? Aan het begin van de twintigste eeuw leidden koelkasten mede tot minder gevallen van maagkanker, omdat ze het bederf van eten tegengingen en zo een aantal infecties verminderden. Dat de koelkast een dergelijk effect zou hebben, was niet voorspeld.

In de toekomst zullen steeds complexere correlaties worden gevonden. Handelingen worden dan aanbevolen op basis van associaties met succes, liefde, gezondheid. Daar zit een rationele calculatie achter, maar omdat we deze niet kennen, zijn we geneigd dit te beschouwen als ‘geluk’ of ‘ongeluk’ en gaan we handelen uit bijgeloof. Dit lijkt op wat de Israëlische filosoof Yuval Harari ‘dataïsme’ noemt, waarbij menselijk oordelen wordt vervangen door een geloof in algoritmes.

3. Bezielde wereld

Wat nu als auto’s, boeken en thermostaten met ons gaan praten, als gevolg van kunstmatige intelligentie? Als we overal stemmen horen? Ooit, in animistische wereldbeelden, geloofden mensen dat ‘voorwerpen’ als bomen en bergen een ziel hadden. AI kan die oude wereld terugbrengen.

Dat is een heel ander scenario dan dat van doemdenkers of optimisten. Beiden gaan uit van een rationele wereld, gedreven óf door een kille machine óf door vrije individuen. Maar AI kan een ander soort wereld creëren. Door te laten zien hoe wij met onze omgeving zijn verbonden, door bijgeloof en animisme terug te brengen, kan een nieuwe techniek als AI de oude wereld van magie terugbrengen.

Daar horen Shelley’s Frankenstein of Goethes Faust niet bij – wel een ander gedicht van Goethe: De Tovenaarsleerling. Veel mensen kennen het van Walt Disney’s tekenfilm Fantasia (1940). Mickey Mouse is een tovenaarsleerling die de macht over de bezemsteel verliest die hij tot leven heeft gewekt. De bezemsteel is geen vijand van de mens, maar volgt simpelweg een andere logica.

In tegenstelling met Goethes gedicht en Disney’s tekenfilm wordt de spreuk deze keer niet ongedaan gemaakt. Wij zullen moeten wennen aan een wereld met wonderlijke nieuwe wezens. Dat is een soort wereld waarin technologie en meditatie helemaal niet zover van elkaar af staan.

*) Haroon Sheikh is senior wetenschapper bij de WRR en docent filosofie aan de VU. Dit artikel verscheen op 23 november 2018 eerst bij NRC.

**) Photo by Anthony Tran on Unsplash