Sinds de introductie van AI, kunstmatige intelligentie, zijn de ideeën over mogelijke toepassingen ervan explosief gegroeid. Maar hoe realistisch zijn die ideeën? Daarvoor is eerst een helder beeld nodig van wat AI werkelijk is en doet. Om dat te begrijpen, kun je AI het beste vergelijken met ons eigen brein.

De AI uit sciencefictionverhalen is een soort digitale versie van onze hersenen en kan alles waartoe ons brein in staat is: redeneren, begrijpen, besluiten, originele ideeën ontwikkelen. Het zou zelfs gevoelens en een vrije wil kunnen hebben. (In sciencefiction pakt dat overigens meestal slecht voor ons uit.) Wie nu AI gebruikt, lijkt van doen te hebben met een intelligent wezen, dat denkt en voelt zoals wij. Maar kijk ‘onder de motorkap’, daar gebeurt iets anders: AI redeneert niet en begrijpt al helemaal niets.

Beelden construeren

Een AI die een boom tekent, heeft geen flauw idee wat een boom is. AI neemt door mensen gemaakt bronmateriaal en voegt de woorden of pixels hiervan opnieuw samen. Door statistische berekeningen in combinatie met een lerend algoritme wordt een en ander zo samengevoegd, dat je kunt denken dat het een samenhangend geheel is. Ons eigen brein doet eigenlijk elke dag iets vergelijkbaars, namelijk: dromen.

We weten inmiddels dat in dromen ervaringen uit ons dagelijks leven worden verwerkt. Het meest bijzondere aan dromen is dat binnen in ons brein een complete modelwereld wordt gecreëerd. Zodra we dromen, bevinden we ons in ons eigen hoofd, hoewel het lijkt alsof we in de buitenwereld rondlopen.

De droomwereld is helemaal door ons brein samengesteld, waarbij onze wakkere ervaringen het bronmateriaal vormen. Omdat daaruit een hele nieuwe mentale constructie wordt gevormd, zien in een droom vertrouwde plaatsen er vaak anders uit dan in de werkelijkheid.

Droom als nieuwe compositie

Een droom is altijd een min of meer samenhangend geheel – omdat bijvoorbeeld deuren, ramen en stoeptegels allemaal hun logische plekken innemen. Toch hoeven dromen niet realistisch of kloppend te zijn. Een AI heeft geen ‘wakkere’ ervaringen, maar gebruikt door mensen samengestelde databases als bronmateriaal. Wat hij daarmee doet lijkt verrassend veel op dromen. Dat geeft meteen een duidelijker beeld van wat het wel en niet kan.

Want net als een droom, maakt AI een nieuwe compositie uit bestaand materiaal. Teksten, afbeeldingen, molecuulmodellen of zelfs een softwarecode. Alleen blijken ook die lang niet altijd te kloppen met de realiteit. Daar zijn al talloze voorbeelden van.

Zoals een fantastische biografie, die niets met de persoon in werkelijkheid gemeen had. Een advocaat die AI vroeg om voorbeelden van rechtszaken, kreeg ‘droomzaken’ aangeleverd: geen enkele zaak bleek in werkelijkheid te hebben gespeeld. Recent heeft pakketbezorger DPD in Groot-Brittannië zijn AI-chatbot offline gehaald: deze vertelde klanten dat ze het slechtste bedrijf ter wereld waren en het bij niemand zou aanbevelen.

Droombeleid

AI-ontwikkelaars stellen hierom dat AI voorlopig nog door mensen moet worden gecontroleerd. Maar dit kan alleen maar als we het zien voor wat het werkelijk is. Dat algoritmen in staat zijn uit aangeleverd bronmateriaal nieuwe composities te ‘dromen’ is een bijzondere prestatie, die op allerlei manieren kan worden gebruikt.

Maar om AI nu al inhoudelijke beslissingen te laten nemen, is als een medische behandeling of het bedrijfsbeleid baseren op een droom.

*) Ronald Siecker is arts en (neuro)bioloog, actief via Cheprion BV en medeoprichter van Evolae Institute. Deze opinie verscheen eerder in de Volkskrant