De bron van de ‘feiten’, gebezigd door een ongetwijfeld groot wetenschapper: de BBC, niet de minste, overgenomen door The Guardian: “Prof. Geoffrey Hinton, die dit jaar de Nobelprijs voor natuurkunde kreeg voor zijn werk op het gebied van AI, zei dat er een kans van "10 tot 20 procent is dat AI binnen de komende drie decennia zal leiden tot het uitsterven van de mens. Eerder had Hinton gezegd dat er een kans van 10 procent was dat de technologie zou leiden tot een catastrofale afloop voor de mensheid.”

Een van de velen

Ten eerste zijn die percentages schijnnauwkeurigheden, die een meting of berekening suggereren. Het zijn inschattingen, speculaties zelfs, van de soort die voetbalcommentatoren doen, meer niet.

Ten tweede, Geoffrey Hinton is natuurlijk heel knap, heeft net de Nobelprijs voor Natuurkunde gekregen, met John Hopfield, voor hun “basis leggende ontdekkingen en uitvindingen” voor neurale netwerken en daarmee AI. Echter Hinton is, net als Hopfield niet dé uitvinder van AI. Hij is één van vele, vele pioniers, waarvoor hij lof verdient.

Dat label ‘godfather’ kreeg hij in 2020. Dit wordt dezer dagen bijna altijd aangehaald, gewoon herhaald, het geeft een omineuze boodschap meer sacrale kracht. AI is tientallen jaren oud, met vallen en opstaan ontwikkeld, vaak van koers veranderd, en van gewekte verwachtingen.

Het is bovendien een containerbegrip, inzake een complexe, meanderende cumulatie van vindingen en technologie waar zo veel mensen aan hebben bijgedragen. En die met horten en stoten voortgaat, zoals sinds kort, vrij plotseling, met imposante ‘large language models’ (LLMs) die weinig van doen hebben met sommige eerdere vormen van AI.

Hinton zit diep in technische details van sommige van die ontwikkelingen, maar niet in alle, nog minder in de toepassingen, en nauwelijks in de maatschappelijke implicaties van dat alles. Kennen we die ene man met maar deels relevante kennis niet té veel gewicht toe?

Niks bouwpauze

Ten derde, die ondergang van de mensheid door AI, dat kondigt men nu sinds een paar jaar aan, vaak en luid. Mensen van enig belang (Musk, Harari, Wozniak) hebben, uit angst, om een pauze in de ontwikkeling ervan geroepen; menige ondertekenaar van deze verklaring van maart 2023 ging meteen daarna verder met ontwikkelen, waar tientallen miljarden per jaar in gaan. (Hinton tekende overigens niet!)

Er heeft eigenlijk geen enkele pauze plaatsgevonden, natuurlijk niet. De commerciële belangen zijn vrijwel zeker reusachtig. Bedrijven die zeggen het belang van de mensheid voorop te stellen laten dat principe makkelijk varen, of bedekken het met de mantel der liefde; maar ze kunnen ook niet of nauwelijks beïnvloeden – laat staan garanderen – hoe hun spullen worden gebruikt.

Elke technologie kan ge- en misbruikt worden, weten we. Verwijzingen naar ‘AI safety’ zijn net zo vaag als die naar de ondergang van de mensheid; en worden geplaagd door discussies over ‘goed gedrag’ van software, wat aan (subjectieve) politieke correctheid raakt.

De universeel ‘moreel goede’ software bestaat niet, en komt er nooit. Velen zeggen een apocalyps te vrezen maar maken die verwachting eigenlijk nooit concreet; we moeten het doen met de vaak voorbijkomende, verwoestende paperclip fabriek (van Nick Bostrom, óók een zeer intelligente en belangrijke man), bepaald geen bewijs.

Menige onheilsprediker laat een dag na de vervloeking zijn vrees varen. Ik bedoel maar: er wordt veel geroepen; erg veel.

Fijn als krantenvulling

Ten vierde, het is ook een interessant fenomeen, onze nakende ondergang. Van Lou de Palingboer tot Extinction Rebellion, van het Bijbelse boek Openbaringen tot de Maya-kalender, een angstaanjagende voorspelling gaat er altijd goed in; al is die zelden concreet (nou, die van Lou de Palingboer wel: 21 december 1954 zou Het Einde daar zijn).

Mensen handelen er nauwelijks naar. Ze leven gewoon door. Dat is dan wel weer geruststellend: misschien is het amusement; en clickbait, een verdienmodel waarin slecht nieuws verkoopt.

En toch krijgt deze bijzondere man, Hinton, te veel aandacht: zijn status wordt enigszins opgeblazen, zijn boodschap is vaag, en die blijft maar terugkeren. Een kritischer ontvangst door pers en publiek zou gezond zijn, want AI verdient het serieus genomen te worden.

*) Beeld: Opera2Day & de Nederlandse Bachvereniging | J.S. Bach - de Apocalyps.