Het rapport Opgave AI. De nieuwe systeemtechnologie overhandigde krullenbol Corien Prins donderdag 11/11 2021 aan de kale minister van Alles, Stef Blok (foto). Pers nam het cliché over dat de WRR in alle rapporten verspreidt: de regering moet veel meer doen met kunstmatige intelligentie of artificial intelligence (AI). Er wordt weer een boot gemist. (Al is het volk vooral bezig met de boot van Sinterklaas.)

Concreet stelt het WRR-persbericht (ook in 1,5 minuut video) vijf stappen voor:

Demystificatie: vertekening door misplaatste angsten en anderzijds overspannen verwachtingen dempen. Concrete informatie en transparantie met ‘algoritmeregisters’;

Contextualisering door aanpassingen van vaardigheden van werknemers, met een ‘eigen Nederlandse AI-identiteit’ in bijvoorbeeld logistiek en landbouw;

Engagement van de overheid om te voorkomend dat de belangen van grote bedrijven dominant worden de samenleving en bevolkingsgroepen het onderspit delven. Daartoe moet de overheid AI-ontwikkelaars en -gebruikers koppelen;

Regulering: wetgeving om te voorkomend dat gevaren van massasurveillance en machtsconcentratie de AI-voordelen overheersen. ‘Het is urgent dat de overheid een visie ontwikkelt op onze digitale leefwereld.’;

Positionering van Nederland in de mondiale concurrentie, door in Europees verband een AI-infrastructuur, - standaarden en -toepassingen te ontwikkelen; maar ook met een eigen ‘AI-diplomatie’.

Moeizame termen

En ‘integraal’ is, evenals in alle WRR-adviezen, ook nu een favoriet woord. Het wordt in het Haagse graag gebruikt als containerbegrip, even nietszeggend als gratuit te gebruiken. Altijd weer ontbreekt een ‘integrale aanpak’ of íntegrale visie’. Ook voor AI moet het kabinet met een visie komen. Een beetje slim overschrijven van dit rijke WRR-rapport volstaat, maar er moet ook iets van een AI-instituut komen en een ‘onderraad’ voor AI-beleid van de Ministerraad.

Opvallend is de harde voorspelling dat AI een systeemtechnologie wordt. Wat is dat? Een definitie: ‘Tak van de technologie die zich bezighoudt met het ontwerpen van relatief grote, complexe systemen’. Dat bedoelt de WRR niet. En het stof geblazen van deel 3 van de papieren Dikke Van Dale: het hele woord ‘systeemtechnologie’ ontbreekt. Ook de AI van Google over systeemtechnologie maakt er geen chocola van.

Vondst van de WRR. De video erover stelt: ‘AI is namelijk niet zomaar een technologie, maar een systeemtechnologie die onze samenleving fundamenteel zal veranderen net als bijvoorbeeld de komst van de stoommachine en elektriciteit. AI zal, net als eerdere systeemtechnologieën, doordringen tot diep in onze samenleving terwijl de technologie zelf continu verbetert en voor innovatie zorgt in combinatie met andere technologieën.  Dit maakt AI behalve veelzijdig en complex ook onvoorspelbaar. Kortom: tijdens de komende decennia zal een grote maatschappelijke transitie plaatsvinden.’

Aardige podcast

In de podcast (van 40 minuten, met snel leesbare tekst) illustreren projectcoördinator Haroon Sheik en voorzitter Corien Prins van de WRR deze opvatting helder aan de hand van een spotje van Shell voor autoverkeer en het rijbewijs uit de jaren zestig, met als boodschap dat AI net zo’n maatschappelijke systeemverandering teweeg zal brengen als de uitvinding van de verbrandingsmotor die resulteerde in de hedendaagse mobiliteit over land.

Prins: ‘Als je terugkijkt in de geschiedenis, dan zie je dat het over veel bredere kwesties gaat dan alleen de regulering van de technologie zelf.’ Tegelijkertijd zegt Sheik dat het juist vanwege zo veel onzekerheid over richtingen en toepassingen verdomd moeilijk is om AI te duiden. AI staat volgens de onderzoekers op een beslissend punt van lab naar samenleving.

In de podcast verhalen ze van onzekerheden en toch de noodzaak om te pogen regels op te stellen. Sheikh vindt de tegenstelling tussen regulering en innovatie ‘vals’. Bijvoorbeeld voor zelfrijdende auto’s is het nuttig om regels te hebben waaraan je de AI voor de auto’s en de infra kunt aanpassen.

In de podcast spreekt de Consumentenbond over AI-gevaren, Jim Stolze over de educatie en Ite van Dijk (Women's International League for Peace and Freedom) over oorlogsvoering met AI.

Concrete en vrijblijvende aanbevelingen

De pretenties van de WRR zijn hoog, in weerwil van de talloze loze beloften met AI in de afgelopen decennia. Wat de stoommachine was voor de 18e eeuw, elektriciteit voor de 19e en de verbrandingsmotor voor de 20e eeuw, wordt AI voor de 21e eeuw. Ook ‘de computer’ wordt een systeemtechnologie genoemd: ‘alomtegenwoordig, met continue technologische verbetering en maakt complementaire technologie op andere gebieden mogelijk’.

Met als definitie van AI: ‘systemen die intelligent gedrag vertonen door hun omgeving te analyseren en acties te ondernemen – met enige graad van autonomie – om specifieke doelen te bereiken’. Hieronder valt veel, zoals machine learning. De WRR doet een serie aanbevelingen, zoals:

Aanbeveling 1
Maak leren over AI en de toepassing daarvan tot een expliciet doel bij het handelen door de overheid; schaal op vanuit kleinere ambities en projecten en maak ruimte voor eventuele fouten en herstel in korte cycli van evaluatie.

Aanbeveling 2:
Stimuleer als overheid de ontwikkeling van AI-wijsheid bij het brede publiek: te beginnen met het opzetten van algoritmeregisters; evalueer als overheid kritisch de eigen bijdrage aan de
beeldvorming; geef prioriteit aan AI-toepassing voor de samenleving.

Aanbeveling 3:
Kies expliciet voor een Nederlandse AI-identiteit en onderzoek waar in belangrijke domeinen; ‘enveloping’ oftewel het aanpassen van de omgeving door de overheid in samenwerking met bedrijven zodat een technologie er goed in kan werken, zoals eerder de aanleg van het wegennet voor de auto of de energietoevoer voor elektrische apparaten.

Aanbeveling 4:
Versterk de vaardigheden en het kritische vermogen van individuen die met AI-systemen werken en ontwikkel daarvoor een stelsel van opleidingen, certificering, keurmerken en risiconiveaus.

Aanbeveling 5:
Versterk de capaciteit van maatschappelijke organisaties in het digitale domein.

Aanbeveling 6:
Draag zorg voor een goede terugkoppeling tussen de ontwikkelaar van AI, gebruikers en mensen die er in de praktijk de consequenties van ondervinden en breng hun verhoudingen in kaart; stel bij overheidstoepassingen terugkoppeling verplicht en organiseer die in gebieden met gevoelige informatie.

Aanbeveling 10
Versterk de Nederlandse capaciteiten tegen de groeiende ‘informatieoorlog’ en de export van digitale dictatuur met inzet van AI in microtargeting en deepfakes; beperk export van Nederlandse technologie voor dictatoriale doeleinden.

Slotaanbeveling
Bouw een beleidsinfrastructuur voor AI op, te beginnen met een AI-coördinatiecentrum voorzien van politieke verankering middels een ministeriële onderraad.

Angst door Toeslagenaffaire

Zo’n soort aanbeveling als de laatste schreef de WRR ook in het advies iOverheid (2011) dat is bezweken onder het eigen gewicht. Dit AI-advies is veel relevanter en rijker, al gaat het sommige kwesties zoals over persoonlijk ‘eigendom’ over data (dat VVD, CDA en D66 in hun regeringsprogramma opnamen) uit de weg.

Machtsverhoudingen in data komen wel aan de orde, vooral met aandacht voor activistische wetenschappers zoals Shoshana Zuboff, Mariana Mazzucato en Dirk Helbing. Juist daarin is het WRR-advies heel even alarmistisch; het kan hartstikke fout gaan met AI. Dat overheerst het rapport allerminst, want iedereen weet nu wel van de risico's.

De WRR maakt geen continue afweging van, en reflectie op haar eigen adviezen, bijvoorbeeld op Big Data-toepassing voor beveiliging, waarover de WRR vijf jaar geleden nog rapporteerde. Als we toch historisch benaderen, zijn de samenvatting en aanbevelingen van 2016 nog leerzaam. Wat is er van terechtgekomen?

Gepleit werd voor beter toezicht en toetsing van toepassingen van Big Data voor beveiliging. Is dat afdoende gebeurd? Had een Toeslagenaffaire voorkomen kunnen worden? De WRR noemt deze nu, maar niet expliciet als schuld van AI-toepassing - wat het immers niet was in weerwil van vele roepers  zoals afgelopen dagen nog Het Financieele Dagblad - maar concreet als ‘onrechtmatig gebruik van bepaalde gegevens’. (Immers; door menselijke ‘intelligentie’!)

Zo heeft dit volgens de WRR geleid tot onterechte ‘framing’: ‘Het gebruik van algoritmische systemen door de overheid en de potentiële consequenties daarvan zijn daarmee binnen een bepaald frame bij het grote publiek bekend geworden: de ondermijning van privacy en, in het verlengde daarvan, de schending van (fundamentele) rechten.

Als gevolg daarvan heeft de overheid een angst ontwikkeld over het gebruik van algoritmen en AI in het bijzonder. Illustratief is het verbod om binnen de overheid discriminerende algoritmen in te zetten, dat eind mei  2021 met een ruime meerderheid in de Tweede Kamer werd aangenomen. AI kan immers ook voor positieve discriminatie worden benut...’

Zo monter en pragmatisch is dit AI-advies. Al beperkt het zich in de ‘praktische toepassingen’ tot een A-viertje met een gebrekkige opsomming. Zo ontbreekt de belangrijkste: Google die onze hele informatieconsumptie aanstuurt. De nationale AI-coördinator zal dat breder en dieper oppakken, en veel beter kunnen inspelen op de maatschappelijke tendensen dan een Agentschap Telecom of Autoriteit Persoonsgegevens die zich opwerpen als beste partij.