U mag kiezen uit deze twee korte recensies over The Tech Coup:

1. Marietje Schaake schreef een even uitstekend gedocumenteerd boek over de macht die tech-concerns de afgelopen decennia hebben opgebouwd en de maatschappelijk ontwrichtende gevolgen. Ze onderbouwt haar betoog van begin tot eind heel stevig zoals een wetenschapper betaamt, met 60 pagina’s aan veelal belangrijke noten.
2. The Tech Coup is een overbodig boek opgebouwd uit tal van bekende feiten en gebeurtenissen, stilistisch zwak aaneengeregen tot inmiddels overbekende tendensen aangaande te grote macht van de tech-industrie. Culminerend in een machteloos relaas van onhaalbare of reeds ingevoerde oplossingen.

P.r.-succes

Voor beide is wat te zeggen, maar de tweede observatie bracht me snel tot vluchtig lezen om naar het slothoofdstuk te gaan voor de remedies die Marietje Schaake voorstelt om big tech een kopje kleiner te maken. Toen werd het wel inspirerend.

Schaake mag zich verheugen in grote, vooral instemmende aandacht van de media, zoals in NRC, Trouw, Volkskrant en een interview (geen onderzoek) in Follow the Money. De p.r. campagne van Atlas Contact is een groot succes. Op het omslag: “Dit boek moet je gelezen hebben”, getekend Joris Luyendijk, auteur bij deze uitgever.

Je krijgt dan zinnen als in NRC: “Wat het boek zo interessant maakt is dat Schaake vertrouwd is met zowel de wereld van politiek en beleid, als die van Silicon Valley.” Logica? Of de Volkskrant die een “onthutsend beeld van de macht van techbedrijven” heeft ontdekt. Terwijl de recensent daar zelf al vele jaren over schrijft.

Democracy.com

Al in 2021 viel de aandacht op voor het, toen nog, te schrijven boek. Ik publiceerde over de rechten en campagne. Dat boek zou Democracy.com gaan heten. Belofte: “Met Democracy.com zal ze de bijbehorende problematiek groots op de agenda zetten en met oplossingen komen want de tijd dringt.” Het werd nog een jaartje later, de tijd drong wat minder dan verwacht en die agenda was er natuurlijk al lang. En groots?

Inmiddels hebben we in Europa een Digital Services Act en Digital Markets Act om big tech te beteugelen en staat in de VS Google voor de rechter met een dreigende splitsing. De DSA en DMA worden zoetjesaan voorzichtig benut, onder meer tegen X en tegen pornosites.

Onbenul van politici

Terug naar Marietje Schaake. Ze verhaalt hoezeer techconcerns politici in Brussel en Washington om de tuin weten te leiden, maar beschrijft dit als schuld van de bedrijven en niet als onbenul van politici. Journalisten gaan hierin makkelijk mee in hun recensies met een term als “pijnlijke anekdotes”.

Schaake toont, als zoveelste in een lange rij auteurs, aan dat samenlevingen volkomen afhankelijk zijn geworden van Big Tech, zoals voor beveiliging en dagelijks functioneren van de hele economie. Dat begon echter niet deze eeuw, maar vanaf de IT-opmars na de oorlog. Hoe afhankelijk waren we niet van IBM? Of van de monopolist PTT met de exorbitante tarieven voor internationaal bellen?

Het is natuurlijk veel erger geworden, maar dat lieten wij gebeuren. We staan er pas bij stil als een bedrijfssysteem wordt gegijzeld of als je laptop wordt gestolen. Schaake schrijft voor overheden en politiek, niet over maatregelen aan de vraag- of gebruikerskant, of domweg zelfbeheersing. (Als ik met een groep ga sporten of zingen ben ik de enige zonder telefoon.) Scholen hadden tien jaar nodig om mobieltjes te weren, domweg omdat docenten en vooral ouders even verslaafd zijn als de leerlingen. Hoe zou dat op Stanford zijn?

AI verbieden

Schaake bepleit het voorzorgingsbeginsel, zoals toegepast met genetisch aan te passen voedsel: pas in praktijk brengen als je de risico’s goed in kaart hebt. Ze verwijst naar Art. 191 van het EU-verdrag. Ik ben dan zo’n gekkie die dat artikel er even bij pakt. Het behelst milieu- en klimaatbeleid. Als bij uitstek één artikel continue met voeten wordt getreden, is dit het wel.

Kortom, dit neigt naar kletspraat. Bovendien: wat is AI dan precies? Waar houden ‘gewone’ beslisregels op van software die risico of te grote invloed meebrengen, en begint AI? Bijvoorbeeld met Google Search waar we ons de afgelopen twintig jaar volkomen afhankelijk van maakten voor kennisverbreiding en voor van alles en nog wat. Dat stoelt op wat al AI kunt noemen.

Welke AI onder dat voorbehoud zou moeten vallen, moet een “onafhankelijke raad van deskundigen” volgens Schaake beoordelen. Ze oppert alvast de mogelijkheid dat bij elke uitkomst van toepassing van AI (tekst, beeld, uitslag) een vermelding zou moeten staan. Deepfakes kun je een verplicht watermerk laten voeren.

Cryptovaluta en gezichtsherkenning

Schaake biedt een mooi voorschot met vier technologieën die wat haar betreft zo’n verbod verdiend zouden hebben: spyware, datahandelaars, systemen voor gezichtsherkenning en cryptovaluta. Dit zijn uitdagende voorstellen voor de gangbare omgang met technologie: domweg toestaan ervan, en vervolgens proberen te reguleren. Al lang geleden schreef ik eens dat het gebruik van (niet-essentiële) cookies verboden moet worden, net als profilering. Scheelt een hoop regelgeving en toezicht. Echter, praktisch al lang onhaalbaar.

Immers, in de AVG staat al dat bedrijven zich bij gebruik van algoritmes, dus niet menselijke besluitvorming, aan voorwaarden moeten houden. Dat artikel is vaag en wordt niet gehandhaafd. Hetzelfde euvel zal de uitvoering van AI Act treffen. Schaake vindt die volstrekt tekortschieten, als zo veel experts. Anderen stellen: beter iets dan niets, en net als de AVG zullen formuleringen en handhaving vanzelf strenger worden.

Technische EU-expertcommissie

Nog een paar voorstellen van Marietje:

• Onze overheid zou geen software mogen gebruiken die aan dubieuze regimes wordt geleverd, zoals Pegasus spyware door de politie. Maar welke regimes vind je dubieus en hoe ga je dit handhaven? Maakt een regime-Trump de VS dubieus? Linkse media vinden de huidige Nederlandse regering bepaald dubieus.
• Veel meer transparantie, die nu stuit op de gezamenlijke belangen van overheden en techbedrijven om schimmig te opereren en niets vrij te geven; zoals bijvoorbeeld met de grensbewaker van de EU, Frontex. (Voetnoot: boeiend onderzoek in Tilburg).
• Veel kritischer en principiëler inkoopbeleid door overheden, in plaats van slaafs meegaan in het aanbod van geavanceerder technologie. Gigantische bedragen gaan naar systeeminkoop, bouw en onderhoud, die trouwens vaak mislukken of veel te duur uitpakken.
• De EU moet, vindt Schaake, een onafhankelijke technische expertcommissie instellen om voor relevante wetgeving technisch advies te geven, tegen de machtige lobby van de techbedrijven in. Overigens is de Europese Commissie Gekke Henkie niet, en voorziet zich veelal van goed advies van experts in hoorzittingen. Een tech-commissie van niveau zou inderdaad eigen gezag kunnen opbouwen. Kun je dit orgaan dan wel afdoende democratisch controleren?
• Nog meer voorstellen die de macht van de democratische rechtsstaat volgens Schaake versterken tegenover tech: een Arbitragehof voor Cyberincidenten; meer samenwerking tussen landen; terugwinnen van publieke ruimte op big tech; minder gedetailleerde wetten en meer macht voor handhavers bij de invulling.

Innovatie ondergeschikt maken

Ik bleef hangen bij de terloopse bewering: “Innovatie mag niet belangrijker worden geacht dan democratische beginselen.” Een prachtige filosofische zin (p. 265), heerlijk bondig en helder en tot nadenken stemmend. (In tegenstelling tot de nodige andere zinnen en beweringen.)

Partijgenoot Kees Verhoeven schreef daarover een alleraardigst boekje, waarin bijvoorbeeld hij simpelweg het twitteren door politici aan de kaak stelt, ten koste van aandacht voor diepgaand debat waarvoor ze zijn gekozen. Helaas was hij, net als Schaake, na tien jaar als parlementariër al vertrokken. Het zou boeiend zijn om deze mooie zin over innovtie en democratische beginselen als uitgangspunt te nemen voor een debat en wellicht WRR-onderzoek.

*) Marietje Schaake, The Tech Coup: Hoe tech is gaan regeren en we de macht weer terugwinnen, Vert. Reinier van Kampen. Atlas Contact, 2024.