Routebeschrijving naar ethisch digitaal ontwerp

In zijn bespreking van David M. Berry's boek 'Critical Theory and the Digital' (2014) presenteert  Jonathan Gray een citaat van geograaf prof. Rob Kitchin. Deze waarschuwt dat “code en software de samenleving steeds meer vormgeven in regels, om vervolgens met routines, algoritmes en databases steeds meer aspecten van ons dagelijks leven programmeerbaar te maken."

Berry is zich hier zeer van bewust en roept daarom, naast 'computational savvy forms of disruption' op tot 'glass boxen' van (de 'black boxes' van) closed source ('proprietary') software.

Dat het hier om openheid en transparantie gaat, moge duidelijk zijn, maar hoe pak je zoiets aan? De geciteerde prof. Kitchin gaf al in 2000 een belangrijke voorzet. Onder verwijzing naar How to lie with maps uit 1996 van Mark Monmonier, waarschuwde hij altijd goed op te letten wat kaarten niet of mogelijk vervormd weergegeven. Tussen de regels door lezen, als het ware.

Monmonier waarschuwde immers dat de wereld op verschillende kaarten anders wordt weergegeven, al naar gelang de wensen van kaartenmakers. Dat de kaartlezende of route-plannende leek hier nooit bij stilstaat, maakt kaarten politiek. Door middel van simplificatie, weglating of juist accentuering beïnvloeden ze namelijk onze handel en wandel.

Wanneer we in Kitchin's conclusie, uit 2000, de woorden "wereld" door "samenleving", "kaart" door "software en apps" en "cartografen" door "programmeurs" vervangen, dan stond daar: "Er is behoefte aan academische analyse van de bewuste en onbewuste ideologische berichten die door software en apps worden voorgesteld. Gedeeltelijk om de rol die kapitaal speelt bij het vormgeven van de samenleving, maar ook om de argeloze gebruiker te waarschuwen voor de inherente gevaren van een verkeerde voorstelling van zaken. [...] Met andere woorden: software en apps moeten actief worden geëvalueerd door zowel programmeurs als gebruikers, om ervoor te zorgen dat we meer waarheidsgetrouwe ("sophisticated") software en apps krijgen."

Vreemd genoeg merkt Gray dit niet op, maar het is precies waartoe Berry, veertien jaar later dus, oproept!

Verstoren, hacken en overbelasten

Als gewenst eindresultaat ziet Berry 'glass boxing', wat naast theoretische kritiek een actieve instelling ("critical computational praxis") van gebruikers veronderstelt. Want alleen wanneer gebruikers "teksten kunnen lezen en schrijven en automatiseringprocessen begrijpen, kan software die 'computational capitalism' ondersteunt gehackt worden".

Vanaf nu dienen alle opleidingen dan ook aandacht te besteden aan 'digital Bildung'. Naast ontmanteling, verstoring, hacken en overbelasten van de infrastructuur van 'computational capitalism', stelt Berry op korte termijn democratisering van cryptografie voor, het ontwerpen van bescherming-structuren en het bouwen van alternatieve systemen.

Gezien alle onverwachte uitdagingen waar digitale techniektoepassing ons nog voor zal stellen, zou je een soort routebeschrijving (om nog even bij de kaartmetafoor te blijven) wensen.

Robert Arnauta beredeneerde in 2011 echter waarom met name in geval van digitale techniek, ethische voorschriften vooraf onzinnig zijn. Hij nam daarbij de aanbeveling van prof. Peter Paul Verbeek (uit 2008) over, om ethiek-filosofen in een zo vroeg mogelijk stadium te betrekken bij ontwerp van nieuwe apparatuur. En om actief te experimenteren met (nog niet wijdverbreide) toepassing ervan en er maatschappelijke discussie over te voeren, om te pogen de toepassing in goede banen te leiden. Filosofen zouden volgens Verbeek behalve schrijvers ook architecten van onze technologische omgeving moeten worden.
In ons land heeft Hans Schnitzler inmiddels ook opgeroepen tot digitaal activisme, eveneens om te voorkomen dat er een 'digitaal proletariaat' zou ontstaan. Hij is optimistisch, want zag al de eerste initiatieven op dit gebied. Volgens Berry zal actief burgerschap echter op de lange termijn vooral gekenmerkt moeten worden door goed onderlegd te zijn in ICT. Dat 'level' moet dan door onze gamende jeugd eerst nog wel even worden vrijgespeeld. Maar met de titel 'European Capital of Innovation 2016', die Amsterdam vorige week won (voor hun "holistische visie op innovatie"), hebben we de prijs alvast binnen!

bronnen:
Arnautu, Robert, The ethics of technological design and practice, Studia ubb. philosophia LVI- 1, 2011
Dodge, Martin and Kitchin, Rob, Exposing the 'Second Text' of Maps of the Net. Journal of Computer-Mediated Communication, 2000 vol. 5 no. 4, p. 1-21. ISSN 1083-6101
Gray, Jonathan, On critical theories and digital media, Krisis, 2015 #1
Schnitzler, Hans, Het digitale proletariaat, De Bezige Bij, Amsterdam, 2015
The European Capital of Innovation Award – iCapital,
Verbeek, Peter-Paul, Morality in design, Design ethics and the morality of technological artifacts, in Vermaas, Pieter E., Kroes, Peter, Light, Andrew, Moore, Steven A., Philosophy and design, from engeneering to architecture, Springer, 2008