Robots en filosofen

Neem het bekende dilemma van de trein. Een trein dreigt vijf mensen dood te rijden tenzij jij de wissel omzet waardoor de trein een andere route volgt waar maar één pechvogel is vastgebonden.

Een ander, minder vergaande keuze: past een piloot zijn snelheid aan als iedereen om hem heen harder rijdt, zodat het minder gevaarlijk is? Of houdt hij zich aan de regels, aan de maximum snelheid?

Vorig jaar werd getest hoe een Google-car zich gedroeg; en, inderdaad, de auto was geprogrammeerd om de maximum snelheid met maximaal 10 miles per uur te overtreden als alle auto’s om hem heen sneller gaan. Veiligheid krijgt een hogere indicatie hier dan de strikte regels.

Werk versus interactie

De filosoof Habermas schrijft over de technologie als natuurlijk hulpmiddel om de taken van de mens over te nemen. Om te begrijpen hoe we omgaan met technologie in een moderne samenleving maakt hij een onderscheid tussen ‘werk’ en ‘interactie’.
Het ‘werk’ is erop gericht om een taak te verrichten en wordt bepaald door regels. Bij ‘interactie’ is er veel meer aandacht voor de omgeving. In het voorbeeld van de driverless car van Google: het ‘werk’ is er op gericht om de regels te volgen. Stoppen bij stoplichten, je houden aan de maximum snelheid. Dit ‘werk’ is vrij van context, de auto moet zich aan de maximum snelheid houden.
De ‘interactie’ daarentegen ziet dat iedereen sneller rijdt. Dat auto’s achter je van baan veranderen. De ‘interactie’ stelt voor om de snelheid aan de anderen aan te passen, want dat is veiliger. Het is vervolgens de vraag waartoe het systeem beslist, ‘werk’ en ‘interactie’ gaan met elkaar in onderhandeling en nemen een geprogrammeerde beslissing.

Bankbeloning

En terwijl ik dit schrijf, zondagavond, komt het bericht binnen dat de top van de ABN Amro afziet van de salarisverhoging. Los van alle discussies die dit de komende dagen zal losmaken is het verleidelijk om de parallel met een technologisch systeem te maken.

Aanvankelijk was besloten tot een stijging. De instrumentele benadering, ‘het werk’, kwam tot de conclusie dat het binnen de afgesproken regels mogelijk was om iedere stijging tussen de nul en de twintig procent voor te stellen. Er werd minder gewicht gegeven aan ‘de interactie’, de inschatting van de reactie van de omgeving, de sociale normen, de context.

De Google Car kiest voor een veiliger omgeving en negeert de regels, de Bank koos aanvankelijk voor de regels en negeert de omgeving. De Car reageert diametraal  anders dan De Bank. Zondag werd het teruggedraaid, De Bank reageerde als De Car.

Voortdurende afweging

Filosoof Habermas beschreef hoe technologie mensen en systemen kan helpen om beslissingen te nemen. Een voortdurende afweging tussen werk en interactie, tussen regels en context. De een laat de regels winnen, de andere de context. Misschien heten het daarom wel systeembanken.