Facebook stelde in 2020 een onafhankelijke Oversight Board in met prominente leden als de Deense ex-premier Helle Thorning-Schmidt en ex-Guardian hoofdredacteur Alan Rusbridger. Maar van die onafhankelijkheid is niet iedereen overtuigd. De leden zijn uitgekozen door Facebook. Facebook ondersteunt de toezichthouder via een juridisch fonds met ruim 100 miljoen euro, waardoor er een dagelijks bureau met vijftig personeelsleden voor de Raad actief kan zijn.

De Raad buigt zich over klachten van Facebook-deelnemers over besluiten van haar moderatoren en algoritmes (beslisregels van computers). Is dat een schaamlap van Facebook? En is het onafhankelijk. Absoluut, verzekerde Rusbridger onlangs in een  hoorzitting voor het Britse Hogerhuis. Hij verwacht dat hij en zijn collega’s het Facebook steeds lastiger zullen maken met indringende vragen over de besluitvorming van de site, niet alleen over het weghalen van uitingen maar ook over de selectie die iedere Facebooker te zien krijgt. In The New Yorker werd zelfs geschreven over het Facebook Hooggerechtshof.

Niettemin kwam er kritiek van onderzoekers in een opiniestuk in The New York Times en is er al een Real Facebook Oversight Board opgericht van mensen die vinden dat de Oversight Board niet echt onafhankelijk is. Daar zetelen experts in die, zo op het oog, zich gepasseerd kunnen voelen voor benoeming in de Oversight Board, zoals Shoshana Zuboff, auteur met gratuite kritieken op big tech, en Marietje Schaake van Cyber Policy Center van de Stanford Universiteit en voorheen D66-Europarlementariër en kundig columnist.

De tepelgrens

De eerste uitspraken van de echte Oversight Board zijn vergaand. De meest opvallende is die over het vertonen van vrouwelijke tepels. De regels van Facebook wat betreft seks verbieden afbeeldingen van vrouwenborsten met zichtbare tepel. Daar is een algoritme op afgesteld voor automatische verwijdering, en soms beoordelen moderatoren van vlees en bloed – die in razend tempo moeten beoordelen - de grensgevallen. Want tepels op beelden over borstvoeding, littekens van een borstamputatie of van blote borsten als ondersteuning van protestacties mogen wel. Als deelnemers die context uitdrukkelijk aanbrengen, gaat het meestal goed.

Facebook echter verwijderde Braziliaanse foto’s van vrouwenborsten van dochterbedrijf Instagram automatisch. Na indiening van het protest waren de beelden teruggeplaatst, maar de toezichtsraad nam de kwestie toch in beoordeling omdat Facebook klaarblijkelijk schadelijke algoritmes hanteert. In dit geval velt de raad ook een principieel oordeel: de uitvoering van de regel voor vrouwenborsten met tepels ‘tast de vrijheid van meningsuiting van vrouwen onevenredig aan’.

En in het algemeen vindt de raad: ‘Handhaving die uitsluitend berust op automatisering zonder voldoende menselijk toezicht belemmert ook de vrijheid van meningsuiting.’ Dat laatste is een explosief oordeel , maar beide uitspraken kunnen vergaande implicaties hebben. Zo kan Facebook zich gedwongen voelen om vrouwen- en mannenborsten niet langer verschillend te beoordelen, ofschoon de context van een borstoperatie of – amputatie het verschil kan maken.

Besluiten netjes toelichten

Moeilijker ligt de algemene uitspraak van de toezichtsraad dat automatische besluiten voor verwijdering door de software van Facebook zonder menselijke tussenkomst de vrijheid van meningsuiting beperken. De raad verwijst naar de voorwaarden van de Speciale VN-rapporteur voor de vrijheid van meningsuiting, David Kaye, die in 2018 schreef over online vrijheid. Platforms die uitingen verwijderen, moeten adequate klachtenprocedures hanteren. Gebruikers moeten toegang hebben zonder dat hun ‘gevoel van machteloosheid toeneemt’. De VN-rapporteur laakt de geheimzinnigheid en ondoordringbaarheid van het besluitvormingsproces, en de toezichtsraad van Facebook haakt daarbij aan met de uitspraak:

‘Zorg ervoor dat gebruikers altijd op de hoogte worden gesteld van de redenen voor de handhaving…met vermelding van de specifieke regel waarop Facebook zijn beslissing heeft gebaseerd.’ En schrijft bovendien:

‘Ervoor zorgen dat gebruikers tegen beslissingen van geautomatiseerde systemen in beroep kunnen gaan bij een menselijke beoordelaar wanneer wordt vastgesteld dat hun inhoud in strijd is met de normen van Facebook inzake volwassen naaktheid en seksuele activiteit.’

Gelijksoortige adviezen voor meer uitleg over verwijderingen en betere klachtprocedures staan in andere oordelen van de Oversight Board. Zo veroordeelt de raad Facebook ook voor het weghalen van een post met een uitspraak van Nazi-minister voor propaganda Joseph Goebbels. Iemand postte dit citaat juist in een kritische omlijsting, in een uiting over president Trump. Facebook verwijderde de uiting niettemin op grond van de regels aangaande het steunen of verheerlijken van ‘gevaarlijke Personen en Organisaties’.

Als Facebookers toch citaten van personen op deze lijst publiceren, moeten ze daar expliciet hun afkeuring van vermelden, en dat ontbrak volgens Facebook in dit geval. Dat was niet zo volgens de Oversight Board. Bovendien maakt Facebook onvoldoende duidelijk dat gebruikers zelf die context moeten aanbrengen. Facebook moet dat voortaan wel doen, het besluit tot verwijdering van het citaat ook toelichten. En Facebook  moet openbaarmaken welke personen en organisaties ze behalve Goebbels nog meer ‘gevaarlijk’ acht.

Kritiek op coronobeleid moet kunnen

Ook had Facebook een Franse post met kritiek op het corona medicijnbeleid niet mogen verwijderen. In het bericht krijgt het Agence Nationale de Sécurité du Médicament (agentschap verantwoordelijk voor reglementering van medicijnen) kritiek op de weigering om hydroxychloroquine in combinatie met azithromycine toe te laten ter bestrijding van Covid-19, maar het medicijn Remdesivir wel.

ln een eerste reactie op de raadsbesluiten stelt Facebook dat ze de uitspraken bindend acht en dat deze dus permanente gevolgen voor haar beoordelingen zullen hebben. Binnen 30 dagen volgt een definitieve reactie, en Facebook zegt dat het vooral moeilijk is om uitingen in verschillende contexten goed te beoordelen.

De oordelen van de Oversight Board plaatsen Facebook voor een dilemma. Het kan de teugels met modereren meer laten vieren, wat overigens een concrete wens van Facebookbaas Mark Zuckerberg is. Hij verwacht dan mondiale ethische botsingen, bijvoorbeeld over naaktafbeeldingen die in Europa veel meer worden getolereerd dan in het Midden-Oosten.

Handhaaft Facebook het beleid, of treedt het nog strenger op zoals veel regeringen wensen, dan zal het eerder op grenzen van censuur stuiten en veel vaker besluiten moeten toelichtten en bezwaren behandelen. Wat tot veel hogere kosten zal leiden. Dat laatste dreigt hoe dan ook, als gevolg van strengere regelgeving in Europa en de VS om platforms aansprakelijk te stellen voor verspreiding van desinformatie.

Trump en Zwarte Piet

De eerstkomende kwesties die de Oversight Board bij de horens vat zijn de Amerikaanse en Nederlandse Zwarte Piet; de laatste letterlijk. Facebook verwijderde een video van 17 seconden met daarop een kind dat een Sinterklaas en twee Zwarte Pieten begroet en van een Piet z’n hoofddeksel krijgt opgezet. De plaatser, die anoniem wenst te blijven, stelt dat de video voor het kind een onschuldig vermaak inhoudt en geen discriminatie: ‘De kleur doet er niet toe.’ Facebook verwijdert sinds augustus 2020 Zwarte Piet, veelal na meldingen van gebruikers.

Nu kan Zwarte Piet tot een mondiaal debat worden, want de Oversight Board nodigde ‘deskundigen op dit gebied en andere belanghebbende groepen’ uitdrukkelijk uit om bijdragen sturen. Terwijl haar postbus al dreigt over te zullen lopen vanwege eenzelfde verzoek inzake het geval-Trump.

Facebook blokkeerde zijn deelname op 7 januari 2021 voor tenminste twee weken in antwoord op zijn oproepen die voorafgingen aan de bestorming van het Capitool op 6 januari. De Oversight Board vindt het onduidelijk op welke gronden die verwijdering van Trump precies is gebeurd, te meer daar Facebook op een eerste vraag van de raad antwoordde dat sprake was van ‘buitengewone omstandigheden’ die noopte tot een maatregel om de veiligheid te dienen die een basisregel van de Facebook-voorwaarden vormt. Ondermeer Merkel en Navalny veroordeelden de verwijdering van Trump als censuur.

Ondanks alle kritiek is het experiment van Facebook heel boeiend. En ook slim natuurlijk, want Facebook zal meer en meer bij besluitvorming kunnen wijzen op het oordeel van de Oversight Board, en daarmee aansprakelijkheid proberen af te wenden. De criticasters hebben wellicht ongelijk: juist de onafhankelijkheid van die raad legitimeert het beleid van Facebook, zeker als deze raad handelingen van Facebook onder de loep zal nemen.

*) Beeld: portret van keizerin Catherina I te paard (1684-1727), anoniem, naar After Georg Cristoph Grooth  (1716–1749), Kadrioru kunstimuuseum, Estland