Over deze CDA heb ik destijds voor de uitgave Planet Multimedia zo’n twintig artikelen geschreven. (Die met het in 2007 door KPN bruusk opgedoekte Planet-archief hopelijk weer online komen.) Nu het geheugen opfrissen, een van de eerste berichten:

Dinsdag 13 februari 1996:

' Strijd rond censuur begint pas

De aanvaarding van de censuurparagraaf in de nieuwe Amerikaanse telecomwet is niet het einde maar het begin van een strijd over de grenzen van de betamelijkheid op Internet en op televisie.

Een aantal vragen is met de gewraakte Communications Decency Act immers nog niet beantwoord. De belangrijkste daarvan is die wat onder 'indecent' (onbetamelijk of onfatsoenlijk) verstaan dient te worden. President Clinton heeft inmiddels gezegd dat de rechter dat maar moet uitmaken.

Zoals we vrijdag reeds meldden stapt de Amerikaanse burgerrechtenbeweging direct naar de rechter om de censuurparagraaf aan te vechten.

De vrijheidsstrijders krijgen steun van de Amerikaanse senatoren Russ Feingold en Patrick Leahy. Die vinden de censuurwet een aantasting van de vrijheid van meningsuiting zoals die in de Verenigde Staten is vastgelegd.

Ze vinden dat Clinton, het Congres en de Senaat zich gewoon hadden moeten houden aan de huidige wet die obscene uitingen in het openbaar en kinderporno reeds strafbaar stelt. De politiek had de rechterlijke macht nooit een instrument in handen mogen geven waarmee het recht op vrije meningsuiting getart kan worden.

Bij een rechtszaak in New York wilde de rechter geen uitspraak meer doen over een eis van de abortusbeweging voor vrije meningsuiting op Internet, nadat de 'landsadvocaat' Zachary Carter had gezegd dat abortus-informatie op het net niet zou worden aangepakt op grond van de nieuwe wet. Clinton staat achter die uitspraak.

De rechterlijke macht ziet vooralsnog geen reden om met de nieuwe wet in de hand haar beleid te wijzigen, zo hebben ze in verschillende toonaarden laten weten. Het wachten is echter op de eerste puriteinen die een conservatieve rechter opzoeken die een ban op sex op het net wil uitspreken.’

Kinderen en seks

De Communications Decency Act vertaalde ik destijds graag met ‘fatsoenswet’, geen waardevrije term. Ook de afkorting CDA was niet onwelkom. Het betrof paragrafen toegevoegd aan de Amerikaanse telecomwet op gezamenlijk Republikeinse en Democratisch initiatief. Een ruime meerderheid van Senaat en Congres nam ze aan en begin 1996 ondertekende president Bill Clinton de wetswijziging. De kern vormde bescherming van kinderen tegen seks, geweld en onfatsoenlijke taal, iets dat voor gewone televisie al was geregeld en voortaan ook moest gelden voor internet en kabeltelevisie.

Echter, verzet ontstond met het belangrijkste Amerikaanse grondrecht in de hand, dat op vrije meningsuiting. Zo zouden romans van medische informatie met een beroep op de nieuwe wetsartikelen verwijderd kunnen/moeten worden.

Actiegroepen kwamen in het geweer en spoedig weigerden ook enkele rechters de uitvoering van de wet. Zo kwam die in juni 1997 voor het Hooggerechtshof als de zaak van aanklager (Janet) Reno vs. ACLU, de Amerikaanse burgerrechtenclub. Met een meerderheid van 3 tegen 2 stemmen stemden de hoogste rechters de gewraakte passages weg.

Facebook en Google

Echter, de wetsartikelen waarin de internetproviders werden gevrijwaard van aansprakelijkheid van obscene uitingen via hun aansluitingen op het internet, bleef intact. Deze paragrafen vormen het haakje naar de heftige discussie die momenteel speelt over de aansprakelijkheid van de grote platforms als Google, Twitter en met name Facebook om uitingen te verwijderen c.q. blokkeren.

Dit filteren betekent dat ze mensen en software moeten inzetten om alle uitingen te beoordelen en beslissingen te nemen voor al dan niet doorlaten. Dat moet achteraf gebeuren, dus na publicatie. Nu heeft Google al uitgebreide filters om te voorkomen dat website en apps met (kinder)porno, phishing en andere cybercrminaliteit, extreem geweld, wapen- en drugshandel en gore taal in de zoekresultaten komt.

Zelfde laken een pak voor Facebook die een snel groeiend leger van moderatoren het vermeende vuil laten verwijderen aan de hand van een A-viertje met de meest ongewenste informatie. De criteria waren jarenlang geheim, maar werden diverse keren onthuld, in Nederland en laatst door The Guardian.

Op 24 april 2018 publiceerde Mark Zuckerberg een post op Facebook waarin hij een ‘democratischer en onafhankelijker systeem’ voorstelde voor zijn Facebook Community Standards, die ook in het Nederlands beschikbaar zijn als Richtlijnen voor de community. Het meest actueel is punt 18, over ‘Nepnieuws’:

‘…We willen mensen helpen geïnformeerd te blijven, zonder de productieve openbare discussie te belemmeren. Ook is het onderscheid tussen nepnieuws en satire of meningsuiting soms moeilijk te maken. Om deze redenen verwijderen we nepnieuws niet van Facebook, maar verminderen we de distributie ervan aanzienlijk door deze berichten lager in het nieuwsoverzicht weer te geven.’

Deze uiting etaleert het best het enorme probleem van de macht van Google en de macht van Facebook (zie boek): Facebook verwijdert uitingen in principe niet en ontloopt de censuurvraag, maar maakt  berichten wel minder zichtbaar. Dus velt Facebook oordelen of iets waar is of niet. Dus zou Facebook die ruim 4.000 vastgestelde leugens van Trump niet weren, maar lager weergeven? En hoe laag dan? Op grond van welke criteria?

De Europese roep om krachtig filteren door Facebook valt samen met de Europese wens om de macht van de Amerikaanse platforms in te dammen. Dat lijkt een tegenstelling, of is het een paradox? Je kunt beweren dat een filterplicht het functioneren van de platforms belemmert en de winstgevendheid aantast vanwege de noodzakelijke inzet van meer personeel.

Echter, de grote vraag is of je platforms verplicht om te filteren. Wat ze uit eigen beweging blokkeren of lager plaatsen, is in principe hun commerciële vrijheid. Gebruik is niet verplicht, ofschoon allerwegen wordt gezegd dat een sociaal leven zonder Facebook en/of zuster Instagram voor jongeren ondenkbaar is. Tsja. Zonder Google leven lijkt moeilijker. Ook het privacyvriendelijke Startpage van het Nederlandse bedrijf Ixquick leunt op Google.

Dillema: hoever gaan?

Het debat over het de methoden en mate van filteren door de platforms is even levendig als moeilijk. Platforms zijn geen producenten van inhoud, maar hun rol reikt veel verder dan de die van de aanbieders van internettoegang die in de VS beschermd zijn met de CDA en in Europa met de e-commerce richtlijn. Ofschoon ook hierover voortdurend rechtszaken zijn, bijvoorbeeld met Brein.

In Nederland is de vrijwaring onderdeel van het Burgerlijk Wetboek, artikel 196c voor partijen die ‘diensten van de informatiemaatschappij’ aanbieden, bestaande uit het doorgeven van informatie die van een derde afkomstig is, of het verschaffen van toegang. Dan is die partij niet aansprakelijk als hij:
a. niet het initiatief tot het doorgeven van de informatie neemt;
b. niet degene is die bepaalt aan wie de informatie wordt doorgegeven; en
c. hij de doorgegeven informatie niet heeft geselecteerd of gewijzigd.

In c. zit wel een angel. De platforms selecteren de inhoud op grond van hun formules (Facebook, Google) en/of proberen je interesses te sturen met hun formules voor aanbevelingen, zoals Amazon, Bol.com, Twitter en de vele webwinkels. Bovendien staat er een richtlijn auteursrecht op stapel die de aansprakelijkheid verbreedt, ofschoon het voorstel daartoe vooralsnog is weggestemd.

We lopen Een aantal uitingen van afgelopen weken in dit debat na:

Interview Zuckerberg

Zuckerberg zei in een interview met Kara Swisher van Recode op 18 juli dat hij zich wel verantwoordelijk voelt voor het blokkeren van Russische inmenging in verkiezingen met desinformatie. Met mensen en kunstmatige intelligentie bestrijdt Facebook deze invloed. Swisher roept hem ter verantwoording voor trage reacties van Facebook. Dan zegt Zuckerberg: ‘We’re a profitable enough company to have 20,000 people go work on reviewing content, so I think that means that we have a responsibility to go do that.’

Swisher is tevreden dat Zuckerberg voor haar op de knieën gaat en vergeet dus om tegenspraak te bieden: is het verwerpelijk, of juist noodzakelijk dat een privaat bedrijf een leger van 20.000 personen inzet om uitingen te filteren?

Wel vraagt ze Zuckerberg om argumenten om InfoWars, een rabiaat-rechtse leugenpublicatie die dan nog actief is, wel of niet te filteren. De vrijheid van meningsuiting staat tegenover de voorwaarden van Facebook die verbod kennen voor aanzet tot geweld en op ‘haatdragend taalgebruik, omdat het een omgeving van intimidatie en uitsluiting creëert en in sommige gevallen offline geweld promoot.’

Dan maakt Facebook een eigen regel, omdat het niet alle haatdragende uitingen kan en wil filteren: pas als uitingen veel verspreid worden door Faebook-deelenemers, dan is er reden voor aandacht. Zuckerberg noemt een ‘top 100 van viral gaande verwerpelijke uitingen die aanpak behoeven. Als een deelnemer aangeeft dat iets vals is, dan gaat het naar ‘fact-checkers’. Deugt het niet, krijgt de uiting een lagere rangschikking zodat anderen het moeilijker of niet in hun News Feed te zien krijgen. Maar het wordt niet verwijderd.

Echter, oproepen tot sektarisch geweld tegen Moslims in Myanmar zijn wel geheel verwijderd. ‘I think that we have a responsibility to be doing more there.’ Facebook investeerde in meer Birmees sprekende moderatoren, zegt Zuckerberg. Dat kwam te laat (zie onder).

Voor de nieuwe videodienst Facebook Live heeft hij een controlelegger van 3.000 moderators gevormd die video’s beoordelen na een eerste schifting met software die kwalijke kenmerken herkent, dat heet dan ‘kunstmatige intelligentie’. Overigens vormt dit een contrast met de ‘top-100’ als criterium om al dan niet te filteren, want hier worden alle video’s direct beoordeeld.

Er resteren vele vragen, zoals: krijgen we controle op de controle door Facebook, want wordt er niet veel te veel verwijderd? En wat doet Facebook met de uitingen in geheime groepen? Naar verwachting vinden daarin meer dan gemiddeld uitingen hun weg die het daglicht moeilijk kunnen verdragen.

Reacties op Zuckerberg

De Duitse minister van Justitie, Katarina Barley, eiste na het interview direct dat Facebook wel antisemitisme, zoals ontkenningen van de Holocaust filtert. Mark Zuckerberg zei dat hij – ook als jood – antisemitisme verafschuwt maar het als vrije meningsuiting beschouwt. In Europa is dat niet het geval. Twintig jaar geleden reeds kwam Google hiermee in Duitsland en Frankrijk in problemen.

Dat wordt ook aangehaald in een stuk van Antonia Garcia Martinez die op 23 juli in Wired betoogde dat Zuckerberg in het vraaggesprek te eenvoudig het onderscheid maakte tussen wettelijk verboden en toegestaan haatzaaien: het gaat niet enkel om de vraag of een uiting al dan niet direct aanzet tot geweld.

Eenvoudig is het niet, waar bijvoorbeeld al 40 procent van de Amerikaanse jongeren meent dat haatuitingen ten opzichte van minderheden verboden moeten worden; tegen ruim 10 procent van de oudere Amerikanen. Dat hangt samen met een afnemende steun voor democratie. Oftewel: de discussie is breder dan louter de vraag of, en zo ja, hoe er gefilterd moet worden. De hele democratie staat onder steeds hogere spanning.

Pagina’s verwijderd

Eind juli verwijderde Facebook een aantal pagina’s die ‘niet authentiek’ waren; dat wil zeggen opgezet om desinformatie en verwarring te verspreiden. Pagina’s met namen als Aztlan Warriors en Black Elevation en Mindful Being trokken zo’n 300.000 bezoekers. Ze zouden vanuit Rusland zijn opgezet door het beruchte Internet Research Agency. Het leek er vooral op dat Facebook het Amerikaanse parlement wilde paaien na klachten aan het adres van Zuckerberg gedurende de hoorzitting afgelopen voorjaar in het Amerikaanse parlement.

Ze willen, hoe dan ook, inmenging in de verkiezingen van aanstaand najaar voorkomen. Facebook kondigde daartoe een samenwerking aan met de Atlantic Council, een conservatieve club met onder anderen ex-minister Henri Kissinger en wat ex-chefs van geheime diensten. Daar worden vraagtekens bij gezet.

Het blokkeren van trollenpagina’s gebeurde vrijwel tegelijkertijd met maatregelen tegen Alex Jones met zijn vermaledijde InfoWars. YouTube haalde video’s weg en schorste InfoWars voor dertig dagen. Een dag later schorste Facebook InfoWars voor dertig dagen en haalde dezelfde video’s weg. Apple deed mee en zelfs Twitter, de mildste van het stel, besloot afgelopen dinsdag om uitingen via @RealAlexJones voor zeven dagen op te schorten vanwege een tweet met een link naar een video van InfoWars die tot geweld aanzet.

De vraag was of hier censuur van onwelgevallige meningen van een rechtse gekkie in het geding was, of het schenden van regels van private platforms die het netjes willen houden. Het Amerikaanse grondrecht geldt immers de overheid.

Dat is ook zo in Nederland waar sites als Joop.nl en tegenhanger TPO.nl zelf bepalen welke meningen ze naar voren schuiven, en De Telegraaf welke reacties worden weggehaald. Naar de letter van de grondwet is dat geen censuur die immers de staat betreft , maar wat betreft de definitie wel.

De keurige debatten

In NRC schreef Bits of Freedom-directeur Hans de Zwart dat Google geen racistische inhoud van Wikipedia letterlijk naar voren mag schuiven, momenteel rechts op de resultatenpagina’s. Er was een pagina over Los Angeles op Wikipedia vervuild, die hij onder ogen kreeg. Hij zag het direct, maar wenste dat kennelijk niet.

Onder de kop ‘Miljardenbedrijf Google geeft geen cent om de waarheid’ schreef De Zwart onder meer: ‘Het is dus geen verrassing dat Google van alle kanten onder druk wordt gezet om de problemen rondom het verspreiden van misinformatie via hun platforms op te lossen.’

Met als conclusie: ‘Als het niet in staat is om te checken of de informatie die het gratis en voor niets overneemt geen nonsens is, dan moet het helemaal geen info overnemen.’ Oftewel: Google moet zoekresultaten filteren op ‘nonsens’, wat dat precies moge zijn.

Hij maakt geen onderscheid tussen inhoud van Wikipedia, de titels/links en fragmenten op de resultaatpagina’s en de inhoud achter die links. Maar analoog aan de Facebook-discussie zal het alle inhoud betreffen die dankzij Google ons onder ogen komt. Google moet ons beschermen, vindt hij.

In een opiniestuk voor NRC afgelopen week ging ik ertegenin omdat het uitgangspunt dat Google ‘geen cent’ om inhoud geeft en niet filtert, feitelijk volstrekt onjuist is. Met als vileine opmerking dat Google ook het betoog van Hans de Zwart op de site van NRC moet blokkeren vanwege de leugen in de kop die nu op elke resultaatpagina verschijnt, en wellicht ook vanwege de teneur van de inhoud.

Maar om te beginnen moeten de platforms en intermediairs natuurlijk Donald Trump weren, want is het geheel van 4.000 leugens, gesteund door rabiaat commentaar van de verdere verspreiders nog conform de regels van Facebook, Youtube en Twitter?

Instemming en vraagtekens

M’n betoog werd dit weekend min of meer onderschreven in Trouw door onderzoeker Jaron Harambam van het Fair News Project  van onder meer het Ivir. Hij concludeert: ‘Daarom zouden sociale media beter alleen die berichten moeten verbieden die daadwerkelijk de wettelijk beschermde grens van de vrijheid van meningsuiting overschrijden.’

Bovendien moeten ze hun algoritmen veranderen zodat hun deelnemers verschillende gezichtspunten tegenkomen ‘in plaats van hen in een fuik van steeds extremere berichten te lokken, zoals nu gebeurt’. Zou dat werkelijk helpen? Kun je de liefhebbers van hagelslag ook van pindakaas leren houden?

In de mooie nieuwsbrief Future Affairs stond een link naar een stuk van Jeff Jarvis op The Atantic met dezelfde bewoordingen. Met deze collega-oudgediende was ik het meermalen oneens. Nu breekt ook hij een lans voor het open internet en gebruikers die het samen oplossen. Hij stelt dat het gebruikers waren die YouTube en Facebook en Twitter op het spoor van de uitsluiting van InfoWars zetten. Die schorsingen vindt hij terecht. Het publiek geeft de grenzen aan, dat is geen censuur.

Hij gelooft ook in journalistieke oplossingen. Maar na het zien van de documentaires over de oorlog die New York Times tegen Trump voert (The Fourth Estate) twijfel ik nog meer of de oplossing voor de groeiende polarisatie ligt bij media die domweg niet meer vertrouwd owrdendoor de (ruoime?) helft van de bevolking. Je mag daarentegen hopen dat media die Trump, Wilders, Brexiteers  en andere boze opposanten steunen, hun achterban niet langer louter lucifers aanreiken. Jarvis merkt snedig op dat Fox News de democratie in de VS meer schade berokkent dan het hele internet, maar ligt juist de oplossing niet bij Fox News die mildheid en brede meningsvorming hanteert? En hier bij De Telegraaf, TPO en ook tv-zenders die de boze massa bereiken?

Komt er oorlog van?

Afgelopen week berichtte Reuters in een uitgebreide onerzoeksreportage hoe in Myanmar oorlog via desinformatie wordt opgestookt en uiteindelijke duizenden doden tot gevolg heeft. Bovenal bleef Facebook jarenlang in gebreke toen het waarschuwingen ontving van personen die de giftige werking van haatdragende uitingen via het platform doorspeelden. Facebook is er als gevolg van aanvankelijke desinteresse te laat bij, met te weinig mensen, slechte vertaalsoftware, in weerwil van wat Zuckerberg in het interview suggeereerde over extra inzet.

De vraag is of adequate filtering werkelijk de golf van haat had kunnen indammen en minder geweld tot gevolg gehad zou hebben. Maar dat is dezelfde academische vraag of de misdaden van de nazi’s minder geweest zouden zijn zonder de (radio)toespraken van Joseph Goebbels.

Dat roept wederom de vraag op: welk giftig mengsel van nare gebeurtenissen, ontvlammende haat en snelle online verspreiding en mobilisatie er in het beschaafde Westen tot pogroms en burgeroorlog leiden? Kun je voor beantwoording van die vraag nog steeds een beroep doen op principes van vrije meningsuiting, en dat het dus niet aan Google en Facebook is om het spelen met vuur met filtering te helpen bestrijden?

(En voor de diverse filteraars en kunstmatige intelligentie robots: de kop boven dit verhaal valt onder ‘dichterlijke vrijheid’. Wat te doen?)