Alle gebruikers van sociale media worden blootgesteld aan deze signalen, maar tieners bevinden zich in een bijzonder vormende fase van hun persoonlijke identiteit. Wetenschappers tonen meer en meer aan dat technologie hele generaties die zijn opgegroeid met sociale media vormt; niet alleen met beïnvloeding van culturele opvattingen, gedrag en privacy, maar ook in de vorming van de persoonlijkheid.

De invloed van de "voor jou"-boodschap roept belangrijke vragen op over de invloed van deze algoritmes op hoe tieners zichzelf zien en de wereld zien, en de subtiele erosie van hun privacy, die ze accepteren in ruil voor deze weerspiegeling van hun interesses en identiteit.

Algoritmisch spiegelbeeld

Geïnspireerd door deze vragen vroegen mijn collega's John Seberger en Afsaneh Razi van Drexel University en ik ons af: Hoe navigeren tieners door dit algoritmisch gegenereerde milieu en hoe herkennen ze zichzelf in de spiegel die het hun voorhoudt?

In ons kwalitatieve interviewonderzoek onder tieners van 13-17 jaar ontdekten we dat gepersonaliseerde algoritmische content wel degelijk lijkt te presenteren wat tieners interpreteren als een betrouwbaar spiegelbeeld van zichzelf; en dat ze de ervaring van het zien van dat spiegelbeeld op sociale media erg prettig vinden.

Tieners die we spraken, zeggen dat ze de voorkeur geven aan sociale media die volledig op hen zijn afgestemd, die weergeven waar ze het mee eens zijn, wat ze willen zien en dus wie ze zijn.

"Als ik iets opzoek dat belangrijk voor me is, verschijnt dat als een van de topberichten en het laat mensen zien zoals ik, die een leuke discussie hebben."

Het blijkt dat de tieners die we interviewden geloven dat sociale media algoritmes zoals die van TikTok zo goed zijn geworden dat ze de reflecties van zichzelf in sociale media als vrij accuraat zien. Zozeer zelfs dat tieners content die niet overeenkomt met hun zelfbeeld al snel toeschrijven als anomalieën - bijvoorbeeld het resultaat van onbedoeld engagement met content uit het verleden, of gewoon een foutje.

"Op een gegeven moment zag ik iets over die show, misschien op TikTok, en ik ging ermee aan de slag zonder dat ik het eigenlijk doorhad."

Wanneer gepersonaliseerde inhoud niet aangenaam is of niet overeenkomt met hun zelfbeeld, zeggen de tieners die we hebben geïnterviewd dat ze er voorbij scrollen in de hoop het nooit meer te zien.

Zelfs wanneer deze waargenomen afwijkingen de vorm aannemen van extreem hypermasculiene of ‘vervelende’ inhoud, schrijven tieners dit niet toe aan iets specifieks over henzelf, noch zeggen ze een verklaring te zoeken in hun eigen gedrag. Volgens de tieners in onze interviews maakt de sociale mediaspiegel hen niet reflectiever op zichzelf, en daagt die hun gevoel van eigenwaarde niet uit.

Wat ons verbaasde was dat tieners zich er weliswaar van bewust waren dat hun ‘voor jou’-feed het product is van hun scrollgedrag op die latforms, maar dat ze zich er grotendeels niet van bewust zijn, of zich er niet druk over maken, dat de gegevens die via apps werden verzameld, bijdroegen aan dit zelfbeeld.

Hoe dan ook, ze zien hun ‘voor jou’-stroom niet als een uitdaging voor hun gevoel van eigenwaarde, laat staan als een risico voor het zelfbeeld van hun identiteit - noch, wat dat betreft, enige basis voor bezorgdheid.

Vorm geven aan identiteit

Onderzoek naar identiteit heeft een lange weg afgelegd sinds de socioloog Erving Goffman in 1959 de ‘presentatie van het zelf in het dagelijks leven’ voorstelde. Hij stelde dat mensen hun identiteit beheren door middel van sociale prestaties om het evenwicht te bewaren tussen wie ze denken dat ze zijn en hoe anderen hen zien.

Toen Goffman zijn theorie voor het eerst voorstelde, was er nog geen sociale media-interface beschikbaar om een handige spiegel voor te houden van het zelf zoals anderen dat ervaren. Mensen moesten hun eigen mozaïekbeeld te creëren, afgeleid van meerdere bronnen, ontmoetingen en indrukken.

In de afgelopen jaren hebben aanbevelingsalgoritmen voor sociale media in dit proces een belangrijke plaats ingenomen. Je kunt dit zien als een driehoeksonderhandeling: tussen zelf, publiek en het algoritme voor sociale media.

‘Voor jou’-aanbevelingen creëren een privé-publieke ruimte waarin tieners toegang hebben tot wat zij ervaren als een grotendeels accurate bevestiging van hun zelfbeeld. Tegelijkertijd zeggen ze dat ze het gemakkelijk kunnen negeren als het niet lijkt te stroken met dat zelfbeeld.

Het pact dat tieners sluiten met sociale media, waarbij ze persoonlijke gegevens uitwisselen en privacy opgeven om toegang te krijgen tot die algoritmische spiegel, voelt voor hen als een koopje. Ze doen zichzelf voor alsof ze zelfverzekerd zijn en in staat om getoonde aanbevelingen van uitingen die hun zelfbeeld lijken tegen te spreken, te negeren of er voorbij te scrollen. Maar onderzoek wijst anders uit.

Ze bewijzen in feite dat ze zeer kwetsbaar zijn voor vervorming van hun zelfbeeld en andere geestelijke gezondheidsproblemen op basis van sociale media-algoritmen. Die zijn immers vaak ontworpen om overgevoeligheden, fixaties en dysmorfie - een geestelijke gezondheidsstoornis waarbij mensen zich fixeren op hun uiterlijk - te creëren en te belonen.

Gezien wat onderzoekers weten over het brein van tieners en die fase van sociale ontwikkeling - en gezien wat redelijkerwijs kan worden verondersteld over de kneedbaarheid van het zelfbeeld op basis van sociale feedback – koesteren tieners een misvatting als ze geloven dat ze voorbij de risico's van algoritmes voor hun zelfidentiteit kunnen scrollen.

Interventies bouwen

Een deel van de remedie zou kunnen bestaan uit het ontwikkelen van tools die gebruik maken van kunstmatige intelligentie om onveilige interacties te detecteren en tegelijkertijd de privacy te beschermen. Een andere aanpak is om tieners te helpen nadenken over deze ‘datadubbels’ die ze hebben geconstrueerd.

Mijn collega's en ik onderzoeken nu welke interventies hen kunnen helpen om hierover na te denken. We hopen dat onderzoekers manieren ontwerpen om de nauwkeurigheid van algoritmen in twijfel te trekken en ze te laten zien als een afspiegeling van gedrag en niet van het wezen van individuen.

Een andere remedie kan bestaan uit het wapenen van tieners met hulpmiddelen om de toegang tot hun gegevens te beperken, zoals het beperken van cookies, vasthouden van zoekprofielen en het uitschakelen van locatie bij het gebruik van apps.

We hopen dat deze stappen de nauwkeurigheid van algoritmes zullen verminderen, waardoor de broodnodige wrijving ontstaat tussen algoritme en het zelfbeeld zoals jongeren dat ontwikkelen; zelfs als ze zelf niet per se blij zijn met de resultaten.

Tieners bij onderzoek betrekken

Onlangs hielden mijn collega's en ik een Gen Z-workshop met jongeren van Encode Justice, een wereldwijde organisatie van middelbare scholieren en studenten die pleiten voor veilige en rechtvaardige AI. Het doel was om beter te begrijpen hoe zij denken over hun leven onder algoritmen en AI.

Gen Z’ers zeggen dat ze bezorgd zijn, maar ook graag betrokken willen zijn bij het vormgeven van hun toekomst, inclusief het beperken van algoritmeschade. Een deel van het doel van onze workshop was om de aandacht te vestigen op de behoefte aan door tieners zelf aangestuurd onderzoek naar algoritmen en hun effecten.

Onderzoekers worden ook geconfronteerd met het feit dat we eigenlijk niet weten wat het betekent om constant over identiteit te onderhandelen met een algoritme. Velen van ons die tieners bestuderen zijn te oud om te zijn opgegroeid in een algoritmisch gemodereerde wereld. Voor de tieners die wij bestuderen is er geen ‘vóór AI bestond’.

Ik denk dat het gevaarlijk is om de grote invloed van algoritmes op de vorming van jongeren te negeren. De toekomst voor tieners kan er een zijn waarin de maatschappij de unieke relatie tussen tieners en sociale media erkent. Dit betekent dat we ze moeten betrekken bij de oplossingen, terwijl we ze toch begeleiden.

*) Nora McDonald is Assistant Professor of Information Technology aan George Mason University in Virginia, VS. Dit artikel is een vertaling van de redactie van Netkwesties van het originele artikel in The Conversation

**) Photo by Fatima Yusuf on Unsplash