Mijn TikTok-fyp (for you page) bestaat voor een groot deel uit vrolijke kattenfilmpjes, kookvideo’s en boekentips. Een rustgevend plekje waar men zich met gemak uren in kan verliezen. Het is bij iedereen anders, omdat het algoritme snel leert welke video’s jou aanspreken. Door je interacties met die video’s - het kan gaan om kijktijd, reacties, en likes - leert het algoritme waar je meer van wil zien. Maar daar schuilt helaas ook een gevaar in.
Hoe het algoritme je in rabbit holes trekt
Ondanks de waarschuwingen en problemen met privacy, is TikTok inmiddels een geduchte concurrent voor Facebook en YouTube. Mensen besteden er meer tijd om video’s te kijken en het is de meest gedownloade app.
In juli kwam The Wall Street Journal met een opzienbarend onderzoek, waaruit blijkt dat TikTok je razendsnel in rabbit holes kan trekken. En het hoeft eigenlijk alleen maar te weten wat je kijktijd bij video’s is om je interesses te kennen.
Hoe pakten ze het onderzoek aan? De journalisten maakten meer dan 100 bots aan op TikTok. Ze hadden zo weinig mogelijk persoonlijke gegevens: alleen de accountnaam (onzijdig), IP-adres (locatie) en leeftijd waren voor TikTok bekend. Elke bot had een paar specifieke interesses voor het kijken van video’s (zoals yoga, extreme sport of depressie), maar dit vulden ze niet in TikTok in. Deze interesses uitten de bots puur door video’s die aansloten op deze interesses opnieuw te bekijken of te pauzeren.
Van mainstream naar niche
TikTok heeft een slimme en verslavende user interface. Je opent de app en de eerste video (van maximaal 3 minuten) begint meteen af te spelen. Je hoeft niet te zoeken (al kan dat wel) en vind je een video niet leuk? Dan swipe je met gemak door naar de volgende video. En zo door.
Als je nieuw bent op TikTok, krijg je eerst populaire (mainstream) video’s voorgeschoteld. The Wall Street Journal stelde vast dat op basis van het kijkgedrag van de bots bij bepaalde video’s, TikTok hen steeds vaker video’s voorschotelde die aansloten op die interesses. Oftewel, hoe langer je kijkt en hoe vaker je interacteert, hoe meer je bij niches terecht komt.
Dat is niet zo schokkend. Maar wat wel zorgelijk is, is dat die niches mogelijk schadelijke video’s bevatten die niet aan de voorwaarden van TikTok voldoen, maar toch door de mazen van het net glippen.
Van transfobie naar extreemrechts in 40 minuten
Deze week kwam ik - uitgerekend via een TikTok-filmpje - bij het onderzoek van Olivia Little en Abbie Richards terecht. Zij onderzochten hoe je via transfobische filmpjes op TikTok al snel naar homofobische, misogyne, racistische en extreemrechtse video’s wordt geleid.
Dit onderzoek onderschrijft de bevindingen van het onderzoek van The Wall Street Journal en laat daarnaast zien dat er ook verbanden zijn te leggen tussen verschillende ‘niches’. Als je eerst alleen maar met transfobische video’s interactie hebt, zal TikTok al gauw ook homofobische en misogyne video’s aan je voorleggen. Daarna volgen andere soorten schadelijke content.
Het verschil met YouTube
Eerder onderzocht de Volkskrant al hoe het algoritme van YouTube je in een rabbit hole kan trekken. Bij YouTube komt zo’n 70% van de views bij video’s terecht via de recommendation engine. Dit zijn de door het algoritme aanbevolen video’s die je ziet naast de video die je op dat moment bekijkt. Bij TikTok wordt het percentage views dat via het algoritme wordt gestuurd tussen de 90% en 95% ingeschat. TikToks algoritme heeft dus een nóg grotere invloed op wat je kijkt dan dat van YouTube.
Door de user interface van TikTok, waarbij je eenvoudig en vloeiend doorscrolt naar de volgende video, kun je razendsnel in die rabbit holes terechtkomen. Bij de bots van The Wall Street Journal kon dat binnen 2 uur, en soms zelfs binnen 40 minuten, gebeuren. Zo kwam een account dat een voorkeur had voor politiek getinte video’s al snel op complottheorieën van Qanon uit.
"The algorithm is able to find the piece of content that you're vulnerable to. That will make you click, that will make you watch, but it doesn't mean you really like it. And that it's the content that you enjoy the most. It's just the content that's the most likely to make you stay on the platform."
- Guillaume Chaslot
De invloed van algoritmes
Net als bij de andere grote socialmedia-platformen geldt ook voor TikTok dat ze je zo lang mogelijk op het platform willen houden. Meer tijd besteden = meer advertenties bekijken = meer geld. Het algoritme wil je daarom zoveel mogelijk relevante video’s bieden. Dat kan positief zijn, met bijvoorbeeld video’s waar je om moet lachen (zoals in mijn geval), maar er is ook een andere kant van de medaille. The Wall Street Journal vat het goed samen:
“While TikTok can draw out what makes you laugh, it can also make you wallow in your darkest thoughts without ever needing to eavesdrop on you or collect any personal information about you.”
Guillaume Chaslot (oprichter van AlgoTransparency) stelt tegenover The Wall Street Journal dat we algoritmes moeten bestuderen om ze beter te begrijpen, en om te voorkomen dat ze schadelijk zijn voor onze maatschappij en voor bepaalde groepen mensen. Hij heeft een punt.
