TikTok heeft in Berlijn 150 moderators ontslagen. Deze medewerkers controleerden dagelijks duizenden video’s op haatspraak, seksueel expliciete inhoud en andere schadelijke posts. Hun werk wordt nu overgenomen door AI. Volgens Tweakers gaat het mogelijk ook om moderatie van Nederlandstalige content. Wat betekent dit voor jongeren, ouders en scholen?
AI vervangt menselijke moderatie
TikTok laat weten dat kunstmatige intelligentie “sneller, efficiënter en schaalbaarder” is dan menselijke moderatie. Maar de kritiek is stevig. Volgens bronnen leidt deze keuze tot minder controle op schadelijke video’s. Ook de contextgevoeligheid van AI staat ter discussie. Zo is een grap in het Nederlands niet altijd als zodanig te herkennen voor een algoritme.
Bovendien komt uit onderzoek naar voren dat AI moeite heeft met het beoordelen van grensgevallen. Denk bijvoorbeeld aan subtiele vormen van pesten, seksuele intimidatie of manipulatie. Juist op dat soort vlakken spelen risico’s voor jongeren. Vergeet daarbij ook niet de code taal die de meeste jongeren gebruiken.
Waarom moderatie onmisbaar is
Contentmoderatie is het proces waarbij berichten, video’s en reacties op sociale media worden gecontroleerd op schadelijke of ongepaste inhoud. Het doel is om gebruikers, zeker jongeren, te beschermen tegen geweld, haatzaaien, seksuele content, desinformatie en psychische schade. Menselijke moderators kunnen de context van een video goed inschatten. Ze begrijpen humor, sarcasme en culturele verschillen. Bovendien herkennen ze signalen van grensoverschrijdend gedrag, zoals subtiele pesterijen of manipulatieve challenges. Goede moderatie voorkomt dat jongeren blootgesteld worden aan inhoud die schadelijk is voor hun ontwikkeling of welzijn.
Als Nederlandstalige video’s nu ook automatisch worden gemodereerd door AI, kunnen ongepaste video’s langer online blijven staan. Jongeren kunnen hierdoor sneller in aanraking komen met:
- seksueel getinte content;
- geweldsverheerlijking of haatzaaien;
- schadelijke challenges of desinformatie.
Voor ouders en scholen is het daarom belangrijk om het gesprek aan te gaan over wat jongeren online tegenkomen. Kinderen vertrouwen erop dat platforms hen beschermen, maar die verantwoordelijkheid ligt steeds vaker bij AI en dus indirect ook bij opvoeders.
AI is krachtig, maar niet neutraal
AI is niet objectief. De training van algoritmes is gebaseerd op datasets die vaak beperkt, incompleet of bevooroordeeld zijn. Bovendien verandert de taal, vooral onder jongeren, razendsnel. Wat vandaag een meme is, kan morgen kwetsend zijn. Daar heeft een menselijk moderator gevoel voor, AI niet.
Door deze ontwikkelingen groeit het belang van digitale opvoeding. Scholen en ouders moeten kinderen leren omgaan met de onzichtbare keuzes die algoritmes voor hen maken.
De ontslagronde bij TikTok toont opnieuw aan dat AI onze online ervaring steeds meer bepaalt. Jongeren moeten leren kritisch en bewust te navigeren in een digitale wereld vol algoritmes. En daar helpen wij vanuit Digiwijzer graag bij.
👉 Wil je dat een digicoach van Digiwijzer een les komt geven over mediawijsheid of algoritmes? Neem contact met ons op dan nemen we de mogelijkheden door.
