Hoe een stille oorlog op TikTok AI gebruikt om racistische content te verspreiden
Amsterdam, donderdag, 4 december 2025.
TikTok wordt overspoeld door miljarden kijkers getrokken via automatische bots die AI-generatie filmpjes verspreiden – waaronder valse beelden van jonge meisjes en racistische nepinterviews met migranten. Volgens een Franse studie worden meer dan de helft van deze beelden niet als nep gemarkeerd, ondanks dat het platform over AI-labels beschikt. Het meest verontrustend? De meeste van deze bots zijn pas in het begin van 2025 aangemaakt, wat wijst op een snel groeiend en nauwelijks gecontroleerd fenomeen. Deze ontwikkeling laat zien hoe makkelijk AI nu misbruikt kan worden om misinformatie te verspreiden – zonder dat gebruikers het merken. De vraag is: hoe lang blijft dit onopgemerkt?
Een onzichtbare golf van AI-content overspoelt TikTok
Sinds november 2025 overspoelen automatische bots TikTok met AI-generatie video’s en foto’s die miljarden kijkers trekken, volgens onderzoek van de Franse NGO AI Forensics [1]. Tijdens een maandlang onderzoek werden bijna 44.000 AI-generatie filmpjes geplaatst door 350 botaccounts, met een totale weergaveaantal van meer dan 4,5 miljard keer [1]. De meeste accounts — twee derde — werden aangemaakt in de eerste maanden van 2025, wat wijst op een recente en snelle groei van dit fenomeen [1]. Deze bots gebruiken AI om beelden te creëren van jonge meisjes die er extreem jong, minderjarig of extreem dun uitzien, wat velen beschouwen als seksualisering van minderjarigen [1]. Bots verspreidden ook nepvideo’s van migranten die in valse interviews racistische stereotypen verspreidden en geweld verheerlijken, waaronder tegen de politie, met beelden van migranten die banen ‘in pikken’ [1]. Het gevaar ligt niet alleen in de inhoud, maar ook in het feit dat TikTok deze beelden nauwelijks als nep markeert: meer dan de helft van de onderzochte video’s had geen AI-label, ondanks dat het platform over tools beschikt om dit te doen [1].
Het falen van AI-labeling en de rol van verantwoordelijkheid
TikTok heeft 1,3 miljard posts met een AI-label op het platform, maar het bedrijf stelt dat slechts 1,0% van de video’s door TikTok zelf wordt voorzien van de waarschuwing ‘bevat AI-gegenereerde media’ [1]. De rest van de labels wordt vaak door de makers zelf toegevoegd, wat de betrouwbaarheid aantast [1]. AI Forensics waarschuwde voor het risico dat AI-beelden worden gebruikt om anti-migratie- en racistische sentimenten aan te wakkeren, en stelde voor om een apart AI-gedeelte op het platform in te stellen, zodat content door echte mensen wordt gescheiden van kunstmatige intelligentie [1]. Het bedrijf bestempelt het onderzoek van AI Forensics en The Guardian als ‘ongefundeerd’ [1]. De verandering van menselijke moderators naar AI is geïntroduceerd na het ontslag van honderden medewerkers in Berlijn, waaronder Nederlandse en Duitse moderaatoren, wat de controle op schadelijke content verzwakt [1]. De plannen om Duitse medewerkers te vervangen door AI zijn nog niet voltooid, maar de dreiging blijft bestaan [1].
Van manipulatie naar politieke spanning: het gevaar voor democratie
De verspreiding van AI-generatie content gaat verder dan alleen racistische beelden. In Frankrijk probeert president Emmanuel Macron een campagne op te zetten tegen online disinformatie, met een focus op ethisch gelabelde nieuwsuitzendingen voor de 2027 presidentsverkiezingen [2]. Aan deze campagne, die sinds november 2025 actief is, sluiten zich regionale kranten en publieke bijeenkomsten aan [2]. Maar de rechtervleugelige media, onder leiding van miljardair Vincent Bolloré, reageren met fel verzet, waaronder de uitspraken van CNews-host Pascal Praud, die Macron beschuldigde van een ‘authoritaire drift’ [2]. Journal du Dimanche beweerde dat Macron wilde ‘de media die niet zoals hem denken, in de hand houden’ [2]. Deze politieke spanning toont hoe gevoelig de maatschappij is voor het idee van staatstoezicht op informatie, zelfs wanneer het gericht is op het bestrijden van nepnieuws [2]. De U.S. State Department had gepland om op 2 december 2025 een bezoek te brengen aan Parijs, waar een verdediging van ‘freedom of speech’ en ‘digital freedom’ werd onderstreept, wat het internationale kader van deze discussie benadrukt [2].
De menselijke reactie: herkenning en voorlichting
Gebruikers beginnen zelf op te merken wanneer AI-content wordt gebruikt. Op 3 december 2025 publiceerde de Instagram-gebruiker adesope_shopsydoo een bericht waarin hij schreef: ‘This is FAKE NEWS …… THIS IS DEFINITELY AI …, would never EVER EVER in my wildest dreams write , tweet or say such about Wiz for that matter ., NEVER….. THIS IS AI 😱🤦🏾♂️’ [3]. Zijn post, die wordt gekoppeld aan een video van de rapper Wiz, duidt op een toenemende bewustwording onder publieke figuren [3]. Op TikTok zelf blijkt dat gebruikers zoals Stacyalyse (gebruikersnaam) actief zijn in het herkennen van AI-content, hoewel het platform haar profiel niet expliciet als echte persoon identificeert [4]. Deze mensen spelen een cruciale rol in het versterken van mediageletterdheid, hoewel hun inspanningen niet volstaan zonder technologische en platformmatige ondersteuning [1][3].