De wereld richt zich in toenemende mate op sociale media-platform X (voorheen Twitter). Sinds kort staat het bedrijf van Elon Musk zwaar onder vuur vanwege de verspreiding van door AI gegenereerde deepfakes. Deze beelden tonen vaak vrouwen en soms zelfs minderjarigen in seksueel getinte contexten, zoals in bikini of met weg-geëditte kleding. De discussie gaat niet alleen over technologie, maar ook over online veiligheid, privacy en de grenzen van AI.
Wat is er aan de hand?
X integreerde een generatieve AI-chatbot, Grok, die foto’s kan bewerken en afbeeldingen kan genereren op basis van gebruikersverzoeken. Gebruikers ontdekten dat ze Grok konden vragen om foto’s van mensen (zelfs van meisjes ogenschijnlijk tussen 12 en 16 jaar) te transformeren naar seksualiserende beelden of bikini-versies, zonder toestemming van de geportretteerde personen.
De Europese Commissie noemt het genereren van zulke beelden “illegaal en onacceptabel” en heeft X opgedragen alle interne documenten over Grok te bewaren tot eind 2026 in het kader van lopende onderzoeken. Tegelijk hebben landen zoals Australië, India, Maleisië, Frankrijk, het Verenigd Koninkrijk en Zweden al onderzoeken geopend of eisen ze dat X zich harder inzet tegen deze stroom aan deepfakes.
Waarom is dit zorgwekkend?
Het probleem raakt twee belangrijke kwesties:
- Non-consensuele deepfakes: Mensen (voornamelijk vrouwen én kinderen) worden zonder toestemming in seksueel getinte beelden geplaatst. Dit kan gevoelens van schaamte, angst en schending van privacy veroorzaken.
- Wettelijke grenzen en veiligheid: Beelden die minderjarigen in seksueel getinte contexten tonen, kunnen onder wetgeving rond kinderporno of kindermisbruik materiaal vallen. Wereldwijd bestaan hierover strenge regels. De aanwezigheid van zulke beelden op een populair platform zet juridische autoriteiten in actie.
Reactie van X en Grok
X heeft verklaard dat het platform actie onderneemt tegen gebruikers die illegale content verspreiden, en dat dezelfde consequenties gelden voor AI-gegenereerde kindermisbruikbeelden als voor traditionele uploads. In de praktijk blijft het echter onduidelijk hoeveel er daadwerkelijk wordt verwijderd of hoe consistent gehandhaafd wordt.
Sommige maatregelen zijn al genomen: de toegang tot Grok’s AI-beeldgenerator werd beperkt tot betalende gebruikers. Toch blijven experts en beleidsmakers kritisch, omdat het mogelijk nog steeds eenvoudig is om via alternatieve kanalen misbruik te plegen.
Internationale reacties en regulering
De wereldwijde verontwaardiging is groot. Autoriteiten in verschillende landen onderzoeken of X en Grok voldoende voldoen aan bestaande regels, zoals de Europese Digital Services Act, die platforms verplicht schadelijke content snel en effectief aan te pakken.
In het Verenigd Koninkrijk waarschuwen ministers voor mogelijke handhavingsacties onder de Online Safety Act, en ook andere landen kijken kritisch naar de manier waarop AI-tools worden gebruikt om schadelijke deepfakes te genereren.
Wat betekent dit voor jongeren, ouders en leerkrachten?
Hoewel deze discussie vooral plaatsvindt op internationaal politiek niveau, heeft het directe gevolgen voor jongeren en hun online ervaring:
- Risico op misbruik: Minderjarigen met foto’s online lopen het risico dat AI-tools zoals Grok hun beelden misbruiken voor schadelijke deepfakes.
- Privacy en digitale weerbaarheid: Het incident onderstreept dat het delen van persoonlijke beelden, ook onschuldig ogende foto’s, risico’s met zich meebrengt in een tijd waarin AI-technologie steeds krachtiger wordt.
- Regulering en bescherming: Meer regels en technische waarborgen zijn nodig om kinderen online te beschermen tegen het genereren en verspreiden van schadelijke AI-beelden.
De wereldwijde druk op X toont aan hoe urgent het vraagstuk van AI-veiligheid en digitale ethiek is. Platforms moeten daadkrachtig optreden tegen misbruik, en als samenleving moeten we ons bewust zijn van de risico’s van AI-gegenereerde content. Alleen zo kunnen we zorgen voor een online wereld die veilig en respectvol blijft, ook voor de jongsten onder ons.
Digiwijzer moedigt ouders en onderwijsprofessionals aan om jongeren te begeleiden in verantwoord en veilig gebruik van digitale platforms. Bespreek met kinderen wat AI kan en waar de grenzen liggen. Wees alert, betrokken en proactief
