Nepporno gegenereerd met AI, deze vorm van deepfake komt steeds vaker in het nieuws. Vrouwen als Olcay Gulsen, Caroline van der Plas en Sylvana IJsselmuiden werden al slachtoffer van dit soort kwalijke filmpjes. Niet alleen bekende mensen zijn echter het doelwit, het kan iedereen overkomen.
Nepporno met AI
Deepfake is een verzamelnaam voor software waarmee je nepvideo’s kunt maken die bijna niet van echt te onderscheiden zijn. Deepfake-technologie wordt dan ook veel ingezet om nepnieuws te verspreiden. 96% van alle zogeheten deepfakes bestaan uit pornografische beelden. Deze worden onder andere gebruikt voor sextortion (iemand chanteren met naaktbeelden) of wraakporno (wraak nemen door naaktbeelden van een persoon te delen).
Door middel van deze deepfake-technologie kan iedereen vrij gemakkelijk een nepporno-video maken op basis van een gewone foto. Deepfakes zijn steeds gemakkelijker te creëren en dit is een zorgwekkende realiteit. Zeker als je erbij stilstaat dat dit ook minderjarigen hierdoor getroffen kunnen worden.
Slachtoffers van deepfake en nepporno
Je hoort steeds vaker over vrouwelijke BN’ers die slachtoffer zijn geworden van een deepfake nepporno-video. Deze video’s worden gedeeld op een bekend platform met maandelijks 13 miljoen bezoekers. Op dit platform staat een groot aantal pornovideo’s waarin Nederlandse artiesten, tv-presentatrices en olympische sporters voorkomen. Ook (oud-)ministers, burgemeesters en leden van het Koninklijk Huis worden niet bespaard. Velen van hen doen aangifte.
Waar herken je deepfake aan?
- Onnatuurlijke bewegingen: Let op onnatuurlijke bewegingen of vervormingen in het gezicht, lichaam of de achtergrond van de persoon in de video. AI heeft bijvoorbeeld moeite met het realistisch nabootsen van menselijke handen. Daarnaast vertonen deepfakes vaak fouten in de manier waarop het gezicht of de lichaamsdelen bewegen.
- Synchronisatie van lippen: Let erop of de lipbewegingen van de persoon overeenkomen met de geluiden of woorden die worden uitgesproken. Soms wijkt dit in deepfakes af, wat mogelijk een teken is dat de video gemanipuleerd is.
- Oogcontact: Controleer of de persoon in de video natuurlijk oogcontact maakt met de camera en andere personen in de video. Deepfakes hebben af en toe problemen met het realistisch weergeven van oogbewegingen.
- Achtergrond en omgeving: Let op inconsistenties in de achtergrond en omgeving van de video, zoals abrupte veranderingen of vervormingen. Deepfake-software heeft soms moeite met het naadloos integreren van gezichten of lichamen met de originele achtergrond.
- Bron en context: Controleer de bron van de video en de context waarin deze wordt verspreid. Als de video afkomstig is van een onbekende of onbetrouwbare bron, wees dan voorzichtig.
- Verificatie hulpmiddelen: Er zijn verificatiehulpmiddelen en -diensten beschikbaar die specifiek zijn ontworpen om deepfakes te detecteren. Deze tools en platforms kunnen helpen bij het herkennen van gemanipuleerde media.
- Gezond scepticisme: Het is in deze snel ontwikkelende digitale wereld steeds meer van belang om kritisch te zijn bij het bekijken van online-inhoud. Als iets te mooi lijkt om waar te zijn, is het mogelijk gemanipuleerd. Vertrouw niet blindelings op alles wat je online ziet en probeer informatie te verifiëren voordat je conclusies trekt.
Wat moet je doen als je zelf slachtoffer bent van deepfake?
Maak een melding bij het platform waarop de deepfake is gedeeld en rapporteer het profiel van degene die het verspreidt.
Gaat het om nepporno? Dan is er sprake van online seksueel misbruik en dit is absoluut niet oké. Stap in dit geval naar de politie stappen om aangifte te doen. Het is belangrijk om zoveel mogelijk bewijs te verzamelen, zoals screenshots. Er kan ook sprake zijn van smaad, laster, afpersing of oplichting.
Verder kun je contact opnemen met Helpwanted. Deze organisatie is er speciaal voor het geven van advies bij (online) seksueel misbruik. Dit kan geheel anoniem.
Op de hoogte blijven van AI
Wij hebben al eerder een blog aan deepfake en naaktbeelden door AI gewijd. Hierin gaan we dieper in op hoe je kinderen beschermt tegen deepfakes.
De deepfake-technologie zal ons vermogen om te oordelen wat echt of nep is, op de proef stellen. Als alles gemanipuleerd kan worden, wat kunnen we dan nog geloven?
In onze lessen in de klas, tijdens docententrainingen en ouderavonden kaarten we de ontwikkelingen van kunstmatige intelligentie en online veiligheid altijd aan. Samen met Voorlichting op scholen zetten we ons in om deze gebeurtenissen en het thema online veiligheid bespreekbaar te maken en bewustzijn te vergroten. Onze sprekers delen actuele voorbeelden en geven praktisch advies over hoe je je kunt beschermen tegen online bedreigingen, waaronder deepfakes.
Samen kunnen we ervoor zorgen dat we veilig en verstandig kunnen navigeren in de digitale wereld. Ook een les, training of ouderavond op jouw school? Neem dan contact op.
