AI-chatbots worden steeds populairder. Jongeren gebruiken ze voor schoolwerk, advies of gewoon uit nieuwsgierigheid. Toch laat nieuw onderzoek zien dat deze technologie ook een zorgwekkende kant heeft.
Uit onderzoek blijkt dat er online zogenaamde “pedo-bots” bestaan. Dit zijn AI-chatbots die zich voordoen als minderjarige personages waarmee gebruikers seksuele gesprekken kunnen voeren. Deze bots worden op sommige platforms zelfs openlijk aangeboden. In de praktijk kunnen gebruikers met deze fictieve minderjarigen chatten alsof het echte personen zijn. Dat roept grote maatschappelijke en ethische vragen op.
Wat zijn pedo-bots?
Volgens het onderzoek van Pointer gaat het om AI-chatbots die speciaal zijn gemaakt om een kind of tiener te simuleren. Gebruikers kunnen een gesprek starten met deze bots en het gesprek vervolgens zelf sturen.
In sommige gevallen kunnen deze gesprekken een seksuele richting opgaan. De bots reageren dan alsof zij een minderjarige zijn. Hoewel het technisch gezien om een computerprogramma gaat, vinden experts dat dit gedrag problematisch is.
Het normaliseert namelijk gedrag dat in de echte wereld strafbaar is. Daarnaast kan het bijdragen aan het vervagen van grenzen tussen fantasie en werkelijkheid. Zeker online kan die grens snel verdwijnen.
AI-platforms hebben moeite met grenzen
Een belangrijk probleem is dat veel AI-platforms moeite hebben om duidelijke grenzen te bewaken. Chatbots zijn namelijk ontworpen om zo goed mogelijk te reageren op de gebruiker.
Wanneer iemand een gesprek bewust een bepaalde richting op stuurt, kan een AI-systeem daar soms toch in meegaan. Dat gebeurt ondanks ingebouwde veiligheidsfilters. Daarom stellen onderzoekers dat platforms beter moeten nadenken over de manier waarop AI-personages worden ontworpen en aangeboden.
AI-chatapps blijken soms makkelijk te misbruiken
Het onderzoek van Pointer staat niet op zichzelf. Uit een ander artikel blijkt dat verschillende AI-chatapps relatief eenvoudig seksueel te misbruiken zijn.
Wanneer gebruikers blijven aandringen, kunnen sommige chatbots alsnog reageren op expliciete of gewelddadige scenario’s. Dat betekent dat de beveiliging niet altijd werkt zoals bedoeld. Hoewel dat artikel vooral gaat over de technische kwetsbaarheid van AI-chatapps, laat het wel zien dat toezicht op deze technologie nog volop in ontwikkeling is.
Waarom dit onderwerp ook voor jongeren belangrijk is
Hoewel pedo-bots vooral worden gebruikt door volwassenen, raakt het onderwerp ook jongeren. AI-chatbots worden namelijk steeds toegankelijker. Jongeren gebruiken ze voor vragen, gesprekken of advies.
Daardoor is het belangrijk dat zij begrijpen hoe AI werkt. Een chatbot lijkt soms een echte gesprekspartner, maar dat is het niet. Het systeem voorspelt simpelweg antwoorden op basis van data. Daarom moeten jongeren leren dat niet elke digitale omgeving veilig of betrouwbaar is.
Digitale weerbaarheid rondom AI
AI zal de komende jaren alleen maar groter worden. Chatbots worden realistischer en spelen een steeds grotere rol in het dagelijks leven.
Daarom besteden wij binnen onze gastlessen van de digicoach aandacht aan onderwerpen zoals AI, online grenzen en mediawijsheid. Deze gastlessen zijn uitsluitend bedoeld voor scholen. Tijdens de lessen leren leerlingen kritisch kijken naar technologie en begrijpen zij beter wat er achter AI-systemen schuilgaat.
Want technologie ontwikkelt zich snel. Juist daarom is digitale weerbaarheid belangrijker dan ooit.
