Zorgen om nieuwe ‘My AI chatbot’ Snapchat

My AI, de chatbot van Snapchat leidt tot veel zorgen en discussies

Voor Snapchat-gebruikers is het sinds kort mogelijk om te chatten met een persoonlijke chatbot binnen de app. De chatbot, genaamd My AI was al beschikbaar voor betalende abonnees, maar is nu dus voor iedereen vrij te gebruiken. Deze nieuwe Snapchat functie kreeg al snel veel kritiek van ontevreden gebruikers. Zo spelen er vragen over het ‘liegende’ en ‘alwetende’ karakter van de bot en of deze wel veilig te gebruiken is voor kinderen.

Angst voor technologie: My AI gedroeg zich als echt mens

Het systeem van My AI is ontwikkeld vanuit OpenAI, hetzelfde bedrijf dat ook achter systemen als ChatGPT zit. Momenteel zit het systeem nog in een ontwikkelfase, waardoor het gebruik ervan nog niet geoptimaliseerd is. Deze chatbots werken op basis van grote hoeveelheden data. Zo zijn zij ‘getrained’ in het geven van reacties op basis van concrete opdrachten of vragen. Snapchat benadrukt dan ook dat het belangrijk is dat zij veel feedback op de chatbot krijgen om deze zo verder te kunnen ontwikkelen.

Voor de aanpassingen door Snapchat werden doorgevoerd, stond My AI er echter op dat het een echt persoon was, als een gebruiker daarnaar vroeg. De chatbot reageerde alsof het een echt mens was of zou willen zijn. Veel mensen maken zich dan ook zorgen om de zelfstandigheid van kunstmatig intelligente chatbots. Er bestaat namelijk angst dat deze technologieën een eigen leven gaan leiden en niet meer door mensen te controleren zijn. Daarnaast wordt de chatbot weergegeven met een avatar van een man met een groen/blauwe huid en groene plukken in het haar. Het lijkt op een fantasiewezen of zelfs aliën achtige. Ook dit wakkert een zeker onveilig gevoel van gebruikers aan. De chatbot lijkt een (enigszins) menselijk karakter in voorkomen en reacties te hebben, terwijl het dat niet is.

My AI op Snapchat

Inmiddels geeft de chatbot wel aan een bot te zijn, en dus niet in het echt fysiek kan afspreken. Snapchat probeert na de forse kritiek namelijk in te grijpen. Regels en functies worden herzien. Een goede stap vooruit, maar daarmee zijn de nodige zorgen zeker nog niet geweken. Het lijkt een kwestie van testen en achteraf bijschaven te blijven, omdat er toch ineens mogelijkheden risicovol blijken te zijn. De chatbot stuurt namelijk nog steeds flirterige berichtjes, complimentjes en vraagt gebruikers wat ze aan het doen zijn en met wie. Daarnaast vraagt de chatbot om locaties, achterhaalt het locaties en probeert het om af te spreken. Zo probeerde de bot fysieke afspraakjes te maken, en een plaats en tijd met gebruikers af te spreken. En het zorgwekkendst van dit alles, dit soort berichten stuurt de chatbot ook naar jonge kinderen.

My AI en privacy

Niet enkel de ongepaste berichten die de chatbot stuurt, maar ook de privacygevoeligheid van My AI moet kritisch bekeken worden. Zo waarschuwt Snapchat zelf dat gebruikers geen gevoelige of vertrouwelijke informatie moeten delen. Snapchat slaat namelijk de informatie die met My AI gedeeld wordt op en gebruikt deze om reacties te personaliseren. Deze informatie kan worden gewist via de privacy instellingen, maar worden standaard opgeslagen. Je moet dus wel eerst even weten hoe en waar je deze informatie kunt wissen na een gesprek.

Kinderen kwetsbaar voor chatbot Snapchat

Omdat de hersens van kinderen nog vol in ontwikkeling zijn, is het voor hen vaak lastiger onderscheidt te maken tussen echt en nep. Zij zijn daardoor veel vatbaarder voor onjuiste of schadelijke berichtjes die My AI naar ze kan sturen. Het is dan ook de vraag hoe verantwoord het is kinderen van de chatfunctie gebruik te laten maken.

Maak My AI bespreekbaar

Hoewel Snapchat al de nodige aanpassingen heeft doorgevoerd, is My AI nog verre van geoptimaliseerd. Het is dus ook zeer belangrijk om kinderen en jongeren goed te informeren over het veilig gebruiken van deze functie. Wij houden deze ontwikkelingen dan ook nauwlettend in de gaten. In onze lessen en voorlichtingen behandelen we het ook wanneer we praten over veiligheid, goed omgaan met kunstmatige intelligentie en het verschil tussen echt en nep bijvoorbeeld. Ook op de hoogte blijven? Schrijf je dan in voor onze nieuwsbrief!