Bij een appje van een onbekend nummer dat vraagt om geld zullen er bij vele gelukkig wat alarmbellen gaan rinkelen. Pas op! Mogelijke oplichter! Maar wat nou als je gebeld wordt door een bekende stem? Hoe weet je dan zeker dat het écht die persoon is?
Een stem klonen
Tegenwoordig is het mogelijk om stemmen te klonen met behulp van complexe technologieën zoals spraaksynthese en tekst-naar-spraak (TTS). Op deze manier is het dus haalbaar om de stem van een persoon te reproduceren. Al wat je er voor nodig hebt is een korte opname van de stem van de persoon. En dat niet alleen; er kan zelfs rekening gehouden worden met de nuances van iemands stem en spraakpatronen. Zo kan er tekst worden omzet in een gesynthetiseerde spraak die heel erg lijkt op de échte stem van een persoon. Dit betekent dus dat de gekloonde stem dingen kan zeggen die oorspronkelijk helemaal niet zijn opgenomen.
Oplichting door een gekloonde stem: hoe werkt dat?
Dat er nu systemen bestaan waardoor stemmen gekloond kunnen worden, brengt gevaren met zich mee. Zo kan het worden ingezet voor fraude en oplichting. Dat gaat verder dan enkel een appje van een onbekend nummer dat zich voordoet als een bekende. Met een stem lijkt het veel echter en trappen meer mensen erin. Mensen denken dan te maken te hebben met een echte bekende, terwijl er in werkelijkheid een oplichter aan het werk is. Zo vertelde Marion bijvoorbeeld bij RTL Nieuws over haar ervaring met oplichting door voice AI. Oplichters maken daarbij vaak gebruik van een heftige situatie die om directe actie vraagt. Daarbij zetten ze een slachtoffer direct voor het blok, waardoor ze nauwelijks tijd hebben om twee keer na te denken.
Gekloonde stemmen kunnen ook worden gebruikt om valse verklaringen of propaganda te verspreiden. Dit kan leiden tot het beïnvloeden van publieke opinies. Daarnaast kan het opnemen en klonen van iemands stem zónder toestemming ook ernstige privacy-inbreuken veroorzaken. Denk hierbij aan identiteitsdiefstal. Dat is strafbaar. Maar het zal door kunstmatige intelligentie waarschijnlijk vaker voorkomen.
Bewustwording van oplichting met voice AI: hoe kun je het voorkomen?
Het is van groot belang dat er bewustwording over de mogelijkheden en risico’s van stemklonen wordt gecreëerd. Onze sprekers krijgen vaak vragen in de klas over anonieme telefoontjes. We bespreken dan onder andere stemklonen en de risico’s die het met zich meebrengt.
Ook de politie erkent het probleem. Zij adviseren bijvoorbeeld om bij een achterdochtig telefoongesprek op te hangen, en terug te bellen op het nummer dat jij van die persoon kent. Je kan ook een vraag stellen over iets wat alleen de persoon aan de andere kant van de lijn weet of een codewoord afspreken. Een codewoord is een handig wachtwoord om snel te verifiëren of de persoon echt is of niet.
In onze lessen over online contact en oplichting behandelen we ook deze aspecten. Zo leren we leerlingen, leerkrachten en ouders bewust worden van nieuwe manieren van oplichting.
