Romantische oplichting en de rol van kunstmatige intelligentie (AI)

The world of romance has changed drastically over the years, and with the emergence of new technology, it is now easier than ever to find love. However, this newfound ease also comes with a dark side: Romance scams facilitated by AI.

Bij dit soort oplichting wordt kunstmatige intelligentie gebruikt om valse profielen aan te maken en slachtoffers ertoe te verleiden geld of persoonlijke gegevens te verstrekken. Helaas komen deze vormen van oplichting steeds vaker voor en worden ze steeds geavanceerder, omdat oplichters misbruik maken van nietsvermoedende mensen die online op zoek zijn naar liefde. Van deepfakes,

Volgens de Amerikaanse Federal Trade Commission zijn enkele van de schrikbarende statistieken:

• 80% stijging op jaarbasis in het aantal romantische oplichtingspraktijken
• Alleen al in 2021 ging er meer dan 1,3 miljard dollar verloren
• 2400 dollar: het gemiddelde verlies bij romantische oplichting

As AI is advancing in leaps and valentine's day in front of us, we are here to caution the singles, the hopeless romantics, and all the unsuspecting people online to be aware of how AI can be used in these romance scams.

AI-chatbots

AI-chatbots kunnen worden gebruikt om valse onlineprofielen aan te maken die op echte mensen lijken en met de slachtoffers praten. Deze chatbots kunnen zo geavanceerd zijn dat ze de slachtoffers emotioneel in een relatie kunnen lokken.

Ze doen zich voor als echte mensen en gaan met de slachtoffers in gesprek. Ze maken gebruik van speciale computerprogramma’s die zich als echte mensen kunnen gedragen, waardoor ze geloofwaardig overkomen. Deze chatbots kunnen er ook voor zorgen dat slachtoffers zich op een bepaalde manier gaan voelen, waardoor ze eerder geneigd zijn hun geld of persoonlijke gegevens prijs te geven.

What is worst is these AI chatbots can be used AT SCALE to engage millions of people and then detect the ones who can potentially fall into the romance scams. AI is helping scammers to scale their efforts in a fraction of the time.

Deepfakes

Deepfakes zijn een vorm van kunstmatige-intelligentietechnologie waarmee beelden en video’s kunnen worden gemanipuleerd of vervalst. Deepfakes maken gebruik van algoritmen voor machine learning om bestaande beelden en video’s te bewerken en het gezicht of de stem van iemand anders erin te plaatsen.

Stel je voor dat al je foto’s en video’s op je favoriete sociale mediaplatforms worden samengevoegd om een deepfake-personage van een echt persoon te creëren, waarmee potentiële slachtoffers worden benaderd.

Dit kan niet alleen schadelijk zijn voor mensen die in de val van een romance-zwendel lopen, maar ook iemands reputatie schaden als hun foto’s en video’s worden gebruikt om valse identiteiten te creëren.

Dergelijke oplichters beweren doorgaans dat ze in het buitenland wonen vanwege hun werk, waardoor het voor slachtoffers onmogelijk is om hen persoonlijk te ontmoeten of hun achtergrond grondig te controleren. Bovendien stellen deepfakes romantische oplichters in staat om vals bewijsmateriaal te presenteren dat legitiem lijkt, terwijl dit mogelijk psychische schade kan veroorzaken als het te realistisch overkomt. 

These fake identities can be used by scammers to build trust with their victims, and ultimately rob them of their money. It is important for those looking for a relationship online to stay vigilant and question any details offered which appear too good to be true.

Stemklonen

Voice cloning is a technology that creates counterfeit conversations where an artificial voice imitates somebody’s own voice.

Hoe controversieel het ook mag lijken, cybercriminelen zijn begonnen deze technologie te misbruiken om liefdeszwendel te plegen op datingsites en -apps. De daders beschikken over de middelen om zich via digitale identiteitsfraude voor te doen als iemand anders – met niet meer dan een vooraf opgenomen gesprek en enige kennis van het leven van het slachtoffer.

Deze geavanceerde technologie wordt door internetoplichters misbruikt om slachtoffers te laten geloven dat ze met een dierbare of vertrouwde persoon spreken. De oplichter gebruikt de nagebootste stem vervolgens om het slachtoffer emotioneel te manipuleren, zodat deze geld en gevoelige informatie verstuurt.

Being vigilant about voice cloning scams is key to protecting your private information and financial safety.

Knowing how to recognize a scammer is the best way to prevent becoming a victim of these types of fraud. Common indicators of a scam include fraudulent "emergency" requests for money or personal details, requests that you pay in a non-traditional manner such as gift cards, promises of large sums of money in return for minimal effort, and unexpected business offers.

Wees op uw hoede als iemand beweert namens een groot bedrijf te spreken en zich verraadt door ongeloofwaardige aanbiedingen te doen of tegenstrijdige uitspraken te doen. Als iets niet helemaal klopt, neem dan de tijd om het nader te onderzoeken of raadpleeg een onafhankelijke derde partij voordat u actie onderneemt. Blijf alert en geef nooit uw persoonlijke gegevens of geld vrij voordat u weet met wie u te maken hebt en er zeker van bent dat hun bedoelingen legitiem zijn.

Tekstvoorspelling

AI kan worden gebruikt om voorspellende tekstreacties te genereren die zijn afgestemd op het individuele slachtoffer. De technologie kan worden ingezet om reacties op maat te maken op basis van de gegevens van het slachtoffer, waardoor het gevoel ontstaat dat er contact is met iemand die het slachtoffer denkt te kennen. Hierdoor kan het moeilijker worden om te herkennen dat je met een oplichter te maken hebt, totdat het te laat is en het geld al is overgemaakt.

Over het algemeen verzamelt de oplichter zoveel mogelijk informatie over zijn slachtoffer voordat hij een gesprek aangaat. Daarom kunnen deze gesprekken soms een beetje griezelig aanvoelen, alsof de persoon je beter kent dan zou mogen.

Om te voorkomen dat je op deze manier wordt misbruikt, is het belangrijk om altijd alert en waakzaam te blijven wanneer je communiceert met iemand die te veel over je lijkt te weten of die op een vertrouwde manier lijkt te anticiperen op je reacties.

Data-analyse voor emotionele manipulatie

AI technology is being used to analyze behavioral patterns and identify when a person is at greater risk of falling prey to fraud, especially in cases of emotional manipulation.

Dergelijke AI-tools zijn in staat om voorspelbare emotionele patronen in iemands gedrag te herkennen door de beschikbare gegevens te bestuderen. Bijvoorbeeld door iemands aanwezigheid op sociale media of eerdere aankopen en interacties met andere bedrijven te analyseren.

Met deze gegevens kunnen cybercriminelen gerichte oplichtingspraktijken opzetten die een grotere kans van slagen hebben om hun slachtoffers te misleiden.

Voorzorgsmaatregelen ter bestrijding van romance-oplichting

Als voorzorgsmaatregel voor iedereen die online op zoek is naar liefde, is het belangrijk om een paar eenvoudige stappen te volgen.

Klik allereerst niet op verdachte links in e-mails of sms-berichten van mensen die je niet kent, want dit kan een AI zijn.

Probeer bovendien altijd te videochatten met een potentiële partner, in plaats van alleen via sms te communiceren. Maar let op: met behulp van deepfakes kunnen ook videochats worden gemanipuleerd. Let op de hierboven genoemde signalen om deepfakes te herkennen.

Als de berichten overdreven charmant overkomen en je uit het niets eeuwige liefde beloven, wees dan extra op je hoede, want dit zijn tekenen dat een oplichter met een AI-bot je probeert te manipuleren. 

Never send money or personal data to someone you haven’t verified is an actual person. Be sure to double-check if the information provided by the other person is true or not - do your research!

Gebruik ten slotte veilige authenticatiemethoden wanneer je iemand voor het eerst online ontmoet, om je veiligheid te waarborgen. Hoewel romantische oplichting via AI complex en moeilijk te herkennen is, kun je jezelf hiertegen beschermen door deze beproefde tips op te volgen.

AI is a force for Good at Chargeflow

Apart from romance scams, there is another hefty fraud that people commit with online merchants: Chargebacks.

At Chargeflow.io, we use AI to fight those fraudulent chargebacks and help merchants save their time, money, and peace of mind.

Chargeflow.io is the world's first automated chargeback management solution specifically designed for eCommerce merchants.

Door gebruik te maken van big data en een naadloze integratie met uw bedrijf, kunnen wij het meest uitgebreide bewijsmateriaal ter wereld op het gebied van chargebacks samenstellen, volledig afgestemd op uw winkel, en dit namens u versturen.

Ultimately, we use our proprietary AI to help online merchants run and scale their businesses without worrying about chargebacks.