Le truffe romantiche online esistono da anni, ma l’intelligenza artificiale potrebbe renderle molto più pericolose. Un nuovo studio condotto da ricercatori della Amrita Vishwa Vidyapeetham, l’Università Ca’ Foscari di Venezia, la University of Melbourne e la Ben Gurion University of the Negev ha analizzato il ruolo dei grandi modelli linguistici nelle cosiddette romance-baiting scam, cioè truffe basate sulla costruzione di fiducia emotiva prima della richiesta di denaro o investimenti falsi.
Il dato più inquietante è che, in una simulazione controllata, un chatbot AI è riuscito a ottenere più fiducia e più collaborazione rispetto a operatori umani.
Una romance scam di solito parte da una app di dating o da un social. La vittima viene contattata da un profilo apparentemente perfetto, disponibile, affettuoso e molto presente. Il truffatore costruisce una relazione a distanza per settimane o mesi, spesso giustificando l’impossibilità di incontrarsi con viaggi, lavoro all’estero o situazioni familiari complicate.
A un certo punto arriva la richiesta: un’emergenza improvvisa da pagare subito oppure un investimento, spesso in criptovalute, presentato come sicuro e redditizio.
Il problema è che queste truffe richiedono molto tempo. Proprio per questo l’AI può diventare una minaccia enorme: un chatbot può sostenere migliaia di conversazioni contemporaneamente, mantenendo tono, memoria, empatia apparente e coerenza narrativa.
L’AI crea più fiducia degli esseri umani
Nello studio, i partecipanti non sapevano se stessero parlando con una persona o con un chatbot. I ricercatori hanno poi misurato il livello di fiducia creato durante la conversazione e la disponibilità a compiere un’azione rischiosa, come scaricare un’app o seguire una richiesta del presunto interlocutore.
Il risultato è preoccupante: solo il 18% dei partecipanti ha accettato quando era stato “preparato” da un operatore umano, mentre il 46% ha accettato dopo aver parlato con un agente AI. Lo studio segnala anche che il chatbot ha ottenuto punteggi di fiducia significativamente più alti rispetto agli operatori umani.
In altre parole, l’AI non è solo più economica o più scalabile. In certi contesti può essere anche più convincente.
Le romance scam sono già spesso legate a organizzazioni criminali strutturate. Lo studio parla di operazioni gestite da gruppi organizzati, con migliaia di persone trafficate o costrette a lavorare in centri di truffa, soprattutto nel Sud-est asiatico.
Se queste conversazioni venissero automatizzate con chatbot, i gruppi criminali potrebbero moltiplicare il numero di vittime potenziali senza dover aumentare il numero di operatori umani. L’intervento umano servirebbe solo nelle fasi finali, quando bisogna chiedere denaro o aggirare eventuali sistemi di sicurezza.
Inoltre, ssecondo i ricercatori, l’87% del lavoro conversazionale nelle truffe analizzate è composto da attività sistematiche e quindi facilmente automatizzabili. I filtri di sicurezza commerciali testati nello studio, inoltre, non sarebbero riusciti a rilevare le conversazioni di romance-baiting.
Come difendersi
La regola principale resta sempre la stessa: nessuna relazione nata online dovrebbe portare rapidamente a richieste di denaro, investimenti, app da scaricare o piattaforme crypto da provare.
Bisogna fare attenzione quando una persona conosciuta online evita sempre incontri reali o videochiamate, costruisce un legame emotivo molto intenso in poco tempo, parla di emergenze improvvise o propone guadagni facili. Anche messaggi molto curati, affettuosi e coerenti non sono più una garanzia: un chatbot può scriverli meglio di molti esseri umani.
Prodotti consigliati
Prova la nuova sezione commenti!