Grazie alla facilità e alla velocità con cui permettono ai propri utenti di mettersi in contatto con altre persone, aziende e addirittura istituzioni, le piattaforme social sono diventate negli anni anche il terreno ideale, per i malintenzionati, sul quale portare avanti le proprie truffe online tramite account falsi. Con il supporto dell’intelligenza artificiale (IA), per di più, la produzione di identità online fasulle si sta facendo via via più sofisticata ed efficace.
Questa tecnologia, infatti, permette a un utente anche poco esperto di creare identità online molto verosimili; basta pensare ai risultati ottenibili con i modelli di sintesi vocale o quelli che permettono la creazione di immagini estremamente realistiche di individui fittizi, per non parlare dei deepfake.
Gli account creati tramite questi strumenti, poi, grazie all’utilizzo delle chatbot, sono in grado di contattare autonomamente i target dell’attacco, senza che l’autore della truffa sia di fatto coinvolto in prima persona.
Inoltre, la quantità di informazioni che l’utente di un social network rende nota su di sé a cadenza giornaliera con il normale utilizzo di tali piattaforme fornisce ai truffatori tutti gli elementi necessari a costruire attacchi mirati e credibili.
Indice degli argomenti
Profili falsi creati dall’AI: soluzioni per smascherarli
Tutti questi elementi sono causa delle crescenti difficoltà nel determinare l’autenticità dei profili presenti sulle piattaforme social, compromettendo la sicurezza degli utenti.
Per tale motivo, le principali piattaforme social hanno già da tempo introdotto una serie di misure per tutelare i propri iscritti dai malintenzionati che costruiscono profili falsi a scopo di truffa.
Ma con il sempre più rapido progresso non solo delle tecnologie, ma anche delle tecniche e delle modalità di attacco, i tradizionali segnali di autenticità dei profili, come il segno di spunta accanto ai nomi – che su determinate piattaforme è ormai rilasciato non più a seguito della verifica dell’identità ma dietro pagamento – non sono più da considerarsi garanzia di affidabilità.
Nell’ultimo periodo, inoltre, non vengono costruiti solo profili social relativi a persone, ma anche quelli che possono sembrare gli account ufficiali di note società. Nel Regno Unito, ad esempio, sono in aumento le truffe da parte di soggetti che contattano gli utenti da profili che replicano quelli di grandi aziende, come le compagnie aeree.
Secondo l’associazione dei consumatori “Which?”, sulla piattaforma X esistono account fasulli per tutte le principali compagnie aeree del Paese, costruiti appositamente per ingannare i clienti e ottenere i loro dati personali.
La truffa spesso si verifica quando un cliente contatta una compagnia aerea sui social, inserendo ad esempio un commento su un post pubblico, per sporgere un reclamo, lasciare una recensione o porre delle domande.
I truffatori, utilizzando spesso bot, trovano queste interazioni sui social media e rispondono al cliente fingendo di essere l’account ufficiale.
Spesso chiedono dati personali sensibili o reindirizzano i clienti a siti di phishing per raccogliere informazioni sulle carte di credito.
In alcuni casi chiedono il versamento di una tassa per risolvere l’eventuale problema manifestato dal cliente. Mentre, al contrario, alcuni truffatori per acquisire credibilità sostengono talvolta che i clienti con i quali stanno interagendo hanno diritto a dei risarcimenti.
Which? ha identificato account falsi che impersonano ogni principale compagnia aerea operante nel Regno Unito, come ad esempio British Airways, easyJet, Jet2, Ryanair, Tui, Virgin Atlantic e Wizz Air, tanto che le compagnie aeree in questione condividono spesso post su X che esortano i clienti a essere cauti e a non condividere dati personali sui social media.
Il proliferare di profili falsi su X
La piattaforma X non è nuova ai problemi con gli account fake. Nel 2023, un team di studenti e docenti presso l’Observatory on Social Media dell’Indiana University ha rilevato al suo interno una rete di account falsi chiamata “Fox8”. Questi account, dietro i quali c’erano di fatto dei bot, utilizzavano ChatGPT per generare contenuti che promuovono siti web sospetti e diffondevano contenuti dannosi, tentando di convincere le persone a investire in criptovalute false e, in alcuni casi, a rubare da portafogli di criptovalute esistenti.
I ricercatori hanno riferito che questi bot erano così convincenti che, anche applicando un rilevatore di contenuti di grandi modelli di linguaggio (LLM), non è stato possibile distinguere efficacemente tra bot alimentati da LLM e utenti umani.
Gli account Fox8 sembravano partecipare attivamente alle attività su X, rendendoli più credibili agli occhi degli utenti umani, ma presentavano caratteristiche tipiche dei profili fake come foto rubate da utenti reali e interazioni frequenti tra di loro attraverso retweet e risposte.
Profili falsi creati dall’AI: un problema anche per le piattaforme
Ma il problema degli account falsi non tocca solo gli utenti, ma anche le piattaforme stesse, sia per le attività potenzialmente malevole condotte tramite questi profili, sia per la quantità ingente degli stessi all’interno dei principali social.
Negli ultimi anni, ad esempio, si è registrato un notevole aumento di account falsi su LinkedIn. I rapporti della società mostrano infatti che il numero di profili fake segnalati dagli utenti raddoppiato rispetto agli anni precedenti, passando da 391.000 nel 2022 a 428.000 nel 2023. Questo incremento influisce negativamente sugli utenti finali, poiché il compito di moderare la piattaforma passa in parte a loro.
Dal 2022, l’aumento degli account falsi sembra correlato proprio alla diffusione di tecnologie di intelligenza artificiale generativa come ChatGPT, che hanno facilitato la creazione e gestione di questi profili, oltre a renderne più difficile la rilevazione.
LinkedIn utilizza sistemi automatizzati per bloccare gli account falsi. Solo nel 2023 questi sistemi sono riusciti a bloccarne oltre 121 milioni. Tuttavia, nonostante questi sforzi, un gran numero di account riesce ancora a superare le prime linee di difesa, raggiungendo gli utenti finali.
Anche Facebook, nell’ultimo periodo, si è impegnato in una vera e propria campagna di rimozione di tali profili, arrivando a disattivarne, solo tra gennaio e marzo 2024, circa 621 milioni.
Gli account falsi rappresentano quindi un problema per le piattaforme social su diversi piani. Innanzitutto, oltre a compromettere la fiducia degli utenti danneggiano anche quella degli inserzionisti, i quali investono enormi somme di denaro nella pubblicità su questi portali, aspettandosi di raggiungere potenziali clienti reali. La presenza di account falsi, però, è in grado di gonfiare artificialmente le metriche degli utenti, portando gli inserzionisti a sovrastimare la portata e l’efficacia delle loro campagne pubblicitarie.
Gli azionisti, a loro volta, sono interessati da queste alterazioni, che possono rappresentare elementi in grado di mettere in discussione la valutazione della società e le sue prospettive di crescita future, fattore che potrebbe portare a una perdita di fiducia da parte degli investitori e a una diminuzione del valore azionario della società.
Infine, la gestione e la moderazione dei contenuti diventano anche più complesse a causa degli account falsi. Nonostante l’uso di tecnologie avanzate per rilevare e rimuovere questi account, un numero significativo di profili falsi continua a sfuggire ai controlli. Questo aumenta il carico di lavoro per i sistemi di moderazione e rende più difficile mantenere un ambiente sicuro e autentico sulla piattaforma.
Conclusioni
Malgrado gli sforzi delle principali piattaforme per arginare il fenomeno, la diffusione di fake account rimane un problema persistente, tanto per gli utenti quanto per i gestori di social network.
Solo attraverso un costante adattamento delle strategie di sicurezza e una maggiore vigilanza si potrà arginare questa minaccia crescente, proteggendo l’integrità delle interazioni online e la fiducia degli utenti.
