Il rapido aumento dei sistemi avanzati di intelligenza artificiale (AI) ha trasformato radicalmente molte delle attività quotidiane: se da un lato chatbot e algoritmi migliorano l’esperienza degli utenti e sono perfettamente adattabili a diversi esigenze, dall’altro hanno esposto la vita personale e aziendale a nuove e più pericolose minacce di social engineering.
Secondo il 2025 Identity Fraud Report, in media, ogni cinque minuti si verifica un tentativo di truffa tramite deepfake, mentre il World Economic Forum prevede che, entro il 2026, il 90% dei contenuti online sarà generato artificialmente.
Indice degli argomenti
Tre metodi di utilizzo dell’AI per rubare dati
Si potrebbe pensare che le principali vittime dei deepfake e del phishing basato sull’AI siano celebrità o personaggi pubblici. Tuttavia, gli obiettivi primari rimangono quelli delle tradizionali truffe: le persone comuni, con le loro informazioni personali, bancarie e di acquisto, e le aziende, in quanto responsabili di dati sensibili e risorse strategiche.
Phishing potenziato dall’intelligenza artificiale
Il phishing è una truffa online progettata per ingannare le vittime e indurle a rivelare involontariamente le proprie credenziali o i dati delle proprie carte di pagamento.
Questo tipo di attacco può colpire sia utenti privati che aziende e può avvenire su larga scala oppure in modo mirato. I messaggi di phishing si presentano solitamente come false notifiche provenienti da banche, fornitori di servizi, sistemi di pagamento elettronico o altri enti.
Nei casi di phishing mirato, questi messaggi possono addirittura provenire da persone conosciute dalla vittima.
Le truffe di phishing tradizionali spesso contengono errori e sono generiche, ma grazie ai Large Language Models (LLM), gli attaccanti sono ora in grado di creare messaggi e pagine di phishing personalizzate, più convincenti, con una grammatica corretta, una buona forma e una solida struttura.
Poiché il phishing è una minaccia globale, i cybercriminali possono ora colpire più efficacemente gli utenti anche in lingue che non conoscono, sfruttando l’intelligenza artificiale generativa. E possono imitare lo stile comunicativo di persone specifiche, come partner commerciali o colleghi delle vittime, analizzando i loro post sui social media, i commenti e altri contenuti legati alla loro identità.
Inoltre, nell’era digitale moderna, le tecnologie di intelligenza artificiale permettono ai cybercriminali di creare contenuti visivi di grande impatto o addirittura di realizzare landing page complete, rendendo il materiale di phishing ancora più convincente ed efficace.
Deepfake audio
I deepfake sono contenuti artificiali che, grazie all’intelligenza artificiale, riescono a replicare in modo credibile le caratteristiche vocali o fisiche di una persona. Bastano pochi secondi di registrazione vocale affinché l’AI possa generare clip audio falsi, in grado di imitare voci di persone fidate della vittima, come amici o familiari.
Basti pensare che gli aggressori possono rubare un account in un’app di messaggistica e utilizzare i messaggi vocali delle chat per creare registrazioni false che imitano la voce del proprietario. Potrebbero quindi utilizzare queste registrazioni per inviare messaggi ad amici e parenti dell’utente, fingendosi loro.
Questa tecnica di truffa è estremamente preoccupante, ma purtroppo molto realizzabile: i cyber criminali potrebbero usare la voce per richiedere trasferimenti di denaro urgenti o ottenere informazioni sensibili, sfruttando la fiducia degli utenti per commettere frodi sia a livello personale che aziendale.
Video deepfake
I cyber criminali possono sfruttare l’intelligenza artificiale per creare video deepfake partendo anche da una sola immagine, senza dover ricorrere a tecnologie complesse come quelle utilizzate per gli effetti speciali cinematografici.
Grazie ad alcuni semplici tutorial, gli aggressori sono in grado di eseguire operazioni come il cambio di volto e labbra, senza dover ricorrere a software complessi. Con l’aiuto di strumenti adeguati, inoltre, possono sostituire i volti nei video, correggere le imperfezioni generate dall’AI e aggiungere una voce realistica al soggetto.
Queste tecniche permettono ai cyber criminali di realizzare attacchi particolarmente sofisticati, come la creazione di pubblicità false, chiamate ingannevoli o addirittura fare videochiamate in diretta, fingendosi persone di fiducia o familiari e amici della vittima.
Esempi di phishing generato dall’AI e deepfake di persone famose
Gli esperti di Kaspersky hanno già rilevato diversi casi in cui i cybercriminali sfruttano i Large Language Models (LLM) per generare contenuti destinati ad attacchi di phishing e truffe su larga scala.
Questi attacchi spesso lasciano delle tracce che rivelano l’uso dell’intelligenza artificiale, come frasi del tipo: “Come modello linguistico dell’AI…” o “Anche se non posso fare esattamente ciò che vuoi, posso provare qualcosa di simile“.
Tali segnali permettono di identificare i contenuti fraudolenti creati tramite LLM, ma allo stesso tempo i cybercriminali riescono ad automatizzare e generare decine, se non centinaia, di pagine web di phishing e truffa con contenuti convincenti, il che rende gli attacchi molto più credibili e difficili da individuare.
Oltre al phishing, sono stati individuati numerosi esempi di attacchi deepfake che coinvolgono anche personaggi famosi.
Recentemente una vittima ha subito una truffa dopo aver ricevuto la comunicazione di essere stata selezionata da Elon Musk per investire in un nuovo progetto. All’orario stabilito, un deepfake di Musk ha spiegato in via telematica alla vittima i dettagli del progetto, che è stata convinta ad investire dei fondi, con conseguenti perdite economiche significative.
I cyber criminali creano anche pubblicità fraudolente che sfruttano deepfake di personaggi noti, come attori internazionali o politici, per poi diffonderle su varie piattaforme.
In un caso recente, un gruppo di truffatori, utilizzando sofisticate tecnologie di intelligenza artificiale, ha simulato la voce del Ministro della Difesa italiano Guido Crosetto per ingannare imprenditori di spicco e ottenere rimborsi economici con la finalità di costituire fondi utili a liberare presunti giornalisti rapiti in Medio Oriente.
I deepfake vanno oltre le truffe economiche. Un altro esempio preoccupante riguarda le truffe sentimentali, in cui l’intelligenza artificiale viene utilizzata per generare false identità che interagiscono con le vittime tramite videochiamate.
Dopo aver ottenuto la fiducia della vittima, i truffatori chiedono denaro per emergenze, viaggi o prestiti. Recentemente, un gruppo di oltre venti persone coinvolte in questo tipo di truffe è stato arrestato dopo aver rubato 46 milioni di dollari a vittime provenienti da Taiwan, Singapore e India.
Anche i deepfake vocali sono stati utilizzati in varie truffe che prendono di mira sia utenti che banche, in particolare in attacchi che sfruttano sistemi di autenticazione vocale.
Come proteggersi dalle minacce alimentate dall’AI
Con l’evoluzione della tecnologia AI, anche le nostre difese devono migliorare.
Le misure di difesa possono essere suddivise in approcci tecnici e non tecnici. Per quanto riguarda l’aspetto tecnico, i Large Language Models (LLM) potrebbero, e probabilmente lo faranno in futuro, integrare filigrane (watermark).
I watermark, impercepibili dagli occhi umani ma rilevabili dagli algoritmi, potrebbero aiutare a identificare e segnalare i contenuti generati dall’AI. Va però precisato che questo approccio risulta particolarmente efficace per i LLM sviluppati da grandi aziende ma, dal momento che i cybercriminali creano un proprio modello, riuscirebbero facilmente ad aggirare questi indicatori.
Un’altra interessante tecnologia difensiva sono i rilevatori di deepfake. Questi strumenti identificano caratteristiche specifiche delle immagini create artificialmente, variazioni vocali inaspettate negli audio, frasi atipiche nei testi e altri elementi indicativi dell’uso dell’AI per la creazione di deepfake.
La sfida principale per questi rilevatori è quella di evolversi alla stessa velocità dell’AI generativa, garantendo così il funzionamento nel corso del tempo.
La firma digitale, già ampiamente utilizzata per le transazioni bancarie e le comunicazioni importanti, potrebbe essere adottata anche per verificare l’autenticità di video o messaggi audio. In sostanza, si tratta di uno dei metodi tecnici più affidabili. Così come oggi molti siti web utilizzano firme digitali verificate automaticamente in background, è probabile che, in futuro, anche i video e i messaggi audio vengano sottoposti a un processo simile di verifica.
Tuttavia, contrastare il social engineering non può dipendere esclusivamente dalla tecnologia. Le truffe esistevano ben prima dell’avvento dei deepfake, e l’educazione e la consapevolezza sono sempre state le migliori difese.
Oggi, però, esiste una criticità: molte persone non sono consapevoli di quanto e come facilmente questa tecnologia possa essere utilizzata. I truffatori sfruttano questa inconsapevolezza, rendendo urgente un dialogo aperto e campagne educative sull’argomento.
Nuove minacce e nuove sfide di sicurezza
Sebbene le truffe alimentate dall’AI e i deepfake presentino delle nuove sfide, comprendere questi rischi è il primo passo per affrontarli.
La chiave è promuovere la consapevolezza e migliorare la cultura digitale.
Gli utenti devono essere informati sui rischi, devono prestare sempre attenzione e controllare le loro azioni online.
Le aziende, invece, possono adottare misure proattive per ridurre i rischi legati all’AI attraverso soluzioni e procedure di sicurezza complete e avanzate e iniziative di sensibilizzazione.
Lavorando insieme e affrontando queste sfide con attenzione, è possibile creare un ambiente digitale più sicuro.
