In occasione del Consumer Electronics Show (CES) 2024, McAfee ha presentato Project Mockingbird. Lo strumento si basa sull’intelligenza artificiale (AI) per combattere il fenomeno del deepfake audio.
“Questa tecnologia rappresenta un passo significativo nel contrastare la crescente minaccia di disinformazione generata da intelligenza artificiale”, commenta Pierguido Iezzi, CEO di Swascan: “D’altronde la diffusione rapida di deepfake audio, in particolare in vista delle imminenti elezioni del 2024 negli Stati Uniti, Parlamento Europeo e Taiwan, ha sollevato preoccupazioni riguardo all’uso di contenuti tramite IA”.
Ecco di cosa si tratta e come mitigare il rischio di una minaccia in forte aumento.
Indice degli argomenti
CES 2024: McAfee svela Project Mockingbird contro il deepfake audio
Project Mockingbird è stato progettato per proteggere i consumatori dal problema crescente dell’audio generato dall’intelligenza artificiale da parte dei criminali informatici per truffare ignare vittime, estorcendo loro denaro e dati personali, dopo aver “clonato” la voce del capo azienda, di parenti e conoscenti e inviato messaggi vocali falsi per ottenere soldi. Questo fenomeno è diffuso anche per manipolare l’immagine pubblica di persone importanti, ma è anche in grado di aggravare la minaccia del cyber-bullismo.
“Ritengo che questa tecnologia sia un passo importante nella protezione dei consumatori da truffe, ma non solo”, spiega Iezzi, infatti, “è cruciale evidenziare anche la crescente tendenza all’utilizzo di intelligenza artificiale per creare immagini false, come evidenziato dall’uso di software come Midjourney, Dawn AI, Dall-E 2 e Stable Diffusion. Questi strumenti, inizialmente concepiti per creativi e fotografi, possono ora essere sfruttati anche da individui malintenzionati per generare immagini incredibilmente realistiche e potenzialmente dannose”.
“Alcuni mesi fa, d’altronde, era stato lanciato un appello da oltre 1000 esperti, incluso Elon Musk, sulla necessità di un controllo temporaneo sugli sviluppi dell’IA. riflette la crescente consapevolezza dei rischi associati all’abuso di queste tecnologie”, continua l’esperto.
Gli strumenti di IA generativa – come ChatGPT e Google Bard, o Midjourney o Dall E – sono sempre più sofisticati e aiutano i criminali informatici a mettere in scena frodi più convincenti, sfruttando l’impiego di voci clonate per impersonare un familiare in difficoltà, a cui sarebbe stato rubato il telefonino, e che chiede assistenza finanziaria immediata.
Inoltre, la “truffa del CEO” è uno degli attacchi informatici più pericolosi per le imprese. Si verifica quando un cyber criminale si finge il CEO (o un’altra figura manageriale) di un’azienda e invia un messaggio vocale, con la voce clonata, a un dipendente del settore amministrativo, per ottenere bonifici su un conto corrente differente da quello normalmente utilizzato.
I Cheapfake rappresentano un’altra forma di inganno e prevedono la manomissione di video autentici incorporando un audio falso per travisare le parole pronunciate da una figura nota o fidata.
McAfee Project Mockingbird: i vantaggi del nuovo tool
Come riporta McAfee, il nome Project Mockingbird deriva dal gruppo di uccelli che imita o prende in giro le canzoni degli altri, un comportamento legato all’uso dell’IA generativa in cui i criminali informatici clonano le voci per frodare i consumatori.
McAfee Labs, dedicato all’innovazione e all’intelligence sulle minacce, ha messo a punto un modello avanzato di intelligenza artificiale per distinguere i contenuti reali da quelli manipolati.
Project Mockingbird combina infatti modelli di rilevamento contestuali, comportamentali e categoriali che usano l’AI per accertare se l’audio di un video è probabilmente generato dall’AI. Con un tasso di accuratezza del 90%, la nuova tecnologia di McAfee è in grado di identificare i deepfake. Così può salvaguardare le aziende da queste frodi. Si tratta di un notevole passo avanti nella sicurezza informatica.
“Con le più recenti capacità di rilevamento dell’intelligenza artificiale di McAfee”, afferma Steve Grobman, Chief Technology Officer di McAfee, forniremo ai clienti uno strumento che opera con un’accuratezza superiore al 90% per aiutare le persone a comprendere il loro mondo digitale e a valutare la probabilità che i contenuti siano diversi da come sembrano”.
Come mitigare il rischio dei deepfake audio
L’anno scorso è aumentata la sensibilizzazione dell’opinione pubblica sui truffatori che usano l’intelligenza artificiale per convincere le persone a inviare denaro. Per far fronte al problema del phishing e frodi con i deepfake audio, McAfee ha presentato al CES 2024 una nuova innovazione basata sull’AI per proteggere le persone da queste truffe.
Proprio come le previsioni del tempo permettono di pianificare la giornata, la tecnologia di McAfee Project Mockingbird offre spunti per prendere decisioni informate sulla veridicità dei contenuti.
L’applicazione della tecnologia di rilevamento dell’audio falso è ampia. Mitigare il rischio dei deepfake audio sarà sempre più indispensabile per contrastare l’aumento delle truffe e della disinformazione generate dall’intelligenza artificiale.
“Aiuteremo i consumatori a evitare le truffe cheapfake, in cui una celebrità clonata reclama un nuovo omaggio a tempo limitato, e faremo anche in modo che i consumatori sappiano immediatamente, quando guardano un video su un candidato presidenziale, se è reale o generato dall’AI per scopi malevoli”, spiega Steve Grobman.
“Ciò porta la protezione nell’era dell’IA a un livello completamente nuovo. Il nostro obiettivo è fornire agli utenti la chiarezza e la fiducia necessarie per navigare tra le sfumature del nostro nuovo mondo guidato dall’intelligenza artificiale, per proteggere la loro privacy e identità online e il loro benessere”, continua Grobman.
“Non è neppure da escludere l’utilizzo di questa tecnologia in contesto di ‘tech-enable information warfare’ (guerra dell’informazione abilitata dalla tecnologia)”, mette in guardia Iezzi: “Un nuovo dominio di tecno-politica che afferisce all’uso di tecnologie avanzate per condurre operazioni di guerra dell’informazione. Queste operazioni possono includere una vasta gamma di attività volte a influenzare, disturbare, corrompere o usurpare la decisione umana o automatica in un avversario o in una popolazione bersaglio”.
“In ogni caso, la migliore difesa, in questo caso, rimane l’educazione, assieme a soluzioni di sicurezza informatica in grado di filtrare contenuti dannosi”, conclude Iezzi.
L’indagine 2023
Secondo l’indagine dal titolo Deepfakes di McAfee del dicembre 2023, l’apprensione dei consumatori nei confronti di queste truffe evolute è in aumento. L’84% degli americani è preoccupato per l’uso dei deepfake nel 2024 (+68% rispetto all’anno precedente).
Un terzo degli intervistati ha ammesso di essere caduto vittima di una truffa deepfake o di conoscere chi ha subito simili frodi. La maggior parte di questi casi riguarda la fascia di età compresa tra i 18 e i 34 anni.
Secondo McAfee, nell’era AI, la tecnologia di rilevamento dei deepfake è destinata a svolgere un ruolo sempre più cruciale nella sicurezza informatica.
Questi strumenti sono importanti e gli investimenti nell’intelligenza artificiale sono in aumento. Il CES 2024 di Las Vegas vede i finanziamenti per i progetti di IA generativa quintuplicati rispetto al 2022. A quota 23,78 miliardi di dollari all’inizio di dicembre, secondo i dati di PitchBook.
