LE RACCOMANDAZIONI

Usi criminali di ChatGPT: Europol mette in guardia forze dell’ordine e comuni cittadini

L’Europol ha evidenziato come sempre più organizzazioni criminali utilizzino le chatbot per condurre attacchi di social engineering, frodi, campagne di disinformazione e altre attività di natura informatica, come lo sviluppo di codici dannosi. Ecco i rischi di un potenziale abuso di ChatGPT e come mitigarli

Pubblicato il 13 Apr 2023

Martina Rossi

Analyst, Hermes Bay

Tommaso Maria Ruocco

Cyber Analyst, Hermes Bay

chatgpt privacy termini d'uso

Lo scorso 27 marzo, l’Ufficio Europeo di Polizia (Europol) ha pubblicato un rapporto, denominato ChatGPT. The impact of Large Language Models on Law Enforcement, relativo al potenziale abuso di ChatGPT da parte di criminali informatici.

In particolare, è stato evidenziato dagli analisti come sempre più organizzazioni criminali utilizzino la chatbot per condurre attacchi di social engineering, frodi, campagne di disinformazione e altre attività di natura informatica, come lo sviluppo di codici dannosi.

Europol Innovation Lab ha quindi organizzato una serie di workshop dedicati all’impatto di ChatGPT e alle possibilità di abuso di tale strumento, tramite i quali sono stati raccolti e analizzati numerosi casi d’uso pratici atti a fornire un’idea delle casistiche che Europol potrebbe trovarsi a dover fronteggiare.

Tra gli obiettivi principali promossi da Europol vi è, altresì, quello di sensibilizzare l’opinione pubblica sull’impatto del bot e, più in generale, degli strumenti basati sull’intelligenza artificiale, nonché fornire raccomandazioni riguardo alle possibili azioni che possono essere messe in atto per fronteggiare i potenziali rischi derivanti da tali strumentazioni.

ChatGPT in corsa per tornare a maggio, ecco il dettaglio delle richieste dal Garante

I casi d’uso illegali delle chatbot

Recentemente è stata rilasciata la nuova versione del bot di OpenAI, ovvero GPT-4. Questa sarebbe stata concepita non solo per migliorare le funzionalità di ChatGPT, ma anche per rendere meno probabile l’accadimento di fatti potenzialmente dannosi.

Tuttavia, secondo quanto emerso dal rapporto redatto da Europol, anche nella versione più avanzata del modello continuerebbero a sussistere una serie di “casi d’uso illegali”.

Gli analisti di Europol hanno dedicato a questi ultimi una specifica sezione all’interno del rapporto, nella quale viene sottolineato come l’abilità di ChatGPT nel fornire all’utente informazioni di vario genere in risposta a determinate richieste possa, talvolta, accelerare in modo significativo la ricerca di un potenziale criminale che intende svolgere attività malevole.

A tal proposito, il report elenca alcune aree generalmente d’interesse per i criminali, ovvero quella del terrorismo, del cybercrime e dell’abuso sessuale di minori. I casi d’uso emersi durante i vari workshop mirano a fornire un’idea di quanto uno strumento come ChatGPT, nelle mani di individui malintenzionati, possa costituire una minaccia su larga scala.

Uso criminale di ChatGPT per phishing e frodi online

Sempre secondo quanto affermato nel report di Europol, la capacità di ChatGPT di redigere testi autentici sulla base di una richiesta dell’utente, lo renderebbe un valido strumento per operazioni di phishing, in quanto ridurrebbe notevolmente la possibilità di errori grammaticali e ortografici nelle e-mail fraudolente che vengono inviate.

Inoltre, grazie al bot il contesto dell’e-mail di phishing può essere facilmente adattato a seconda delle esigenze dell’attore della minaccia.

Per le medesime ragioni, anche le frodi online risultano facilmente attuabili con l’utilizzo di ChatGPT. Risulterebbe, infatti, piuttosto semplice generare un falso impegno sui social media, ad esempio per promuovere un’offerta di investimento fraudolenta.

La capacità di individuare e riprodurre modelli linguistici non solo facilita il phishing e le frodi online, ma può anche essere utilizzata per riprodurre lo stile di linguaggio di individui o gruppi specifici, al fine di ingannare potenziali vittime e indurle a riporre la loro fiducia nelle mani di attori criminali. Il bot potrebbe, quindi, essere utilizzato per raccogliere informazioni che possono facilitare le attività terroristiche, come il finanziamento del terrorismo o per finalità di propaganda e disinformazione.

L’uso di ChatGPT per scrivere codici malevoli

Un’altra area che può essere soggetta ad abusi è quella informatica: oltre a generare un linguaggio simile a quello umano, ChatGPT è infatti in grado di produrre codice in diversi linguaggi di programmazione.

Ciò consentirebbe anche a chi è privo di conoscenze tecnico-informatiche di sfruttare un vettore di attacco sul sistema della vittima. Poco dopo il rilascio di ChatGPT da parte di OpenAI, nel dicembre del 2022, i ricercatori di Check Point Research avrebbero dimostrato come ChatGPT possa essere utilizzato da malintenzionati per generare malware.

A tal proposito, a parere degli esperti di Europol, le prospettive future non sembrerebbero portare un miglioramento per quanto riguarda le possibili applicazioni di ChatGPT tra i criminali informatici.

Nel rapporto si legge, infatti, che la capacità di tali modelli generativi di assistere lo sviluppo del codice è destinata a migliorare nel tempo.

GPT-4, ad esempio, avrebbe già visto apportati miglioramenti rispetto alle versioni precedenti, che le consentirebbero di comprendere pienamente il contesto del codice, permettendo ad un criminale informatico con scarse competenze tecniche di raggiungere facilmente i propri obiettivi.

Allo stesso tempo, un utente più avanzato potrebbe sfruttare tali migliorie per affinare ulteriormente o automatizzare determinati processi.

Le raccomandazioni di Europol per mitigare i rischi

In conclusione del report, gli analisti di Europol pongono una serie di raccomandazioni, dirette sia alle forze dell’ordine che alla comunità in generale, al fine di porre le basi per un’adeguata gestione delle conseguenze e degli effetti, positivi e negativi, portati da tale tecnologia.

In primo luogo, considerato il potenziale danno che può derivare dall’uso malevolo di strumenti come ChatGPT, risulta essere di estrema importanza sensibilizzare l’opinione pubblica sull’argomento, di modo da garantire che eventuali vulnerabilità del sistema vengano individuate ed eliminate il più rapidamente possibile.

In secondo luogo, le forze dell’ordine dovranno comprendere l’impatto che gli strumenti frutto dell’intelligenza artificiale hanno in tutte le aree di criminalità potenzialmente interessate, per poter essere in grado di indagare, prevedere, prevenire in maniera più efficace diverse azioni criminali.

Le forze dell’ordine dovrebbero, altresì, iniziare a sviluppare le competenze necessarie per fronteggiare tecnologie come ChatGPT. Ciò significherebbe comprendere a fondo questi sistemi, di modo da implementare nuove competenze e raffinare quelle esistenti, in linea con gli obiettivi che si intende raggiungere ed essendo in grado di valutare i contenuti prodotti da modelli generativi di IA in termini di accuratezza e potenziali distorsioni.

Inoltre, le forze dell’ordine dovrebbero avviare percorsi di formazione adeguati, basati su format specifici all’esigenza.

Per quanto concerne, invece, il settore tecnologico, Europol ritiene che questo dovrebbe investire maggiormente in meccanismi di sicurezza che permettano di rispondere adeguatamente a tali minacce.

I casi d’uso descritti da Europol nel report in questione forniscono una prima lettura relativa al vasto potenziale che strumenti con ChatGPT detengono ad oggi e che potrebbero acquisire in futuro. Sebbene alcuni risultati siano risultati essere ancora piuttosto elementari, gli analisti ritengono che le future modifiche ai modelli non potranno che apportare migliorie a ciò che già esiste. Questo pone le forze dell’ordine, ma anche i cittadini comuni, di fronte a nuove sfide.

Come affermato all’interno del rapporto: “con il progredire della tecnologia e la disponibilità di nuovi modelli, per le forze dell’ordine diventerà sempre più importante saper anticipare e prevenire gli abusi e garantire che i potenziali vantaggi possano essere sfruttati”.

Valuta la qualità di questo articolo

La tua opinione è importante per noi!

Speciale PNRR

Tutti
Incentivi
Salute digitale
Formazione
Analisi
Sostenibilità
PA
Sostemibilità
Sicurezza
Digital Economy
CODICE STARTUP
Imprenditoria femminile: come attingere ai fondi per le donne che fanno impresa
DECRETI
PNRR e Fascicolo Sanitario Elettronico: investimenti per oltre 600 milioni
IL DOCUMENTO
Competenze digitali, ecco il nuovo piano operativo nazionale
STRUMENTI
Da Istat e RGS gli indicatori per misurare la sostenibilità nel PNRR
STRATEGIE
PNRR – Piano nazionale di Ripresa e Resilienza: cos’è e novità
FONDI
Pnrr, ok della Ue alla seconda rata da 21 miliardi: focus su 5G e banda ultralarga
GREEN ENERGY
Energia pulita: Banca Sella finanzia i progetti green incentivati dal PNRR
TECNOLOGIA SOLIDALE
Due buone notizie digitali: 500 milioni per gli ITS e l’inizio dell’intranet veloce in scuole e ospedali
INNOVAZIONE
Competenze digitali e InPA cruciali per raggiungere gli obiettivi del Pnrr
STRATEGIE
PA digitale 2026, come gestire i fondi PNRR in 5 fasi: ecco la proposta
ANALISI
Value-based healthcare: le esperienze in Italia e il ruolo del PNRR
Strategie
Accordi per l’innovazione, per le imprese altri 250 milioni
Strategie
PNRR, opportunità e sfide per le smart city
Strategie
Brevetti, il Mise mette sul piatto 8,5 milioni
Strategie
PNRR e opere pubbliche, la grande sfida per i Comuni e perché bisogna pensare digitale
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
CODICE STARTUP
Imprenditoria femminile: come attingere ai fondi per le donne che fanno impresa
DECRETI
PNRR e Fascicolo Sanitario Elettronico: investimenti per oltre 600 milioni
IL DOCUMENTO
Competenze digitali, ecco il nuovo piano operativo nazionale
STRUMENTI
Da Istat e RGS gli indicatori per misurare la sostenibilità nel PNRR
STRATEGIE
PNRR – Piano nazionale di Ripresa e Resilienza: cos’è e novità
FONDI
Pnrr, ok della Ue alla seconda rata da 21 miliardi: focus su 5G e banda ultralarga
GREEN ENERGY
Energia pulita: Banca Sella finanzia i progetti green incentivati dal PNRR
TECNOLOGIA SOLIDALE
Due buone notizie digitali: 500 milioni per gli ITS e l’inizio dell’intranet veloce in scuole e ospedali
INNOVAZIONE
Competenze digitali e InPA cruciali per raggiungere gli obiettivi del Pnrr
STRATEGIE
PA digitale 2026, come gestire i fondi PNRR in 5 fasi: ecco la proposta
ANALISI
Value-based healthcare: le esperienze in Italia e il ruolo del PNRR
Strategie
Accordi per l’innovazione, per le imprese altri 250 milioni
Strategie
PNRR, opportunità e sfide per le smart city
Strategie
Brevetti, il Mise mette sul piatto 8,5 milioni
Strategie
PNRR e opere pubbliche, la grande sfida per i Comuni e perché bisogna pensare digitale
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articoli correlati