L’AI Act europeo, il primo regolamento sull’Intelligenza Artificiale a livello globale, intende vietare il riconoscimento facciale indiscriminato nei luoghi pubblici.
La conferma è contenuta nell’ultima bozza approvata. Le commissioni Giustizia e Mercato Interno del Parlamento europeo hanno dato il primo semaforo verde all’AI Act, le nuove regole europeo per l’Intelligenza Artificiale, che ora dovrebbero passare da ulteriori approvazioni prima di diventare legge nell’Unione.
Il provvedimento europeo, ancora soggetto a modifiche di livello tecnico prima del voto in plenaria previsto a metà giugno, ferma dunque la videosorveglianza invasiva che, fino alla bozza del 21 aprile, era ancora tollerata “ai fini di attività di contrasto al crimine” in generale.
Nel nuovo testo è possibile, solo in via eccezionale e con limiti di applicazione:
- per reati già compiuti dal soggetto e autorizzate dalla magistratura.
- Vietato in ogni caso il riconoscimento biometrico in tempo reale. Possibile solo in via differita per evitare il rischio sorveglianza massiva.
“Ma il rischio (in Italia, ndr), purtroppo, non è scongiurato“, commenta a Cybersecurity360 Filippo Sensi, deputato PD, lo stesso partito dell’eurodeputato Brando Bonifei, il cui rapporto, stilato con Dragos Tudorache, ha posto alcune questioni cruciali al fine di migliorare la proposta legislativa della Commissione europea.
“Le preoccupazioni sul tema non sono di certo una novità”, conferma Anna Cataleta, Senior Partner P4I – Partners4Innovation: “In tal senso, si rammenta il Decreto Capienze (D.L. 139/2021), successivamente convertito nella legge n. 205 del 3 dicembre 2021”.
“La scelta di imporre un utilizzo delle tecnologie di intelligenza artificiale per il riconoscimento facciale unicamente come strumento per l’accertamento di reati gravi e non come forma di controllo indiscriminato“, secondo Massimo Borgobello, avvocato e co-founder dello Studio Legale Associato BCBLaw, “è del tutto condivisibile e va accolta con favore“.
Ecco i punti salienti, in attesa del voto di giugno in plenaria.
Indice degli argomenti
AI Act: il riconoscimento facciale non s’ha da fare in Ue, cosa prevede la bozza
L’Europarlamento ha approvato il testo di proposta di legge, nota come AI Act, per fissare le nuove regole Ue per l’Intelligenza Artificiale. Secondo uno studio di Boston Consulting Group (BCG), il 49% dei dirigenti italiani (oltre la media europea) è favorevole a regolamentare l’AI.
Il testo dell’AI Act, che punta a regolamentare lo sviluppo e l’utilizzo dell’AI in ambito europeo, è in lavorazione da due anni. Ma a dare un’accelerazione alla bozza di legge è stato l’avvento dell’AI generativa, in cui ChatGPT ha mostrato tutte le sue potenzialità e rischi in ogni ambito.
Proprio per timore dei rischi, l’Europarlamento ha introdotto divieti più stringenti. In particolare la bozza di legge, a pagina 129, vieta “l’immissione sul mercato o l’utilizzo di sistemi di intelligenza artificiale che possano creare, o espandere, database per il riconoscimento facciale attraverso la raccolta di immagini non mirata di volti da Internet o da filmati Cctv (videocamere a circuito chiuso, ndr)”.
L’AI Act inserisce dunque il riconoscimento facciale nei luoghi pubblici tra le pratiche di intelligenza artificiale che “dovrebbero essere vietate”.
Nella nuova bozza sono invece previste eccezioni: per indagare su un “reato grave” già commesso, sarà possibile analizzare i “video registrati” e comunque solo dopo “autorizzazione della magistratura”.
“Va accolta con favore”, continua Borgobello, anche “la scelta di imporre il controllo del giudice sull’impiego di questi strumenti”. Infatti, “si va delineando un sistema di autorizzazione ed impiego simile a quello di tabulati telefonici ed intercettazioni telefoniche ed ambientali. Una limitazione assolutamente corretta e utile a garantire i diritti di riservatezza dei cittadini. In Italia c’è da augurarsi che sia l’impiego delle intercettazioni sia limitato rispetto all’impiego eccessivo registrato negli ultimi vent’anni, sia che non si debbano registrare precipitose fughe sul riconoscimento facciale, il cui esito potrebbe rivelarsi una precipitosa retromarcia a regolamenti AI Act approvato”, spiega l’avvocato.
Al contrario, il riconoscimento facciale in tempo reale (quello vietato) può ledere i diritti e le libertà dei cittadini, secondo i legislatori europei, creando una percezione distopica di “perenne sorveglianza”. Una sorta di Grande Fratello.
Artifical Intelligence: new transparency and risk-management rules for AI systems have been endorsed by Parliament's internal market and civil liberties committees.
All MEPs are expected to vote on the mandate in June so that negotiations can start with the Council.
— European Parliament (@Europarl_EN) May 11, 2023
Divieto di sorveglianza invasiva: approccio europeo risk-based
Lo stop alla sorveglianza invasiva nell’AI Act è un modo per tutelare i diritti “senza fermare l’innovazione”, come ha sottolineato Brando Benifei, relatore dell’AI Act e capodelegazione del Pd all’Europarlamento.
“La scelta degli eurodeputati di aggiungere così importanti e rilevanti salvaguardie sulla privacy e sui diritti fondamentali dei cittadini, garantendo che i sistemi di Intelligenza artificiale siano controllati dalle persone, siano sicuri, trasparenti, tracciabili e non discriminatori si colloca nel solco del già consolidato approccio europeo incentrato sul rischio“, precisa Anna Cataleta: “Seguendo tale approccio risk based, l’attuale proposta di regolamento stabilisce differenti obblighi per fornitori e utenti a seconda del livello di rischio che l’IA può generare. E mette in guardia dalle potenziali minacce che un abuso delle tecnologie offerte dai sistemi di IA può generare nei confronti dei cittadini“.
Un monito all’Italia, ma forzature sono ancora possibili
Ma questo stop al riconoscimento facciale nei luoghi pubblici è anche un monito all’Italia, dove il ministro dell’Interno Matteo Piantedosi vorrebbe introdurre una linea securitaria in “stile cinese”. Il ministro vorrebbe infatti introdurre il riconoscimento facciale nei luoghi pubblici in funzione “anti stupro”, di prevenzione ed indagine, per bilanciare “il diritto alla sicurezza con quello alla privacy”.
Apparentemente la linea del ministro Piantedosi esce sconfitta dalla nuova bozza dell’AI Act sui sistemi d’identificazione biometrica in tempo reale, per stabilire l’identità di una persona grazie agli algoritmi applicati alle immagini riprese.
Riconoscimento facciale “anti-stupro”, in Italia: così il Governo forza la privacy
Tuttavia il pericolo non è affatto scongiurato: “E credo, anzi”, mette in guardia l’onorevole Filippo Sensi, da anni impegnato su queste tematiche, “che nell’attesa che si concluda tutto l’iter del nuovo regolamento ci sarà bisogno di estendere la moratoria che oggi vieta il riconoscimento facciale nei luoghi pubblici fino al dicembre 2023“.
In tal senso, la legge n. 205 del 3 dicembre 2021,”ha stabilito un significativo stop all’utilizzo dei sistemi di riconoscimento facciale incorporati nelle videocamere di sorveglianza poste in luoghi pubblici”, continua Anna Cataleta, “prevedendo l’applicazione di tale moratoria fino al 31 dicembre 2023, o comunque fino all’entrata in vigore di una normativa specifica in materia”. “Ad oggi, pertanto”, sottolinea Cataleta, “l’impiego di tali sistemi di riconoscimento biometrico in luoghi pubblici è consentito esclusivamente in determinati casi: per indagini della magistratura o prevenzione e repressione dei reati“.
“In proposito, il respingimento da parte dalle commissioni per il Mercato interno e la protezione dei consumatori (IMCO) e per le Libertà civili, la giustizia e gli affari interni (LIBE) del Parlamento europeo di sistemi di riconoscimento facciale in tempo reale in spazi pubblici”, mette in evidenza Anna Cataleta, “rappresenta uno sforzo senza precedenti verso l’adozione di un’intelligenza artificiale etica e al servizio dell’uomo“. “In particolare, la preoccupazione principale si incentra sulla necessità di evitare a tutti i costi una pericolosa diffusione di attività di sorveglianza di massa generalizzata“.
Un fragile equilibrio. I prossimi passaggi
“Il nuovo, imminente regolamento europeo sull’intelligenza artificiale rappresenta il primo tentativo di presentare un quadro normativo sulle nuove tecnologie informatiche”, afferma Cataleta. Esse “rappresentano grandi opportunità di sviluppo ma, al contempo, possono anche porre dei rischi per i diritti fondamentali dei cittadini. È proprio questo fragile equilibrio, tra sviluppo e tutele, innovazione e rischi, che deve essere preservato con cura e (molta) attenzione. Non è infatti certamente immaginabile (e neanche conveniente) frenare l’innovazione tecnologica in nome di un sentimento ultra-protezionistico. D’altro canto, la persecuzione di un progresso totalmente indisciplinato potrebbe rappresentare una pericolosa strada di non ritorno verso quelle tutele che sono state ottenute con enorme fatica nel corso del tempo“, mette in guardia Cataleta.
In Europa non avrà futuro il business della piattaforma di ClearView AI, che negli USA è stata usata un milione dalla polizia statunitense. La piattaforma ha raccolto senza permesso 30 miliardi di immagini, da siti web e social come Facebook.
Il testo attuale dell’AI Act intende proibire anche il “riconoscimento delle emozioni” e di “polizia predittiva”. Ora si aspetta il voto della plenaria fra alcune settimane, per il via libera definitivo. Ma “il percorso da percorrere è ancora lungo“, conclude Cataleta, “dal momento che il testo dell’AI Act dovrà essere sottoposto al vaglio dell’intero Parlamento europeo, la cui prossima sessione plenaria è prevista per metà giugno”.
