Il Parlamento europeo ha approvato oggi l’AI Act, la sua posizione per regolare l’intelligenza artificiale (AI), con 499 voti favorevoli, 28 contrari e 93 astenuti. Il primo regolamento al mondo su questo tema. Ora è una bozza, che entra nelle fasi finali di approvazione. Dall’Europa si aspettano l’approvazione finale entro quest’anno.
“Abbiamo bisogno di una intelligenza artificiale di cui poterci fidare”, ha riassunto Margrethe Vestager, commissaria ue alla concorrenza.
“Il testo dell’AI Act, come emendato dal Parlamento”, commenta Anna Cataleta, Partner senior di P4I – Partners4Innovation, “introduce novità che tengono conto anche dei recenti sviluppi dei sistemi di AI generativa. La speranza è quella che il testo regga di fronte alla velocità dello sviluppo dei sistemi di AI e che, una volta applicabile, possa essere uno strumento utile e non obsoleto“.
L’Europarlamento ha bocciato gli emendamenti del Ppe che chiedeva di autorizzare il riconoscimento facciale, quello biometrico in tempo reale nelle aree pubbliche. La novità, quindi, è che ora è bandito senza se e senza ma. Non è escluso, però, che possano tornare nel testo eccezioni previste dalla Commissione europea e da un precedente testo scritto nel Parlamento (ricerca persone scomparse, crimini gravi).
Adesso partono i negoziati con governi. Ecco i punti salienti, vantaggi e criticità del nuovo regolamento che fa chiarezza in un mondo opaco e in rapida evoluzione, nell’era dei chatbot come ChatGPT e Dell-E.
Indice degli argomenti
Il Parlamento europeo approva l’AI Act: i punti salienti
AI Act ottiene il semaforo verde dell’Europarlamento. La bozza approvata del nuovo regolamento, il cui iter prevede ora i negoziati con i governi, punta a stabilire norme allo sviluppo e all’utilizzo dell’AI in ambito europeo, introducendo divieti più stringenti nella raccolta di immagini di volti da Internet o da filmati Cctv.
“Si tratta di una prima regolamentazione sull’intelligenza artificiale“, afferma Rocco Panetta, avvocato e Presidente di PTP Privacy Tech Professionals, “una regolamentazione che copra da qui in avanti tutto quello che l’AI potrà anche generare e produrre, ma è parzialmente vero che sia la prima perché al momento non siamo senza rete. Abbiamo infatti già una o più regolamentazioni in grado di disciplinare l’intelligenza artificiale a partire dal GDPR e tutte le norme collegate”.
A riprova di quanto dichiara l’avvocato Panetta è data dal fatto che “già diversi autorità garanti, a partire da quella italiana, si sono mosse, fornendo importanti prescrizioni a chi opera in questo campo”. Tuttavia “la materia dell’intelligenza artificiale, e in particolare dell’AI generativa, è talmente dirompente che richiede una normazione ad hoc”, avverte Panetta: “Questo è il primo passo compiuto dal Parlamento europeo. Ma non è finita qui”, infatti, “l’ok alla bozza consolodita ora cede il passo al cosiddetto trilogo: commissione e consiglio. Si prevede di avere la norma entro la fine della legislatura europea, entro maggio 2024“.
Il punto di forza dell’AI Act è di offrire trasparenza tramite un approccio basato sul rischio, secondo tutti i commentatori.
Ecco quali vantaggi offre, anche sul versante dell’utilizzo dei dati personali, e quali problematiche rimangono invece ancora aperte.
I divieti introdotti
Nel giro di pochissimi mesi abbiamo visto arrivare chatbot capaci di dialogare con noi in modo affine a un essere umano. O di generare immagini “plausibili” e video a volte indistinguibili dalla realtà.
L’intelligenza artificiale è destinata a entrare nell’industria per aumentare la produttività, negli uffici, dal mondo del giornalismo a quello editoriale, negli ospedali, coprendo tutti gli ambiti della nostra vita quotidiana, quindi con un impatto anche sull’occupazione. Da un’intelligenza artificiale dipenderà l’erogazione di un mutuo oppure un’assunzione, dunque entriamo nella sfera dei diritti dei cittadini.
L’AI Act innanzitutto fa chiarezza e introduce maggiore trasparenza laddove c’era opacità. “Si possono accogliere con favore le norme (art. 28b) relative ai modelli di AI generativa che richiedono, tra l’altro, una maggior trasparenza“, spiega Anna Cataleta.
Ecco un elenco sintetico dei divieti che l’AI Act introduce:
- divieto di riconoscimento facciale in tempo reale in aree pubbliche e di polizia predittiva;
- no ai database di riconoscimento facciale basati su scraping;
- no alla categorizzazione biometrica;
- stop a tecniche subliminali;
- divieto di software di riconoscimento delle emozioni (nei luoghi di lavoro, gestione dei confini, polizia, scuole).
“Le ultime modifiche proposte dal Parlamento europeo hanno generato discussioni nel confronto con il Consiglio”, spiega Rocco Panetta
, “cioè la possibilità di dare alle forze di polizia a vari livelli – da quelle di frontiera all’anti terrorismo -, dunque a soggetti pubblici qualificati, strumenti anche predittivi attraverso l’utilizzo di tecnologie biometriche applicate all’intelligenza artificiale. Ciò è stato ritenuto tra le attività che pongono fortemente a rischio la tenuta dei sistemi democratici, le libertà come stabilite dal Trattato di Lisbona e dalla Carta dei Diritti di Nizza all’interno dell’Unione europea“.
Quindi “è stato posto un divieto a tutta una serie di applicazioni, anche nel settore privato, ma a maggior ragione nel pubblico, che possono portare al social scoring, punteggi e valutazioni rispetto alla premialità o alla punibilità preventiva di alcuni soggetti”, mette in guardia Panetta: “Ciò potrebbe dare adito al cosiddetto stato di polizia o stato etico vietato dai principi costituzionali vigenti”.
Il punto privacy nell’AI ACT
Sul fronte privacy e data protection, sono “diversi i riferimenti all’uso dei dati personali” nel testo dell’AI Act emendato dal Parlamento Europeo: “Pertanto, dal punto di vista della protezione dei dati personali“, continua Cataleta, “tenendo in considerazione anche quanto evidenziato dal Garante nel provvedimento nei confronti di Open AI, sarà importante valutare le modalità e i dati con cui vengono alimentati gli algoritmi“.
In particolare, “nel caso in cui siano trattati dati personali, gli interessati dovranno essere messi in condizione di essere informati rispetto all’utilizzo dei loro dati e dovrà essere prestata attenzione all’accuracy dei dati stessi“. Come sappiamo, anche ChatGPT commette errori e soffre di “allucinazioni“, dunque bisogna sempre fare fact checking per controllare i testi. Inoltre il training arriva fino al 2021.
Ma questione essenziale nell’AI Act è quella del rispetto dei diritti. “Dovrà altresì essere valutata la base giuridica del trattamento”, mette in guardia Cataleta, “dovranno essere considerati i diritti degli interessati”.
Altro aspetto di cruciale importanza riguarda la necessità per le imprese di avvalersi di competenze ad hoc. “In primis e limitatamente a questi aspetti, le aziende, oltre a dotarsi di competenze puntuali rispetto alla specificità del tema, dovranno almeno:
- formulare informative sempre più trasparenti, anche in relazione alla base giuridica;
- implementare procedure idonee per consentire all’interessato di esercitare i propri diritti“.
Infine, “con particolare riferimento ai sistemi di AI ad alto rischio, i fornitori e gli utenti dovranno implementare misure tecniche e organizzative all’avanguardia al fine di tutelare tali diritti (in base al considerando 45a)”, conclude Anna Cataleta.
Infine come detto l’Europarlamento ha bocciato gli emendamenti del Ppe che chiedevano di autorizzare il riconoscimento biometrico / facciale nelle aree pubbliche in alcuni casi eccezionali.
Un’altra disposizione vieterebbe alle aziende di raccogliere dati biometrici dai social media per creare database, una pratica che ha attirato l’attenzione dopo essere stata utilizzata dall’azienda di riconoscimento facciale Clearview AI.
Tuttavia i governi nazionali hanno ancora spazio di manovra per introdurre forzature.
Questa dell’uso del riconoscimento facciale è la principale area di dibattito. Forse alla fine saranno comunque concesse deroghe per la sicurezza nazionale e per altri scopi di applicazione della legge.
Vedremo, il percorso non è brevissimo. “E la partita è molto più complessa di quanto una normativa può prevedere”, conclude Rocco Panetta, “le norme sono importanti, ma bisogna correre all’interno di ogni corpo intermedio, dalle aziende alla PA, nella comprensione non ideologica del fenomeno. Già quelle esistenti e quelle in via di approvazione sono norme all’avanguardia, cercano di tutelare la dignità dell’uomo e permettere alle aziende di trarre il massimo vantaggio dall’uso dell’AI. Serve il contributo di tutti”.
Dopo l’approvazione finale il regolamento dovrebbe entrare in vigore nel 2024, ma con due anni di grace period per l’adeguamento alle sue regole da parte delle aziende.
