Il Parlamento europeo ha approvato il 13 marzo scorso il Regolamento sull’intelligenza artificiale – il cosiddetto AI Act – con l’obiettivo di difendere i diritti fondamentali, la democrazia, lo Stato di diritto e la sostenibilità ambientale da sistemi di IA ad alto rischio. Al contempo, punta a promuovere l’innovazione e a garantire all’Europa un ruolo di guida nel settore.
Il Regolamento, che deve essere ancora formalmente approvato dal Consiglio e sottoposto alla verifica finale dei giuristi-linguisti, stabilisce gli obblighi per l’intelligenza artificiale sulla base dei possibili rischi e del livello d’impatto che questa potrebbe generare. In sostanza, quanto maggiore sarà il rischio, tanto più stringenti saranno le regole applicate.
In particolare, l’AI Act stabilisce:
- regole armonizzate per l’immissione sul mercato, la messa in servizio e l’uso dei sistemi di IA nell’Unione;
- divieti di talune pratiche di IA;
- requisiti specifici per i sistemi di IA ad alto rischio e obblighi per gli operatori di tali sistemi;
- regole di trasparenza armonizzate per determinati sistemi di IA;
- regole armonizzate per l’immissione sul mercato di modelli di IA per finalità generali;
- regole in materia di monitoraggio del mercato, governance della vigilanza del mercato e applicazione;
- misure a sostegno dell’innovazione, con particolare attenzione alle PMI, comprese le start-up.
Ma cosa si intende con “sistema di IA”? Il regolamento stabilisce come sistema di IA un “sistema automatizzato progettato per funzionare con livelli di autonomia variabili e che può presentare adattabilità dopo la diffusione e che, per obiettivi espliciti o impliciti, deduce dall’input che riceve come generare output quali previsioni, contenuti, raccomandazioni o decisioni che possono influenzare ambienti fisici o virtuali“.
Vediamo di seguito alcuni aspetti dell’AI Act.
APPLICAZIONI VIETATE
Le nuove norme mettono fuori legge alcune applicazioni di IA che minacciano i diritti dei cittadini. Tra queste, i sistemi di categorizzazione biometrica basati su caratteristiche sensibili e l’estrapolazione indiscriminata di immagini facciali da internet o dalle registrazioni dei sistemi di telecamere a circuito chiuso per creare banche dati di riconoscimento facciale.
Saranno vietati anche i sistemi di riconoscimento delle emozioni sul luogo di lavoro e nelle scuole, i sistemi di credito sociale, le pratiche di polizia predittiva (se basate esclusivamente sulla profilazione o sulla valutazione delle caratteristiche di una persona) e i sistemi che manipolano il comportamento umano o sfruttano le vulnerabilità delle persone.
ECCEZIONI PER LE FORZE DELL’ORDINE
In linea di principio le forze dell’ordine non potranno fare ricorso ai sistemi di identificazione biometrica, tranne in alcune situazioni specifiche espressamente previste dalla legge.
L’identificazione “in tempo reale” potrà essere utilizzata solo se saranno rispettate garanzie rigorose, ad esempio se l’uso è limitato nel tempo e nello spazio e previa autorizzazione giudiziaria o amministrativa. Gli usi ammessi includono, ad esempio, la ricerca di una persona scomparsa o la prevenzione di un attacco terroristico.
L’utilizzo di questi sistemi a posteriori è considerato ad alto rischio. Per questo, per potervi fare ricorso, l’autorizzazione giudiziaria dovrà essere collegata a un reato.
OBBLIGHI PER I SISTEMI AD ALTO RISCHIO
Sono previsti obblighi chiari anche per altri sistemi di IA ad alto rischio (che potrebbero arrecare danni significativi alla salute, alla sicurezza, ai diritti fondamentali, all’ambiente, alla democrazia e allo Stato di diritto).
Rientrano in questa categoria gli usi legati a infrastrutture critiche, istruzione e formazione professionale, occupazione, servizi pubblici e privati di base (ad esempio assistenza sanitaria, banche, ecc.), alcuni sistemi di contrasto, migrazione e gestione delle frontiere, giustizia e processi democratici (come nel caso di sistemi usati per influenzare le elezioni). Per questi sistemi vige l’obbligo di valutare e ridurre i rischi, mantenere registri d’uso, essere trasparenti e accurati e garantire la sorveglianza umana.
I cittadini avranno diritto a presentare reclami sui sistemi di IA e a ricevere spiegazioni sulle decisioni basate su sistemi di IA ad alto rischio che incidono sui loro diritti.
AI ACT E OBBLIGHI DI TRASPARENZA
I sistemi di IA per finalità generali e i modelli su cui si basano dovranno soddisfare determinati requisiti di trasparenza e rispettare le norme UE sul diritto d’autore durante le fasi di addestramento dei vari modelli. I modelli più potenti, che potrebbero comportare rischi sistemici, dovranno rispettare anche altri obblighi, ad esempio quello di effettuare valutazioni dei modelli, di valutare e mitigare i rischi sistemici e di riferire in merito agli incidenti.
Inoltre, le immagini e i contenuti audio o video artificiali o manipolati (i cosiddetti “deepfake”) dovranno essere chiaramente etichettati come tali.
MISURE A SOSTEGNO DELL’INNOVAZIONE E DELLE PMI
I paesi dell’UE dovranno istituire e rendere accessibili a livello nazionale spazi di sperimentazione normativa e meccanismi di prova in condizioni reali (in inglese sandbox), in modo che PMI e start-up possano sviluppare sistemi di IA innovativi e addestrarli prima di immetterli sul mercato.
“Dopo due anni intensi di lavoro siamo finalmente riusciti ad approvare la prima legge vincolante al mondo sull’intelligenza artificiale, volta a ridurre i rischi e aumentare opportunità, combattere la discriminazione e portare trasparenza. Grazie al Parlamento europeo, le pratiche inaccettabili di IA saranno proibite in Europa. Tuteliamo i diritti dei lavoratori e dei cittadini. Dovremo ora accompagnare le aziende a conformarsi alle regole prima che entrino in vigore. Siamo riusciti a mettere gli esseri umani e i valori europei al centro dello sviluppo dell’IA”.
Brando Benifei, co-relatore dell’AI Act a Bruxelles
Fonte: Parlamento europeo
