Con il Regolamento europeo sull’intelligenza artificiale, AI Act, l’Europa si è dotata della prima legislazione al mondo che disciplina l’intelligenza artificiale. Ci saranno limiti per l’uso dei sistemi di identificazione biometrica e divieti per quelle applicazioni di intelligenza artificiale che minacciano i diritti dei cittadini – no dunque a sistemi di credito sociale e all’estrapolazione indiscriminata di immagini facciali da internet per banche dati di riconoscimento facciale.
È la prima volta che un’istituzione regola in modo dettagliato l’intelligenza artificiale, attraverso la previsione di quattro livelli di pericolosità, fra i quali il rischio inaccettabile è attributo ai sistemi che rappresentano una minaccia per la sicurezza e i diritti delle persone.
Il prossimo 27 novembre Consumers’ Forum realizzerà il tradizionale evento con le Authority, quest’anno incentrato proprio sulla governance dell’Intelligenza artificiale e sulla tutela dei consumatori.
Ma quali sono le principali sfide poste dall’AI in tema di diritti fondamentali dei cittadini, privacy, dati personali e profilazione? Abbiamo sentito il parere di Anna Rea, presidente Adoc nazionale*.
1. L’Europa si è dotata di un regolamento sull’intelligenza artificiale. Quali sono le sfide che l’AI porta ai consumatori e alla loro tutela?
Recentemente l'Europa ha compiuto un passo significativo nella regolamentazione dell'intelligenza artificiale con l'introduzione dell'AI Act. Consideriamo che siamo i pionieri, tra i grandi giganti mondiali, a creare una normativa in questo settore che affronta le sfide poste dall'IA, sia in termini di profondo impatto sociale che di tutela dei consumatori. Si tratta di una svolta importante per proteggere i consumatori nell'era dell'IA e per garantire che sia utilizzata responsabilmente e a beneficio della collettività.
Con il regolamento, si vuole garantire che questa nuova tecnologia, in continua evoluzione, sia sviluppata e utilizzata in modo responsabile ed etico, senza compromettere i diritti delle persone. L'IA, infatti, pur offrendo enormi potenzialità, può anche essere utilizzata per manipolare le scelte dei consumatori, sfruttandone le vulnerabilità. Pensiamo, ad esempio, alla profilazione, alla pubblicità personalizzata o ai prezzi dinamici online, che possono influenzare le decisioni di acquisto in modo subdolo. Ciò rappresenta solo la punta dell'iceberg delle possibili insidie legate all'uso scorretto dell'intelligenza artificiale. Dobbiamo infatti considerare anche tecniche molto più sofisticate e pericolose, come la manipolazione del volto e della voce, il cosiddetto "deepfake". Attraverso potenti algoritmi, è possibile creare video e audio falsi incredibilmente realistici, in cui personaggi noti o addirittura persone a noi vicine, come familiari o amici, sembrano dire o fare cose che in realtà non hanno mai detto o fatto, introducendo nuove e pericolosissime possibili truffe ai danni dei consumatori.
Inoltre, gli algoritmi dell’intelligenza artificiale, se non correttamente progettati, possono perpetuare o addirittura amplificare discriminazioni esistenti, per esempio nell'accesso al credito o all'assicurazione. Un altro aspetto che riteniamo critico riguarda la privacy: i sistemi di intelligenza artificiale raccolgono ed elaborano enormi quantità di dati personali, esponendoli di fatto al rischio di violazioni e abusi.
2. Il Regolamento europeo parla di un’AI “antropocentrica e affidabile” che garantisca un “livello elevato di protezione della salute, della sicurezza e dei diritti fondamentali”. Ci sono però delle applicazioni vietate. Quali sono i rischi che lei vede nell’AI e nella sua applicazione, prima di tutto nel digitale e poi nei diversi settori sui quali avrà o sta già avendo un impatto? E i benefici?
Mettere l'uomo e i suoi diritti fondamentali al centro dello sviluppo e dell'utilizzo dell'intelligenza artificiale è un imperativo categorico per garantire una società giusta, equa e inclusiva. Adottare questo approccio significa non “assoggettare” l’uomo alla macchina e far sì che l'intelligenza artificiale sia al servizio dell'umanità e non il contrario. Un principio che si traduce nella tutela della dignità e della libertà umana, nella protezione e nel rispetto della privacy e dei dati personali, nella trasparenza e chiarezza delle informazioni.
L’Unione Europea ha evidenziato diversi livelli di rischio delle applicazioni dell'intelligenza artificiale - inaccettabile, alto, limitato e minimo - e deciso di mettere al bando alcuni utilizzi considerati pericolosi per i diritti fondamentali dei cittadini, per la democrazia, per lo Stato di diritto e per la sostenibilità ambientale. Tra i divieti, ci sono quei sistemi di categorizzazione biometrica basati su caratteristiche sensibili, come etnia, genere, religione o orientamento sessuale; il riconoscimento delle emozioni sul lavoro e a scuola; i sistemi di credito sociale; la polizia predittiva basata sulla profilazione e i sistemi che targettizzano utenti considerati vulnerabili. Pensiamo ad esempio ai giocattoli attivati vocalmente che incoraggiano comportamenti pericolosi nei bambini. Ecco, tutti questi elementi sono considerati a rischio inaccettabile e costituiscono una minaccia per le persone perché possono portare a discriminazioni, violazione della privacy e sorveglianza di massa, limitazione delle libertà, controllo sociale.
Tuttavia, l'intelligenza artificiale offre un'ampia gamma di benefici che toccano diversi aspetti della nostra vita. Per le persone, l'IA può tradursi in un miglioramento dell'assistenza sanitaria, in automobili e sistemi di trasporto più sicuri, e in prodotti e servizi personalizzati, più economici e durevoli. Inoltre, può facilitare l'accesso all'informazione, all'istruzione e alla formazione. Allo stesso tempo, anche le imprese possono trarne benefici, tant’è che un numero sempre crescente di aziende, in diversi settori, sta investendo in modo significativo nell'intelligenza artificiale. Questo perché l'IA offre diverse opportunità per migliorare l'efficienza, la produttività e l'innovazione.
L’IA ha potenzialmente la capacità per migliorare la nostra vita in molti modi, ma è fondamentale utilizzarla in modo responsabile ed etico, compito per cui è stato adottato il regolamento europeo.
3. Il tema della privacy è sempre cruciale, tanto è vero che nell’evento sulle Authority si discuterà di diritti della persona e AI. Cosa la preoccupa di più quando si parla di Intelligenza artificiale, protezione dei dati personali e privacy?
Quando si parla di intelligenza artificiale, siamo spesso affascinati dalla sua capacità di semplificare le nostre vite e farci risparmiare tempo. Tendiamo a concentrarci sui vantaggi immediati, come la comodità di un assistente vocale o la velocità con cui l'IA può elaborare informazioni complesse. Tuttavia, ci dimentichiamo troppo facilmente del prezzo che potremmo pagare in termini di privacy e controllo sui nostri dati personali. L'IA, per funzionare, ha bisogno di enormi quantità di dati, che spesso includono informazioni sensibili sulla nostra vita, le nostre abitudini e le nostre preferenze. Potremmo dire che l’intelligenza artificiali si autoalimenta dei nostri dati e così facendo rinunciamo a una parte della nostra privacy, ci esponiamo al rischio di profilazione, di essere sorvegliati e manipolati. Tra tutte, quella che mi preoccupa maggiormente è la possibilità che l'IA venga utilizzata per monitorare e profilare gli individui in modo invasivo e discriminatorio.
Con l’enorme potenzialità di analizzare una mole impressionante di dati provenienti da diverse fonti, come i social media o i dispositivi mobili, l’intelligenza artificiale può creare profili dettagliati delle persone, rivelando informazioni sensibili sulle loro abitudini, preferenze, opinioni politiche e persino lo stato di salute. Profili che potrebbero essere utilizzati per vari scopi, alcuni legittimi come la personalizzazione della pubblicità, ma altri potenzialmente dannosi e pericolosi come la discriminazione nell'accesso a servizi, l'esclusione sociale o la manipolazione politica. Quindi è fondamentale informare le persone su come vengono raccolti, gestiti e utilizzati i dati personali e promuovere maggiore consapevolezza sul valore dei nostri dati. È importante, cioè, educare le persone sui rischi e sulle opportunità dell'IA, in modo che possano utilizzare queste tecnologie in modo consapevole e responsabile senza compromettere la nostra libertà e autonomia.
* ADOC è Socio di Consumers' Forum
di Help Consumatori in collaborazione con Consumers’ Forum
