Conference "I Diritti Umani nel Mondo Contemporaneo", organised by the Lions Club International Distretto 108 Tb, Centro Studi e Archivio Storico “Gian Piero Gardini”

“Intelligenza artificiale in relazione ai Diritti Umani, allo Stato di Diritto e alla Democrazia, con particolare attenzione al ruolo del Consiglio d’Europa in questo campo”

16 February 2019, Ferrara

Oggi ho il piacere di parlarvi di come il Consiglio d'Europa si sta occupando dell'Intelligenza artificiale e vi parlerò non solo riferendomi al mondo contemporaneo, ma anche al mondo futuro.

Perché quando si parla di intelligenza artificiale dobbiamo renderci conto dell'importanza che hanno le decisioni di oggi per il mondo di domani.

In quanti di voi non hanno un computer? E chi non ha uno smartphone?

Sicuramente a molti è già capitato di usare Siri, un assistente digitale sviluppato dalla Apple che permette di "parlare" con il proprio smartphone.

Ci parla come se ci conoscesse e quasi la sentiamo come una voce "amica".

Spesso, ormai, programmi come questo, come i robot di ultima generazione, si stanno facendo spazio nella nostra sfera emotiva e sentimentale.

Spesso usiamo parole come "ossessione", specialmente quando parliamo ai nostri figli del legame con i gadget tecnologici, ma è possibile amare una macchina nello stesso modo in cui possiamo amare un altro essere umano?

È moralmente accettabile?

Dunque, è giusto dare a una macchina gli stessi diritti di un essere umano, come alcuni politici e scienziati hanno proposto di fare?

Io credo di no.

In tutto il mondo l'intelligenza artificiale sta diventando sempre di più parte della nostra quotidianità e nuovi programmi avanzatissimi stanno superando l'uomo in efficenza e precisione in molteplici aspetti della società.

Pensiamo, ad esempio, ai veicoli automatizzati che promettono di ridurre i rischi d’incidenti, agli assistenti all’elaborazione di diagnosi mediche, ma anche agli strumenti d’indagine che valutano il rischio di recidiva dei criminali, dalla gestione completamente robotizzata di una prigione di Singapore, agli algoritmi che gestiscono le quotazioni in borsa, ai collaboratori domestici interamente robotizzati, ecc..
Sono addirittura già in vendita dei robot bambini a disposizione del mercato dei pedofili.

Sicuramente l'applicazione della Intelligenza artificiale ha permesso e continuerà in futuro a portare notevoli benefici in molti campi.

Come ogni progresso nella storia umana e come già segnalato, anche l'ia può essere utilizzata a fini distruttivi. Non si tratta di una colpa diretta dell'ia, ma ovviamente sono responsabili coloro che lavorano alla sua creazione e programmazione.
Purtroppo c'è ancora molta disinformazione riguardo all'intelligenza artificiale, che inevitabilmente crea allarmismi fra i cittadini, i quali non sanno che spetta a loro e ai loro Governi di definire il tipo di mondo nel quale desiderano vivere nei prossimi decenni.

L'intelligenza artificiale costituisce per le potenze mondiali uno dei vettori maggiori di influenza strategica degli anni a venire e un fattore considerevole di crescita economica. Per questo motivo spesso le questioni che riguardano i valori vengono messe in secondo piano o completamente sacrificate.

Però nessun progresso può essere realizzato a scapito dei nostri valori fondamentali.

È qui che entra in gioco il Consiglio d'Europa.

Il Consiglio d'Europa è da non confondere con l'Unione Europea.

Il Consiglio d'Europa è stata la prima organizzazione europea, con sede a Strasburgo, fondata 70 anni fa come reazione alle atrocità della seconda guerra mondiale.
Il Consiglio che si occupa, in collaborazione con i suoi 47 Stati membri, della promozione e protezione dei diritti umani, della democrazia e dello stato di diritto sul continente europeo e oltre.

Tramite i suoi oltre 200 trattati internazionali, fra i quali la Convezione europea dei diritti dell'uomo è la più nota, il Consiglio tutela i diritti di oltre 800 milioni di persone.

Tornando al tema: cosa è l'intelligenza artificiale?

Parliamo di ”apprendimento automatizzato” - machine learning.

L' “apprendimento automatizzato” permette ai computer di eseguire un compito specializzato e altamente tecnico tramite un lavoro preliminare (più o meno autonomo) di modellizzazione matematica e statistica di esempi, di dati o di esperimenti.

Ha avuto un importante sviluppo negli ultimi 10 anni grazie alla congiunzione di due fattori:

il miglioramento della potenza del calcolo dei computer e l’aumento radicale della disponibilità dei dati numerici, cosiddetti big data.

Oggi, l’apprendimento automatico viene definito più genericamente come «intelligenza artificiale», ma l'IA può anche essere associata ai“sistemi esperti”, o all’analisi e all’estrapolazione di dati, anche definita come scienza dei dati o data science.

Il dibattito pubblico fa fatica a capire cosa si nasconde dietro l’IA, che può includere altri tipi di lavoro, ancora molto speculativi, provenienti dal campo della cibernetica o dalla ricerca fondamentale e che mirano a costruire una replica informatica del cervello umano.

Un progetto in corso, ma i risultati non sono ancora dietro l'angolo.

Da tanto tempo il Consiglio d'Europa si occupa della regolamentazione degli sviluppi tecnologici tramite la giurisprudenza della Corte Europea dei Diritti dell’Uomo e tramite, ad esempio, la Convenzione sulla protezione delle persone rispetto al trattamento automatizzato dei dati a carattere personale, nota come “Convenzione 108”, che è stata il primo strumento internazionale in questo campo quando è entrata in vigore il 1° ottobre 1985.

Indipendentemente dalle rivoluzioni tecnologiche che hanno avuto luogo da allora, questo testo continua a difendere la protezione della privacy degli individui, vietando il trattamento informatico dei dati sensibili (ad esempio, opinioni politiche o vita sessuale) e creando un diritto per ognuno di conoscere i dati esistenti su se stesso, con un diritto di rettifica, pur attuando una libera circolazione di flussi di dati tra le parti che hanno ratificato questa Convenzione.

La Convenzione 108 è stata recentemente aggiornata come Convenzione 108+.  Sono stati così riconosciuti nuovi principi quali la trasparenza, la proporzionalità, la responsabilità, la limitazione dei dati, la tutela della vita privata di cui si è tenuto conto fin dalla fase di progettazione.

Abbiamo, inoltre, creato il primo ed unico strumento giuridico vincolante sulla biomedicina, la Convenzione di Oviedo, che vieta la clonazione umana.

E la lotta contro il Cybercrime nel mondo oggi è regolamentata dalla nostra Convenzione di Budapest, nell'ambito della quale stiamo cooperando con più di 130 Paesi.

Forti di questa tradizione di pionieri giuridici, il Consiglio d'Europa ha già attuato un gran numero di progetti relativi all'IA dal 2017 e proseguirà questo impegno anche negli anni a venire.

La Commissione Europea per l'efficienza della Giustizia (CEPEJ) ha adottato, all'inizio di dicembre 2018, la prima carta etica europea per l'uso dell'IA nei sistemi giudiziari, stabilendo 5 principi chiave:

rispetto dei diritti fondamentali,

non discriminazione,

qualità e sicurezza dei dati,

trasparenza, neutralità e integrità intellettuale,

autocontrollo degli Utenti.

Il nostro Comitato dei Ministri ha adottato 3 giorni fa un avertimento su come i sistemi algoritmi possano essere utilizzati al fine di manipolare non solo le scelte economiche ma anche i compartimenti politici e sociali.

Stiamo anche finalizzando una posizione comune dei nostri governi sull'impatto dei sistemi algoritmici sui diritti umani, con direttive specifiche per gli Stati membri nel settore della comunicazione pubblica.

Stiamo anche lavorando a uno strumento giuridico che riguarda la responsabilità penale legata all'uso dei veicoli autonomi.Altri progetti riguardano i campi della non-discriminazione di genere e di origine, della bioetica, del processo elettorale, e della cultura.
Fra due settimane si terrà a Helsinki una grande conferenza organizzata dal Consiglio d’Europa sull’intelligenza artificiale, che vi invito a seguire online.

Oltre ai lavori in corso al Consiglio d'Europa, va notato che si sono moltiplicate numerose norme etiche nel campo dell’IA negli ultimi anni, sia da parte dell'industria digitale che della società civile.

Il loro obiettivo comune è quello di prevenire le principali deviazioni dello sviluppo e dell'uso di questa tecnologia, invitando le parti alla autoregolamentazione.

L'Etica può precedere la legge, ma non è sufficiente a rendere effettiva la tutela di interessi superiori per i quali solo un quadro giuridico chiaro può assicurare l'efficacia  e la legittimità democratica di quelle che potrebbero essere definite “linee rosse”.

Ci sono altre due difficoltà sostanziali che vengono spesso trascurate nelle riflessioni sui potenziali effetti dell'uso dell'IA.

La prima riguarda la nostra concezione tradizionale di tutela dei diritti individuali, contro l'abuso dello Stato.

Per quanto riguarda l'IA bisogna proteggere i cittadini non solo contro un possibile abuso da parte dello Stato, ma anche da attori non statali.

Il recente scandalo di Cambridge Analytica dimostra il potenziale pericolo che corrono le nostre democrazie. 

Per evitare tali abusi esiste il principio del privacy by design, che mira a integrare sin dall’inizio i meccanismi di protezione della privacy negli algoritmi.

Questo concetto potrebbe essere esteso a un approccio più globale dei human rights by design, al fine di prevenire derive, discriminazioni e violazioni dei diritti dell'uomo, già a partire dalla fase della progettazione dei programmi dell' IA.

È stata proposta, in questo contesto, l'introduzione di una specie di giuramento di Ippocrate per i programmatori dell'intelligenza artificiale.

La seconda difficoltà riguarda il trasferimento della governance della nostra società. La nostra fiducia negli algoritmi e nei dati è sempre più alta, dal momento che sembrerebbero essere più razionali degli esseri umani.

Questo porta a una graduale perdita della nostra facoltà di giudizio nei confronti dei sistemi computazionali.

C'è il rischio che lo Stato di Diritto e il primato del Diritto, che trovano la loro legittimità nelle istituzioni democratiche, vengano gradualmente sostituiti da una regolamentazione operata da sistemi algoritmici, il cui funzionamento e design sarebbero compresi solo da una nuova élite intellettuale, ovvero dagli sviluppatori di queste soluzioni, e cercherebbero solo di massimizzare gli interessi per i quali sono stati programmati. 

Ci potrebbe addirittura essere una forma di messa in discussione della politica,da intendersi come un mezzo per esprimere una volontà generale con cui i vari progetti sociali si delineano in contraddizione e deliberazione, a beneficio di un'organizzazione puramente matematica degli affari umani, dove la forma stessa delle organizzazioni statali diventerebbe obsoleta.

Un tale sviluppo avrebbe delle conseguenze catastrofiche per la nostra società, perché non curante dell'importanza fondamentale dell'aspetto umano, dell'intelligenza umana e della naturale empatia fra esseri umani.

Per sfruttare al massimo tutti gli aspetti positivi ed armarci contro quelli negativi è dunque urgente sviluppare un quadro giuridico adeguato agli sviluppi e alle applicazioni dell’IA, stabilendo principi basati sui valori fondamentali tutelati dal Consiglio d'Europa - Diritti Umani, Stato di Diritto e Democrazia.

Questi valori devono essere la base della trasformazione digitale in corso.

Se in passato, parlando di nuove tecnologie, ci si preoccupava del futuro dei nostri figli, oggi questo non basta più.

Parlando di intelligenza artificiale, dobbiamo occuparci e preoccuparci del futuro della specie umana.