Lo sviluppo dell’intelligenza artificiale e la tutela dei diritti umani

Commissioner’s Recommendation on Artificial Intelligence and Human Rights, May 2019

 Approfondimento n.17/2020                                                                                                                                                                                                                                                                       

La tecnologia basata sull'intelligenza artificiale (IA) sta entrando sempre più profondamente, ed in molteplici aspetti, nella vita di ogni persona, ed è sempre più utilizzata dalle autorità pubbliche per valutare e prendere decisioni che possono avere gravi e concrete conseguenze sui diritti umani degli individui. Trovare il giusto equilibrio tra sviluppo tecnologico e protezione dei diritti umani rappresenta ormai una questione di assoluto rilievo. 

Nel maggio 2019, Il Commissario per i diritti umani del Consiglio d’Europa ha adottato delle raccomandazioni in materia di IA e diritti umani. A tal proposito, ricorda che “Ensuring that human rights are strengthened and not undermined by artificial intelligence is one of the key factors that will define the world we live in”.

In particolare, il documento – intitolato “Unboxing artificial intelligence: 10 steps to protect human rights” – prevede una serie di raccomandazioni che le autorità nazionali possono adottare per massimizzare il potenziale dei sistemi di intelligenza artificiale e prevenire o mitigare l'impatto negativo che possono avere sulla vita e sui diritti delle persone. Tale raccomandazione si focalizza su 10 aree di interesse prioritario:

  • Valutazione dell’impatto sui diritti umani– Human rights impact assessments(HRIA) da parte delle autorità pubbliche che acquisiscono, sviluppano e implementano sistemi di IA;
  • Consultazioni pubblichemediante un processo operativo di assoluta trasparenza;
  • Facilitare l’implementazione delle norme in materia di diritti umani nel settore privato: al fine di adempire ai loro obblighi ai sensi della Convenzione europea sui diritti umani, gli Stati membri dovrebbero applicare le suddette misure che potrebbero rendersi necessarie per la tutela dei diritti umani. Gli Stati membri dovrebbero garantire specificamente che le loro legislazioni nazionali sviluppino le condizioni favorevoli al rispetto dei diritti umani da parte dei gestori dell'IA , e non creino invece ostacoli nell’individuare l’effettiva responsabilità e gli idonei rimedi in caso di violazione dei diritti umani legate all’uso dell'intelligenza artificiale ;
  • Informazione e trasparenza: l'uso di un sistema di IA in un qualsiasi processo decisionale che abbia un impatto significativo sui diritti umani di una persona deve essere sempre identificabile. L'uso di un sistema di intelligenza artificiale deve essere reso pubblico in termini chiari e accessibili;
  • Supervisione indipendente: gli Stati membri dovrebbero adottare un appropriato quadro legislativo per un controllo indipendente ed efficace sulla conformità relativamente allo sviluppo, alla diffusione e all'uso dei sistemi di IA da parte di autorità pubbliche ed enti privati in merito alla tutela dei diritti umani;
  • Non discriminazione e uguaglianza:in ogni caso, i rischi di discriminazione devono essere prevenuti e mitigati con particolare attenzione per i gruppi che hanno una maggiore probabilità che i loro diritti siano impattati in modo sproporzionato dall'intelligenza artificiale. Tali categorie includono donne, bambini, anziani, persone economicamente svantaggiate, membri della comunità LGBTI, persone con disabilità e gruppi "razziali", etnici o religiosi ;
  • Protezione dei dati e privacy: lo sviluppo, la formazione, i test e l'uso di sistemi di IA che si basano sul trattamento dei dati personali devono garantire pienamente il diritto di ogni individuo al rispetto della vita privata e familiare, ai sensi dell'articolo 8 della Convenzione europea dei diritti dell'uomo ;
  • Libertà di espressione, libertà di riunione e di associazione e diritto al lavoro: nell’ambito del loro obbligo di rispettare, proteggere e soddisfare i diritti umani e le libertà fondamentali di ogni persona, gli Stati membri dovrebbero tener conto di tutti gli standards internazionali sui diritti umani che possono essere coinvolti dall'uso dell'IA ;
  • Controllo e responsabilità: i sistemi di intelligenza artificiale devono sempre rimanere sotto il controllo umano, anche in circostanze in cui l'apprendimento automatico o tecniche simili consentono al sistema di IA di prendere decisioni indipendentemente dallo specifico intervento umano. Gli Stati membri devono stabilire chiare linee di responsabilità per le violazioni dei diritti umani che possono sorgere in varie fasi del ciclo di vita di un sistema di intelligenza artificiale ;
  • Promozione dell'intelligenza artificiale: coloro che sono coinvolti direttamente o indirettamente nello sviluppo o nell'applicazione dei sistemi di IA devono avere le conoscenze e la comprensione necessarie su come funziona il sistema ed essere informati del suo impatto sui diritti umani.

Con lo scopo di predisporre un quadro giuridico per lo sviluppo, la progettazione e l’applicazione dell’intelligenza artificiale, basata sugli standard del Consiglio d’Europa in materia di diritti umani, democrazia e stato di diritto, è stato istituito un Comitato ad hoc per l’intelligenza artificiale (CAHAI), incaricato dal Comitato dei Ministri. 
Si tratta di un comitato intergovernativo la cui prima riunione si é svolta a Strasburgo dal 18 al 20 novembre 2019. L’obiettivo è stato quello di valutare l'impatto delle applicazioni dell'IA sull'individuo e sulla società, sugli strumenti di soft law esistenti che si occupano specificamente dell'IA e quelli legalmente vincolanti in ambito internazionale applicabili in materia. Il Comitato ha esaminato inoltre diverse iniziative, sia politiche che strategie nazionali, nonché il lavoro svolto finora dal Consiglio d'Europa e dalla Comissione europea, e da altre organizzazioni in questo campo come l’OSCE e l’UNESCO. 

Il Consiglio d'Europa ha, in molte occasioni, dimostrato la sua capacità di aprire la strada a nuovi standards, che sono diventati punti di riferimento globali. La questione dell’IA deve essere affrontata in un approccio multistakeholdercon altre organizzazioni internazionali, con la società civile, le imprese ed il mondo accademico e scientifico.

 

Anne-Sophie Martin

Dottoressa di ricerca in Diritto pubblico, comparato e internazionale

 

2018  ©  Sapienza Università di Roma