LE NUOVE SFIDE DELL’UMANITÀ E DEL DIRITTO NELL’ERA DELL’INTELLIGENZA ARTIFICIALE THE NEW CHALLENGES OF HUMANITY AND LAW IN THE ERA OF ARTIFICIAL INTELLIGENCE Eduardo Tomasevicius FilhoI Angelo Viglianisi FerraroII Universidade de São Paulo, São Paulo, SP, Brasil. E-mail: tomasevicius@usp.br I II Università degli Studi “Mediterranea” di Reggio Calabria, Calabria, Itália. E-mail: avf@unirc.it Riassunto: In questo articolo, gli autori hanno analizzato gli effetti dell’intelligenza artificiale nella società postmoderna. È interessante notare che l’intelligenza artificiale ha iniziato a essere sviluppata dall’inizio di questa nuova era. Negli ultimi anni è diventata sempre più utilizzato in diversi settori, procurando benefici, che hanno permesso di giungere alla Quarta Rivoluzione Industriale. Tuttavia, il suo utilizzo ha causato problemi diretti, come il potenziale aumento della disoccupazione e le violazioni della privacy, e altri danni indiretti, come la diffusione di fake news. Quindi, ci sono rischi per i diritti umani: in particolare, la possibilità di stabilire nuovi tipi di controllo sociale. L’Unione Europea e la comunità accademica si sono occupate dell’uso di queste tecnologie, attraverso report e ricerche. Pertanto, l’obiettivo di questo articolo è dimostrare brevemente i tipi di intelligenza artificiale, i suoi benefici ed i suoi effetti negativi, il rischio di danni per i diritti fondamentali. In conclusione, gli autori evidenziano l’importanza di un intervento normativo nella materia in questione. Parole chiave: Intelligenza artificiale. Diritti umani. Diritto alla privacy. Società postmoderna. Controllo sociale. DOI: http://dx.doi.org/10.20912/rdc.v15i37.254 Autores convidados Abstract: In this paper, the authors discussed the effects of artificial intelligence on postmodern society. Interestingly, artificial intelligence has started to be developed since the beginning of this new era. In recent years, it has become increasingly used in several types of sectors, bringing benefits, which allowed reaching the Fourth Industrial Revolution. However, its use has caused direct problems, such as the potential increase in unemployment and privacy violations, and other indirect damages, such as the spread of fake news. Thus, there are risks to human rights: in particular, the possibility of establishing new types of social control. The European Union and the academic community have concerned with the use of these technologies, through reports and researches. Therefore, the objective of this paper is to briefly demonstrate the types of artificial intelligence, its benefits and losses, the risk of damage to fundamental rights. Esta obra está licenciada com uma Licença Creative Commons Atribuição-NãoComercial-SemDerivações 4.0 Internacional. 402 Revista Direitos Culturais | Santo Ângelo | v. 15 | n. 37 | p. 401-413 | set./dez. 2020 DOI: http://dx.doi.org/10.20912/rdc.v15i37.254 As a conclusion, the authors consider that the underlying normative intervention in this subject is essential. Keywords: Artificial intelligence. Human rights. Right to privacy. Postmodern society. Social control. 1 Introduzione Si suole affermare che nella seconda metà del secolo scorso ha avuto inizio la c.d. postmodernità, segnata negli anni a seguire da una dirompente rivoluzione nei costumi delle società democratiche e da grandi cambiamenti nei mercati del lavoro, a livello locale e su scala mondiale, oltre che dalla massificazione dei media, dall’aumento esponenziale del consumo di beni e servizi, dalla nascita di una molteplicità di strutture familiari e di identità di genere e, soprattutto, dal continuo svilupparsi delle nuove tecnologie. Proprio in quel periodo veniva anche pubblicato uno degli studi che maggiormente ha inciso nelle elaborazioni successive in materia di c.d. intelligenza artificiale1, ossia il noto articolo Computing Machinery and Intelligence, del matematico Alan Turing, pubblicato sulla rivista Mind nel 1950. Il lavoro si apriva con le emblematiche parole <<I propose to consider the question, “Can machines think?”>>2. A settanta anni esatti di distanza da quella importante data, il Vecchio Continente, al pari di quanto sta già accadendo da tempo nel resto del mondo, si propone di indagare seriamente questo tema (tra i più strategici e delicati anche per i giuristi, nel nuovo millennio) e, precisamente il 19 febbraio 2020, l’Unione approda ad un Libro bianco della Commissione europea “sull’intelligenza artificiale”, che si apre con un riferimento alle enormi potenzialità dell’Europa di <<combinare i suoi punti di forza industriali e tecnologici con un’infrastruttura digitale di elevata qualità e un quadro normativo basato sui suoi valori fondamentali per diventare un leader mondiale nell’innovazione nell’economia dei dati e nelle sue applicazioni>>3. 1 Sulla quale, v. R. Penrose, La mente nuova dell’imperatore, Milano, 1992, p. 31 ss. M. Durante, Intelligenza artificiale (applicazioni giuridiche), in Dig. it., Disc. Priv., Sez. Civ., Torino, 2007, p. 714 ss. C. Casonato, Intelligenza artificiale e diritto costituzionale: prime considerazioni, in Dir. pubbl. comp. eur., 2019, p. 101 ss.; D. Heaven (a cura di), Macchine che pensano. La nuova era dell’intelligenza artificiale, trad. di V. L. Gili, Bari, 2018 G. Sartor, Intelligenza artificiale e diritto. Un’introduzione, Milano, 1996; H. Fry, Hello world – Essere umani nell’era delle macchine, Torino, 2018; S. Stefanelli, Diritto e Intelligenza artificiale. Alcune riflessioni nell’ambito del paradigma argomentativo, in Inform. dir., 1999, p. 7 ss.; G. Taddei Elmi, Corso di Informatica Giuridica, Napoli, 2007, p. 117 ss.; G. Smith, The AI delusion, Oxford, 2018; 2 Turing tentò, in effetti, di verificare se davvero le macchine potessero riflettere e, sulla base di semplicissimi indovinelli, analizzò approfonditamente la natura del pensiero umano ed il funzionamento dei neuroni. 3 Il testo, che ha come titolo “Un approccio europeo all’eccellenza e alla fiducia”, è reperibile sul sito ufficiale dell’Unione europea: https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligencefeb2020_it.pdf. Il documento è il primo importante punto di approdo della “strategia per l’IA”, apertasi il 25 aprile 2018 con la Comunicazione “L’intelligenza artificiale per l’Europa” – COM(2018) 237 final –, che ha affrontato alcuni degli aspetti socio-economici legati alla ricerca, all’innovazione e “alle capacità di IA in tutta l’UE”, concordando un piano coordinato con gli Stati membri per l’allineamento delle varie azioni verso Le Nuove Sfide Dell’umanità e del Diritto Nell’era Dell’intelligenza Artificiale Eduardo Tomasevicius Filho | Angelo Viglianisi Ferraro 403 La rete è divenuta parte integrante della vita della maggior parte degli esseri umani, rivoluzionando telecomunicazioni, stampa e commercio, e contribuendo in tal modo alla creazione di relazioni umane sviluppate spesso, se non prevalentemente, in un ambiente online, in particolare sui social network4; tuttavia, l’aumento della capacità di archiviazione delle informazioni nel server dei “giganti di Internet”, la crescente velocità nella trasmissione e circolazione delle notizie e lo stesso cambio di modalità nella registrazione delle immagini (da analogiche a digitali), prodotte con la qualità di un telefono cellulare, ha mostrato immediatamente la penetrante capacità delle nuove tecnologie di rendere la persona umana vulnerabile, dentro e fuori il mondo virtuale5. Così, puntualmente, non appena si pensa che il controllo sulla vita delle persone per mancanza di privacy su internet abbia ormai raggiunto l’apice, si scopre che la pervasività delle nuove tecnologie può essere ancora più intensa, soprattutto – oggi – a causa delle sempre più aggiornate e futuristiche potenzialità della robotica (la quale stanno secondo alcuni conducendo ormai ad una sorta di “transumanesimo”6). Il report “Artificial Intelligence and privacy”, elaborato dal Norwegian data protection authority nel gennaio 20187, si apre proprio con l’affermazione che <<most applications of artificial intelligence (AI) require huge volumes of data in order to learn and make intelligent decisions. Artificial intelligence is high on the agenda in most sectors due to its potential for radically improved services, commercial breakthroughs and financial gains. In the future we will face a range of legal and ethical dilemmas in the search for a balance between considerable social advances in the name of AI and fundamental privacy rights>>. Una delle più grandi preoccupazioni della società contemporanea non è più legata solo (o tanto) alla diffusione di informazioni private – o alla difficoltà a veder tutelato il proprio diritto ad un corrette utilizzo delle stesse (in termini di aggiornamento e cancellazione) – quanto al rischio di non poter contenere il potere manipolativo della realtà, realizzato mediante la circolazione su internet delle c.d. “fake news”, ad opera di sistemi capaci di arrivare a distorcere i processi elettorali – e, di conseguenza – ad effettuare un vero e proprio controllo politico in una determinata società8. l’obiettivo comune - COM(2018) 795 final –. 4 In tale contesto, secondo R. Messinetti, La tutela della persona umana versus l’intelligenza artificiale. Potere decisionale dell’apparato tecnologico e diritto alla spiegazione della decisione automatizzata, in Contr. impr., 2019, p. 861, emergerebbe un vero e proprio nuovo diritto fondamentale a <<controllare i processi di costruzione e utilizzazione dell’identità personale quale “dispositivo di socializzazione”>>. 5 Dei rischi connessi alla “dittatura dell’algoritmo” aveva già fatto ampiamente menzione S. Rodotà, Il mondo della rete. Quali i diritti, quali i vincoli, Roma-Bari, 2014. Si veda, inoltre, E. Calzolaio (a cura di), La decisione nel prisma dell’intelligenza artificiale, Padova, 2020. 6 Cfr. U. Ruffolo e A. Amidei, op. cit., p. 1658. 7 Reperibile in https://iapp.org/media/pdf/resource_center/ai-and-privacy.pdf. 8 Si veda, sul punto, l’interessante riflessione di E. S. Gomi, Robôs são usados para divulgar notícias falsas na internet, in Jornal da USP, visionabile anche in https://jornal.usp.br/atualidades. 404 Revista Direitos Culturais | Santo Ângelo | v. 15 | n. 37 | p. 401-413 | set./dez. 2020 DOI: http://dx.doi.org/10.20912/rdc.v15i37.254 2 Intelligenza artificiale, tra automazione, machine learning e deep learning Una delle prime definizioni di intelligenza artificiale è stata presentata verso la metà degli anni ‘ottanta da Elaine Rich, la quale la immaginava come la capacità di far svolgere ai computer compiti in cui gli esseri umani riuscivano in quel momento ad ottenere risultati migliori di quelli raggiungibili dalle macchine9. Questo primo concetto verrebbe oggi definito forse più che altro come “automazione”, ossia la idoneità ad eseguire processi predeterminati, ma senza sapersi adattare a realtà del tutto nuove; esempio tipico è quello del termostato di un condizionatore d’aria: quando viene raggiunta una temperatura indicata dall’utente, l’apparecchiatura accende o spegne il dispositivo (senza, però, mai prendere l’iniziativa di interagire in modo proattivo con l’ambiente in cui è installato). Eppure, il grande psicologo e filosofo tedesco Stern (noto per aver coniato l’espressione “IQ”) ha asserito che l’intelligenza (umana) può essere considerata <<a general mental adaptability to new problems and conditions of life>>10. E molto più simile a questa definizione appare quella utilizzata, in materia, per la prima volta in seno al soft law dell’Unione europea (a trentacinque anni di distanza dalle parole della Rich). Nella Comunicazione al Parlamento europeo, al Consiglio, al Comitato economico e sociale europeo e al Comitato delle Regioni COM(2018) 237, del 25 aprile 201811, si rileva che l’espressione intelligenza artificiale <<indica sistemi che mostrano un comportamento intelligente analizzando il proprio ambiente e compiendo azioni, con un certo grado di autonomia, per raggiungere specifici obiettivi>>. L’idea di fondo dei precursori di tale “rivoluzione informatica” era proprio quella di generare un insieme di “routine logiche”, che, applicate all’informatica, consentissero ai computer di non necessitare più della supervisione umana nel processo decisionale e nell’interpretazione dei messaggi analogici e digitali12. Ciò è apparso possibile, una volta stabilita la capacità del sistema di adattarsi ai bisogni umani, attraverso l’uso di dati 9 E. A. Rich, Artificial Intelligence, New York, 1983, p. 1. La prima conferenza nella quale venne usata l’espressione in questione è del 1956 e si svolse nel Dartmouth College dell’Università di Hanover, nel New Hampshire. V. il lavoro, del mese di agosto dell’anno precedente di J. McCarthy, M. L. Minsky, N. Rochester e C. E. Shannon, A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence, in https://aaai.org/ojs/index.php/ aimagazine/article/view/1904/1802. 10 W. Stern, The Psychological Methods of Intelligence Testing, Baltimore, 1914, passim. 11 Il documento, dal titolo L’intelligenza artificiale per l’Europa, è reperibile sul sito https://ec.europa.eu/transparency/ regdoc/rep/1/2018/IT/COM-2018-237-F1-IT-MAIN-PART-1.PDF. 12 Se l’idea di costruire macchine pensanti si può attribuire già agli inventori dei primi calcolatori (Leibniz e Babbage) o al creatore della logica binaria, utilizzata nei computer, facilmente adattabile alle apparecchiature elettroniche (George Boole), certamente al matematico Alan Turing è comunemente attribuito il ruolo di fondatore del concetto di intelligenza artificiale. Le Nuove Sfide Dell’umanità e del Diritto Nell’era Dell’intelligenza Artificiale Eduardo Tomasevicius Filho | Angelo Viglianisi Ferraro 405 provenienti da esperienze passate archiviate in memorie, prendendo decisioni con un minimo di “libero arbitrio”13. Questa intuizione produsse, ovviamente, un grande entusiasmo, perché si immaginò da subito la possibilità scrivere una partitura musicale, partendo dai suoni emessi da un pianoforte, e di svelare teoremi matematici o, ancora, di arrivare ad interpretare la personalità umana (fino ad arrivare, poi, negli anni ‘70, a prefigurare la possibilità di condurre diagnosi mediche mediante intelligenza artificiale. In effetti, come è noto, l’intelligenza artificiale è costituita da software che utilizzano emulazione di algoritmi di metodi di base per la risoluzione dei problemi14. Un vero e proprio salto di qualità nello sviluppo dell’intelligenza artificiale, si è poi realizzato con le cosiddette “reti connettiste” o “reti neurali”, tramite le quali il software del computer imita davvero il funzionamento dei neuroni, sulla base di una modellizzazione matematica di queste cellule15, superando così i limiti esistenti quando i computer erano isolati gli uni dagli altri (per cui gli unici dati disponibili erano quelli presenti nelle memorie delle singole macchine). Con il miglioramento dei programmi di riconoscimento di testi, immagini e informazioni originariamente registrati su supporti materiali e, soprattutto, con la possibilità di accesso a questo materiale istantaneamente in qualsiasi parte del mondo attraverso internet (e di memorizzare tutto su grandi server, quali il “cloud computing”), l’IA ha assunto una nuova e straordinaria dimensione, perché ha di fatto oggi l’accesso ad una infinità di dati16 (compresi quelli relativi alla navigazione online, nonché quanto viene inserito o consultato dall’interessato). Pertanto, si è segnalato che, ormai, <<l’intelligenza artificiale non rappresenta, in sé e per sé, un singolo bene immateriale, quanto piuttosto un’innovazione informatica di prodotto e di processo, che si interseca con tipici beni immateriali come il software, 13 V., sul punto, S. J. Russell e P. Norvig, Artificial Intelligence. A Modern Approach, Upper Saddle River, 2015; nonchè A. Santosuosso, Diritto, scienza e nuove tecnologie, Padova, 2016, p. 330 ss. 14 Il metodo di base per la risoluzione dei problemi più semplici è quella utilizzata per il gioco degli scacchi, che, per calcolare tutte le possibilità di mosse future, usa a modello dinamico di rappresentazione quello degli spazi vuoti in una matrice 8x8. Ma, particolarmente interessanti sono apparse subito anche le operazioni di alternative test (utilizzate, ad esempio, nella soluzione del “problema del commesso viaggiatore”, in cui l’algoritmo calcola il percorso più breve per giungere da un posto ad un altro) o le c.d. “ricerche euristiche” (attraverso le quali si chiede all’algoritmo di individuare rapidamente all’interno di un computer la risposta più soddisfacente e non quella migliore, tenendo conto che a volte all’utente potrebbe interessare di più risparmiare tempo e non avere una soluzione assolutamente precisa. V. E. A. Rich, Artificial Intelligence, cit., passim, e le sue riflessioni anche sugli schemi logici basati su “domande e risposte”, nonché quelli sulla rappresentazione logica del processo di conoscenza umana. 15 Cfr., per tutti, M. A. Tafner; M. Xerez e I. W. Rodrigues Filho, Redes neurais artificiais: introdução e princípios de neurocomputação, Blumenau, 1996. 16 Come G. Finocchiaro, Intelligenza artificiale e diritto – intelligenza artificiale e protezione dei dati personali, in Giur. it., 2019, p. 1657 ss., segnala, <<le applicazioni di intelligenza artificiale sono moltissime e a titolo esemplificativo si possono annoverare: Natural Language Processing, Speech Recognition, Virtual Agent, Machine Learning, AI-optimized Hardware, Decision Management, Deep Learning, Biometrica, Robotic Process Automation e Text Analytics>>. 406 Revista Direitos Culturais | Santo Ângelo | v. 15 | n. 37 | p. 401-413 | set./dez. 2020 DOI: http://dx.doi.org/10.20912/rdc.v15i37.254 i brevetti e il know-how, altri intangibili internet-driven (M-App, ecc.) e con dati informativi di input derivanti da big data o sensori-IoT>>17. Oggi ci sono diversi algoritmi di intelligenza artificiale con prestazioni nettamente superiori rispetto a quelli che si occupavano di elaborazioni di base18 e si producono computer con software sofisticatissimi in grado di svolgere attività specifiche senza interruzione, come l’invio di messaggi, l’elaborazione di un linguaggio naturale, l’apprendimento, e lo sviluppo di alcuni sensi (quali la vista e l’udito), la generazione di soluzioni di buon senso19; sino, ad arrivare, in tempi recenti alla creazione di “robot”20 davvero molto simili agli esseri umani e dotati del cosiddetto deep learning21. Le intelligenze artificiali capaci di autoapprendimento22 presentano il vantaggio di essere <<programmate per svilupparsi cognitivamente tramite l’acquisizione e l’elaborazione dei dati derivanti dalle interazioni con la realtà esterna e, sulla base di questi, determinare in autonomia gli indirizzi del proprio funzionamento>>23. 3. I benefici derivanti dall’Intelligenza artificiale I vantaggi che l’intelligenza artificiale produce sono sotto gli occhi di tutti24. È evidente il miglioramento che grazie ad essa si avrà nella gestione delle informazioni (e nella conservazione e valorizzazione) oltre che nella risoluzione dei problemi, con una sempre maggiore velocità (non dovendo fare i conti con possibili blocchi emotivi) e con una riduzione dell’errore, rispetto a quelli realizzabili dagli esseri umani. 17 Così R. Moro Visconti, L’intelligenza artificiale: modelli di business e profili di valutazione, in Dir. ind., 2018, p. 422. 18 P. Domingos, L’Algoritmo Definitivo: la macchina che impara da sola e il futuro del nostro mondo, Torino, 2016. 19 Cfr. S. J. Russell e P. Norvig, op. cit. 20 A. Laurent e J. Besnier, Do Robots make love? From AI to immortality – Understanding transhumanism in 12 questions, Londra, 2018; D. Berry e A. Fagerjord, Digital humanities, Cambridge, 2017. 21 Sul quale anche il Consiglio di Stato ha per la prima volta preso posizione, con la sentenza n. 2270 dell’8 aprile 2019, evidenziando che <<l’utilizzo di procedure “robotizzate” di decisione della P.A., tramite algoritmi, per quanto legittimo, non può essere motivo di elusione dei princìpi che conformano il nostro ordinamento e che regolano lo svolgersi dell’attività amministrativa>>, e, pertanto, <<la regola algoritmica…vede sempre la necessità che sia l’amministrazione a compiere un ruolo ex ante di mediazione e composizione di interessi, anche per mezzo di costanti test, aggiornamenti e modalità di perfezionamento dell’algoritmo (soprattutto nel caso di apprendimento progressivo e di deep learning)>>. 22 Sulle quali, si veda R. Angelini, Intelligenza Artificiale e governance. Alcune riflessioni di sistema, in F. Pizzetti (a cura di), Intelligenza artificiale, protezione dei dati personali e regolazione, Torino, 2018, p. 295 ss. 23 Così N. F. Frattari, Robotica e responsabilità da algoritmo. Il processo di produzione dell’intelligenza artificiale, in Contr. impr., 2020, p. 462. L’importante ed osmostico rapporto tra intelligenza artificiale e big data è, in questo contesto, di facile intuizione. Nell’Artificial intelligence and privacy, Issues paper, pubblicato in Australia dall’Office of the Victorian Information Commissioner, nel giugno 2018, e consultabile in https://ovic.vic.gov.au, p. 5, si legge che <<the relationship between AI and big data goes two ways. While big data analytics processes already exist, much of big data’s true value is only able to be realised using AI techniques. In the other direction, big data offers AI an immense and rich source of input data to develop and learn from>>. 24 V., tra gli articoli più recenti, M. Chiarelli, Intelligenza artificiale: vantaggi, problematiche e prospettive di regolazione, in www.diritto24.ilsole24ore.com/ Le Nuove Sfide Dell’umanità e del Diritto Nell’era Dell’intelligenza Artificiale Eduardo Tomasevicius Filho | Angelo Viglianisi Ferraro 407 Non va del resto, dimenticato che i sistemi di intelligenza artificiale consentirebbero ad un servizio o ad una macchina (o un robot) di essere disponibili 24 ore al giorno per 365 giorni l’anno (senza il rischio che possano scioperare o chiedere i congedi parentali), aiutando nei lavori ripetitivi e alienanti (come l’invio di emails o di analisi di determinati testi). Tra i servizi informatici che l’intelligenza artificiale ha reso molto più sofisticati e funzionali, nella “società digitale” del terzo millennio, ci sono sicuramente i chatbot per i consumatori (che agevolano il compito delle compagnie aeree o telefoniche e stanno diventando molto precisi e rapidi nelle risposte) e la c.d. business-analytics per le imprese (utili strumenti capaci di individuare le migliori strategie da porre in essere per produrre netti vantaggi competitivi). Come è stato sottolineato, del resto, grazie alla capacità di self-learning, oggi <<i computer non si limitano più ad eseguire delle istruzioni predeterminate, ma sono in grado di adottare soluzioni dinamiche sulla base di sequenze di dati di cui gli uomini non hanno alcuna percezione>>25. Senza contare la capacità che le macchine intelligenti hanno di assumere rischi (o di farlo senza alcun timore che potrebbe inficiare la performance) a differenza degli esseri umani (gli esempi tipici che si fanno al riguardo sono il disinnesco di una bomba o l’esplorazione dei fondi marini, ma si pensi anche alla somministrazione di medicine a pazienti affetti da malattie infettive facilmente trasmissibili). Del resto, vi è chi giunge ad immaginare che la sempre più forte interazione tra macchina e framework neuronale umano possa condurre a teorizzare <<la (ancora molto lontana) possibilità di trasferire una coscienza umana su supporti artificiali, magari per garantire la sopravvivenza ad una mente altrimenti prigioniera di un corpo in decadimento e destinata a perire con esso>>26. 4. I possibili effetti negativi legati all’uso di sistemi di IA Se lo sviluppo tecnologico sta, del resto, conducendo a computer e macchinari sempre più potenti e funzionali, con interfacce nuove e migliorate, passando ad analizzare gli svantaggi delle nuove frontiere dell’IA, non possono che essere menzionati gli elevati costi di creazione e di aggiornamento dei sistemi in questione (e delle stesse macchine che operano in base alle nuove tecnologie e che richiedono riparazioni e manutenzione spesso molto costose, trattandosi il più delle volte di strumenti particolarmente complessi e delicati). 25 A sostenerlo è N. F. Frattari, op. cit., p. 462. 26 Così U. Ruffolo e A. Amidei, op. cit., p. 1658. 408 Revista Direitos Culturais | Santo Ângelo | v. 15 | n. 37 | p. 401-413 | set./dez. 2020 DOI: http://dx.doi.org/10.20912/rdc.v15i37.254 Né si può trascurare la circostanza che più un macchinario richiede competenze iper-specialistiche, più sarà difficile trovare molti programmatori esperti per quel microsettore. Così come è probabile che molti prodotti non abbiano ancora raggiunto il mercato. È scientificamente provato, inoltre, che l’intelligenza artificiale contribuirà a rendere l’uomo, da un lato, sempre più pigro (perché indotto a far fare alle macchine quante più cose possibile) e, da un altro, purtroppo spesso anche dipendente dalle nuove tecnologie (con tutte le conseguenze che ne derivano nel caso di mancato funzionamento delle stesse o addirittura di improvviso blackout generale). Altro rischio legato allo sviluppo dell’intelligenza artificiale sarà probabilmente la crescita della disoccupazione, considerando che le macchine potranno sostituire molte delle mansioni oggi attribuite agli esseri umani, e si affrancheranno sempre più anche dalla necessità di essere seguiti dai loro produttori o proprietari: non è quindi difficile immaginare che tra qualche anno molti taxisti perderanno il loro lavoro, perché i clienti preferiranno le macchine a guida automatica in grado di arrivare più puntuali (seguendo percorsi autostradali meno trafficati in base alle indicazioni fornite dai sistemi satellitari), ed i postini saranno sostituiti da droni. Mentre a tagliare i capelli (e con sistemi di deep learning capaci di migliorare costantemente o di tenersi al passo con la moda) e cucire vestiti su misura saranno dei robot, che andranno a sostituire le persone meno qualificate, compiendo gli stessi lavori con maggiore efficienza). E se è vero che le macchine non potranno mai provare emozioni (quantunque potrà essere insegnato loro di fingere di provarle), l’accusa più grande che si continua a muovere ai sistemi di IA è la mancanza di creatività e di capacità di pensare fuori dagli schemi: anche nel caso di software di self-learning, le macchine potranno eseguire solo le attività per le quali sono progettate o programmate e rischieranno di combinare disastri (o al contrario dare risultati del tutto irrilevanti, a fronte di investimenti magari esosi) quando si troveranno a dover gestire situazioni assolutamente non previste. L’esempio dell’aereo schiantatosi a terra (senza peraltro che i piloti a bordo potessero fare nulla per invertire la rotta) viene sempre utilizzato per sottolineare i limiti che l’intelligenza artificiale non supervised continua a presentare27. 27 Ecco perché nel citato Libro Bianco dello scorso febbraio si legge che <<la sorveglianza umana aiuta a garantire che un sistema di IA non comprometta l’autonomia umana o provochi altri effetti negativi>> e ciò in quanto <<l’obiettivo di un’IA affidabile, etica e antropocentrica può essere raggiunto solo garantendo un adeguato coinvolgimento degli esseri umani in relazione alle applicazioni di IA ad alto rischio>>. Il documento immagina, a titolo meramente esemplificativo, quattro possibili modalità di controllo “non artificiale”: <<il risultato del sistema di IA non diviene effettivo prima di essere stato rivisto e convalidato da un essere umano…; il risultato del sistema di IA diviene immediatamente effettivo, ma successivamente è garantito l’intervento di un essere umano…; il sistema di IA può essere monitorato durante il suo funzionamento da un essere umano che può intervenire in tempo reale e disattivarlo…; in fase di progettazione, imponendo vincoli operativi al sistema di IA…>>. Le Nuove Sfide Dell’umanità e del Diritto Nell’era Dell’intelligenza Artificiale Eduardo Tomasevicius Filho | Angelo Viglianisi Ferraro 409 Nel febbraio 2018, uno studio di M. Brundage e altri suoi colleghi di Cambridge e Oxford, dal titolo The malicious use of artificial intelligence: forecasting, prevention, and mitigation, University of Cambridge, 2018, ha indicato tre tipi di rischi che possono derivare dall’intelligenza artificiale: quello per la c.d. “sicurezza digitale” (che può essere minata da intensi attacchi informatici diffusi), quello per la sicurezza fisica (legato a possibili lesioni causati da droni o armi gestiti attraverso l’IA), ed infine quello per la “sicurezza politica” (considerata la possibilità di monitoraggi collettivi derivanti dall’analisi dei dati di massa, di manipolazioni attraverso video e mediante lo studio del comportamento umano, dei costumi e delle credenze28. È, come si vede chiaramente, soprattutto sotto un profilo etico che occorrerà intervenire per evitare che i sistemi di IA possano costituire un serio pericolo per i diritti fondamentali. Interessante è sicuramente la Carta etica europea sull’utilizzo dell’intelligenza artificiale nei sistemi giudiziari e negli ambiti connessi adottata dalla CEPEJ (Commissione europea per l’efficienza della giustizia) nel corso della sua 31  Riunione plenaria (Strasburgo, 3-4 dicembre 2018), che ha evidenziato ante diem quali sono i principi più importanti che dovranno essere garantiti nei sistemi giudiziari, e negli ambiti connessi. Essi sono cinque e riguardano: 1) il rispetto dei diritti fondamentali (il cui rispetto va assicurato nella fase di elaborazione e attuazione di strumenti e servizi di intelligenza artificiale); 2) il divieto di discriminazione tra persone e gruppi (la Carta parla della necessità di prevenire “specificamente lo sviluppo o l’intensificazione” di condotte contrarie al principio di uguaglianza); 3) la salvaguardia della qualità e della sicurezza nel trattamento di decisioni e dati giudiziari (da realizzare, mediante l’utilizzo di <<fonti certificate e dati intangibili, con modelli elaborati interdisciplinarmente, in un ambiente tecnologico sicuro>>); 4) la trasparenza, l’imparzialità e l’equità (fine da perseguire rendendo le metodologie di trattamento dei dati accessibili e comprensibili, ed autorizzando verifiche esterne); 5) la necessità di consentire il controllo da parte dell’utilizzatore (regola che si sostanza nella necessità di precludere un approccio prescrittivo, a favore di modelli capaci di assicurare <<che gli utilizzatori siano attori informati e abbiano il controllo delle loro scelte>>). 28 Il rapporto propone quattro forti raccomandazioni in materia. Il primo è che legislatori e scienziati collaborino per una approfondita indagine del problema e l’individuazione di divieti o controlli nei potenziali usi dannosi di questa tecnologia. Il secondo è che ricercatori e ingegneri prendano sul serio il doppio possibile uso (benefico e malefico) dell’intelligenza artificiale. La terza raccomandazione è che siano identificate e diffuse le buone pratiche nel settore. La quarta e ultima riguarda l’estensione del dibattito al maggior numero di parti interessate ed esperti della materia. 410 Revista Direitos Culturais | Santo Ângelo | v. 15 | n. 37 | p. 401-413 | set./dez. 2020 DOI: http://dx.doi.org/10.20912/rdc.v15i37.254 5 La quarta rivoluzione industriale ed il crescente rischio di lesioni dei diritti fondamentali dell’uomo Come è stato fatto notare, sarebbe in corso una vera e propria “quarta rivoluzione industriale” o “Industria 4.0”29, che riunirà mondo fisico, biologico e digitale, uso di manufatti 3D, Internet delle cose, biologia sintetica, sistemi cibifisici, cloud computing e intelligenza artificiale30. Presto l’e-voting o le smart cities, dotate di droni-postino e taxi a guida autonoma, non saranno solo un progetto innovativo sul quale lavorare, ma una realtà perfettamente consolidata. Se i vantaggi di tutto ciò sono sotto assolutamente evidenti, spesso sfuggono i gravi rischi che tuttavia emergono, per i diritti fondamentali (di tutti gli esseri umani, ma delle categorie più deboli in particolare)31. Non a caso, uno dei più grandi studiosi francesi del tema si è chiesto se l’umanità non si stia dirigendo verso forme di “domination programmée”32. In un volume elaborato dall’OCSE lo scorso anno, si legge che <<the use of AI may also pose unique challenges in situations where human rights impacts are unintentional or difficult to detect. The reason can be the use of poor-quality training data, system design or complex interactions between the AI system and its environment. One example is algorithmic exacerbation of hate speech or incitement to violence on line. Another example is the 29 Cfr. K. Schwab, La quarta rivoluzione industriale, Milano, 2016; F. Seghezzi, La nuova grande trasformazione. Lavoro e persona nella quarta rivoluzione industriale, Bergamo, 2017; A. Cipriani, A. Gramolati e G. Mari (a cura di), Il lavoro 4.0. La quarta rivoluzione industriale e le trasformazioni delle attività lavorative, Firenze, 2018. 30 V., per tutti, L. Floridi, La quarta rivoluzione. Come l’infosfera sta trasformando il mondo, Milano, 2017; Id., Infosfera. Etica e filosofia nell’età dell’informazione, Torino, 2009. 31 Il tema è centrale anche nelle organizzazioni internazionali operanti nel Vecchio continente. Una ricerca del Consiglio d’Europa (“Algorithms and Human Rights. Study on the human rights dimensions of automated data processing techniques and possible regulatory implications”, in https://rm.coe.int/algorithms-and-human-rightsen-rev/16807956b5) ha dimostrato quante ripercussioni su numerosi diritti fondamentali potrebbe avere un uso inappropriato dell’Intelligenza artificiale. Ed ecco perché, operando in seno alla stessa organizzazione internazionale, la European Commission for the Efficiency of Justice ha elaborato il 3-4 dicembre 2018 una Carta etica europea sull’uso dell’intelligenza artificiale nei sistemi giudiziari e in ambiti connessi (in https://rm.coe. int/carta-etica-europea-sull-utilizzo-dell-intelligenza-artificiale-nei-si/1680993348). E significative sono, inoltre, sul versante dell’Unione europea, la citata Comunicazione della Commissione COM(2018) 237 del 25 aprile 2018 (con un Allegato, intitolato Piano coordinato per lo sviluppo e l’utilizzo dell’intelligenza artificiale ‘‘Made in Europe’’) e la Risoluzione del Parlamento europeo del 12 febbraio 2019 su una politica industriale europea globale in materia di robotica e intelligenza artificiale. Nel Libro bianco dello scorso 19 febbraio 2020, si legge chiaramente che <<l’uso dell’IA può pregiudicare i valori su cui si fonda l’Unione e causare violazioni dei diritti fondamentali, compresi i diritti alle libertà di espressione e di riunione, la dignità umana, la non discriminazione fondata sul sesso, sulla razza, sull’origine etnica, sulla religione o sulle convinzioni personali, sulla disabilità, sull’età o sull’orientamento sessuale (ove applicabili in determinati settori), la protezione dei dati personali e della vita privata o il diritto a un ricorso giurisdizionale effettivo e a un giudice imparziale, nonché la tutela dei consumatori>>. 32 J. Ganascia, Intelligence artificielle: vers une domination programmée? Le Nuove Sfide Dell’umanità e del Diritto Nell’era Dell’intelligenza Artificiale Eduardo Tomasevicius Filho | Angelo Viglianisi Ferraro 411 unintentional amplifying of fake news, which could impact the right to take part in political and public affairs>>33. Vari diritti della personalità, in effetti, possono essere violati da un uso improprio dell’intelligenza artificiale, come nei casi relativi alla vita e all’integrità fisica (si è parlato, a tal proposito, di un <<diritto a ‘‘potenziare’’ il proprio corpo come nuovo diritto a disporre di sé stessi ed autodeterminarsi>>34, con tutte le implicazioni etiche che ne derivano sotto il profilo della costante tensione verso l’immortalità o un pericoloso modello di perfezione estetica35) in questioni relative alla salute, oltre all’onore, all’immagine, alla identità personale36, soprattutto, come è facile immaginare, alla riservatezza. Anche prima di giungere ad un ricorso così intenso all’intelligenza artificiale, sono emersi vari problemi di invasione della privacy nella navigazione in Internet, ad esempio, a causa dei cosiddetti cookie (file che si inseriscono nel computer e avviano l’esecuzione di annunci pubblicitari)37, ma essi possono essere comunque in un secondo momento rimossi dall’utente38. Oggi, invece, la situazione è molto più complessa e spesso sfugge ad ogni controllo umano. La recente pandemia ha dimostrato quanto fragile sia ormai già solo lo stesso diritto ad una autodeterminazione “informatica” o “informativa”39 (e quindi a scegliere se entrare o meno a far parte del mondo virtuale e comunque a decidere della sorte dei propri dati personali40), a fronte, ad esempio, di emergenze globali, capaci di far 33 OECD (2019), Artificial Intelligence in Society, Parigi, in https://doi.org/10.1787/eedfee77-en, p. 84. Nel testo si legge anche che <<the likely scale and impact of harm will be linked to the scale and potential impact of decisions by any specific AI system. For example, a decision by a news recommendation AI system has a narrower potential impact than a decision by an algorithm predicting the risk of recidivism of parole inmates>>. Il testo è reperibile in 34 Cfr., per tutti, U. Ruffolo e A. Amidei, op. cit., p. 1664. 35 Secondo U. Ruffolo e A. Amidei, op. cit., p. 1658, le continue scoperte e applicazioni dell’Intelligenza Artificiale e della robotica avanzata, <<sinergicamente uniti a forme di ‘‘genetic engineering’’ (genomica migliorativa, doping genetico, gene-editing, pratiche di life-extension), potranno…dare vita a commistioni uomo-macchina suscettibili di rappresentare la ‘‘via umana alla immortalità’’, quantomeno come prolungamento della vita o della coscienza anche dopo la morte del corpo>>. 36 Sempre U. Ruffolo e A. Amidei, op. cit., p. 1670, segnalano che la stessa prospettiva del trapianto di un cervello non sembra così remota e lo stesso dicasi per la possibilità di impiantare addirittura la testa su corpo altrui, con conseguenti <<problemi persino circa la ‘‘identità’’ del trapiantato (tali trapianti sono attualmente vietati. Ma in caso di violazione del divieto – forse prossimo a venir meno – tutti i richiamati problemi permarrebbero)>>. 37 Cfr. M. Bogni e A. Defant, op. cit., p. 123. 38 Anche se, come scrive E. Pellecchia, Profilazione e decisioni automatizzate al tempo della black box society: qualità dei dati e leggibilità dell’algoritmo nella cornice della responsible research and innovation, in Leggi civ. Comm., 2018, p. 1213, perfino <<quando i cookies sono disabilitati e la navigazione web è anonima, i dispositivi che usiamo lasciano tracce che sono a tutti gli effetti “impronte digitali”>>. 39 G. Sartor, Privacy, reputazione, e affidamento: dialettica e implicazioni per il trattamento dei dati personali, in F. Bergadano, A. Mantelero, G. Ruffo, G. Sartor, Privacy digitale. Giuristi ed informatici a confronto, Torino, 2005, p. 81 ss. 40 Si tratta di un diritto già di per sé assolutamente debole, anche secondo D. Poletti, op. cit., p. 2785, considerando che <<come dimostrato anche da recenti indagini comportamentali, proporzionalmente alle reiterate richieste di consenso si riduce la soglia di attenzione, anche per l’informativa, con conseguente debolezza cognitiva e compromissione del processo decisionale>>. 412 Revista Direitos Culturais | Santo Ângelo | v. 15 | n. 37 | p. 401-413 | set./dez. 2020 DOI: http://dx.doi.org/10.20912/rdc.v15i37.254 prevalere in modo “tirannico” (sia pur legittimamente, forse) un contrapposto diritto (superindividuale) alla salute, che può costringere tutti a ricorrere alle nuove tecnologie, senza avere alcuna alternativa – né poter esprimere un proprio consenso al riguardo – (salvo voler rinunciare al lavoro, allo studio e allo svolgimento di qualsiasi attività idonea ad una, seppur fortemente limitata, realizzazione della propria personalità)41. 6 Conclusioni. Le nuove frontiere dell’Intelligenza artificiale e la necessità di un intervento normativo Sono maturi i tempi perché il problema dell’Intelligenza artificiale venga affrontato seriamente a livello politico-normativo. E se nel Vecchio Continente è auspicabile che – come già accaduto per il danno da illecito antitrust o da prodotto difettoso, ovvero ancora da violazione della privacy tout court – sia l’Unione europea ad intervenire tempestivamente e fissare delle lineeguida il più possibile precise42, prima che siano gli Stati ad operare delle scelte concrete (diventando poi più o meno gelosi sostenitori delle proprie decisioni), anche nel Sud America è importante mettersi in moto per normare il settore, senza limitare chiaramente il tentativo di diventare dei leader nella materia (proprio come pare stia accadendo in Cile nel settore della robotica43). Si consideri che, quanto segnalato anni fa in dottrina, circa una intelligenza solo presunta o teorica dei computer, in quanto essi avrebbero «la capacità di trattare con precisione problemi ben definiti e sono molto abili nello svolgere questa funzione, ma sono del tutto inadatti ad affrontare situazioni non previste (dal programmatore)»44, nel giro di 3 lustri sembra messo in discussione da chi sostiene la necessità di iniziare a confrontarsi, semmai, con macchine sempre più dotate della c.d. “Intelligenza Artificiale Forte” (ossia del potere di ragionare in maniera estesa, proprio come un essere umano)45. 41 Si registrano già una serie di contributi dottrinali online su questi importanti temi in www.unicost.eu, www. sistemapenale.it, www.federalismi.it, www.rivistaaic.it, ecc. 42 La Commissione europea – prima ancora di adottare il citato Libro bianao – ha, ad esempio, nominato un gruppo di esperti ad alto livello, i cui orientamenti per una “IA affidabile” sono stati pubblicati nell’aprile 2019 (e sono reperibili in https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines#Top) e hanno formato oggetto di una nuova Comunicazione della Commissione – COM(2019) 168 final – che ha accolto con favore i sette requisiti fondamentali individuati dagli studiosi sul tema: <<1) intervento e sorveglianza umani; 2) robustezza tecnica e sicurezza; 3) riservatezza e governance dei dati; 4) trasparenza; 5) diversità, non discriminazione ed equità; 6) benessere sociale e ambientale; 7) accountability). 43 Cfr. le interessanti novità che arrivano dalla Pontificia Universidad Católica de Chile, in www.ing.uc.cl/en/ boletines/desarrollan-primer-robot-chileno-inteligencia-artificial-trabajar-supermercados/. 44 Così R. M. Di Giorgi, L’intelligenza artificiale: teoria e applicazioni nel diritto, in R. Borruso, R. M. Di Giorgi, L. Mattioli e M. Ragona, L’informatica del diritto, Milano, 2004, p. 188. 45 Idea sviluppatasi dagli anni cinquanta agli anni ottanta e poi abbandonata, per dare spazio a quella di una Light AI (la quale, in base ad <<un approccio sostanzialmente funzionalista,… tende, semmai, a emulare solo alcune funzioni del cervello umano e porta a creare macchine che riescono a svolgerle, talora anche meglio degli umani>>, come segnalano A. Santosuosso, C. Boscarato e F. Caroleo, op. cit., 2012, p. 494), ma che oggi sta tornando, invece, alla ribalta con prepotenza. Cfr., al riguardo, N. Bostrom, Superintelligenza – Tendenze, Le Nuove Sfide Dell’umanità e del Diritto Nell’era Dell’intelligenza Artificiale Eduardo Tomasevicius Filho | Angelo Viglianisi Ferraro 413 Anzi, vi è anche chi immagina che agenti evoluti e sempre più sofisticati potranno presto rivelarsi addirittura dotati di una super-intelligenza, in grado di superare quella umana46. Per cui, non occorrerà più ricorrere a test come quelli effettuati da alcune aziende cinesi, per analizzare – attraverso sensori intelligenti inseriti in appositi caschi (“neurocap”) – gli impulsi nervosi dei lavoratori, <<desumendo così lo stato emotivo del soggetto e, quindi, la sua eventuale inidoneità a svolgere certe mansioni>>47. Una serie di macchine, instancabili e tendenzialmente indistruttibili, incapaci di ammalarsi e di provare emozioni (come paura, stress, sfiducia) e sempre disponibili (senza mai pensare di scioperare o andare in maternità), sostituiranno direttamente gli uomini. È veramente ora, insomma, che il diritto intervenga, nel tentativo di non arrivare more solito a disciplinare alcuni fenomeni (in continuo mutamento), con eccessivo e colpevole ritardo. pericoli, strategie, Torino, 2018. 46 N. Bostrom, Superintelligence: Paths, Dangers, Strategies, Oxford, 2014. Ma, vedi già J. Habermas, The future of Human Nature, Cambridge, 2003. 47 A segnalarlo è A. Soro, op. cit., p. 344. Il Garante parla a tal proposito di una <<postmodernità che ripropone l’uomo-automa, rappresentando una minaccia quando invece aveva promesso speranza>> e sottolinea che in questa preoccupante regressione neo-fordista, <<la tecnica che avrebbe dovuto liberare l’uomo dal peso e dall’alienazione della catena di montaggio rischia invece di costringerlo in nuove catene elettroniche, riducendolo a mero ingranaggio>>.