Come consulente per l’innovazione tecnologica, la domanda che mi pongo spesso è: a quale sistema di valori afferisce il prodotto o il servizio che sto progettando? Come contribuisce a costruire un’idea di futuro eticamente auspicabile? Negli Stati Uniti e nel Regno Unito, la riflessione sui cambiamenti successivi all’adozione delle tecnologie digitali è giunta a maturità, mentre in Italia è stata confinata in una nicchia per pochi visionari. Solo negli ultimi tempi, complice il successo della Filosofia dell’Informazione di Luciano Floridi, l’interesse per questi temi ha raggiunto un pubblico più vasto. Hanno finalmente (e giustamente) avuto riconoscimento autori come Andrea Vaccaro, Giuseppe O. Longo, Paolo Benanti, Giuseppe Lorizio, Giuseppe Nitti Tanzella e molti altri che sarebbe lungo citare.

Una posizione di rilievo spetta a Gianni Manzone, professore di Teologia Morale alla Pontificia Università Lateranense. Nello sviluppo un po’ anarchico della disciplina di studio del digitale, il suo lavoro Morale artificiale. Nanotecnologie, intelligenza artificiale, robot. Sfide e promesse (EDB, 2020) si presenta come un’esposizione sistematica della riflessione sull’etica del digitale. Fin dalle prime pagine si definisce l’oggetto di studio, il linguaggio che descrive con precisione le entità analizzate, i metodi e i mezzi d’indagine, il fine della riflessione: in poche parole, tutte quelle caratteristiche che certificano la scientificità di una disciplina. Definito l’«approccio etico di prospettiva», il libro passa in rassegna le «culture e complesse strutture dentro le organizzazioni» per affrontare rischi e opportunità nel breve, medio e lungo periodo. Da qui inizia una valutazione sulle conseguenze per la giustizia sociale e il progresso umano (transumanesimo) che va a terminare interrogando la teologia: l’umanità perfetta e trasformata è garantita dalla tecnologia oppure dall’opera di Dio?

Manzone affronta le tematiche più scottanti e dibattute: dalla privacy (i dati digitali che lasciamo sono la persona, ci identificano?) alla medicina (medicina curativa, preventiva e ora evolutiva che promette di superare i nostri limiti), dalla robotica fino al transumanesimo (realizzazione delle aspirazioni umane o annullamento dell’umano?). Ciascun argomento è analizzato definendone i contorni, le opinioni correnti, il dibattito in corso e, infine, possibili sintesi e tracce di sviluppo. La presenza maggioritaria di titoli stranieri in bibliografia testimonia sia il già evidenziato e colpevole disinteresse dei nostri studiosi, sia la bontà di questo lavoro che colma una lacuna e che introduce, in un campo di studio che necessita di fornirsi di strumenti di indagine nuovi o più aggiornati, l’abbandono di giudizi e concetti consolidati e la disponibilità a lasciarsi stupire. Insomma, l’epoca digitale richiede la creatività dell’esploratore e del ricercatore.

La riflessione pone al suo centro la persona e lo sviluppo e l’uso della (nano)tecnologia in relazione al bene umano. Una delle maggiori preoccupazioni è la possibilità di rendere i progressi tecnologici universalmente disponibili, senza vincoli od oneri d’accesso. Viene invocata una giustizia distributiva unitamente alla costituzione di un corpus giuridico capace di garantire la libertà di scelta, di salute e di sicurezza. Non cedere, cioè, a qualche miraggio di benessere o longevità e giustificare qualsivoglia attività o sperimentazione. Per questo motivo, sottolinea Manzone, il ruolo della “teologia della tecnologia” è diverso ma contiguo a quello della “scienza della tecnologia”. Mentre questa è interessata alla ricerca di nuove scoperte e conoscenze, la teologia è interessata alla valutazione delle esigenze etiche che nascono dal progresso scientifico e tecnologico per indirizzarlo verso il bene comune e alla disponibilità di domande di senso trascendente.

La natura del testo prevede la possibilità del dubbio, se non il disaccordo, su alcune tesi, mentre altre affermazioni sono da ritenersi fondamentali e capisaldi per una comprensione ottimale del fenomeno digitale nel suo complesso. Mi riferisco, ad esempio, all’idea di una natura digitale (definizione mia) discussa al capitolo 2.6, dove Manzone si domanda in che modo la tecnologia possa sostenere e potenziare le nostre capacità di amare. «Al cuore dell’etica teologica sta la tensione al Bene trascendente, che si lascia intravvedere ed è mediato anche dalla natura». Per questo «le visioni che lasciano la sorgente dei beni fuori dal loro orizzonte svuotano l’attività tecnologica del suo senso originario, che dà direzione e speranza alla tensione verso il progresso». La tecnologia sembra costruire una natura digitale opaca che non lascia intravvedere la natura fisica oltre sé e ne rimanda una rappresentazione algoritmica spesso più rassicurante. Senza una etica digitale in grado di rappresentare le condizioni per l’agire tecnico «il mondo costruito dalla tecnologia è compreso attraverso modelli astratti, che sostituiscono l’esperienza, la quale non può più servire da supporto ai significati etici». È importante sottolineare che per etica si intende l’analisi delle «differenti possibili alternative per l’azione, in questo caso tecnologica, e differenti criteri etici e norme considerate necessarie per decisioni responsabili».

L’idea di una natura tecnologica (o digitale) è basata sul concetto di feed forward, cioè lo scarto micro temporale tra l’elaborazione digitale di un dato e la sua presentazione alla coscienza umana. Nel caso dell’ABS è la frazione di tempo tra la predizione del blocco della ruota (tecnologica) e la vibrazione del pedale del freno (umana) o, peggio, nel caso del salva-vita (interruttore differenziale) che impedisce all’uomo di sperimentare il dato di natura (nel nostro caso la scossa). Da qui traggono origine le domande sull’Intelligenza Artificiale.

Manzone affronta l’argomento denunciando la visione funzionale della mente, dove questa è il software mentre il corpo è l’hardware che lo ospita. Viene sottesa una comprensione duale della persona, come se nel corpo fosse possibile inserire un plugin oppure aggiornare software e hardware a piacimento considerandoli slegati da qualsiasi relazione. C’è la necessità, ricorda Manzone, di riconquistare l’unità costitutiva della persona rigettando qualsiasi idea che equipari l’uomo a un “oggetto che funziona”. La nozione di “agente artificiale morale” è introdotta per comprendere il problema etico dell’IA. Più precisamente, «quando l’operare di apparati costruiti e programmati in modo da poter interagire con l’ambiente e con l’agire altrui, diventa capace, attraverso tale interazione, di mettere in opera una sorta di “apprendimento”, modificando le sue prestazioni e il suo “comportamento”, il suo stesso agire necessita di venire regolato da criteri e da principî che possono anch’essi essere chiamati “etici”. In base a questi principi gli agenti artificiali compiono le loro azioni e “scelgono”, in determinate circostanze, un’alternativa». L’agire diventa riflesso quando l’IA, in condizioni non previste o preventivabili, effettua scelte e le registra come nuova casistica. È l’agire relazionale, cioè tenere conto del bene dell’ambiente e delle persone con cui è in relazione. Si chiede in conclusione l’autore: chi è responsabile delle azioni dell’IA? La risposta si limita a invitare il legislatore ad affrontare la domanda.

Personalmente, avverto la necessità di sciogliere i dubbi sull’agire riflesso. Se una IA è in grado di acquisire un dato di natura attraverso i sensori e di coordinare una reazione adeguata, può essere equiparato al fare esperienza? Un robot guidato dall’IA può apprendere la pericolosità del fuoco e tenersene a distanza oppure diffidare di un’apertura sul vuoto esattamente come un animale. Questo permette di assegnare all’IA la responsabilità morale delle sue azioni? Al contempo, riconosce all’IA il godimento di diritti come “persona elettronica” (nel 2016 la Commissione affari giuridici del Parlamento Europeo ha invitato a concepire in futuro i robot come “persone elettriche” a cui spetta uno status giuridico speciale)?

L’ultima nota riguarda il transumanesimo. Ancora una volta si ripropone il problema della mediazione tecnologica come generatrice in una natura artificiale, digitale: «La distanza tra ciò che conosciamo della natura attraverso la nostra esperienza e ciò che ne sappiamo attraverso la mediazione delle nanoscienze, diventa incolmabile». L’esperienza ci mostra limitati mentre la tecnologia ci propone spazi infiniti di progresso con la costruzione di una natura digitale a nostra immagine e dove la morte è una malattia curabile ed evitabile con il potenziamento cibernetico. Già oggi possiamo “sostituire” ginocchia, spalle, anche con protesi, trapiantare organi… quante sostituzioni sono possibili prima di smettere di riconoscerci nel nostro corpo? Quale tipo di relazione possiamo intrattenere con le persone più organiche di noi? Il desiderio di vivere e migliorarci è buono, ma la longevità non è l’eternità cui aspiriamo e la nostra identità passa attraverso il corpo con cui nasciamo e ci sviluppiamo.

Conclude Manzone affermando che «la teologia offre una visione olistica dello sviluppo umano, che pone il progresso tecnologico in un più largo contesto, che dà significato a tutta l’attività umana. E trasforma la cultura tecnologica aiutando a comprendere il contesto totale delle nostre azioni e delle relazioni delle parti».

Alla conclusione del libro, la cui lettura non è sempre agevole o scorrevole, si avverte il bisogno di decantare tutte le informazioni ricevute e le tesi proposte. Un tempo che è indice della capacità dell’autore di far ragionare il lettore su argomenti complessi, resi meno complicati ma mai diluiti nella banalità. Un contributo importante alla comprensione di una realtà emergente trattata troppo spesso con superficialità.

Edoardo Mattei