By L’evoluzione digitale prosegue in modo costante. Facciamo progressi nell’informatica, nella robotica, nell’intelligenza artificiale (IA), nella biologia e nella genetica. Siamo sempre più dentro la cosiddetta Quarta Rivoluzione Industriale. Le innovazioni in questi settori fanno sperare nella cura di malattie e nel miglioramento della qualità della vita.
Tuttavia, nessuna tecnologia è neutrale. Siccome è in ballo il nostro futuro, conviene fare le mosse giuste.
In che modo?
Abbiamo bisogno di una governance, una gestione, che prenda in considerazione tutti i problemi derivanti dallo sviluppo e l’uso di tecnologie avanzate. Questa governance potrebbe essere creata attraverso la collaborazione tra soggetti pubblici e privati. Oppure attraverso la collaborazione di comitati specifici per ogni settore.
E abbiamo bisogno del discorso pubblico. Il World Economic Forum (WEF) suggerisce di incentrare la discussione su 4 domande etiche.
1. È una tecnologia che bisogna sviluppare?
Questa prima domanda, in apparenza, è la più banale. Ma è anche quella a cui è più difficile dare una risposta certa. Il World Economic Forum ci fornisce un chiaro esempio: le armi autonome letali. Ad oggi non esistono armi del genere. Cioè armi che sono autonome in tutto e per tutto: dalla decisione da prendere all’esecuzione. Gli esperti, però, credono che prima o poi queste armi verranno costruite.
Sono tecnologie che avremo davvero bisogno di costruire? Se sì, quanto possono essere valide le motivazioni della sicurezza nazionale e del terrorismo?
L’etica dell’intelligenza artificiale in guerra è un argomento complesso. Non è un caso se negli ultimi tempi avvengono incontri tra esperti per discutere di droni e supersoldati per il futuro della guerra. Ci stiamo dirigendo davvero verso l’automatizzazione delle armi.
Un altro esempio fornito dal WEF è la geoingegneria. Le tecnologie per alterare le condizioni climatiche del pianeta è un tema globale. Ma non ne sentiamo parlare spesso. Il rischio è che l’intervento di uno stato possa non essere benefico per un altro.
La scienza, in questo caso particolare, non può ancora darci risposte precise. Ma può aiutarci a calcolare il rischio. Quindi la questione della geoingegneria dovrà essere una questione collettiva. Gli stati dovrebbero decidere insieme quali e quanti rischi sono disposti a correre. Sarà importante fare una valutazione morale.
2. Se una tecnologia avanza, per quali scopi dovrebbe essere impiegata?
La Quarta Rivoluzione Industriale ci metterà di fronte a tecnologie che ci aiuteranno a vivere meglio. Alcune di queste avranno a che fare con il potenziamento umano. Avremo cioè la possibilità di migliorare le capacità fisiche e mentali attraverso le tecnologie.
Ma il potenziamento dovrà avvenire solo a scopo terapeutico? Oppure saremo liberi di scegliere di potenziare il nostro corpo come e quanto desideriamo?
Qui, forse, classificare le tecnologie in base al tipo di potenziamento non ci sarà utile. L’analisi dei casi specifici sarà più appropriata. Dovremo chiederci se una determinata tecnologia potrà aumentare la prosperità umana. Una tecnologia che fa bene a un individuo ma che ne danneggia un altro non possiamo considerarla utile. E non si tratta solo di danni fisici, ma anche di danni morali e situazioni di disparità sociale.
3. Come dovrebbe proseguire lo sviluppo della tecnologia?
Anche il modo in cui si fa ricerca sulle tecnologie è importante. Senza un’adeguata ricerca possiamo scordarci tecnologie migliori. E soprattutto, possiamo scordarci di tecnologie sicure.
Il WEF fa un altro esempio. L’americana National Academy of Sciences, Engineering and Medicine ha pubblicato un report dove descrive un approccio precauzionale sull’uso dei gene drives. I gene drives, con la tecnica di editing genetico CRISPR Cas9, possono aumentare il numero di specifici elementi genetici in un’intera popolazione di piante o animali.
Questa tecnologia viene sempre più presa in considerazione per il controllo o l’eliminazione di zanzare portatrici di malattie come malaria e Zika. La National Academy sostiene questa tecnica, ma al contempo richiama l’attenzione sulla sua ricerca. Bisogna sperimentare nei laboratori e con piccoli studi sul campo prima di rilasciare organismi progettati ad hoc.
4. Una volta stabilite le norme, come verranno fatti i controlli?
Esistono già linee guida sulla ricerca e sulla diffusione della tecnologia. Ma ci sono delle lacune per quanto riguarda alcuni aspetti del controllo e della responsabilità.
Il WEF sostiene, ad esempio, che ci sono buone regole per la gestione di sostanze chimiche tossiche. Ma ci sono fondi inadeguati per monitorare e ispezionare gli impianti chimici.
Per questo è importante avere una governance. Questi settori necessitano di una regolamentazione per evitare gravi conseguenze. Vale la pena ripetere il concetto: la tecnologia, da sola, è neutrale. Il modo in cui l’adottiamo fa la differenza, nel bene e nel male.
Più attenzione all’aspetto etico delle tecnologie
Non so se l’hai notato, ma prima di rispondere a queste domande bisogna affrontarne tante altre. Riguardano le tecnologie di ogni settore, non solo quello digitale. Tutte richiedono attenzione e disponibilità nel discutere i valori a cui teniamo di più. Ed è inevitabile che nascano conflitti e opposizioni.
Ma c’è un tema che potrebbe mettere tutti d’accordo: la sicurezza. Non credo ci siano persone così sadiche da voler farsi del male dal sole. Quindi, la parola d’ordine su cui bisognerà costruire il futuro delle tecnologie è “sicurezza”.
Ciò non significa dover tralasciare tutti gli altri valori umani. Ce ne sono altri importanti, come l’equità. Dovremo fare il possibile affinché tutte le persone possano, indipendentemente dalle disponibilità economiche, beneficiare delle tecnologie.
Altri valori importanti hanno a che fare con il modo in cui ci relazioniamo. Le preoccupazioni sull’editing genetico umano sono evidenti. Se ciò sarà possibile, come verranno trasformati i legami genitoriali? Potremo evitare davvero nascite di mabini senza malattie? Ci saranno dei limiti sulla scelta delle loro caratteristiche fisiche?
Con la Quarta Rivoluzione Industriale avremo a disposizione strumenti dall’enorme impatto sociale e ambientale. Dobbiamo prestare maggiore attenzione sull’etica delle tecnologie per prendere decisioni sagge. Le discussioni su questi temi ci spingeranno a fare meglio per tutti. Come sostiene Kurzweil, la tecnologia ci renderà più umani. Ma solo se agiremo con consapevolezza e senso di responsabilità.
Così, man mano, questo mondo diventerà un posto migliore per tutti.
In caso contrario, dovremo sperare nella riuscita del piano di Elon Musk: andare su Marte e ricostruire le nostre esistenze.
