By Il post su Singularity Weblog intitolato “Top 10 Reasons We Should Fear Singularity (i 10 principali motivi per cui dovremmo temere la singolarità) propone una panoramica su quelle che potrebbero essere le conseguenze negative quando l’intelligenza delle macchine supererà quella umana.
Ho pensato fosse utile condividere questa visione non perché sono convinto che la singolarità ci porterà solo ed esclusivamente problemi, ma proprio per riflettere insieme a te sugli aspetti di questi possibili scenari.
Su Singularity Weblog è stata messa a disposizione anche un’infografica che contiene i 10 motivi per cui dovremmo temere la singolarità. Adesso, però, vediamo questi motivi uno per uno.
1. Estinzione
Super-intelligenza artificiale, robot che vogliono liberarsi da uno stato di dipendenza, la nanotecnologia senza più limiti, armi di distruzione di massa fatte in casa, mutazioni genetiche, esperimenti scientifici andati male: questi sono alcuni elementi che potrebbero contribuire all’estinzione del genere umano.
È il tipico scenario apocalittico prospettato soprattutto dai più pessimisti e da coloro che non hanno molta fiducia nella tecnologia, nonostante questa abbia dimostrato tantissime volte di essere uno strumento essenziale per l’uomo. In questo caso, però, l’estinzione non potrà essere causata dalla sola singolarità tecnologica. Una conseguenza di questo tipo dovrà essere provocata anche da altri fattori che vanno dalla dimensione etica e morale delle società, fino a quella legislativa e politica.
A volte quando si teme e si prospetta il peggio allo stesso tempo ci si dimentica delle proprie responsabilità. Ecco perché penso che la lettera aperta sui rischi dell’intelligenza artificiale sia un evento importante. Insomma, secondo me, la singolarità non può essere descritta come unica causa di un’eventuale estinzione del genere umano.
2. Schiavitù
Le macchine super-intelligenti ci renderanno schiavi. Ma perché mai una super-intelligenza artificiale dovrebbe aver bisogno di rendere schiavi gli umani, esseri deboli e inferiori? Se saranno davvero super-intelligenti, le macchine faranno tutto da sole, perché lo faranno sempre meglio di noi.
Ok. Allora se per loro saremo inutili, ci elimineranno. Anche in questo caso chiedo: perché mai dovrebbero? Qui inizierebbe un discorso sulla coscienza e l’empatia delle macchine. La super-intelligenza permetterebbe loro di comprendere e “provare” emozioni, un fenomeno che agli occhi di molte persone non si verificherà mai e poi mai. Ma mettiamo il caso che saranno in grado di percepire e provare sensazioni proprio come noi: credi che la malvagità sia l’unica possibilità? No dai, facciamo 50 e 50.
Non avranno bisogno delle nostre inferiori capacità. E molto probabilmente sul nostro pianeta, a quel punto, non troveranno nulla di interessante da fare. Andranno via, su qualche altro pianeta, oppure vagheranno come nomadi nello spazio alla ricerca di risposte che nemmeno loro fino a quel momento avevano trovato. Sarà una sorta di fuga di cervelli 7.0, altro che schiavitù!
3. Terza Guerra Mondiale
Questo motivo è legato a quello precedente, la schiavitù. Gli esseri umani non potranno rimanere con le mani in mano se le macchine decideranno di prendere il controllo del pianeta. Potrà quindi iniziare una guerra, la Terza Guerra Mondiale, dove da una parte ci sarà il genere umano non più diviso da barriere socio-politiche e dall’altra le macchine super-intelligenti. Pronostici su chi potrà vincere?
4. Collasso economico
Questa paura è sentita anche oggi. Stiamo parlando della robotizzazione della società e quindi la conseguente perdita di lavoro da parte di milioni di persone in tutto il mondo. La disoccupazione, insieme alla crescita della popolazione mondiale, provocherà un grande collasso economico globale. Andranno avanti solo chi potrà permettersi costose macchine, mentre il resto dovrà tirare a campare in altri modi, anche illegali.
Questo motivo è forse tra i più interessanti. I pareri sono discordi: c’è chi sostiene che la robotizzazione porterà alla creazione di nuove figure professionali e chi invece è convinto che il ruolo dell’uomo sarà sempre più secondario, a meno che non siamo grandi imprenditori o proprietari di aziende specializzate.
Proprio perché è un tema attuale, bisognerebbe approfondirlo e discuterne di più. Ho già accennato a questo argomento spiegando perché la tecnologia non ci distruggerà. In sintesi, credo che per comprendere meglio questa situazione dovremmo iniziare a puntare sull’istruzione e sulla comprensione del modello socio-economico della nostra società. Gli studi di futurologia potranno essere altrettanto utili per capire dove andremo a finire continuando di questo passo e cosa possiamo fare ora per cambiare le tendenze negative.
5. Intelligenza artificiale come Grande Fratello
L’intelligenza artificiale che tutto vede e tutto sa. Un livello di sorveglianza di massa difficilmente immaginabile e che va molti al di là della società distopica immaginata da Orwell in 1984. Un monarca onnipresente, l’intelligenza artificiale, ci terrà sotto controllo per proteggerci dai nemici.
Per rendere meglio l’idea: Datagate non sarà nulla in confronto. Un po’ di lavaggio del cervello per trasmettere determinate ideologie politiche e religiose (se si potrà ancora parlare di religioni vere e proprie) e il monarca verrà accettato da gran parte delle persone. Ogni resistenza verrà punita, perché a quel punto così vorrà il popolo e perché così sarà “più sicuro per tutti”.
Consideriamo le ultime vicende dell’NSA (National Security Agency), anche questo scenario non va sottovalutato . L’agenzia americana ha effettuato operazioni di sorveglianza di massa per “proteggere la nazione dal terrorismo”. E pare che voglia proseguire verso il potenziamento delle armi informatiche. E con la scusa del terrorismo la privacy dei cittadini americani (e non solo) è andata a farsi benedire. Immagina con lo sviluppo delle tecnologie digitali cosa potrà accadere in futuro se non si prenderanno seri provvedimenti per limitare simili operazioni.
6. Alienazione e perdita dell’umanità
Se non puoi combattere il nemico, allora proponi un’alleanza. È questo il succo del sesto motivo per cui bisogna temere la singolarità. Ma bisogna fare qualche precisazione. Innanzitutto, anche questo punto si basa sul fatto di considerare le macchine come nemiche. Se non potremo combatterle, allora aumenteremo le nostre capacità fisiche e cognitive attraverso la tecnologia.
Si tratta di uno dei concetti base del transumanesimo, anche se il discorso sarebbe molto più articolato. Comunque, secondo l’autore di Singularity Weblog, la fusione con queste tecnologie di potenziamento ci porterà a perdere l’identità e il senso di comunità, e quindi ad alienarci.
Potremo a quel punto considerarci ancora esseri umani? La fine del genere umano, quindi, può essere vista anche da un altro punto di vista. Non riguarderebbe quindi solo una fine fisica, ma anche una fine concettuale, se così si può dire. Non sapendo più riconoscere la nostra identità, la nostra individualità, e non potendo più rapportarci gli uni con gli altri, perderemmo la nostra umanità. È un pensiero più profondo rispetto agli altri, forse anche meno calcolabile, ma che comunque merita attenzione.
7. Catastrofe ambientale
Questo motivo è uno di quelli che regge meno, almeno secondo il mio parere. Il succo è questo: se l’essere umano si potenzierà sia a livello fisico sia a livello mentale, allora per lui sarà inutile tutelare l’ambiente. Alla base ci sarebbe quest’asserzione: più tecnologia equivale a più inquinamento.
Ribadisco ancora una volta la mia posizione su quest’ultimo punto: la tecnologia non è sinonimo di inquinamento. I problemi principali riguardano la sovrapproduzione e la cattiva gestione dello smaltimento dei rifiuti. E le tecnologie ecosostenibili e di quelle che sfruttano fonti di energia rinnovabile ce le siamo dimenticate?
Il problema ambientale esiste da tempo e con la singolarità tecnologica non vedo perché ci debba essere questa strafottenza del genere umano. Il menefreghismo e il sentirsi delle divinità in terra non mi sembrano delle cause che possano provocare delle conseguenze di questo genere.
8. Perdita di storia e conoscenza
Tutta colpa della digitalizzazione. Con questo processo viene creata un’enorme mole di dati, ma allo stesso tempo molti di questi vengono persi o distrutti. E così perderemo le tradizioni, perderemo la cognizione del tempo e dello spazio e soprattutto perderemo il nostro linguaggio.
Questo punto lo vedo connesso con quello dell’alienazione e la perdita di umanità. Tuttavia, non riesco a pensare alla digitalizzazione come un fattore meramente negativo. I dati digitali possono perdersi o distruggersi, è vero. Ma riescono a memorizzare anche molte più informazioni di quanto possiamo fare affidandoci solo al nostro cervello.
Se si vuole adottare solamente la chiave di lettura pessimistica, allora potrei condividere questo punto. Ma in generale nell’ambito delle tecnologie digitali non riesco a esprimere un giudizio a senso unico, quindi dico che non posso essere completamento d’accordo su questo motivo.
9. Computronium e cervelli matrioshka
Riporto la definizione di Wikipedia dei cervelli matrioska: “è una ipotetica megastruttura proposta da Robert Bradbury, basata sul concetto di sfera di Dyson, di immensa capacità computazionale. L’oggetto artificiale, di dimensioni enormi, utilizzerebbe una stella come sorgente di energia e tutto il materiale disponibile come sorgente di computronium. Il concetto deriva il proprio nome dalle bambole russe matrioska.“.
Un sistema dalla potenza di calcolo inimmaginabile, che si baserà sull’energia fornita da pianeti e stelle sparse nell’universo. Tutte le risorse esistenti saranno assimilate da questi cervelli matrioshka e per noi non rimarrà più nulla.
Sinceramente, questa volta credo di non aver afferrato bene il punto. Se un giorno la creeremo oppure no, non conta. Conta capire perché un sistema del genere dovrebbe spaventarci. Forse perché sarà così intelligente da prendere il controllo e quindi auto-alimentarsi per sempre, lasciandoci a mani vuote? In tal caso la mia risposta è la stessa del punto n° 2.
10. Paura del cambiamento
Paura di cambiare, paura di ciò che non si conosce. La singolarità tecnologica è un cambiamento radicale, questo è poco ma sicuro. Ma è anche vero che ognuno ha le sue paure e ognuno reagisce in un certo modo al cambiamento. È una questione soggettiva e, se vogliamo, anche di atteggiamento nei confronti della vita. E la vita è trasformazione, cambiamento. Dunque, anche qui nulla di particolarmente rilevante.
Ma la paura è indispensabile per la sopravvivenza: è un campanello di allarme che suona quando avvertiamo o siamo di fronte a un pericolo. Prima che leggessi questo post potevi non aver percepito il pericolo delle conseguenze della singolarità tecnologica. Oppure lo percepivi già prima, solo che adesso hai bisogno di rifletterci meglio sopra.
In ogni caso, queste tematiche sono interessanti perché ci aiutano a capire meglio il presente, a individuare quale strada stiamo percorrendo e a valutare i possibili scenari del futuro. Ora però vorrei sapere la tua: hai trovato qualche motivo tra questi per temere la singolarità tecnologica oppure no?
Fonte immagine: Flickr
By 
