Assange sui rischi dei social media controllati dall’IA

Anche il cofondatore di WikiLeaks, Julian Assange, si è espresso sulle eventuali future minacce legate all’intelligenza artificiale (IA).

Assange prevede un mondo distopico dove la percezione umana verrà alterata dalla propaganda controllata dall’IA. Ne ha parlato attraverso un collegamento video con la rapper e attivista M.I.A. durante il Meltdown Festival di Londra. A partecipare alla discussione c’era anche il filosofo sloveno Slavoj Žižek.

 

Un’IA che controllerà i social media?

Secondo Assange, ci sarà un momento in cui l’IA verrà usata per modificare la nostra percezione della realtà.

Immaginate un Daily Mail gestito essenzialmente da un’intelligenza artificiale: come sarà quando ci sarà solo il Daily Mail in tutto il mondo?“, ha chiesto Assange. Il suo era un riferimento al ruolo che hanno svolto Facebook e Google per la vittoria di Emmanuel Macron nelle ultime presidenziali francesi.

Quando M.I.A. gli ha chiesto se l’IA e la realtà virtuale renderanno la società più vulnerabile, ha risposto: “Sì, naturalmente possiamo essere influenzati, ma non lo vedo come il problema principale. Gli esseri umani sono sempre stati influenzati da sofisticati sistemi di produzione, informazione ed esperienza, come la BBC per esempio.”

Le tecnologie “amplificano la potenza della capacità di proiettare nella mente“, ha poi aggiunto.

Il problema principale, per Assange, è il modo in cui l’IA potrebbe essere usata per fare propaganda.

Lo sviluppo più importante per quanto riguarda il destino degli esseri umani è che ci stiamo avvicinando alla soglia dove la funzione della propaganda tradizionale impiegata dalla BBC, il Daily Mail e anche dalle culture può essere incapsulata dai processi dell’IA.

Quando hai programmi di IA che raccolgono tutte le query di ricerca dei video di YouTube che qualcuno carica, si iniziano a definire campagne di influenza percettiva, 20-30 mosse in anticipo. Ciò comincia ad essere completamente al di sotto del livello della percezione umana.

In sostanza, non ci accorgeremo nemmeno che qualcosa starà cambiando a livello di gestione, condivisione e comunicazione delle informazioni. In parte succede già oggi: molte persone non conoscono bene i meccanismi che si celano dietro gli algoritmi di Google e Facebook. In pochi si chiedono perché sulla bacheca di Facebook, ad esempio, compaiono determinati contenuti piuttosto che altri. E in futuro, secondo Assange, ciò potrebbe avvenire in modo ancor meno trasparente.

Tuttavia, Julian Assange ha ammesso che la sua visione è distopica e che potrebbe anche sbagliarsi.

Forse ci sarà una nuovo gruppo di esseri umani tecnologicamente potenziati che potranno vedere questo destino doloroso arrivare verso di noi, che sarà in grado di estrarre valore o di diminuirlo entrando direttamente in contatto con esso. Anche questo è possibile.

Il cofondatore di WikiLeaks ha poi affermato che gli sviluppatori di IA spesso non conoscono bene ciò su cui stanno lavorando.

Tramite le nostre fonti dal profondo delle istituzioni della Silicon Valley, so che credono veramente che creeranno un’IA così potente, relativamente presto, che le persone avranno il loro cervello digitalizzato, caricato in queste IA e che vivranno per sempre nella simulazione.

Assange si riferiva alla tecnica del minduploading, ovvero caricare la mente su computer. Diversi scienziati ci stanno lavorando. Ne hanno parlato anche Randal Koene, Martine Rothblatt e Steven Kotler.

Assange ha poi concluso affermando che la normale percezione che le persone hanno del proprio lavoro è stata soppiantata da questo “ridicolo modello quasi-religioso che porterà al nirvana“.

 

L’IA indomabile?

Anche Julian Assange, dunque, si schiera con coloro che sono preoccupati sul futuro sviluppo dell’IA. Ma la sua posizione non poteva che essere questa. Stiamo parlando di colui che ha cofondato WikiLeaks, organizzazione internazionale che riceve e pubblica documenti segreti che ci mostrano un’altra faccia della realtà. Un’organizzazione che ci ha permesso di conoscere la verità su diverse faccende.

E l’ipotesi di un’IA che controlla l’informazione di certo non gli va a genio. Come non dovrebbe andare a genio a noi. Facciamo già fatica oggi a riconoscere un briciolo di verità tra fake news, informazioni manipolate, notizie condivise senza essere approfondite. Sui social media, e soprattutto sui social network, già succede tutto questo.

Succede anche per la nostra mancanza di consapevolezza e responsabilità. Spesso siamo proprio noi che alimentiamo questi meccanismi. Ai colossi come Google e Facebook non solo forniamo i nostri dati personali, ma anche tracce delle nostre abitudini e del nostro modo di pensare.

Credo turbi chiunque l’idea di un’IA che abbia il pieno controllo di queste dinamiche. Se attualmente c’è poca trasparenza, in un futuro distopico come quello descritto da Assange questa non esisterà più.

Ma svilupperemo davvero un’intelligenza artificiale di livello umano? Davvero sarà così difficile controllarla?

Neil Jacobstein, professore di IA e robotica presso la Singularity University, e Grady Booch, filosofo e scienziato presso IBM, ritengono che difficilmente sarà così. O che al massimo succederà tra un centinaio di anni.

Ma nessuno può avere risposte certe.

Per seguire l’evoluzione digitale, iscriviti alla newsletter. Riceverai le ultime novità dal blog e altri contenuti interessanti sul mondo delle tecnologie digitali dirompenti.

Controcorrente Newsletter

Fonte: RT
Immagine: Deviant Art


Lascia un commento

Questo sito usa Akismet per ridurre lo spam. Scopri come i tuoi dati vengono elaborati.