Yoshua Bengio sul progresso dell’intelligenza artificiale

Stiamo assistendo a un progresso costante dell’intelligenza artificiale (IA). Ciò da una parte comporta la nascita di tecnologie che rendono la vita più facile e comoda. Dall’altra, ad alcune persone procura una serie di preoccupazioni che possono essere riassunte in quella che ormai è diventata una domanda di rito. E se le macchine un giorno, raggiunta la piena autonomia, decideranno di eliminarci? Questa volta ho deciso di riportare l’intervista fatta dal MIT Technology Review a Yoshua Bengio, un esperto che si occupa di deep learning.

Yoshua Bengio sostiene che gran parte dei timori sono eccessivi. Vediamo perché.

Dovremmo preoccuparci di come l’intelligenza artificiale stia rapidamente progredendo?

Ci sono persone che stanno esageratamente sopravvalutando i progressi che sono stati fatti. Ci sono molti, molti anni di poco progresso dietro tante cose, incluse le cose banali come più dati e più potenza di calcolo. La gonfiatura non è sul fatto che le cose che stiamo facendo siano utili o meno. Lo sono. Ma le persone sottovalutano quanta scienza deve essere ancora fatta. Ed è difficile separare la gonfiatura dalla realtà perché stiamo vedendo queste grandi cose e, ad occhio nudo, appaiono magiche.

Esiste il rischio che i ricercatori di IA possano accidentalmente “liberare il demone”, come sostiene Musk?

Non è che improvvisamente qualcuno ha trovato la ricetta magica. Le cose sono molto più complicate rispetto alla semplice storia che alcune persone vorrebbero raccontare. A volte ai giornalisti piacerebbe raccontare la storia in cui qualcuno nel suo garage avrà quest’idea formidabile. Poi avremo una svolta e avremo l’IA. Allo stesso modo, le aziende vogliono raccontare una breve piacevole storia del tipo ‘Oh, abbiamo questa tecnologia rivoluzionaria che cambierà il mondo – l’IA è quasi giunta, e noi siamo l’azienda che la consegnerà.’ Non funziona affatto così.

Cosa ne dici dell’idea, centrale per queste preoccupazioni, che l’IA potrebbe in qualche modo iniziare a migliorare se stessa e diventare poi difficile da controllare?

Non è come l’IA è costruita in questi giorni. Apprendimento automatico significa che hai un minuzioso, lento processo di acquisizione di informazioni attraverso milioni di esempi. Una macchina migliora se stessa, sì, ma molto, molto lentamente, e in modi molto specializzati. E il tipo di algoritmi con cui armeggiamo non sono affatto come piccoli virus auto-programmabili. Non è ciò che stiamo facendo.

Quali sono alcuni dei problemi irrisolti dell’IA?

L’apprendimento non supervisionato è davvero, davvero importante. In questo momento, il modo in cui stiamo insegnando alle macchine ad essere intelligenti è che dobbiamo dire al computer che cos’è un’immagine, anche a livello di pixel. Per la guida autonoma, gli umani etichettano enormi quantità di immagini di auto per mostrare quali parti sono pedoni o strade. Non è affatto come imparano gli umani, e non è come imparano gli animali. Ci manca qualcosa di grande. Questa è una delle cose principali che stiamo facendo nel mio laboratorio, ma non ci sono applicazioni a breve termine. Probabilmente non sarà utile costruire un prodotto domani.

Un’altra grande sfida è la comprensione del linguaggio naturale. Abbiamo fatto progressi abbastanza veloci negli ultimi anni, quindi è molto incoraggiante. Ma non è ancora al livello dove diremmo che la macchina comprende. Sarà così quando potremmo leggere un paragrafo e poi chiedere qualsiasi domanda a riguardo, e la macchina in pratica risponderebbe in un modo ragionevole, come farebbe un umano. Siamo ancora lontani da ciò.

Quali approcci saranno necessari oltre l’apprendimento approfondito [deep learning] per creare una vera macchina intelligente?

I tentativi tradizionali, inclusi il ragionamento e la logica. Abbiamo bisogno di accoppiare queste cose con l’apprendimento approfondito per muoverci verso l’IA. Sono una delle poche persone che pensa che le persone dell’apprendimento automatico, e specialmente le persone dell’apprendimento approfondito, dovrebbero fare più attenzione alla neuroscienza. Il cervello funziona, e non sappiamo ancora perché in molti modi. Migliorare quella comprensione ha un grande potenziale per aiutare la ricerca sull’IA.

E penso che le persone della neuroscienza guadagnerebbero molto nel tenere traccia di ciò che facciamo e cercando di adattare ciò che osservano nel cervello con i tipi di concetti che stiamo sviluppando nell’apprendimento automatico.

Hai mai pensato che dovresti spiegare alle persone che l’IA non conquisterà il mondo? Ciò deve essere strano.

È certamente una nuova preoccupazione. Per così tanti anni, l’IA è stata una delusione. Come ricercatori, lottiamo per rendere le macchine un po’ più intelligenti, ma sono ancora così stupide. Sono abituato a pensare che non dovremmo chiamare il settore intelligenza artificiale, ma stupidità artificiale. Davvero, le nostre macchine sono stupide, e stiamo solo provando a renderle meno stupide.

Ora, a causa di questi progressi che le persone possono vedere con le demo, possiamo dire ‘Oh, accidenti, può davvero dire cose in inglese, può capire i contenuti di un’immagine’. Bene, ora connettiamo queste cose con tutta la fantascienza che abbiamo visto ed è ‘Oh, ho paura!’.

Ok, ma sicuramente è ancora importante pensare ora alle eventuali conseguenze dell’IA.

Assolutamente. Dobbiamo parlare di queste cose. La cosa di cui sono più preoccupato, in un futuro prevedibile, non riguarda i computer che conquisteranno il mondo. Sono più preoccupato per l’abuso di IA. Cose come cattivi usi militari, manipolare le persone attraverso pubblicità molto intelligente. Inoltre, l’impatto sociale, come il fatto che molte persone perderanno il lavoro. La società ha bisogno di unirsi e di trovare una risposta collettiva, e non di lasciarla alla legge della giungla per sistemare le cose.

Probabilmente Yoshua Bengio avrebbe firmato sia la prima sia la seconda lettera aperta sui rischi dell’intelligenza artificiale, anche se respinge qualsiasi tono allarmistico. Almeno per ora, perché lo sviluppo dell’intelligenza artificiale prosegue. Ma non tanto grandiosamente quanto raccontano molti addetti ai lavori e giornalisti.

In parte sono d’accordo con lui. L’IA è lontana dall’essere quella descritta dai film e dai libri di fantascienza. Però è anche vero che i suoi sono degli occhi esperti. Quindi per uno scienziato molte cose dell’IA possono sembrare meno spettacolari rispetto a quanto le percepiscono le persone che ne sanno di meno.

Per coloro che non vivono pienamente le notizie sul progresso tecnologico e scientifico può sembrare tutto più meraviglioso e allo stesso tempo inquietante. Attenzione però. Yoshua Bengio non sminuisce il lavoro svolto finora dagli scienziati, ma sostiene che spesso si costruiscono reazioni esagerate. Tutto sommato, dovremmo essere soddisfatti dei progressi dell’IA avuti negli ultimi tempi, anche se minimi. Credo sia interessante che un’intelligenza artificiale possa rilevare le cellule tumorali, che il computer Watson stia imparando a chattare con le persone e che in futuro potremo avere dei robot radiologi per la diagnosi delle malattie.

L’IA è utile e potrà esserlo ancora di più. Il problema è che ci piacciono le narrazioni, e in questi casi, le narrazioni non possono che assumere un tono fantascientifico. Solo che a volte si enfatizzano aspetti tecnici e scientifici che invece sono lontani dalla realtà. L’importante è saper distinguere l’attuale scienza dalla fantascienza. Bisogna servirsi della fantascienza per costruire delle tecnologie produttive, comode e benefiche. L’immaginario ha i suoi vantaggi: sta a noi sfruttarli per scopi socialmente utili.

Fonte immagine: Flickr