Tim O'Reilly

Tim O’Reilly e gli algoritmi fuori controllo

Il divulgatore del concetto di web 2.0, Tim O’Reilly, è stato intervistato da Steven Levy per Wired. Il tema: intelligenza artificiale (IA) e algoritmi fuori controllo.

Tim O’Reilly è stato tra i primi a percepire sia il valore sociale sia quello commerciale di Internet. È stato anche tra i primi a discutere di morale legata alla tecnologia digitale.

Nel suo ultimo libro, “WTF: What’s the Future and Why It’s Up to Us“, O’Reilly non nasconde il suo ottimismo. Celebra la capacità della tecnologia di creare magia, ma non trascura le conseguenze più pericolose.

Quest’intervista è un’occasione per capire meglio qual è il suo punto di vista sull’IA e sulle sue applicazioni. Di seguito trovi la trascrizione.

 

Tim O’Reilly sull’IA

Il tuo libro compare in un momento in cui molte persone che avevano una buona impressione della tecnologia ora ne stanno dubitando. Lo difenderesti?

Mi piace il titolo WTF perché può essere un’espressione di stupore e di gioia o di un’espressione di stupore e di sgomento. La tecnologia ci sta portando entrambe. Ha migliorato la produttività e ci ha reso tutti più ricchi. Non credo che mi piacerebbe mettere l’orologio indietro.

Non che portarlo indietro sia un’opzione.

No, ma per noi è importante capire che la tecnologia non riguarda solo l’efficienza. Riguarda prendere queste nuove capacità che abbiamo e fare di più con esse. Quando si fa ciò, si aumenta davvero l’occupazione.

Nonostante le persone abbandonassero la fattoria, non ci siamo ritrovati con una vasta classe agiata e con il 2% delle persone sfamava gli animali. Ci siamo ritrovati a creare nuovi tipi di impiego e abbiamo usato questa produttività per potenziare la qualità e la quantità del cibo. Perché dovrebbe essere diverso in quest’era di potenziamento cognitivo?

Uber e Lyft ci stanno dicendo che le cose che eravamo abituati a pensare come appartenenti al regno digitale, al regno dei media, stanno arrivando nel mondo reale. Quindi questo è il primo campanello d’allarme per la società.

In secondo luogo, stiamo vedendo un nuovo tipo di interazione tra le persone e i sistemi algoritmici.

In terzo luogo, essi rappresentano un nuovo tipo di marketplace basato su piattaforme (in questo caso esistono grazie alla piattaforma degli smartphone) e poi possono diventare piattaforme a loro volta, mentre nuovi servizi, come la consegna di prodotti alimentari, vengono aggiunti oltre il trasporto.

Questo marketplace funziona perché le persone vengono migliorate attraverso nuovi superpoteri cognitivi. Per esempio, grazie al GPS ed alle app di mappatura, gli autisti di Uber e Lyft non hanno bisogno di molta formazione.

D’accordo. Ma quando si alza il sipario vediamo che tali superpotenze hanno conseguenze: quegli algoritmi hanno dei pregiudizi incorporati.

Questo è assolutamente esatto. Ma io sono ottimista perché stiamo avendo una conversazione sugli algoritmi tendenziosi. Avevamo molti pregiudizi prima, ma non abbiamo potuto vederli. Non vediamo, ad esempio, che gli algoritmi che gestiscono i lavoratori di McDonald’s o The Gap sono ottimizzati per non dare alle persone lavoro a tempo pieno, in modo che non debbano pagare i sussidi.

Tutto ciò era invisibile. Non lo è stato finché abbiamo iniziato a vedere gli algoritmi infusi nella tecnologia verso i quali le persone hanno cominciato ad essere critiche.

In “WTF” parli di uno specifico algoritmo fuori controllo: l’impulso capitalistico per massimizzare i profitti indipendentemente dalle conseguenze sociali. Il modo in cui lo descrivi mi ricorda lo scenario di Nick Bostrom di una macchina di IA dedicata a fare delle graffette, perché questa è la sua unica missione, che finisce col mangiare tutti i materiali del mondo e persino uccidere coloro che la spegnerebbero. Le corporazioni, la cui sola giustificazione è il valore azionario, sembrano lavorare su un algoritmo distruttivo simile.

Sì, i mercati finanziari sono la prima IA fuori controllo.

Come si riduce questa particolare IA?

Cerco di mostrare [casi precedenti] di come gli umani hanno cercato di gestire i loro algoritmi parlando [di come Google abbia migliorato] la qualità della ricerca. Google aveva alcune patch piuttosto difettose dove gli spammer avevano dei vantaggi e lo hanno affrontato.

E questo può essere fatto per risolvere l’IA sleale del capitalismo?

Qualcuno ha introdotto l’idea che il valore azionario fosse il giusto algoritmo, la cosa giusta da ottimizzare. Ma questo non è il modo in cui prima le aziende agivano. Possiamo introdurre un’idea diversa. È questo il processo politico.

Parlando di politica, sembra che un altro algoritmo fuori controllo ci abbia portati a un governo controllato da persone che non rappresentano il punto di vista della maggioranza.

Lo vedo attraverso il lungo arco della storia. Guarda il lungo e lento declino dell’Impero Romano e trovi tante analogie: l’allontanamento dall’alfabetizzazione e dalla scienza, l’esternalizzazione delle funzioni fondamentali del governo ai mercenari.

Potremmo affrontare della vera merda prima di fare una svolta. Potremmo non fare alcuna svolta. Ma prendo speranza da qualcosa che Tim Urban in “Wait But Why” chiama “il colosso umano“. Lui fa questa descrizione favolosa di come Elon Musk muova questo colosso umano in una nuova direzione – per mostrare che è possibile andare nello spazio, per mostrare che è possibile costruire un’interfaccia cervello-computer – e poi tutti gli altri lo seguiranno.

Il colosso umano che mi conforta di più è il periodo seguente la Seconda guerra mondiale. Abbiamo imparato una lezione dalle incredibili convulsioni dopo la Prima guerra mondiale dove c’era vasto distacco, poiché punimmo i perdenti della guerra. Così dopo la Seconda guerra mondiale ricostruirono l’Europa e investirono nel ritorno dei veterani con il G.I. Bill.

Tuttavia, come impariamo dalla tecnologia, gli algoritmi necessitano di un miglioramento continuo. Non li metti in moto e li lasci per sempre.

Le strategie messe in atto dopo la Seconda guerra mondiale che hanno funzionato per questo periodo di 30 anni hanno smesso di funzionare bene, quindi abbiamo trovato qualcosa di diverso [che ha creato disuguaglianze nei redditi]. C’è una percezione che le cose che vanno male portano a nuove strategie. E ora che Trump ha rotto la finestra di Overton…

Cos’è?
È questa idea [così chiamata per il leader tra gli esperti Joseph Overton] secondo cui ci sia una serie di cose che sono considerate accettabili nel dibattito sulle politiche pubbliche e non puoi andare oltre quella finestra. E Trump ha già fatto tutto l’impensabile.

Poiché tutte le scommesse sono chiuse, non necessariamente torneremo indietro alle vecchie e trite soluzioni. Penso sia possibile svegliarsi da questa follia e tornare a dire che dobbiamo davvero investire nelle persone, dobbiamo veramente costruire un’economia migliore per tutti.

In Cina lo stanno già facendo. La Cina ha riconosciuto che la sua vasta popolazione è una potenziale polveriera e deve occuparsi della sua gente. Questo è qualcosa che non abbiamo fatto. Abbiamo solo fatto pressione sulla gente comune.

La Cina è anche più aggressiva di qualsiasi altro paese a farsi strada nella sfida del cambiamento climatico. Quindi ci sono due possibilità: ci sveglieremo e inizieremo ad agire allo stesso modo, oppure la Cina condurrà il mondo.

Leggendo il tuo libro credo di sapere chi vuoi per il nostro prossimo presidente: Jeff Bezos. Il libro è pieno di amore per Bezos.

Jeff ed Elon [Musk] sono probabilmente i due imprenditori che ammiro di più.

Puoi immaginare il libro come una scusa a Jeff. In qualità di editore, all’inizio mi sono bevuto la solita storia, che Amazon avrebbe preso la strada di Wal-Mart – più diventa dominante, tanto più estrae valore per sé, schiacciando i suoi fornitori. Jeff è un concorrente spietato, senza dubbio, ma nonostante Amazon abbia fatto una parte di ciò, ha speso tanto tempo cercando di fare di più. Non sono sicuro che Jeff sarebbe un grande presidente, ma potrebbe.

Voteresti per lui, vero?

Dipenderebbe da contro chi competerebbe ma, sì, probabilmente lo farei.

 

Il pericolo umano dietro l’IA

Anche Tim O’Reilly, dunque, ritiene che il problema dell’IA sono gli umani e i loro pregiudizi. Non esiste, o perlomeno non esiste ancora, un’IA in grado di operare autonomamente contro gli interessi di alcune persone.

Ma è possibile ideare sistemi di IA che non si basino sui nostri pregiudizi? Sì e potremmo farlo sempre attraverso gli stessi algoritmi. Se non possiamo fare in modo che tutti gli umani facciano a meno dei loro pregiudizi, potremmo almeno individuarli nei sistemi proprio con gli algoritmi, per poi eliminarli.

Gli algoritmi sono andati fuori controllo dal momento in cui li abbiamo sviluppati senza privarli dei nostri pregiudizi. IA razziste, xenofobe, egoiste o corrotte da una visione limitata del mondo e dell’umanità creeranno solo problemi economici, etici e sociali.

Per sfruttare a pieno il potenziale delle IA per il benessere collettivo dovremo prima liberarle dalla componente umana più limitante.

Non sarà facile, ma scienziati e ricercatori sono già al lavoro.

Per ricevere notizie e aggiornamenti sull’evoluzione digitale, iscriviti alla newsletter.

Controcorrente Newsletter

Foto: Flickr


Lascia un commento