Hannah Fry: gli algoritmi controllano la nostra vita

La maggior parte di noi non sa cosa sia un algoritmo e come funzioni. Eppure le nostre vite ormai sono largamente influenzate da questi pezzetti di codice che indicano a un computer come eseguire un compito specifico.

L’esperta di matematica Hannah Fry sostiene che non dovremmo pensare che ci siano algoritmi buoni e algoritmi cattivi. Invece, dovremmo prestare molta più attenzione alle persone che li programmano.

Molti algoritmi prendono decisioni importanti al posto nostro. In un’intervista di Vox, Annah Fry ha spiegato perché questi cambiano le regole della vita umana.

Cambiare la vita, in silenzio

In che modo gli algoritmi stanno cambiando la vita umana?
In tutti i modi, davvero. Da come scegliamo di leggere e guardare a come scegliamo di fare un appuntamento, gli algoritmi stanno giocando sempre più un ruolo enorme. E non sono solo i casi ovvi, come gli algoritmi di ricerca di Google o gli algoritmi di Amazon.

Abbiamo invitato questi algoritmi nelle nostre aule di tribunale, nei nostri ospedali e nelle nostre scuole e stanno prendendo delle piccole decisioni per conto nostro che modificano leggermente il modo in cui la nostra società opera.

Pensi che la nostra fiducia negli algoritmi sia fuori luogo? Stiamo commettendo un errore consegnando così tanto potere decisionale a questi programmi?
Questa è una domanda difficile. Abbiamo una relazione davvero complicata con le macchine. Da un lato, a volte perdiamo la fiducia in loro. Ci aspettiamo che siano quasi divine, che siano così perfette che le seguiremmo ciecamente ovunque ci guideranno.

Ma allo stesso tempo abbiamo l’abitudine di respingere un algoritmo non appena viene dimostrato che è leggermente imperfetto. Quindi se Siri sbaglia qualcosa o se la nostra app GPS calcola male il traffico, pensiamo che l’intera macchina sia solo spazzatura. Ma non ha alcun senso.

Gli algoritmi non sono perfetti, spesso contengono i pregiudizi delle persone che li creano, ma sono ancora incredibilmente efficaci e hanno reso le nostre vite molto più semplici. Quindi penso che l’attitudine giusta sia da qualche parte nel mezzo: non dovremmo fidarci ciecamente degli algoritmi, ma non dovremmo neanche ignorarli del tutto.

Quali vantaggi otteniamo affidandoci così tanto agli algoritmi?
Gli umani non sono bravi in ​​molte cose. Non siamo bravi nell’essere coerenti. Non siamo bravi a non essere prevenuti. Siamo stanchi e sciatti.

Gli algoritmi non hanno questi difetti. Sono incredibilmente coerenti. Non si stancano mai e sono assolutamente precisi. Il problema è che gli algoritmi non comprendono il contesto o le sfumature. Non capiscono l’emozione e l’empatia come gli esseri umani.

Puoi fare un esempio di un algoritmo che sbaglia in modo disastroso?
Nel libro [“Hello World: How to be Human in the Age of the Machine“] scrivo di Christopher Drew Brooks, un uomo di 19 anni della Virginia che è stato condannato per lo stupro di una ragazza di 14 anni. Avevano avuto un rapporto consensuale, ma lei era minorenne e questo è illegale.

Durante la condanna, il giudice del caso ha fatto affidamento su un algoritmo progettato per prevedere quanto è probabile che un individuo possa commettere un crimine se viene rilasciato dalla prigione. L’algoritmo ha valutato il suo punteggio di recidiva e ha stabilito che, poiché era un ragazzo così giovane e stava già commettendo reati sessuali, c’era un’alta probabilità che avrebbe continuato con questa vita da criminale. Quindi ha suggerito che gli fossero dati 18 mesi di carcere.

E forse è giusto. Ma dimostra anche quanto questi algoritmi a volte possano essere illogici. Perché si è scoperto che questo particolare algoritmo attribuisce grande importanza all’età del trasgressore, quindi se avesse avuto 36 anni invece che 19, lo avrebbe considerato una minaccia molto più bassa. Ma in quel caso avrebbe avuto 22 anni più della vittima e penso che ogni persona ragionevole lo considererebbe peggio.

Questo è un esempio di come questi algoritmi perfettamente logici possono arrivare a risultati bizzarri. E in questo caso penseresti che il giudice avrebbe esercitato la sua discrezione e annullato l’algoritmo, ma in realtà ha aumentato la condanna di Brooks, in parte a causa dell’algoritmo.

Pensi che le persone che creano questi algoritmi, gli ingegneri di Google, Facebook o altro, capiscano perfettamente cosa stanno creando?
Stanno iniziando a preoccuparsi molto delle implicazioni di questa roba. Facebook aveva il motto “move fast and break things” e questo era l’atteggiamento di gran parte del mondo tecnologico. Ma la marea si è spostata negli ultimi due anni. C’è stato un campanello d’allarme per molte di queste persone in quanto le conseguenze involontarie di queste creazioni sono diventate molto più chiare.

Ogni piattaforma di social media, ogni algoritmo che diventa parte delle nostre vite, fa parte di questo enorme esperimento sociale che è in corso. Miliardi di persone in tutto il mondo interagiscono con queste tecnologie, motivo per cui i più piccoli cambiamenti possono avere un impatto così gigantesco su tutta l’umanità. E queste aziende stanno iniziando a riconoscerlo e a prenderlo sul serio.

Dici che gli algoritmi stessi non sono né buoni né cattivi, ma voglio farti un po’ di pressione su questo. Gli algoritmi possono produrre esiti imprevisti, in particolare algoritmi di apprendimento automatico che possono essere programmati da soli. Dal momento che è impossibile per noi anticipare tutti questi scenari, non possiamo dire che alcuni algoritmi sono cattivi anche se non sono stati progettati per esserlo?
Questa è una buona domanda. Dobbiamo pensare a queste tecnologie, in particolare all’apprendimento artificiale e all’intelligenza artificiale, più come l’invenzione dell’elettricità che l’invenzione della lampadina. Con ciò intendo che non sappiamo come verranno utilizzate queste cose e in quali situazioni o in quale contesto.

Ma l’elettricità di per sé non è buona o cattiva – è solo uno strumento che può essere utilizzato in un numero infinito di modi. Anche gli algoritmi sono così. Non ho trovato un algoritmo che fosse al 100% cattivo o buono. Penso che il contesto e tutto ciò che lo circonda sia la cosa che fa la differenza.

Ti preoccupa che la proliferazione degli algoritmi stia erodendo la nostra capacità di pensare e decidere per noi stessi?
Ci sono luoghi in cui ciò sta chiaramente accadendo, dove il ruolo degli umani è stato messo da parte. E questa è una cosa davvero pericolosa. Ma non penso nemmeno che debba essere così. Gli esseri umani e le macchine non devono essere opposti gli uni alle altre. Dobbiamo lavorare con le macchine, riconoscendo che sono difettose, proprio come noi. E che faranno errori, proprio come noi.

Non dobbiamo creare un mondo in cui le macchine ci dicano cosa fare o come pensare, anche se potremmo benissimo finire in un mondo del genere. Preferisco di gran lunga un mondo in cui uomini e macchine, umani e algoritmi, siano partner.

Credi che gli umani e gli algoritmi artificiali alla fine si combineranno in modi che offuscheranno la distinzione tra i due?
È del tutto possibile, ma siamo davvero molto, molto, molto lontani da questo.

C’è un progetto, ad esempio, dove si cerca di replicare il cervello del verme di C. elegans, che è un verme microscopico con qualcosa come 200 neuroni nel suo cervello – e non possiamo farlo. Anche con l’intelligenza artificiale più sofisticata e all’avanguardia, non siamo neanche lontanamente in grado di simulare il cervello di un verme microscopico piccolissimo. Quindi siamo lontani galassie dalla simulazione di animali più complessi e ancora più lontani dalla replicazione degli umani.

Quindi queste conversazioni sono interessanti, ma possono anche servire da distrazione da ciò che sta accadendo in questo momento. Le regole e i sistemi che governano le nostre vite stanno cambiando intorno a noi e gli algoritmi sono una grande parte di ciò.

Abbiamo bisogno di un quadro normativo più forte per gli algoritmi?
Assolutamente sì. Abbiamo vissuto nel selvaggio West tecnologico, dove puoi raccogliere dati privati ​​su persone senza il loro permesso e venderli agli inserzionisti. Trasformiamo le persone in prodotti e loro non se ne rendono nemmeno conto. E le persone possono fare tutte le affermazioni che vogliono su ciò che il loro algoritmo può o non può fare, anche se è un’assoluta assurdità, e nessuno può davvero impedire loro di farlo.

E anche se un particolare algoritmo funzionasse, non c’è nessuno che possa valutare se questo fornisce o meno un vantaggio o un costo alla società. Nessuno sta facendo questi controlli. Abbiamo bisogno di un equivalente dell’FDA, qualche agenzia in grado di proteggere la proprietà intellettuale di un’azienda che si presenta con un algoritmo, ma anche di garantire che il pubblico non venga danneggiato o violato in alcun modo.

In fin dei conti, gli algoritmi risolvono più problemi per gli esseri umani di quanti ne stiano creando?
Sì, penso che risolvano più problemi di quanti ne stiano creando. Sono ancora in gran parte positiva su questa roba. Ho lavorato in questo settore per oltre un decennio e ci sono enormi vantaggi con queste tecnologie. Gli algoritmi vengono utilizzati per aiutare a prevenire i crimini e aiutare i medici a ottenere diagnosi del cancro più accurate e in innumerevoli altri modi.

Tutte queste cose sono passi avanti davvero positivi per l’umanità. Dobbiamo solo stare attenti nel modo in cui le impieghiamo. Non possiamo farlo incautamente. Non possiamo semplicemente “muoverci velocemente” e “rompere le cose” [“move fast and break things”, nda].

Muoversi con cautela

Le innovazioni tecnologiche creano entusiasmo e voglia di cambiare il mondo. Ma farlo in fretta non sempre può essere una buona idea, come nel caso degli algoritmi e dell’intelligenza artificiale.

Hannah Fry ha spiegato bene quali sono i motivi per cui è bene fidarsi solo in parte degli algoritmi. Fin quando le macchine avranno i nostri pregiudizi, sbaglieranno come sbaglieremo noi. Per questo, forse, il futuro più vicino non è quello dove le macchine svolgeranno tutti i compiti al posto nostro, ma sarà quello dove umani e macchine lavoreranno insieme per ottenere risultati migliori.

A tal proposito, c’è anche chi sostiene che vi sia un’urgenza etica nell’intelligenza artificiale. Proprio perché poche persone sono consapevoli di come funzionano davvero queste tecnologie, è necessario che quanto prima si stabiliscano delle linee guida generali per lo sviluppo di IA. Delle linee guida che siano studiate e proposte da esperti non provenienti esclusivamente dalle realtà aziendali che stanno dominando il mercato.

Perché è vero: anche se ancora piuttosto deboli, gli algoritmi ormai influiscono su tante decisioni che prendiamo ogni giorno. Bisogna evitare di perdere la possibilità di prendere decisioni consapevoli.

Se vuoi rimanere aggiornato sull’evoluzione digitale, iscriviti alla newsletter.

Foto copertina: Flickr
Foto: Flickr