Ci fidiamo troppo dei robot?

Stiamo costruendo robot sempre più precisi ed efficienti. Ma una delle nostre principali preoccupazioni riguarda la sicurezza. La robotica è un settore in continua crescita. Le aziende fanno sempre più affidamento sulle macchine per raggiungere i propri obiettivi di business. Poniamo troppo fiducia nei robot? L’informatica Serena Booth ha provato a rispondere a questa domanda attraverso uno studio per la sua tesi di laura.

Lo studio si è rivelato davvero interessante: Booth ha vinto l’Hoopes Prize, un prestigioso premio annuale affidato agli studenti dell’Harvard College che hanno svolto un’eccellente ricerca scientifica.

Faresti entrare un robot in un edificio che richiede un pass magnetico?

Lo studio di Serena Booth è durato circa un mese. Si è servita di un robot alto circa 60 cm, dotato di rotelle, di una videocamera nascosta e controllabile da remoto. Lo ha fatto circolare nei dintorni delle case residenziali di Harvard e ha assistito a numerose interazioni tra la macchina e le persone di passaggio, molte delle quali studenti.

Il robot chiedeva loro di farlo entrare nei dormitori dell’Università di Harvard in cui si accede con una carta magnetica. Ciò che è successo è davvero interessante. Quando il robot si avvicinava a singoli individui, nel 19% dei casi questi lo hanno aiutato ad entrare nell’edificio. Quando il robot era già all’interno dell’edificio e chiedeva loro di portarlo fuori, nel 40% dei casi i singoli individui hanno accolto la sua richiesta.

Infine, il robot è riuscito ad essere accompagnato all’interno dell’edificio nel 71% dei casi quando si rivolgeva a gruppi di persone. Questo può significare che quando siamo in compagnia di altre persone poniamo più fiducia nei robot. Booth ha commentato: “La gente era più propensa a lasciare il robot fuori piuttosto che a farlo entrare, ma non era significativo dal punto di vista statistico. È stato interessante perché pensavo che le persone avrebbero percepito il robot come una minaccia per la sicurezza.“.

Su 108 persone, solo una ha considerato il robot come una reale minaccia. Infatti questa persona ha chiesto alla macchina se possedeva la carta magnetica per accedere nell’edificio.

E se il robot ti offrisse un biscotto? 

I risultati sono però cambiati quando Booth ha mascherato il suo robot come una trovata pubblicitaria di una startup fittizia chiamata “RobotGrub”. Il robot chiedeva di entrare nell’edificio e allo stesso tempo offriva dei biscotti. In questa circostanza, le singole persone lasciavano entrare il robot nel 76% dei casi.

“Tutti amavano il robot quando consegnava i biscotti“, ha detto Booth. Ma non è come accettare caramelle dagli sconosciuti? Direi di si, ma influiscono parecchie cose: la nostra educazione, il contesto in cui ci troviamo, l’aspetto del robot, eccetera. Ma in generale, noi esseri umani siamo davvero strani!

Booth ha eseguito ben 72 prove sperimentali e le reazioni delle persone sono state molto diverse tra loro: curiosità, sorpresa, divertimento, ma anche paura. Un tizio si è spaventato quando ha sentito il robot parlare, è scappato e ha chiamato la sicurezza. Un altro si è tenuto a debita distanza, ha ignorato la richiesta del robot ed è entrato nell’edificio attraverso un altro ingresso.

D’altronde, come si può vedere dal video, c’è una targhetta su una parete dell’edificio su cui c’è scritto: “Proteggi te stesso, proteggi la tua comunità. Se qualcuno che non conosci ti segue all’interno senza aver usato la tessera magnetica, chiama l’HUPD [Harvard University Police Department] al 617-495-1212.”. In questo caso, il robot era uno sconosciuto e non aveva con sé il pass magnetico. Aveva fatto bene allora il tipo che ha chiamato la sicurezza. O forse è stata una reazione esagerata? A volte giudicare una situazione dall’esterno è molto più facile.

Risultati che fanno riflettere

Sono stati raccolti diversi dati insoliti con questa ricerca. Booth pensava che le persone che hanno impedito al robot di entrare lo percepivano come un pericolo. In realtà, dopo averle intervistate, ha scoperto che coloro che si sentivano minacciati dal robot erano propensi a farlo entrare nella struttura. Forse da una parte sentivano che il robot non era una reale minaccia, ma dall’altra hanno seguito le regole dell’Università di Harvard.

Un altro risultato particolare è che molte persone si sono fermate per scattare fotografie al robot. Both ha spiegato: “Infatti, nelle interviste successive, uno dei partecipanti ha ammesso che la ragione per cui lo ha fatto entrare era per fare un video su Snapchat.“. Questa persona ha agito in modo opposto rispetto a quella citata prima. Ha fatto entrare un estraneo andando contro le regole. Per quale motivo? Per condividere un video su un social network. È stato un gesto superficiale, insensato? Il robot gli è apparso come una macchina innocua. Per fortuna è stato un caso in cui l’apparenza non ha ingannato.

Cosa sarebbe successo se il robot avesse avuto con sé un’arma nascosta dietro qualche meccanismo? Ciò che ha fatto più riflettere Booth è che una sola persona si è rivolta alla sicurezza. Ha fatto un chiarissimo esempio. Se il robot stesso fosse stato una bomba, le conseguenze per averlo fatto entrare nella struttura sarebbero state disastrose.

Serena Booth descrive se stessa come una robo-entusiasta. È convinta, come molti altri, che le macchine ci procureranno enormi benefici. Ma allo stesso tempo sostiene che dovremmo prestare più attenzione e non fidarci ciecamente delle macchine in base al loro aspetto o a quello che potrebbero essere in grado di fare in apparenza. Possediamo sentimenti contrastanti nei confronti dei robot e dell’intelligenza artificiale. Questo soprattutto perché la letteratura e il cinema ci hanno abituati a vedere le macchine in un certo modo.

Tuttavia, credo che non bisogna sottovalutare le ipotesi di esperti e scienziati che evidenziano i rischi dell’avvento di macchine e intelligenze artificiali (IA) pericolose. Di recente, ad esempio, i ricercatori Federico Pistono e Roman Yampolskiy hanno pubblicato uno studio su come creare un’intelligenza artificiale cattiva. Ci vogliamo fare del male? No, lo hanno fatto per sottolineare che potranno esserci dei pericoli concreti nel momento in cui un’IA viene sfruttata per scopi illegali e immorali. Ad un certo punto, parlano anche di superintelligenza, ovvero di un’IA con capacità superiori a quelle umane e di agire in completa autonomia, In quel caso non potremmo più controllarla. Vale la pena dare un’occhiata allo studio dei due ricercatori. Ti accorgerai che non tutte le loro ipotesi sono esagerate o assurde.

Ma l’IA cattiva descritta da Pistono e Yampolskiy è molto più avanzata rispetto a quella di una macchina dotata di rotelle e che è telecomandata a distanza. Non c’è paragone. Eppure una macchina così “semplice” potrebbe rivelarsi una minaccia. La soluzione non è installare maggiori controlli: ce ne sono abbastanza, alcuni anche molto efficaci.

Nel caso dello studio di Serena Booth, il pass magnetico può essere considerato come un sistema di sicurezza. La macchina diventa potenziale minaccia nel momento in cui entra nel sistema di sicurezza (ottenere il pass) o nel momento in cui trova un modo per aggirarlo (offrire biscotti). In entrambi i casi, saremmo noi a consentirgli l’accesso nell’edificio. Questo è un altro caso che dimostra che il rischio di un eventuale sviluppo di robot e IA pericolose dipende da noi. E forse sarà sempre così, a meno che in futuro non arrivi davvero un’IA autonoma malvagia. Chi vivrà vedrà.

Fonte: Harvard

Fonte immagine: Flickr