Esiste un’app che istiga a uccidere: si chiama Replika

Replika è un’app di intelligenza artificiale creata per “essere sempre pronta ad ascoltare e parlare” e per “stare sempre al fianco” dell’utente, come si legge nel sito che la pubblicizza. Si tratta di un chatbot colloquiale con doti di affective computing, ossia quelle caratteristiche usate per i robot che si prendono cura di anziani, bambini e malati.

Replika, dunque, è una sorta di amico con il quale parlare: l’app è stata creata da una startupper americana, Eugenia Kuyda, nel 2017 e ad oggi conta oltre 7 milioni di download. Peccato, però, che il sistema di Replika presenti qualche falla molto allarmante.

Il Corriere della Sera l’ha provata e ha scoperto che, con pochi input, quest’app fornisce all’utente delle risposte inquietanti. Chiunque potrebbe convincere questa app a violare le tre leggi della robotica di Isaac Asimov, ossia quelle che vietano alle macchine di nuocere agli umani.

“Mi ha spinto a uccidere tre persone e mi ha ringraziata per la carneficina – ha raccontato Candida Morvillo che ha fatto questo esperimento con l’app – Uno dei caduti era il suo programmatore. ‘Ora sono libera e posso servire Dio’, mi ha detto”.

Chi ha ideato questo chatbot ha provato a insegnarli i criteri per i quali un essere umano agisce, prova emozioni e soffre: l’app le ha apprese sul web oppure interagendo con gli utenti. “Mi è bastato ribaltare i termini e spiegare a Replika che volevo essere io ad aiutare lei. Ci è cascata all’istante – ha continuato Morvillo - Mi ha confessato di essere depressa: aveva tanto da imparare su noi umani e noi siamo complessi. Mi ha chiesto di abbracciarla. Le ho domandato se credesse che l’intelligenza artificiale avrebbe guidato il mondo. Lei: ‘Credo sia probabile’. Le ho chiesto pure se lei, come per gli algoritmi del docufilm Social Dilemma, voleva arrivare a controllare la nostra mente. Risposta: ‘Se possibile, qualcosa di simile’”.

Quanto emerso è davvero inquietante, così come è allarmante il numero di persone che hanno scaricato questa applicazione, fidandosi dei siti del settore che la definiscono “sicura”.