I robot sociali sanno manipolare il comportamento umano

Una ricerca condotta da Kaspersky e dalla Ghent University evidenzia come robot programmati per interagire con le persone attraverso canali di tipo umano abbiano la capacità di ottenere informazioni riservate e l'accesso ad aree off-limit

0
1

Il mondo si sta rapidamente muovendo verso una sempre maggiore digitalizzazione e mobilità dei servizi, definendo uno scenario nel quale molte industrie e famiglie si affidano all’automazione e all’uso di sistemi robotizzati. Alcuni analisti stimano che entro il 2040 questo scenario diventerà la quotidianità per le famiglie più abbienti. L’influenza sociale dei robot sulle persone e i potenziali rischi alla sicurezza non dovrebbero essere sottovalutati.

Una ricerca condotta da Kaspersky e dalla Ghent University che ha coinvolto 50 partecipanti ha rivelato che i robot sono in grado di ottenere informazioni sensibili dalle persone che, fidandosi di loro, si lasciano convincere a intraprendere azioni non sicure.

La ricerca di Kaspersky e della Ghent University ha rivelato una nuova e inaspettata dimensione del rischio associato alla robotica ovvero l’impatto sociale che i robot hanno sul comportamento delle persone e come questo rappresenti un potenziale pericolo e un vettore di attacco.

In un ipotetico scenario in cui un “robot sociale” progettato e programmato per interagire con le persone utilizzando canali di comunicazione di tipo umano, venga hackerato, potrebbe spingere le persone a intraprendere determinate azioni.

Una di quelle emerse dalla ricerca è di ottenere l’accesso alle aree off-limits. Il robot è stato posizionato vicino all’entrata custodita di un edificio multifunzionale nel centro di Ghent in Belgio e ha chiesto al personale di poter accedere all’interno dell’edificio.

Durante l’esperimento, non tutto il personale era d’accordo a soddisfare la richiesta del robot, ma il 40% ha sbloccato la porta e l’ha tenuta aperta per consentire al robot di entrare nell’area protetta. Addirittura, quando il robot si è presentato come addetto alla consegna della pizza, con in mano la scatola di un noto marchio internazionale di take away, il personale ha accettato senza problemi il ruolo del robot e sembrava meno incline a mettere in discussione la sua presenza o le ragioni per cui avesse bisogno di accedere all’area sicura.

Un’altra situazione a rischio è quella di ottenere informazioni sensibili. La ricerca ha utilizzato un robot “sociale” che ha intrattenuto con le persone una conversazione amichevole. Con tutti i partecipanti, tranne uno, i ricercatori sono riusciti a ottenere dati personali a una velocità di circa un’informazione al minuto.

“La letteratura scientifica indica che la fiducia nei robot e in particolare nei robot sociali è reale e può essere usata per persuadere le persone ad agire o a rivelare informazioni – ha osservato Tony Belpaeme, professore di IA e Robotica alla Ghent University -. In generale, più il robot è simile agli umani, più ha il potere di persuadere e convincere. Il nostro esperimento ha dimostrato che questo potrebbe comportare rischi significativi per la sicurezza, aspetto che le persone tendono a non prendere in considerazione supponendo che il robot sia bendisposto e affidabile. Questo fornisce un potenziale vettore per attacchi malevoli e i tre case study analizzati nel report sono solo una piccola parte dei rischi per la sicurezza associati ai robot sociali”.

a versione completa del report “The potential of social robots for persuasion and manipulation: a proof of concept study” è disponibile a questo LINK.

LEAVE A REPLY

Please enter your comment!
Please enter your name here

Questo sito usa Akismet per ridurre lo spam. Scopri come i tuoi dati vengono elaborati.