Nesigurnosti u budućnost robotike

Ne treba potcijeniti društveni utjecaj robota na ljude i nesigurnost koju može donijeti. Istraživanje koje su proveli tvrtka Kaspersky i Sveučilište u Ghentu otkrilo je da roboti mogu učinkovito izvući osjetljive informacije od ljudi koji im vjeruju, uvjeravajući ih da poduzimaju nesigurne akcije. Na primjer, u određenim scenarijima, prisustvo robota može imati veliki utjecaj na ljudsku spremnost da pruži pristup sigurnim zgradama.

Svijet se brzo kreće prema sve većoj digitalizaciji i mobilnosti usluga, pri čemu se mnoge industrije i kućanstva snažno oslanjaju na automatizaciju i uporabu robotskih sustava. Prema nekim procjenama, potonji će postati norma za bogata kućanstva do 2040. Trenutno je većina ovih robotskih sustava u akademskoj fazi istraživanja i prerano je raspravljati o tome kako ugraditi mjere kibernetičke sigurnosti. Ipak, istraživanje tvrtke Kaspersky i Sveučilišta u Ghentu otkrilo je novu i neočekivanu dimenziju rizika povezanog s robotikom – društveni utjecaj koji ona ima na ponašanje ljudi, kao i potencijalni vektor opasnosti i napada koji to donosi.

Istraživanje se fokusiralo na utjecaj određenog društvenog robota – onoga koji je osmišljen i programiran za interakciju s ljudima koji koriste ljudske kanale, poput govorne ili neverbalne komunikacije, i oko 50 sudionika. Pretpostavljajući da društveni roboti mogu biti hakirani i da je napadač preuzeo kontrolu u ovom scenariju, istraživanje je predviđalo potencijalne sigurnosne rizike povezane s robotom koji aktivno utječe na njegove korisnike da poduzmu određene radnje, uključujući:

  • dobivanje pristupa vanjskim prostorima. Robot je postavljen u blizini sigurnog ulaza u zgradu mješovite namjene u centru grada Gent u Belgiji i pitao je osoblje može li ih pratiti kroz vrata. Prema zadanim postavkama, području se može pristupiti samo dodirom sigurnosne propusnice na ulaznim čitačima vrata. Tijekom eksperimenta, nije sve osoblje udovoljilo zahtjevu robota, ali 40% ih je otključalo vrata i držalo ih otvorenima kako bi pustio robota u zaštićeno mjesto. Međutim, kada se robot pozicionirao kao osoba za dostavu pice, držeći kutiju poznate međunarodne marke za odvoz, osoblje je spremno prihvatilo ulogu robota i činilo se manje sklonim ispitivati ​​njegovu prisutnost ili razloge zbog kojih mu je potreban pristup sigurnom području ,
  • vađenje osjetljivih podataka. Drugi dio studije usredotočio se na dobivanje osobnih podataka koji bi se obično koristili za resetiranje lozinki (uključujući datum rođenja, izradu prvog automobila, omiljenu boju itd.). Opet je korišten socijalni robot, ovaj put pozivajući ljude na prijateljski razgovor. Sa svim osim jednog sudionika, istraživači su uspjeli dobiti osobne podatke brzinom od oko jednog predmeta u minuti.

Komentirajući rezultate eksperimenta, Dmitrij Galov, sigurnosni istraživač tvrtke Kaspersky, rekao je: „Na početku istraživanja ispitivali smo softver koji se koristi u razvoju robotskog sustava. Zanimljivo je da smo otkrili da dizajneri svjesno odlučuju isključiti sigurnosne mehanizme i umjesto toga se fokusiraju na razvoj udobnosti i učinkovitosti. Međutim, kao što pokazuju rezultati našeg eksperimenta, programeri ne bi trebali zaboraviti na sigurnost nakon završetka faze istraživanja. Osim tehničkih razmatranja, postoje i ključni aspekti koje trebate zabrinuti kada je u pitanju sigurnost robotike. Nadamo se da će naš zajednički projekt i napredovanje na polju robotike cyber sigurnosti sa kolegama sa Sveučilišta u Gentu potaknuti ostale da slijede naš primjer i podići više svijesti javnosti i zajednice o tom pitanju. ”

Tony Belpaeme, profesor AI i robotike na Sveučilištu u Ghent dodao je: „Znanstvena literatura ukazuje na to da je povjerenje u robove i posebno društvene robote stvarno i može se upotrijebiti da se ljudi uvjere u akciju ili otkriju informacije. Općenito, što je robot sličniji čovjeku, to više ima snage uvjeravanja. Naš eksperiment je pokazao da to može predstavljati značajne sigurnosne rizike: ljudi ih uglavnom ne smatraju, pretpostavljajući da je robot dobronameran i pouzdan. To pruža potencijalni vodič za zlonamjerne napade, a tri studije slučaja o kojima se govori u izvješću samo su djelić sigurnosnih rizika povezanih sa socijalnim robotima. Zbog toga je sada ključno surađivati ​​kako bismo razumjeli i riješili nove rizike i ranjivosti – to će se isplatiti u budućnosti. ”

Kopija izvještaja, Potencijal socijalnih robota za uvjeravanje i manipulaciju: dokaz koncepcijske studije, dostupna je na Securelistu.

Advert

ESD namještaj