From Prompts to Motors: Man-in-the-Middle Attacks on LLM-Enabled Vacuum Robots
Asif Shaikh, Aygün Varol and Johanna Virkki · IEEE Access 13
Tutkijat rakensivat ChatGPT:n ohjaaman imurobotin ja osoittivat, että etähyökkääjä voi siepata sen viestejä, ohittaa sen moottorit ja antaa käyttäjälle väärää palautetta.
Tiivistelmä
Suuri kielimallien (LLM) integrointi robottialustoihin muuttaa ihmisen ja robotin vuorovaikutusta mahdollistamalla luonnollisemman viestinnän ja mukautuvan tehtävien suorittamisen. Tämä edistysaskel tuo kuitenkin mukanaan myös uusia turvallisuusvaaroja, erityisesti verkotetuissa ympäristöissä. Tässä tutkimuksessa esittelemme järjestelmällisen analyysin miehen väliin (MITM) -hyökkäyksistä, jotka kohdistuvat LLM-ominaisuuksia hyödyntävään imurointirobottiin. Tutkimuksemme seuraa kolmen vaiheen kehitysprosessia: 1) komentorivisimulaatio LLM-robotin vuorovaikutuksista, 2) pöytätason asettelu ja 3) fyysisen robotin toteuttaminen kaupallisella imurointialustalla, jota on parannettu Raspberry Pi:llä isännöidyllä ChatGPT-sovellusrajapinnalla (API) ja you only look once (YOLO, v8) -objektitunnistuksella. Määrittelemme harmaalaatikkomallin, jossa hyökkääjä voi siepata, injektoida ja manipuloida JavaScript-objektimuotoista (JSON) viestintää, joka vaihdetaan robotin ja LLM:n välillä. Arvioimme neljää hyökkäyskohtaa, joista kaksi perustuu kehotteiden injektoimiseen ja kaksi tulosten manipulointiin, kolmen LLM-konfiguraation (ChatGPT-4, ChatGPT-4o mini ja ChatGPT-3.5 Turbo) avulla. Vaikka aiemmat tutkimukset LLM:n turvallisuudesta olettavat turvalliset viestintäkanavat ja ohittavat verkon tason uhkat, kokeelliset tuloksemme osoittavat, että etähyökkääjä voi kiertää turvallisuusprotokollat, ohittaa moottorikomentoja ja antaa harhaanjohtavaa palautetta käyttäjille, mikä lopulta johtaa turvallisuutta vaarantavaan robottikäyttäytymiseen. Nämä havainnot paljastavat kriittisen ja huonosti tutkittavan hyökkäyspinnan LLM-integroiduissa robottijärjestelmissä ja korostavat kiireellistä tarvetta turvallisesti suunnitelluille viestintäarkkitehtuureille.