Enabling Cloud-Level Accuracy in Edge AI through IoT Data Preprocessing
Aygün Varol, Katarzyna Kołodziej, Łukasz Sobczak, Michał Romaszewski, Przemysław Głomb, Naser Hossein Motlagh, Mirka Leino and Johanna Virkki · arXiv preprint 2606.22496 (June 2026)
Antamalla anturilukemat sanallisesti ennen niiden siirtämistä pienelle paikalliselle kielimallille parantaa sen tarkkuutta kolikon heitosta lähes pilvitason tasolle, ja vastaus tulee noin viidesosasekunnissa.
Tiivistelmä
Suuret kielimallit (LLM) tarjoavat luonnollisen kielen käyttöliittymän IoT-anturidatan tulkitsemiseen älykkäissä ympäristöissä; kuitenkin pilvipalveluiden käyttöönotto tuo mukanaan viive-, yksityisyys- ja yhteysongelmia. Paikalliset LLM:t voivat vähentää näitä rajoituksia, mutta kompakti reunamallien käyttöönotto osoittaa usein heikompaa numeerista päättelyä, kun raakadataa antureista annetaan suoraan. Tämä tutkimus tutkii, voidaanko kehotteen puoleinen esikäsittely parantaa paikallisten LLM:ien tarkkuus-viive-kauppaa ympäristön seurannassa. Ehdotamme jäsenneltyä kehotteen rakentamisen kehystä, joka muuntaa raakailmanlaatu- ja lämpömukavuusmittaukset asteittain rikastetuksi tekstuaaliseksi esitykseksi: raakadata-arvot, kynnysarvoista tietoiset kuvaukset ja tiiviit ympäristön yhteenvetoliput. Lähestymistapaa arvioidaan sisätilojen Raspberry Pi/BME680-datalla Tampereen yliopistosta ja ulkoilmanlaatu-datalla Helsingistä, Katowicesta ja Varsovasta. Rakennamme binäärisen LLM-kyselydatapaketin, joka kattaa ilman laadun, lämpömukavuuden ja yhteiset ympäristöolosuhteet, ja arvioimme viittä paikallista ja viittä pilvi-LLM:ää kolmen kehotteen variantin ja kahden päättelytilan, ketjupohjaisella ja ilman, avulla. Tulokset osoittavat, että kehotteen rikastaminen parantaa merkittävästi paikallisten mallien tarkkuutta. No-CoT-tilassa paikallinen tarkkuus kasvaa 50,9 %:sta 81,7 %:iin sisätiloissa ja 63,7 %:sta 89,3 %:iin ulkona raakasta kaikkein rikastetuimpaan kehotteeseen. Paikallinen No-CoT-päättely on nopein kokoonpano, jonka keskimääräinen viive on lähellä 0,22 s, kun taas CoT lisää merkittävästi päättelyaikaa. Nämä havainnot viittaavat siihen, että kevyt kehotteen puoleinen esikäsittely voi kaventaa paikallisen ja pilven suorituskyvyn väliä ja tukea matalan viiveen IoT-analytiikkaa älykkäissä ympäristöissä.