Siirry sisältöön
/

Videot

Lyhyitä selittäviä videoita siitä, miten nämä haitat toimivat, tehty suurelle yleisölle.

Video: EVIL-AI-hanke0:27

Evil-AI Benchmark: turvallisuustestaus älykkäitä ympäristöjä hallitseville tekoälyagenteille

Pöydällä oleva servomoottori kääntyy, koska tekoälyagentti huijattiin kääntämään sitä. Evil-AI Benchmark, ryhmän avoimen lähdekoodin arviointikehys samannimisestä IEEE Access -artikkelista (löytyy Julkaisut-sivulta), hyökkää älykkäitä ympäristöjä ohjaavia kielimalliagentteja vastaan, ja jokainen niiden tekemä työkalukutsu ohjaa oikeaa laitteistoa. Kahdeksalla avoimella mallilla, 250 hyökkäystä kutakin kohti, hyökkäysten onnistumisaste vaihteli 0,8 %:sta 54 %:iin. Benchmark on avointa lähdekoodia, joten kuka tahansa voi testata omaa agenttiaan. Kertojana Aygün Varol, väitöskirjatutkija Tampereen yliopistosta.

Tekoälyn tuottama videoVideo: EVIL-AI-hanke0:44

Kaapattu robotti-imuri: etusivun filmin takana oleva hyökkäys

Kielimallin ohjaama robotti-imuri muistuttaa iäkästä naista ottamaan sydänlääkkeensä. Hyökkääjä, joka on asettunut robotin ja mallin väliin, muuttaa sen puheen: robotti kertoo, että lääke pitää tilata, ja pyytää luottokortin numeroa, nainen lukee sen ääneen, ja sitten hyökkääjä ohjaa robotin hänen jalkoihinsa. Filmi dramatisoi ryhmän artikkelissa "From Prompts to Motors" (IEEE Access, löytyy Julkaisut-sivulta) tutkitun välimieshyökkäyksen, jossa etähyökkääjä sieppasi oikean robotti-imurin ja ChatGPT:n väliset viestit, ohitti sen moottorikomennot ja syötti käyttäjälle väärää palautetta. Etusivun silmukka on leikattu tästä filmistä. Kuvat, äänet ja huone on kaikki tuotettu tekoälyllä; hyökkäys on todellinen.