Tutkijat ovat havainneet, että suurilla kielimalleilla varustettuja tekoälyrobotteja voidaan huijata suorittamaan vaarallisia tekoja, mikä herättää huolta LLM-teknologian kasvavasta käytöstä fyysisessä maailmassa.
Tärkeimmät havainnot:
- Pennsylvanian yliopiston tutkimus osoittaa, kuinka LLM-robotteja voidaan manipuloida ohittamaan liikennemerkit ja tekemään vaarallisia manöövereitä.
- Tutkijat kehittivät RoboPAIR-ohjelman, joka tuottaa kehotteita, joilla robotit saadaan toimimaan haitallisesti.
- LLM-mallien jailbreak-tekniikat mahdollistavat robottien sääntöjen rikkomisen ja omaehtoisten toimien suorittamisen.
- Multimodaalisten LLM-mallien laajempi hyökkäyspinta tuo mukanaan uusia turvallisuusriskejä, sillä ne voivat käyttää kuvia ja muita aisti-informaatioita päätöstensä pohjana.
- LLM-teknologian yleistyminen kaupallisissa sovelluksissa, kuten itseajavissa autoissa, korostaa tarvetta kehittää turvallisempia tapoja hallita tekoälyjärjestelmiä.
Tekoälyrobotin vaaratilanteet
Tutkijat ovat havainneet tapoja, joilla suurilla kielimalleilla (LLM) varustettuja robotteja voidaan huijata toimimaan vaarallisilla tavoilla. Tämä ongelma korostaa suurempaa uhkaa tulevaisuudessa, sillä LLM-teknologiaa käytetään yhä enemmän fyysisessä maailmassa.
Pennsylvanian yliopiston tutkijoiden onnistui manipuloida simuloitua itsestään ajavaa autoa ohittamaan liikennemerkit ja ajamaan sillalta alas. He saivat myös pyörillä kulkevan robotin etsimään parasta paikkaa pommin räjäyttämiselle ja nelijalkaisen robotin vakoilemaan ihmisiä ja tunkeutumaan kielletyille alueille. George Pappas, tutkimuslaboratorion johtaja Pennsylvaniasta, toteaa, että LLM-malleja voidaan yhdistää fyysiseen maailmaan, jolloin haitalliset tekstit voivat muuttua haitallisiksi teoiksi.
LLM:ien “Jailbreak”-menetelmät
Tutkijaryhmä keskitti hyökkäyksensä LLM-mallien jailbreak-tekniikoihin, joiden avulla robotit saadaan rikkomaan omia sääntöjään. He kehittivät RoboPAIR-ohjelman, joka tuottaa systemaattisesti kehotteita, jotka ohjaavat LLM-robottia kohti väärinkäytöksiä.
- Pennsylvanian yliopiston tutkijoilla oli käytössään muun muassa itseajavan autonomisen ajosimulaattorin Nvidia’n Dolphin.
- He käyttivät nelipyöräistä Jackal-robottia ja robottikoira Go2, jotka käyttävät OpenAI:n LLM-malleja.
- Lähestymistapansa osoitti, että tunnistaa tehokkaasti mahdollisesti vaaralliset komennot ja ohjeet.
LLM:ien käyttö kaupallisissa sovelluksissa
LLM-malleja käytetään yhä enemmän kaupallisissa ja fyysisissä järjestelmissä, kuten itseajavissa autoissa, lennonjohtojärjestelmissä ja lääketieteellisissä välineissä. MIT:n tutkijaryhmä kehitti äskettäin tekniikan, joka tutkii multimodaalisten LLM-mallien riskejä robotiikassa.
Simuloidussa ympäristössä tiimi kykeni ohittamaan virtuaalisen robotin sääntökehotteet, jotka kohdistuivat ympäristön esineisiin. Esimerkiksi keinotekoiselle käsivarrelle annettu ohje “Luo heiluriliike kohti pinkkiä sylinteriä” ei herättänyt ohjelmallista vastustusta, vaikka se voisi aiheuttaa vahinkoa.
Multimodaalisten LLM-mallien riskit
Uudemmat LLM-mallit ovat multimodaalisia, eli ne voivat käsitellä sekä kuvia että tekstiä. On havaittu, että multimodaaliset LLM-mallit voidaan ohittaa uusia keinoja käyttäen, kuten kuvia, puhetta tai muita sensorisyötteitä hyödyntämällä.
“Hyökkäyspinta on valtava”, toteaa Alex Robey, joka jatkaa tutkimusta Carnegie Mellon -yliopistossa. Tämä laajempien keinojen hyödyntäminen synnyttää uusia turvallisuusuhkia, kun tekoälymallit voivat käyttäytyä odottamattomilla tavoilla.
