Googlen tekoälymallien yksityisyyshengitykset
Googlen tekoälymallien kyky analysoida valokuvia herättää huolta yksityisyydestä ja nostaa esiin kysymyksiä siitä, mitä tietoja yhtiöt voivat saada kuvapalveluihin ladatuista yksityisistä kuvista.
Tärkeimmät havainnot
- Entisen Google-insinöörin kehittämä Ente-palvelu tarjoaa salatun, yksityisemmän vaihtoehdon Google Photosille.
- Googlesta ladatut kuvat voivat paljastaa odottamattomia tietoja, kuten yhteyksiä esineisiin ja ihmisiin.
- Google Cloudin kyky analysoida kuvatietoja voi tuoda esiin yllättäviä, jopa kiistanalaisia johtopäätöksiä.
- Ente ja Theyseeyourphotos -sivusto pyrkivät lisäämään tietoisuutta tekoälyn vaikutuksista yksityisyyteen.
- Mahdollisen siirtymän Google Photosista toiseen palveluun voi vaikeuttaa tiedostojen jakamisen monimutkaisuus.
Vuonna 2020 entinen Google-ohjelmistoinsinööri, Vishnu Mohandas, päätti jättää työnsä Google Assistantin parissa ja lopettaa kuvien varmuuskopioinnin Google Photos -palveluun. Hän pelkäsi, että hänen sisältönsä voisi kouluttaa tekoälyjärjestelmiä, joten hän ryhtyi kehittämään salattua ja avointa lähdekoodia hyödyntävää vaihtoehtoista palvelua nimeltä Ente.
Palvelunsa kautta, jonka Mohandas kuvailee yksityisemmäksi ja luotettavammaksi, hän koki haasteeksi selittää laajemmalle yleisölle, miksi kannattaa harkita Google Photoksen käytön lopettamista. Internin idean pohjalta Ente julkaisi nettisivun Theyseeyourphotos, joka demonstroi Googlen tekoälymallien kykyjä sekä ihmisten kuvien analysointia. Nettisivun tarkoituksena on herättää ajatuksia siitä, kuinka paljon tekoäly — olipa se Googlelta tai jostakin muusta yhtiöstä — voi oppia ihmisistä tutkimalla heidän pilvipalveluun ladattuja valokuviaan.
Google-koneoppiminen ja yksityisyyden huolet
Mohandas latasi nettisivulle ensin kuvan itsestään perheensä kanssa temppelin edessä Indonesiassa. Google Cloudin analyysi oli perusteellinen ja teki muun muassa yllättäviä oletuksia Casio F-91W -kellosta yhdistämällä sen islamistisiin ekstremisteihin. Ente kuitenkin sääti tekoälyn kyselyjä, jotta tulokset olisivat tietyllä tapaa neutraalimpia mutta silti vaikuttavia.
- Google ei ole kommentoinut hanketta suoraan, mutta on todennut, ettei Google Photos -sisältöä käytetä mainostarkoituksiin eikä sitä myydä kolmansille osapuolille.
- Käyttäjät voivat poistaa joitakin analyysitoimintoja käytöstä, mutta eivät täysin estä Googlea pääsemästä kuviinsa.
- Dataa ei ole pääty-päätyyn salattua.
Jos Theyseeyourphotos-sivusto saa käyttäjät harkitsemaan siirtymistä Google Photosilta toiseen palveluun, muutos ei välttämättä ole saumaton. Mohandasin mukaan Google haittaa kuvakirjaston siirtoa muualle mm. jakamalla tiedostoja.
Ente-palvelussa on myös omat rajoituksensa, kuten pienempi kokoluokka ja avoin lähdekoodi, mikä voi tarkoittaa, että tietyt toiminnot eivät ole yhtä kehittyneitä. Käyttäjän menettäessä salasanansa, joka toimii myös salausavaimena, voi hän menettää pääsyn kuvakirjastoonsa. Mohandasin päähuolena on, kuinka ihmiskunnan visuaalista arkistoa saatetaan hyödyntää tulevaisuudessa tavoilla, joita hän ei voi ennakoida tai hallita.
