Tietoturvavuoto ja Tekoälyllä Luodut Eksplisiittiset Kuvat
Tietoturvavuoto paljasti huolestuttavia yksityiskohtia siitä, kuinka suojaamaton tietokanta täynnä tekoälyllä luotuja eksplisiittisiä kuvia, mukaan lukien lapsiin kohdistuva hyväksikäyttöaineisto, oli saatavilla internetissä. Tämä herättää kysymyksiä tekoälykuvien vaarallisesta ja eettisesti kyseenalaisesta käytöstä.
Tärkeimmät Havainnot
- Suojaamaton tietokanta paljasti yli 95 000 tietuetta, mukaan lukien eksplisiittisiä tekoälyllä luotuja kuvia.
- Tietokanta sisälsi myös julkkisten kuvia lapsina, mikä herättää huolestusta eettisistä kysymyksistä.
- GenNomis-verkkosivusto, johon tietokanta liitettiin, sulki tietokannan nopeasti, mutta ei vastannut tietopyyntöihin.
- AI-työkalujen käyttö seksuaalisesti sävytetyn sisällön tuottamiseen asettaa uusia haasteita valvonnalle ja moderoinnille.
- Asiantuntijat varoittavat, että tekoälyn mahdollisuudet luoda ja jakaa haitallista sisältöä kasvavat nopeasti, mikä vaatii ekosysteemin osien tiukempaa sääntelyä.
“`html
Vaarallinen Tietokantavuoto
Suojautumaton tietokanta, jota generatiivinen tekoälysovellus käytti, paljasti kehotteita ja kymmeniä tuhansia eksplisiittisiä tekoälyllä luotuja kuvia, joista osa saattaa olla laittomia. WIREDin saaman uuden tutkimuksen mukaan kymmeniä tuhansia eksplisiittisiä tekoälyllä luotuja kuvia, mukaan lukien tekoälyllä luotu lapsiin kohdistuva hyväksikäyttöaineisto, oli avoimesti saatavilla internetissä.
Tietoturva-asiantuntija Jeremiah Fowlerin löytämät tiedot yhdistetään eteläkorealaiseen GenNomis-verkkosivustoon. Tietokanta sisälsi yli 95 000 tietuetta, mukaan lukien kehotteita ja kuvia julkkiksista, kuten Ariana Grandesta ja Kardashian-perheen jäsenistä, esitettynä lapsina.
Suojaamattoman Tietokannan Sisältö
Tietokannan altistus tarjoaa näkymän siihen, miten tekoälykuvantuotantotyökalut voivat luoda haitallista ja todennäköisesti ei-vapaaehtoista seksuaalista sisältöä sekä aikuisille että lapsille. Fowlerin mukaan tietokanta ei ollut suojattu salasanalla tai salauksella. GenNomis sulki tietokannan nopeasti, mutta ei vastannut WIBERin tietopyyntöihin.
- GenNomis kieltäytyi vastaamasta kommenttipyyntöihin.
- Verkkosivut suljettiin pian WIREDin yhteydenoton jälkeen.
Asiantuntijoiden mukaan, tämä osoittaa jälleen, kuinka laajasti AI:lla voidaan luoda tällaisia kuvia ja kuinka vaarallista se on.
AI-työkalujen Käyttö ja Eettiset Kysymykset
Ennen sulkemistaan GenNomisilla oli tarjolla useita AI-työkaluja, kuten kuvageneraattori ja kasvojenvaihtotyökalu. Tietokanta sisälsi tekoälyllä luotuja pornografisia kuvia aikuisista ja mahdollisesti kasvojenvaihtokuvia.
GenNomisin sivustolla ja sen AI “mallit” -osiossa oli seksuaalissävytteisiä kuvia naisista. GenNomisin käyttäjäpolitiikan mukaan vain “kunnioittava sisältö” oli sallittua, mutta tietoa siitä, käytettiinkö minkäänlaisia moderointityökaluja, ei ole saatavilla.
Turvaton Tekoälyn Käyttö Liiketoimintana
Asiantuntijat korostavat tarvetta lisätä painetta koko ekosysteemin osiin, jotka mahdollistavat ei-toivotun kuvamateriaalin tuottamisen AI:n avulla. Vaikka käyttäjät saattoivat raportoida kehotteiden estämisestä, teknologia on edennyt niin nopeasti, että ohjeet tai valvonta eivät aina pysy perässä.
IWF:n mukaan tekoälyllä tuotetun lapsiin kohdistuvan hyväksikäyttöaineiston määrä on kasvussa, ja sen realistisuus on kehittynyt. Asiantuntijat varoittavat, että tekoälyn käyttö mahdollistaa tällaisen sisällön luomisen ja jakelun helposti.
“`
