KUN KONE OPPII LIIKAA – havaintoja pimeän verkon keskusteluista lapsiin kohdistuvaa seksuaaliväkivaltaa kuvaavan materiaalin tuottamisesta sekä siihen käytetyistä teknologioista

Tekoälyllä tuotetun seksuaaliväkivaltamateriaalin määrä on räjähdysmäisessä kasvussa. Halusimme selvittää aiheesta lisää saadaksemme paremman kuvan, mitä ennaltaehkäisyn näkökulmasta tulee tehdä.

Tässä selvityksessä pureuduttiin pimeässä verkossa lapsiin kohdistuvaan väkivaltaan keskittyvillä foorumeilla käytäviin keskusteluihin. Keskustelujen analysoinnilla pyrittiin selvittämään, mitä mieltä keskustelijat ovat tekoälyllä tuotetusta lapsiin kohdistuvaa seksuaaliväkivaltaa kuvaavasta materiaalista ja siihen käytettävistä tekoälyteknologioista.

Selvityksen keskeisiä tuloksia:

Pimeän verkon foorumien keskustelijoiden yleinen mielipide tekoälyllä tuotetusta lapsiin kohdistuvaa seksuaaliväkivaltaa kuvaavasta materiaalista

Tekoälyllä tuotettua lapsiin kohdistuvaa seksuaaliväkivaltaa kuvaavaa materiaalia luodaan paljon, helposti ja mielellään. Sille on sekä tekijöitä että pyytäjiä. Moni kommentoi materiaalin olevan parempaa kuin mikään aito materiaali aiemmin ja parasta, mitä on ikinä nähnyt.

Yhteisöllisyys, kehut ja innostus 

Pimeän verkon foorumeilla vaikuttaa vallitsevan vankka yhteisöllisyys. Luodusta materiaalista saa helposti palautetta, joka on suurimmaksi osaksi positiivista. Materiaalia analysoidaan pikkutarkasti ja sen luomiseen liittyviä ongelmia ratkotaan yhdessä. Yhteisö vaikuttaa tukevan ja kannustavan tekijöitä luomaan lisää materiaalia, ylläpitää motivaatiota ja innostusta sekä jakaa osaamistaan.

Tyylit ja mieltymykset 

Tekoälyä kerrotaan koulutettavan arkipäiväisillä kuvilla, jotka on poimittu esimerkiksi sosiaalisesta mediasta, sekä aidolla lapsiin kohdistuvaa seksuaaliväkivaltaa todistavalla materiaalilla. Aito ja tekoälyvälitteinen materiaali sekoittuvat toisiinsa, eivätkä käyttäjät aina tiedä, kummasta on kysymys. Tekoälyvälitteisellä materiaalilla tavoitellaan tyypillisesti mahdollisimman fotorealistista ja aidon näköistä lopputulosta.

Eettisyys ja oikeutus 

Foorumien keskustelijat katsovat tekoälyvälitteisen materiaalin olevan eettisesti kestävämpää kuin aidon materiaalin ja ajattelevat sen suojelevan lapsia – edes aitoon materiaaliin pohjaavan tekoälyvälitteisen materiaalin ei mielletä vahingoittavan lapsia. Keskustelijat pitävät tekoälyllä tuotettua lapsiin kohdistuvaa seksuaaliväkivaltaa kuvaavaa materiaalia turvallisempana vaihtoehtona kuin aitoa materiaalia, eikä lain nähdä pysyvän teknologian kehittymisen perässä.

Tekoälyn tulevaisuus 

Tekoälyn kehittymiseen ja parannuksiin tulevaisuudessa on luja luotto. Tekoälyn tämänhetkisestä tasosta ja kyvyistä ollaan toistuvasti positiivisesti yllättyneitä. Foorumeilla ajatellaan, että se, mikä ei vielä ole mahdollista, mahdollistuu välittömässä
lähitulevaisuudessa.

Tekoälyteknologian käyttötaidot 

Taidot tekoälyteknologioiden käytön suhteen vaihtelevat. Osa keskustelijoista on aloittelijoita, ja he kysyvät paljon tekoälyteknologian peruskäyttöön liittyviä kysymyksiä. Toiset ovat selkeästi taidokkaampia tekoälyn käyttämisessä ja käyvät huomattavasti yksityiskohtaisempia keskusteluja. Keskusteluista ilmenee, että yksilön ei tarvitse olla teknisesti taitava, sillä yhteisö on.

Tekoälyllä tuotetun lapsiin kohdistuvaa seksuaaliväkivaltaa kuvaavan materiaalin laatu 

Kuvamateriaalin laadusta käydään runsaasti keskusteluja, joissa jaetaan kokemuksia laadun parantamiseksi. Kuvamateriaalin laadusta keskusteltaessa aiheet varioivat aina teknologisista ratkaisuista eri tekoälymallien käyttöön ja niiden kouluttamiseen sekä hienosäätämiseen. Käydyt keskustelut vaikuttavat kannustavan keskustelijoita yhä laadukkaamman materiaalin tuottamiseen.

Tekoälyllä kuka tahansa voi päätyä kohteeksi 

Laajojen kuvamallinen kehittyminen on mahdollistanut tekoälykuvageneraattoreiden toiminnan parantamisen niin käytettävyydessä kuin lopputuotosten laadussa. Kehitys on johtanut siihen, että nykyisin yhä pienempi lähdemateriaalin määrä riittää. Esimerkiksi kuvat tunnetusta seksuaaliväkivallan uhrista tai julkisuudessa olevasta lapsesta riittävät siihen, että hänestä voidaan tuottaa uskottavaa häneen kohdistuvaa seksuaaliväkivaltaa kuvaavaa materiaalia.