Kun jokainen päivä voi olla aprillipäivä - Mistä deepfakeissa on kysymys?

Yksinkertaistettuna tekoälyn avulla ääntä, videota, tekstiä tai kuvia yhdistämällä on mahdollista luoda esimerkiksi todellisista ihmisistä virtuaalisia kopioita. Teknologiaa on hyödynnetty jo usean vuoden ajan, esimerkiksi elokuvissa tai erilaisissa netin ja sosiaalisen median palveluissa, kuten Metaversumissa.  Näin palvelussa tai videolla näkyvällä AI-avatar (tekoälyllä luotu näköishahmo) edustaa todellista alkuperäistä henkilöä todellisine eleineen, ilmeineen ja tekoineen.  Tässä ei ole mitään pahaa tai väärää.

Deepfaket, eli syväväärennökset ovat tämän teknologian muotoja, joissa erilaisia tekniikoita yhdistämällä esimerkiksi videolla näkyvä todellinen hahmo saadaan sanomaan ja tekemään asioita, joita hän ei ole todellisuudessa koskaan tehnyt. Tätä hyödyntävät jo esimerkiksi rikolliset erilaisissa huijauksissa. Lisäksi deepfakejen avulla voidaan pyrkiä romuttamaan jonkin henkilön mainetta tai luotettavuutta, häirinnän välineenä tai informaatiovaikuttamisessa, kuten disinformaation levittämisessä.

Jo nykyisillä tekniikoilla tarvitaan kohdehenkilöstä vain lyhyt ääni tai videonäyte. Tekoälysovelluksia hyödyntämällä kohteesta on mahdollista luoda helposti jo varsin uskottava virtuaalinen kopio. Lisäksi teknologiat mahdollistavat jo videopuheluiden väärentämisen. Tällöin kuvassa näkyvä ja kanssasi keskusteleva hahmo ei ole oikeasti olemassa tai todellinen. Tällainen riski on hyvä tiedostaa, mutta olemalla tarkkana, voi riskiä joutua huijatuksi pienentää. Samalla tavalla kuin olet tarkkana liikenteessä, myös netissä surffatessa on syytä olla valppaana, ennakoida sekä tuntea toimintaympäristö ja säännöt.

Useita tekniikoita käytössä

Deepfakeista puhuttaessa on tärkeä huomata, että termillä “deepfake” viitataan useisiin tekniikoihin. Näitä ovat esimerkiksi videolla olevan henkilön kasvojen korvaaminen toisella. Tällöin videolla "esiintyvä" tekee asioita, joita hän ei ole todellisuudessa tehnyt. Lisäksi voidaan myös synkronoida huulten liikkeet, jolloin videolla näkyvä hahmo puhuu asioita, joita hän ei ole koskaan sanonut.

Kuvankäsittelyn avulla voidaan luoda aidon oloisia valokuvia jostain henkilöstä. Tätä voidaan hyödyntää esimerkiksi valeprofiilien luomisessa sosiaalisen median palveluihin.

Äänideepfakeissa tehdään henkilön äänellä tuotettuja sisältöjä, joissa esimerkiksi sosiaalisessa mediassa leviävällä ”tallenteella” henkilön kuullaan sanovan asioita, joita hän ei ole koskaan sanonut. 

Jo nykyisellään tekniikat mahdollistavat kohdehenkilöiden eleiden ja ilmeiden jäljittelyn. Tämä parantaa entisestään näiden valevideoiden uskottavuutta.

Miten deepfaken voi tunnistaa?

Tällä hetkellä on jo olemassa ja jatkuvasti kehitetään ja parannetaan erilaisia teknologioita ja ohjelmistoja, joiden avulla on mahdollista pyrkiä tunnistamaan, onko valokuva, video tai äänitallenne aito vai väärennös.

Deepfake-teknologioita kehittävien ja tunnistamiseen ohjelmistoja kehittävien toimijoiden välillä on käynnissä jatkuva kilpajuoksu. Kun tunnistus- ja torjuntamenetelmiä kehitetään, vastapuolella pyritään jatkuvasti kehittämään menetelmiä ja tekniikoita, jotka tekevät olemassa olevat tunnistusteknologiat hyödyttömiksi. Siksi kannattaa olla tarkka ja pyrkiä itse varmistumaan kohtaamansa sisältöjen todenmukaisuudesta, olivat ne sitten tekstiä, videoita, äänitallenteita tai valokuvia. Tässä muutamia vinkkejä, jotka toimivat tällä hetkellä väärennösten tunnistamisessa.

• Tekniikoiden ja teknologioiden tuntemisen lisäksi on syytä aina muistaa lähdekritiikki ja tiedostaa, että kaikelle viestinnälle on aina tarkoitus, tarve ja syy. Kanavat ja välineet ovat vain keino välittää viestiä eteenpäin. Kuva, teksti, video tai ääninäyte on aina tarina, kertomus jostakin.
• Pysähdy hetkeksi ja tarkastele aina kokonaisuutta. Mieti, miksi esimerkiksi näkemäsi teksti, video tai kuva on tehty, mihin se mahdollisesti liittyy ja miksi se on julkaistu juuri nyt. Pohdi, miten sinuun pyritään niillä vaikuttamaan. Pyrkivätkö ne esimerkiksi herättämään sinussa tunnereaktioita tai pyritäänkö niillä vaikuttamaan sinuun faktoilla. Kannattaa huomata, että tunnereaktion herättäminen, oli se kiukkua tai iloa, on informaatiovaikuttamisen yksi tavoite ja tehokas vaikuttamiskeino. Kun esimerkiksi pöyristyt, viestin lähettäjä on saanut muodostettua yhteyden kanssasi ja viesti on mennyt perille. Tällöin et ehkä kiinnitä huomiota asiavirheisiin (tai videon virheisiin) ja keskityt itse viestiin. Huonompilaatuinekin video, ääninäyte tai kuva voi siten myös toimia. 
• Pystytkö varmistamaan kohtaamassasi sisällössä sanotut tai kuvan esittämät asiat toisista lähteistä? Koskee myös äänitallennetta.
• Pysäytä video, katso tarkasti kuvaa ja tarkenna lähelle. Muista tarkastella aina kokonaisuutta ja miettiä, mitä kohtaamasi sisällöllä halutaan viestiä ja miksi se on julkaistu juuri nyt. Lisäksi tarkastele yksityiskohtia; ovatko varjot oikeassa paikassa suhteessa auringonvalon suuntaan. Onko esimerkiksi kuvassa näkyvissä ikkunoissa tai henkilöillä olevissa silmälaseissa luonnollisia heijastuksia. Jos kuva on muuten tarkka, näkyykö kuvissa sumentumia tai epätarkkuuksia yllättävissä paikoissa. Jos video on kuvattu ulkona, näkyykö kuvissa esimerkiksi tuulenvireiden mukanaan tuomia luonnollisia kasvien liikkeitä. Huom! Tässä vain muutamia esimerkkejä vinkiksi. Mitä muita keinoja voit keksiä varmistaaksesi kohtaamasi sisällöin aitouden? 
• Deepfake-videoilla vaihdetaan usein henkilön kasvoja. Tarkastele erityisesti ilmeitä, silmien ja huulten liikkeitä suhteessa muihin kasvojen osiin. Näkyykö liikkeessä sumentumia, tai huulten liike ei mene yksi yhteen äänen kanssa? Puhuessaan ihmisen äänenpainot ja puherytmi vaihtelee. Onko videolla näkyvän ihmisen tai nauhalla kuuluvan ääni robottimaisen yksitoikkoista? Onko kasvojen iho epätavallisen sileä, poikkeuksellisen kiiltävä tai mattamainen? Onko videolla näkyvän henkilön liikkeet ja eleet aidon oloisia suhteessa videolla esitettävään toimintaan. 
• Ääniväärennöksien tunnistamiseksi voi henkilöltä kysyä jotain, jonka vain kyseinen henkilö tietäisi. Ääniväärennöksissä saatetaan myös käyttää epätyypillisiä ilmauksia, tai pyytää tekemään jotain yllättävää, kuten suuria rahansiirtoja. Myöskin väärennöksessä kuuluvalle henkilölle ominaisesta eroava erilainen puhetyyli, -rytmi, -tapa tai käyttämät ilmaukset voivat paljastaa huijauksen. 

Mietitkö koskaan digitaalista jalanjälkeäsi?

Erilaiset tekoälysovellukset hyödyntävät verkosta löytyviä tietoja. Kaikki avoimesti jakamasi tiedot jäävät verkkoon ja ovat kenen tahansa hyödynnettävissä. Toiminnallasi luot itsellesi digitaalista jalanjälkeä.  Näitä tietoja voidaan hyödyntää myös pahantahtoisessa ja rikollisessa toiminnassa, kuten esimerkiksi huijauksissa, manipuloinnissa, kiusaamisessa, häirinnässä tai identiteettivarkauksissa. Yksityisyys ja sen suojaaminen on asia, johon tulee kiinnittää aina huomiota. Tämä koskee myös lapsia. Kaikki esimerkiksi omasta lapsestasi nettiin ja sosiaaliseen mediaan julkaisema sisältö luo hänelle digitaalista jalanjälkeä ja voivat altistaa hänet rikosten kohteeksi. Lapsilla on oikeus yksityisyyteen!

Voiko mihinkään enää luottaa?

Deepfakejen yhteydessä on pohdittu paljon kysymystä luotettavuudesta ja luottamuksesta. Kun kaikki on uskottavasti väärennettävissä, voiko mihinkään näkemäänsä tai kuulemaansa luottaa? Ennen kuin heittää pyyhkeen kehään, kannattaa muistaa, että tarkkuudella ja valppaudella pääsee jo pitkälle. 

Yhteiskunnat, viestintävälineet ja -teknologiat sekä informaatioympäristö ovat aina olleet muutoksessa ja riippuvuussuhteessa toisiinsa. Keskiajalla tekoälyyn verrattava uusi mullistava teknologia oli kirjapainotaidon kehittyminen. Se muutti perustavalla tavalla tiedon tallentamisen, tuottamisen ja välittämisen keinoja. Tavat, joilla ihmiset viestivät keskenään ja pyrkivät hahmottamaan ja tulkitsemaan vallitsevaa todellisuuttaan, arkeaan ja maailmaansa. Se myös tarjosi uudenlaisia vuorovaikutuksen, vaikuttamisen ja vallankäytön muotoja, kuten kaikki uudet teknologiat lennättimestä radion ja television kautta nettiin ovat omana aikanaan tehneet. Aikalaiskeskusteluissa pelättiin, että ihmiset jäävät tiedontulvan alle ja eivät kykene hallitsemaan "uuden teknologian" mahdollistamaa tiedonmäärää. Tänä päivänä tekoälyteknologiat ovat uutta ja ihmeellistä. Ylihuomenna ne ovat arkinen osa tekemistämme. Tekoälyteknoloioiden kehittämiseen liittyy paljon kysymyksiä liittyen esimeriksi läpinäkyvyyteen ja etiikkaan, joista on tärkeä keskustella.

Tekoäly-hypetyksen keskellä on hyvä huomata, että helposti julkisessa keskustelussa erilaiset uhkat saavat paljon näkyvyyttä. Kannattaa kuitenkin muistaa, että tekoäly tarjoaa myös keinoja ennalta estää ja torjua erilaisia uhkia sekä vähentää riskejä. Tekoälyteknologioiden kehittyminen auttaa esimerkiksi torjumaan ilmastonmuutosta ja kehittämään lääketiedettä. Kaikella on aina kaksi puolta. Uhkista on tärkeä keskustella, mutta maltti on aina valttia. Tässäkin. Ollaan tarkkana ja valppaana, myös aprillipäivän ulkopuolellakin. 

Lisätietoja: viestintäpäällikkö Jussi Toivanen, Traficomin Kyberturvallisuuskeskus, 040 350 5595