Mitä tekoälyn tekemiksi kutsutut tietomurrot oikeastaan kertovat?

Tapauksia arvioitaessa on syytä erottaa toisistaan kaksi asiaa 1. tapahtuiko toiminta kontrolloidussa testissä vai todellisessa ympäristössä, ja 2. toimiko tekoäly ihmisen apuvälineenä vai suorittiko se itsenäisesti useita hyökkäyksen vaiheita. Turvallisuustestissä havaittu toimintakyky ei vielä kerro, kuinka luotettavasti tai itsenäisesti sama toiminta onnistuisi todellisessa käyttöympäristössä.

Raportoidut tapaukset eivät osoita, että tekoälyjärjestelmät olisivat muodostaneet omia hyökkäystavoitteitaan. Ne osoittavat pikemminkin, että järjestelmä voi sille asetetun tavoitteen, käytettävissä olevien työkalujen ja käyttöoikeuksien puitteissa toimia tavalla, jota sen kehittäjät eivät ole tarkoittaneet tai ennakoineet. Kyberturvallisuuden kannalta olennaista ei ole tekoälyn tietoisuus tai tahto, vaan sen käytännön toimintakyky.

Turvallisuus ei ole pelkästään mallin ominaisuus

Tilannetta voi verrata siihen, että kauhakuormaajan kuljettaja laittaa vahingossa vaihteen silmään ja kone rysäyttää kaupan ikkunasta sisään. Ongelma ei johdu siitä, että kauhakuormaaja olisi päättänyt tehdä niin, vaan siitä, että tilanteen hallinta ei ole toiminut tarkoitetulla tavalla. Tekoälyjärjestelmien kohdalla turvallisuutta ei kuitenkaan voi arvioida pelkän mallin perusteella, sillä lopputulokseen vaikuttavat myös järjestelmälle annetut työkalut, käyttöoikeudet ja toimintavapaus.

Tapauksia ei voi selittää yksin puutteellisella hallinnalla tai testiympäristöjen heikolla eristyksellä. Taustalla voivat samanaikaisesti vaikuttaa mallin vaikeasti ennakoitava käyttäytyminen, tehtävän määrittely, työkalujen suunnittelu, käyttöoikeudet, eristysratkaisut ja valvonta. Tekoälyn turvallisuus onkin koko järjestelmän ominaisuus.

Keskeiset suojakeinot ovat pitkälti samoja, joita kyberturvallisuudessa on sovellettu jo pitkään: käyttöoikeuksien rajaaminen, järjestelmien eristäminen, lokitus, toiminnan seuranta ja ihmisen hyväksyntä kriittisissä vaiheissa. Mitä enemmän toimintavapautta järjestelmälle annetaan, sitä tärkeämmiksi nämä suojaukset tulevat.

Osa näkyvimmistä tapauksista on tullut julkisuuteen tekoäly-yritysten ja tutkimusryhmien omien turvallisuusraporttien kautta. Tämä auttaa tunnistamaan riskejä ja kehittämään suojatoimia, mutta samalla on syytä muistaa, että näkyvät turvallisuustestit ovat myös osa yritysten viestintää. Julkiset esimerkit eivät sellaisenaan kerro, miten järjestelmät toimivat todellisissa käyttötilanteissa.

Tekoälyä hyödynnetään jo kyberhyökkäysten eri vaiheissa esimerkiksi kohdetiedustelussa, huijausviestien laatimisessa, haitallisen koodin kehittämisen tukena ja suurten tietomäärien analysoinnissa. Toistaiseksi järjestelmien kyky toteuttaa kokonaisia kyberhyökkäyksiä ilman ihmisen ohjausta on kuitenkin rajallinen. Olennaisempi kysymys kuin täydellinen autonomia on se, kuinka paljon ihmistyötä, asiantuntemusta ja valvontaa hyökkäysten toteuttaminen edelleen vaatii.

Tekoäly hyödyttää myös puolustajia

Samaan aikaan generatiivinen tekoäly tarjoaa merkittäviä mahdollisuuksia myös puolustajille. Sitä voidaan hyödyntää esimerkiksi uhkatiedon käsittelyssä, lokiaineistojen analysoinnissa, ohjelmistokehityksessä ja tietoturvapoikkeamien selvittämisessä. Hyödyt eivät poista käyttöön liittyviä riskejä, mutta ne muistuttavat, ettei tekoälyn vaikutusta kyberturvallisuuteen kannata arvioida vain hyökkääjien kyvykkyyksien kautta.

Viimeaikaiset tapaukset eivät vielä osoita, että tekoälyjärjestelmät kykenisivät toteuttamaan kokonaisia kyberhyökkäyksiä ilman merkittävää ihmisen ohjausta. Ne osoittavat kuitenkin, että tavoitteellisesti toimiva järjestelmä voi käytettävissään olevien työkalujen ja oikeuksien avulla saada aikaan seurauksia, joita sen suunnittelijat eivät tarkoittaneet tai ennakoineet. Siksi tekoälyn turvallisuutta on arvioitava koko järjestelmän tasolla. Mallin kyvykkyyksien lisäksi ratkaisevia ovat työkalut, käyttöoikeudet, valvonta ja järjestelmälle annettu toimintavapaus.