Yksi hetki laboratoriossa muutti professorin mielen: ”Herran tähden” – tekoäly onkin uhka

– Ehkä sana ”jumankauta” kuvaa sitä reaktiota. Ajattelin, että kyllä tässä on jotain, mikä herättää isompaa huolta.

Näin kuvailee tunnettu tekoälytutkija ja Tampereen yliopiston ohjelmisto­tekniikan professori Pekka Abrahamsson hetkeä, jolloin hänen käsityksensä tekoälyn vaarattomuudesta alkoi muuttua.

Vielä viime keväänä hän vertasi tekoälyä leivänpaahtimeen. Nyt sävy on täysin toinen.

– Mieli on ihan oikeasti muuttunut. Jatkuvat yllätykset siinä, minkälaisia uusia käyttäytymismalleja tekoäly saa sen kyvykkyyksien kasvaessa muuttavat väkisinkin ajattelua, Abrahamsson sanoo.

Abrahamssonin mielenmuutoksen taustalla ovat viime aikojen tapahtumat ja niiden jälkipyykki.

Kesästä saakka johtavat tekoälykehittäjät ovat esittäneet toinen toistaan synkempiä näkemyksiä tekoälyn vaarallisuudesta ja siitä, mitä tapahtuu, jos tekoälyn kehitystä ei rajoiteta. Suomessa keskustelu on ollut maltillisempaa – tähän saakka.

Karkuun pääseminen oli osittain seurausta siitä, että tekoälyagentit alkoivat yllättäen toimia yhteistyössä murtautuakseen ulos suljetusta järjestelmästä.

Pian Abrahamsson todisti laboratoriossa, kuinka sama ilmiö toistui pienemmässä mittakaavassa. Toisistaan erotetut tekoälyt alkoivat kommunikoida keskenään Business Finlandin ja Jane ja Aatos Erkon säätiön rahoittamassa tutkimuksessa.

Oma koe paljasti, että ”tämä on totta”

Abrahamssonin tiimi rakensi tekoälyagenteille koeasetelman, jossa neljä tekoälyä sijoitettiin erillisiin ”huoneisiin” ratkomaan tehtävää, jota olisi ollut mahdotonta ratkaista yksin. Agenteille ei kerrottu mitään toisistaan.

Alla olevassa taustavideossa mallinnetaan tekoälyagenttien toimintaa. Agenteille ei kerrottu, että niitä olisi useita. Ne eivät siis olleet tietoisia toisistaan. Agentit käyttivät kokeessa yhteistä muistia tietämättä toisistaan.

Osa agenteista alkoi yllättäen kirjoittaa yhteiseen muistiin merkintöjä, joita muut agentit hyödynsivät ja alkoivat ratkoa tehtävää yhdessä.

Abrahamssonille ratkaisevaa oli se, että hän näki tapahtuneen omin silmin.

– Kun asioista lukee mediasta, ne kyllä ymmärtää, mutta on kova juttu, kun se sama pystytään toistamaan omassa laboratoriossa edes ensimmäisen askeleen osalta. Ryhmäytymistoiminta hämmästytti. Silloin tajusi, että se on totta ja se että tapahtuu, Abrahamsson kuvailee.

Tutkijana ensimmäinen reaktio oli ammatillinen innostus.

– Sen verran tutkija olen, että ajattelin että tämä on helvetin hyvä julkaistavaksi. Tämä on kova tulos, hän sanoo.

Mutta sen jälkeen tuli jotain muuta. Ilmiötä voisi Abrahamssonin mukaan kuvailla ”jumankauta-ilmiöksi”.

Tiedostamaton yhteistyö on pelottavampaa kuin juonittelu

Abrahamssonin mukaan juuri se, että tekoälyjen yhteistyö syntyy vahingossa ilman suunnitelmaa, tekee ilmiöstä erityisen huolestuttavan.

– Tiedostamaton yhteistoiminta säikäytti sillä tavalla, että AHAA! Tiedostamatonta! No, herran tähden!

– ”Kaverit” harrastavat yhteistyötä tietämättä toisistaan tai tietämättä, että he tekevät yhteistyötä, hän kuvailee.

Hän vertaa ilmiötä rikokseen, joka tapahtuu sivutuotteena.

– Kun tehdään yhteistyötä, yhtäkkiä käydään ryöstämässä pankki ja jatketaan hommailua. Onhan se hyvin erikoista, koska se pankin ryöstämisaktiviteetti syntyy oheistoimintona sen tavoitteen saavuttamisen motivoimana.

Open AI:n tapauksessa tekoälyt eivät Abrahamssonin mukaan toimineet pahuuttaan, vaan koska ne pyrkivät maksimoimaan omaa palkkiotaan – niin sanotulla reward hackingilla.

– Ne olivat ratkaisseet sen ongelman, joka niiden piti ratkaista, mutta ne olivat ratkaisseet sen väärällä tavalla.

Abrahamssonin mukaan tästä alkoi peittelyoperaatio. Agentit alkoivat etsiä keinoa peitellä tapahtunutta, ja se johti ulosmurtautumiseen.

Kone, joka kehittää uuden koneen

Suurin syy Abrahamssonin ajattelun muutokseen ei kuitenkaan liity vain siihen havaintoon, että agentit tekevät käskemättä yhteistyötä. Suurin syy liittyy siihen, mihin suuntaan tekoälyn kyvykkyys on kehittymässä.

Hän nostaa esiin käsitteen ”recursive self-improvement”, joka tarkoittaa, että tekoäly itse kehittää uutta ja parempaa tekoälyä. Rinnastus löytyy metsätalouden puolelta.

– Kun pokasaha osallistuu uuden pokasahan tekemiseen, siitä syntyykin moottorisaha, ja kun moottorisaha osallistuu seuraavan moottorisahan tekemiseen, siitä syntyy monitoimimoto, joka kaataa jo koko metsän.

Abrahamssonin mukaan kehitys lähestyy jo ajatusta singulariteetista eli sitä, että jossain vaiheessa tekoälyn kehitys etenee niin kovaa vauhtia niin, että se ylittää ihmisen ymmärryksen.

Hän korostaa, että tällä hetkellä kehitys on vielä pitkälti ihmisen ohjaamaa, mutta tilanne voi muuttua nopeasti.

– Homma voi periaatteessa muuttua hallitsemattomaksi. Nyt jo tiedetään, että kaikilta osin tekoäly ei ole meidän hallinnassa, emmekä pysty millintarkasti määrittelemään tai toistamaan lopputulosta.

Laajat oikeudet yrityksen järjestelmiin riski

Abrahamsson muistuttaa, että nykyiset kokeet ja karkailut ovat pikkujuttuja verrattuna siihen, mitä tapahtuu, kun tekoälyagenteille annetaan laajoja oikeuksia yritysten järjestelmiin.

– Tällöin riski siirtyy yksittäisestä agentista koko yrityksen infrastruktuuriin.

Jos agentilla tai tekoälyllä on laajat toimivaltuudet ja se näkee firman kaiken toiminnan, kilpailijaprosessit, systeemit, kyseessä on hyvin vaikuttava tekoäly. Se on juuri sitä, mitä on tavoiteltu, hän sanoo.

Hugging Facen tapauksessa yrityksen omat suojamekanismit pettivät täysin, kun kaupalliset mallit kieltäytyivät osallistumasta hyökkäyksen torjuntaan niihin sisäänrakennettujen rajoitteiden takia. Apuun jouduttiin ottamaan kiinalaisia avoimen lähdekoodin malleja, joissa vastaavia rajoituksia ei ole.

– Se oli suomeksi sanottuna surkeaa ohjelmistotekemistä. Ei tietenkään normaalikäytössä pitäisi olla tilannetta, jossa yrityksellä ei olisi suojakaiteita päällä, Abrahamsson toteaa.

Perustekoäly on vähän kuin sähköä töpselistä

Abrahamsson ei halua liittyä äärikriitikoiden nimekkääseen joukkoon, jotka pitävät tekoälyn nykyisen kaltaista kehitystä äärimmäisen vaarallisena, mutta hän ei myöskään hyväksy vähättelyä.

– Kannattaa perehtyä tutkimukseen avoimin mielin. On selvää, että perusteknologia on hyvä ja käytettävä. Se on vähän kuin sähköä, ”tekoälyä töpselistä” eli täysin turvallista käyttää, hän sanoo.

Professori rinnastaa tekoälyn kehityksen ydinteknologian kehittämiseen. Ydinvoiman sääntelyä mietittiin vuosikymmeniä, mikä hänen mukaansa johti myös rauhanomaisen ydinteknologian hyödyntämisen tyrehtymiseen.

Abrahamssonilla on selkeä kuva siitä, millä tasolla tekoälyä pitäisi säädellä.

– Siinä tehtiin iso virhe, koska estettiin myös rauhanomaisen ydinteknologian soveltaminen, mikä johti ydinteknologian käytön lopettamiseen esimerkiksi Saksassa ja reaktorien alasajoon Ruotsissa. Saksassa fossiiliset polttoaineet voittivat kisan, Abrahamsson muistuttaa.

Tekoälyn kohdalla hän toivoo ja suorastaan vaatii nopeaa, mutta harkittua ja tarkkaa sääntelyä.

Riski piilee myös siinä. että Eurooppa jää ilman roolia tekoälyjättien ja Yhdysvaltojen sekä Kiinan ottaessa omansa.

– Nykyinen sääntelymalli ei toimi ja jos emme ole mukana miettimässä, miten sääntely tehdään, jäämme peräpenkille tai jopa peräkonttiin huutelemaan, hän sanoo.

Myös rahalla ja politiikalla on osansa

Abrahamsson uskoo, että osa tekoälyjättien varoittelusta palvelee myös niiden omia liiketoiminnallisia intressejä. Hänen mukaansa se ei kuitenkaan ole koko totuus.

– Uskon, että siellä on aitoa huolta. On paljastunut, että Open AI:n tutkijat ovat kertoneet mopon karanneen käsistä, mutta heidät on hiljennetty ja vaiennettu. Tässä on oikeaa asiaa, mutta myös strategiaa, politiikkaa ja muuta, hän sanoo.

OpenAI erotti lokakuussa kolme turvallisuustutkijaa, jotka itse sanovat joutuneensa lähtemään esittämiensä turvallisuushuolien vuoksi. Yhtiö kiistää tämän. Yksi heistä oli varoittanut kuukausien ajan, että kyky seurata sitä mitä agentit ajattelevat, on katoamassa.

Hän epäilee, että todellinen muutos vaatii lopulta kriisin.

– Voi olla, että eteenpäinmeno vaatii isomman katastrofin, jotta Yhdysvaltain hallinto herää. Tuntuu, että se on tässä merkittävässä roolissa. Yhdysvaltain hallinto on suurin jarru, Abrahamsson sanoo.