Tekoäly | Tekoälymallien tuotosten moninaisuus heikkenee asteittain

Tekoäly

Laadukas, ihmisten kirjoittama teksti on jo kulutettu loppuun. Malleihin on alettu syöttää suurin määrin tekoälyn itsensä tuottamaa ja suodattamaa dataa.

Lukijan mielipide

Kirjoitus on Helsingin Sanomien lukijan mielipide.

13:15

Samppa Keturilla oli aivan oikea käsitys (HS Mielipide 7.11.) siitä, että tekoäly on kuorrutteet poistettuna vain nopea tietojen tonkija ja yhteenvetojen tekijä. Se on myös aasinsiltojen rakentaja.

Usein väitetään, että tekoäly voisi korvata rutiinityötä. Useimmiten näin ei kuitenkaan ole, sillä rutiinit vaativat vakaata sääntöpohjaisuutta, jota nykyinen populaari tekoäly ei pysty tarjoamaan.

Tämä tekoäly, eli transformer-kielimallit, ottaa vastaan tokenisoitavan syötteen: kaiken tekstin lyhyestä pätkästä kokonaiseen pdf-tiedostoon tai jopa videoon. Tokenit ovat erilaisia merkkien yhdistelmiä – mistä voi hahmottaa, kuinka valtavasta määrästä rakennuspalikoita on kyse.

Kielimalli on neuroverkko, jossa on kymmeniä tai satoja peräkkäisiä kerroksia. Ensimmäisissä kerroksissa niin sanottu huomiokerros punoo yhteyksiä vierekkäisten tokeneiden välille: se oppii kielioppia ja peruskäsitteitä. Ylemmissä kerroksissa malli alkaa hahmottaa laajempia kielen rakenteita. Tämä voi vaikuttaa siltä, että mallilla olisi jonkinlainen päättelykyky. Lopulta kyse on kuitenkin vain historian raskaimmasta kokeilusta matriisilaskennan saralla: malli arvaa rakennuspalikoiden muodon ja sijainnin aiemmin nähdyn perusteella.

Tekoäly tyhmenee, ja sillä on alalla termikin: malliromahdus.

Tästä päästäänkin kirjoittajan osuvaan kysymykseen: tyhmeneekö tekoäly, jos se syö omaa tuotostaan?

Vastaukseni on lyhyt: kyllä, ja sillä on alalla termikin, malliromahdus (model collapse).

Teknojättien tarkoitus olisi tuottaa rahaa. Kielimalleilla agenttihärveleineen on kuitenkin ollut kehno hyötysuhde lukuisissa yritys- ja hallintokentän pilottikokeiluissa. Yhtiöiden on ollut pakko keksiä jokin keino ”kasvattaa älykkyyttä”, jotta pääsisimme eroon niin sanotusta tekoälykrapulasta – eli pettymyksestä mallien kykyyn toimia itsenäisesti ja viedä erityisesti nuorten asiantuntijoiden työpaikat.

Tästä seuraakin nykyinen ”hyperskaalaus”, joka ilmenee Suomenkin maastossa hillittömänä datakeskusbuumina. Ala on nimittäin törmännyt seinään: laadukas, ihmisten kirjoittama teksti on jo kulutettu loppuun. Malleihin on alettu syöttää suurin määrin tekoälyn itsensä tuottamaa ja suodattamaa dataa.

Mallien koulutusajot ovatkin tämän seurauksena muuttuneet arpapeliksi: viikkojen konesalirouskutuksen jälkeen tuloksena saattaa olla malli, joka on romahtanut tilastolliseen degeneraatioon, jossa kieli ja yhteyksien rakentaminen on latistunut. Lopputulos on kuin valokopion kopio rasvaisella lasilla: jokainen kierros on edellistä suttuisempi ja roskaisempi.

Koko tämä kokeilu maksaa käsittämättömiä summia pääomaa, sähköä ja ympäristöarvoja vain siksi, että yritetään teeskennellä arvauskeskuksen kykenevän luomaan tyhjästä uutta inhimillistä tietoa. Tämä kaikki tulisi viimein myös Suomessa ottaa kriittisesti huomioon, jotta emme rakenna tulevaisuutta ontoin tieteellisin ja teknisin perusteluin – virastojen hallinnollisen toiveajattelun varaan.

• Miika Hämäläinen
• tietotekniikan DI-opiskelija
• Tampere

HS:n toimitus valitsee ja toimittaa mielipidekirjoitukset. Voit jättää mielipidekirjoituksen tai tutustua kirjoitusten periaatteisiin täältä.

Artikkeliin liittyvää

Luitko jo nämä?