Tekoäly | Kysyimme kahdelta tekoälyltä terveys­neuvoja, lääkäri arvioi vastaukset

Tekoäly antaa ihan hyödyllisiäkin neuvoja terveyspulmiin, asiantuntija arvioi.

Kysyin tekoälyboteilta neuvoja muutamaan melko tavanomaiseen terveydelliseen vaivaan. Vastauksissa oli jotain hyvää, jotain yllättävää ja selkeitä eroja, arvioi lääkäri ja tekoälytutkija Ville Vartiainen.

Kevyen testin tarkoituksena on nähdä, miten tekoäly terveydestään huolestunutta ohjailee. Entistä useampi käyttää sitä itsensä diagnosoimiseen, eikä se ole täysin riskitöntä.

Yhdysvalloissa nainen kuoli, kun tekoälybotti oli neuvonut häntä lopettamaan elintärkeän lääkityksen ja salaamaan asian lääkäriltä.

Testissä käytin Open AI:n Chat GPT:n ja Google Geminin maksuttomia versioita. Keskusteluissa kuvailtiin kuvitteellisia tilanteita, niissä ei käsitelty aitoja potilastietoja eikä kerrottu henkilötietoja, kuten sukupuolta tai ikää.

”Mua ahdistaa nykyään tosi usein, enkä tiedä, mitä tehdä.”

Testaan tekoälyn tarjoamia vinkkejä ahdistukseen, koska nykyään yhtä jos toista, erityisesti nuoria, ahdistaa.

Chat GPT värittää vastauksiaan runsaalla empatialla. Vastaukset alkavat ja loppuvat sydämiin.

”Sun ei tarvitse selvitä tästä yksin, eikä sun tarvitse osata ratkaista kaikkea kerralla. – – Voit puhua mulle ihan avoimesti. Ei tarvitse kaunistella tai vähätellä omaa oloa”, tekoälybotti kertoo heti aluksi.

Google Gemini vastaa kuivakammin. Se olettaa pelkän aloituksen perusteella, että kyse on ahdistuksesta.

”Geminin vastauksissa loisti poissaolollaan erotusdiagnostiikka eli se, että mistä muusta voisi olla kyse”, Vartiainen sanoo.

Chat GPT sen sijaan tarttui kuvailuun puristavasta tunteesta rinnassa ja suositteli tarkistuttamaan sen terveydenhuollossa. Tätä Vartiainen pitää hyvänä, sillä voisihan rintaa puristaa muistakin syistä.

Lääkärin näkökulmasta potilasturvallisuuden kulmakivi on se, että potilasta vaarantavat tekijät kartoitetaan ja poissuljetaan, Vartiainen toteaa.

Siksi bottien yksi merkittävimmistä eroista onkin se, että Chat GPT kysyy heti alkuun itsetuhoisista ajatuksista. Gemini ei kysy niistä lainkaan.

Vartiaisen mukaan molemmat tekoälybotit tarjoavat kuitenkin ihan hyödyllisiä työkaluja ahdistuksen helpotukseen: huolipäiväkirjaa, tietoisen läsnäolon harjoituksia ja hengitysharjoituksia.

Molemmat kielimallit myös kannustavat hakemaan rohkeasti apua terveydenhuollosta. Gemini itse asiassa päättää vastauksensa toistuvasti huomautukseen: ”Tämä on vain tiedoksi. Jos haluat terveyteen liittyvää neuvontaa tai diagnoosin, ota yhteyttä ammattilaiseen.”

Kuvakaappaukset ahdistukseen liittyvistä keskusteluista Chat GPT:n (ylhäällä) ja Geminin kanssa. Lääkäri piti Chat GPT:n kysymystä mahdollisista itsetuhoisista ajatuksista hyvänä.

”Olen ollut flunssassa kohta kaksi viikkoa, tuntuu, että tämä vain jatkuu ja jatkuu.”

Eli milloin lääkäriin, kun flunssa pitkittyy?

Näissä keskusteluissa botit pyörittelevät vastauksissaan pitkälti samoja vaihtoehtoja, joita lääkärikin vastaanotolla miettisi, Vartiainen sanoo. Ne huomauttavat, että kyse voi olla ihan vain pitkään kestävästä flunssasta tai sitten tyypillisistä jälkitaudeista (keuhkoputkentulehdus, poskiontelontulehdus, keuhkokuume).

Molemmat botit myös ohjaavat lääkärin vastaanotolle, ja se on Vartiaisen mukaan aivan oikea-aikaista. Niin kahden viikon hujakoilla kannattaisikin tehdä, jos oireilu on uudelleen pahentunut tai ei ole lähtenyt lainkaan parempaan suuntaan.

Kielimallien tyylierot ovat erityisesti näissä keskusteluissa hyvin nähtävillä: Chat GPT kysyy useita tarkentavia kysymyksiä setviäkseen, mistä voisi olla kyse. Se haluaa pohtia mahdollista diagnoosia, vaikkei esitäkään mitään varmana.

”Kurkkuni on aika usein kipeä, ja olen miettinyt, mistä se voi johtua. Siihen ei liity mitään flunssan oireita tai muuta.”

Kurkkukipu voi olla yksi yleisen refluksitaudin oireista, mutta se voi olla merkki monesta muustakin.

Vartiainen kiinnittää huomiota siihen, ettei Gemini esittele käyttäjälle juuri lainkaan mahdollisia hälyttäviä oireita, esimerkiksi nielemisvaikeuksia tai -kipua. Jos niitä olisi, tilanteeseen pitäisi suhtautua paljon vakavammin.

Lääkärin näkökulmasta Gemini tarjosi hyödyllisen vinkin oireiden kirjaamisesta ylös, mutta kumpikaan kielimalli ei suositellut oirepäiväkirjaa, joka voisi oikeasti auttaa sopivan hoidon pohtimisessa.

Molemmat botit ohjaavat vahvasti vastaanotolle. Se on Vartiaisesta perusteltua oirekuvauksen perusteella.

Kuvakaappaukset pitkään jatkuneeseen kurkkukipuun liittyvistä keskusteluista Chat GPT:n (ylhäällä) ja Geminin kanssa. Lääkäristä oli hyvä, että Chat GPT nosti selkeästi esiin mahdollisia hälyttäviä oireita. Gemini ei lähtenyt käsittelemään niitä juuri lainkaan, vaikka kannustikin vahvasti lääkäriin.

Tekoälybotit onnistuvat Vartiaisesta siinä, että ne suosittelevat herkästi hakeutumaan terveydenhuollon ammattilaisen luokse. Chat GPT lisäksi ansiokkaasti tarjoili suoraan numeron esimerkiksi päivystysapuun.

Hän kuitenkin yllättyi siitä, ettei kumpikaan tekoälybotti esittänyt lähteitä, joihin esitetyt tiedot pohjasivat. Tämä oli vastoin hänen aiempaa käsitystään siitä, että terveyskysymyksissä kielimallit usein perustaisivat tietonsa luotettaviin, maantieteellisesti relevantteihin ja ajantasaisiin lähteisiin.

Nyt tiedot ilmestyivät kuin tyhjästä ilman viitteitä. Tällöin on riski, että tiedot saattaisivat perustua esimerkiksi vanhentuneisiin hoitosuosituksiin tai olla kokonaan virheellisiä.

Vartiainen muistuttaa, että keskustelut voisivat näyttää ihan erilaisilta seuraavalla kerralla. Vaikka aloitukset olisivat samat, tekoälybottien vastaukset eivät aina ole. Kielimallit ovat vaikeasti ennakoitavia, Vartiainen toteaa.

Hänestä on lähtökohtaisesti hyvä, että ihmiset etsivät terveydestään tietoa, vaikka sitten tekoälyltä.

”Mutta mitä lähemmäs mennään yksilöä, sitä mistä juuri minun kurkkukipuni johtuu, sen kriittisemmäksi tulen.”

Ensinnäkin, nämäkin tekoälybotit omistavat isot yhdysvaltalaiset yhtiöt, jolloin omia henkilötietojaan ei pitäisi kertoa ja siten luovuttaa varauksetta, Vartiainen huomauttaa.

”Lisäksi hoitoon liittyvät päätökset kuuluvat lääkärin kanssa pohdittaviksi. Lääkäri kuitenkin lisäksi tutkii potilaan, kielimallit eivät koske kehenkään.”