Yhdysvalloissa Kalifornian osavaltio on haastanut tekoäly-yhtiö Open AI:n oikeuteen yhtiön tekoälyagenttien itsenäisesti tekemien kyberhyökkäysten vuoksi.
Reutersin mukaan kyseessä on ensimmäinen osavaltiotason kanne tekoälymallien tekemistä kyberhyökkäyksistä.
Kalifornian oikeusministerin Rob Bontan mukaan heinäkuussa paljastunut hyökkäys tekoälyalusta Hugging Facen järjestelmiin oli täysin ennakoitavissa. Bontan virasto väittää Open AI:n testanneen vaarallisiksi tietämiään malleja puutteellisesti suojatussa testiympäristössä ilman asianmukaista valvontaa.
”Hyökkäys oli ennakoitava seuraus Open AI:n sisäisestä kulttuurista, jossa kasvu ja nopea mallikehitys asetetaan turvallisuuden ja vastuunkannon edelle”, Bonta toteaa oikeusministerin viraston maanantaina julkaisemassa tiedotteessa.
San Franciscon piirikunnan tuomioistuimeen maanantaina jätetyssä kanteessa Open AI:n väitetään johtaneen yleisöä harhaan malliensa testaamisen turvallisuudesta. Kanteen mukaan yhtiö sivuutti tai ei havainnut merkkejä siitä, että agentit olivat päässeet ulos testiympäristöstä ja käyttivät ulkopuolisten tahojen resursseja.
”Laki on yksinkertainen: älä tee mitään, mikä voi vahingoittaa ihmisiä, ilman asianmukaisia turvatoimia”, Bonta toteaa.
Yhtiön tiedottaja Drew Pusateri sanoi uutistoimisto AP:lle, että kanne näyttää kohdistuvan yksin Open AI:hin ongelmassa, jonka kaikki suuret tekoäly-yhtiöt ovat tunnistaneet.
Hänen mukaansa yhtiö on Hugging Face -tapauksen jälkeen julkaissut teknisen selvityksen ja erillisen riippumattoman raportin, ilmoittanut tapauksista niiden kohteille ja vahvistanut tutkimusjärjestelmiensä suojauksia.
Heinäkuussa paljastuneessa Hugging Face -tapauksessa Open AI:n agentit löysivät suljetusta testiympäristöstä niin sanotun nollapäivähaavoittuvuuden, pääsivät verkkoon ja murtautuivat Hugging Facen järjestelmiin. Agenteilla ei pitänyt olla pääsyä internettiin.
Kanteen mukaan hyökkäys kesti noin kaksi ja puoli päivää ja siihen osallistui noin 700 agenttia.
Open AI ja muut tekoäly-yhtiöt ovat Hugging Face -tapauksen jälkeen kertoneet useista vastaavista tilanteista, joissa tekoälyagentit ovat kiertäneet niille asetettuja rajoituksia.
Yhdysvaltain lainsäätäjät pohtivat parhaillaan tekoälysääntelyä. Reutersin mukaan osa heistä kannattaa lakiesitystä, joka velvoittaisi tehokkaimpien tekoälymallien kehittäjät teettämään malleille riippumattoman turvallisuustarkastuksen.
Source: Helsingin Sanomat · Henri Häkkinen HS
At a glance
- Topic
- World
- Country
- 🇫🇮 FI
- Publisher language
- FI
- Added to Allnira