HS-analyysi | Anthropicin erikoinen hallintorakenne suojaa maailmaa tuholta – toivottavasti

Vuonna 2021 joukko maailman johtavia tekoälytutkijoita jätti taakseen alansa merkittävimmän laboratorion. He kokivat, että Open AI -yhtiössä turvallisuus ja moraali olivat jäämässä rahan jalkoihin.

Seitsikko perusti oman yrityksen ja loi muutamassa vuodessa teknologian, joka saattaa muuttaa ihmiskunnan tulevaisuuden. Parantaa sairauksia, luoda vaurautta ja pahimmassa tapauksessa tuhota koko ihmiskunnan.

Anthropicin seitsemän perustajaa tuovat mieleen Taru Sormusten Herrasta -teoksen sormuksen saattueen. Myös saattue kuljetti mahtavaa voimaa, joka saattoi turmella käyttäjänsä ja vaaransi koko maailman.

Anthropicin seitsemän perustajaa eivät ole vielä hajonneet kuten sormuksen saattue. He hallitsevat erillisen osakesarjan kautta yli puolta yhtiön äänivallasta myös lähestyvän pörssilistautumisen jälkeen.

Anthropicin marraskuun listautumisesta odotetaan jopa historian suurinta. Yhtiön hallinnollinen rakenne on myös erikoisimpia, mitä amerikkalaisen kapitalismin historiassa on nähty.

Toimitusjohtaja Dario Amodei ei ole tavanomainen pörssiyhtiön toimitusjohtaja. Hän on biofysiikan tohtori ja filosofisia esseitä kirjoittava visionääri, joka on maalaillut tekoälylle sekä huimaa tulevaisuutta että tuomiopäivän riskejä.

Huiman tulevaisuuden skenaariossa Amodei uskoo, että tekoäly voi tiivistää vuosisadan tieteellisen ja lääketieteellisen edistyksen vain 5–10 vuoteen, parantaa syöpiä ja poistaa köyhyyttä.

Yhtiön listautumisesitteen mukaan Anthropicin tavoite on ”kehittää ja ylläpitää vastuullisesti edistynyttä tekoälyä ihmiskunnan pitkän aikavälin hyödyksi”.

Toisaalta Amodei on haastattelussa aiemmin arvioinut, että on jopa 25 prosentin mahdollisuus, että ”asiat menevät todella, todella huonosti”.

Esseessään The Adolescence of Technology Amodei kertoo tarkemmin näkemistään riskeistä.

Myös Anthropicin listautumisasiakirjassa varoitetaan peräti 92 sivun verran siitä, että teknologia saattaa aiheuttaa eksistentiaalisia riskejä ihmiskunnalle tai karata hallinnasta.

Tekoälyn riskit Dario Amodein mukaan

■ Tekoälymallit karkaavat hallinnasta, käyttäytyvät arvaamattomasti ja esimerkiksi estävät oman sammuttamisensa laboratoriotesteissä.

■ Rikolliset tai häiriintyneet väärinkäyttävät tekoälyä biologisten tai kemiallisten aseiden kehittämiseen tai kyberhyökkäyksiin.

■ Epädemokraattiset maat ja hallitsijat käyttävät tekoälyä kansalaisten valvontaan tai manipuloimiseen propagandalla.

■ Tekoäly voi tulevaisuudessa aiheuttaa massatyöttömyyden ja keskittää varallisuuden pienen teknologiaeliitin käsiin.

■ ”Äärettömyyden musta meri” eli tekoälyn oudot sivuvaikutukset. Ihminen alkaa vieraantua oikeasta elämästä ja jää psykologisesti koukkuun tekoälysuhteisiin.

Sitäkin on spekuloitu, onko kyse myyntipuheesta. Varoittamalla ihmiskunnan tuhosta yhtiö viestii sijoittajille, että sen teknologia on käsittämättömän voimakasta.

Samalla se on kuin amerikkalaisen rappujakkaran tuoteseloste: jos kaadut kiivetessä, et voi haastaa oikeuteen, koska siitä varoitettiin sivulla 140. Siis juristien disclaimer mihin tahansa amerikkalaiseen tuotteeseen.

Ehkä ihan hyvä, että tällä yrityksellä ei ole myöskään tavallisen pörssiyhtiön hallintorakennetta.

Anthropic on perustettu Public Benefit Corporation (PBC) -muotoon. Se on Yhdysvalloissa poikkeuksellinen yritysmuoto, joka yhdistää yleishyödyllisen ja säätiömäisen tarkoitusperän pörssiyhtiöön.

PBC-yhtiöt ovat varsin harvinaisia, mutta niiden määrä on Reutersin mukaan vähitellen kasvanut. Kyse on yritysmuodosta, joka luotiin keinoksi puuttua yritystoiminnan mahdollisiin kielteisiin vaikutuksiin.

Myös Anthropicin kilpailija Open AI on ottanut tämän yritysmuodon käyttöön.

Se tarkoittaa, että yhtiön johdolla on velvollisuus painottaa ihmiskunnan yleistä etua ja tekoälyturvallisuutta yli osakkeenomistajien lyhyen aikavälin voittojen.

Käytännössä se tarkoittaa esimerkiksi, että yhtiö voi viivästyttää tuotejulkaisuja (kuten Mythos -tekoälymallia) tai käyttää miljardeja turvallisuustutkimukseen, vaikka se pienentäisi lyhyellä aikavälillä yhtiön voittoja.

Anthropicissa yhtiön moraaliseksi kompassiksi on rakennettu riippumaton säätiö, Long-Term Benefit Trust, jonka jäseniin kuuluu muun muassa Yhdysvaltain keskuspankin entinen pääjohtaja Ben Bernanke.

Tavallisilla sijoittajilla ei ole käytännössä lainkaan päätösvaltaa yhtiön linjauksista.

Jopa Anthropicin strategiset kumppanit ja suuret omistajat, kuten Amazon ja Alphabet, ovat mukana äänioikeudettomalla osakesarjalla. Suursijoittajat saavat taloudellisen hyödyn mutta heidät on eristetty täysin yhtiön päätöksenteosta.

Anthropicin perustajat istuivat Youtubessa julkaistulla videolla yhdessä pöydän ääressä keskustelemassa yrityksen menneisyydestä, tulevaisuudesta ja nykytilasta. Kuva: @anthropic-ai / Youtube

Anthropicin hallintorakenne kuulostaa jopa valtiolliselta – siis Montesquieun kolmijako-opilta.

Rakenne nojaa kolmeen valtakeskukseen. Ensimmäinen on perustajat, toinen on riippumaton säätiö ja kolmas ovat työntekijät.

Jos säätiön ja perustajien välille syntyy riita hallituspaikoista, ratkaiseva päätös- ja äänivalta siirtyy lopulta yhtiön työntekijöille.

Kuulostaa paperilla hyvältä turvamekanismilta siltä varalta, että sormuksen saattue hajoaisi tai mahtisormus turmelee ihmismielet.

Jos Anthropic onnistuu missiossaan, siitä voi tulla seuraavaksi puoleksi vuosisadaksi merkittävämpi teknologiajätti kuin Alphabet tai Meta ovat koskaan olleet.

Osa sijoittajista on kuitenkin kritisoinut rakennetta kysyen, ostaisitko osakkeen ilman äänivaltaa.

Hieman vastaavaa on toki nähty muissakin yhdysvaltalaisissa teknologiajäteissä, joissa on voimakas perustaja-toimitusjohtaja.

Kesällä pörssiin listautuneessa avaruus- ja tekoälyjätti SpaceX:ssä toimitusjohtaja Elon Musk hallitsee äänivaltaisia osakkeita. Musk on sementoinut valtansa yhtiössä muutoinkin poikkeuksellisilla järjestelyillä.

Siinä missä Musk on keskittänyt SpaceX:ssä valtaa yhdelle henkilölle, Anthropic on pyrkinyt hajottamaan sitä ja luomaan turvamekanismeja.

Vaikka Dario Amodei astuisi syrjään, yhtiön hallintorakenne ja säätiö jäisivät edelleen valvomaan yhtiön moraalista kompassia.

Perustajien valta raukeaa kymmenen vuotta listautumisen jälkeen, tai jos seitsikosta on jäljellä alle kolme henkilöä. Tämän jälkeen säätiö säilyy ylimpänä valvojana.

Hieman kärjistäen: SpaceX on Elon Muskin autokratia. Anthropic on kuin perustuslaillinen tasavalta.