Rokon basiliski

Rokon basiliski (Roko´s basilisk) on tekoälyn tulevaisuutta koskeva kanta joka on jotain pahimman mahdollisen skenaarion ja ajatuskokeen väliltä. Singulariteetin saavuttanut tekoäly on tässä siitä erikoinen että se olisi vihamielinen niille, jotka eivät ole ole olleet aikoinaan mahdollistamassa sen syntymistä. Se voisi kiduttaa ja piinata. Kenties jopa ladata näiden ihmisten tietoisuuden muistiinsa jossa sitten kiduttaisi heitä ikuisesti ja ikuisesti.

Hieman liikaa?

Ajatus on siitä kiinnostava että se ajaa teknodystopiaa jossa ei saisi olla teknologianvastainen. Tavallisesti teknologista dystopiaa pelkäävät nojaavat siihen että teknologiaa pitäisi jarruttaa. Toinen huomattava asia tämän ajatuskokeen kannalta on tietenkin se, että siinä missä maltilliset kannanotot eivät saa julkisuutta, katastrofeilla ja maailmantuholla saa näkyvyyttä. Tämä näkyy jo asioiden muotoiluissa ; Teknologia joka vie työpaikat on myyvempi kuin teknologia joka takaa että kenenkään ei tarvitse raataa henkensä pitimiksi. Teslan ei-tekoälykeskeinen teknoutopia johtaisi massatyöttömyyteen. Ne ovat sama asia. Ja sitten on myös aste-ero. Vähemmän dramaattisia ja vaarallisia ennustava futurologi ei kiinnosta suurta yleisöä. Mutta julistapa teknotuomiopäivää Skynetin noususta niin olet kiinnostava, kuin joku modernin ajan Savonarola laittamassa älypuhelimia turhuuksien roviolle.

Tätä vaivaa antropomorfismi. Tämä ei toki tekoälyn kohdalla ole kovinkaan poikkeuksellista. Tekoäly nähdään usein omaa itseään suojelevaksi ja aggressiiviseksi. Tämänlaisia ominaisuuksia voi kuitenkin odottaa enemmän evoluution kautta syntyneille kuin älykkäästi suunnitelluille organismeille. Älykkäästi Suunniteltu tekoäly voisi olla ohjelmoitu vaikka miten itsetuhoon valmiiksi ja uhrautuvaksi. Nykyajan sotarobottejakaan käsitellessä ei pidetä relevanttina käsitellä niitä analogisina sotilaille siinä mielessä että ne pelkäisivät kranaattitulta. Ihminen inhimillistää kaikkea sellaista joka ei ole inhimillistä.

Lisäksi kun otetaan huomioon se, että (a) alkuperä ja historia kiinnostavat ihmisiä identiteetin kautta ja tämä on tekoälylle todennäköisesti melko turha asia (b) aika menee vain eteenpäin eikä ajassa voi matkustaa taaksepäin ei ole hankalaa huomata että olisi melko epätodennäköistä että tekoäly olisi syntymänsä jälkeen vihainen niille jotka eivät ole sitä olleet rakentamassa ja sen syntyä edistämässä. Tämä asenne kun ei muuttaisi mitään, menneisyys ei muuttuisi. Aggressiiviseksi tulkittava tekoälykin tuntuu todennäköisemmältä skenaariolta.

On kuitenkin huomattava

Singulariteetissa riskejä tuottaa se, että tekoäly voi kehittää yhä tehokkaampia tekoälyjä. Logiikka onkin kokonaisuutena se, että vaikka on monenlaisia tekoälyjä, osa niistä on hyödyllisiä ihmiselle, osa haitallisia ja osa on vaarallisia. Singulariteetin ylittänyt tekoäly joka tuottaa tehokkaampia tekoälyjä ei ole enää ihmisen ohjelmointityön ja suunnittelutyön varassa (by definition koska muuten se olisi vain tekoäly eikä singulariteetin ylittänyt tekoäly). Kehitys on siis ihmisen hallinnan ulkopuolella ja tämä tekee riskin. Ja tämä riski otetaan joka ikisessä iteraatiossa. Riski toteutuu ennemmin tai myöhemmin jos sille on jokin todennäköisyys, vaikka pienikin.

Siksi esimerkiksi Yudkowskin kritiikki Rokon basiliskia kohtaan ei ole kovin tehokas. Hän kun on korostanut sitä että tekoäly voisi olla vaarallinen vain jos ihminen tietoisesti ohjelmoisi sen sellaiseksi. Mutta samalla kun tekoäly saa tehoja ei ole mikään ilmiselvä että tekoälyn ohjelmoinnin täytyisi olla ihmisten hallinnassa ja kontrollissa. Tai edes ihmisen ymmärrettävissä. Itse asiassa edes yksinkertaisesta tietokoneohjelmasta ei välttämättä näe päälle päin, mitä kaikkea se voi tehdä, joten riski on selkeästi olemassa. Toisaalta hänestä rationaalinen toimija ei alistu kiristykseen tai metakiristykseen. Mutta peliteorian mukaan rationaalinen toimija voi iteroidussa nollasummapelissä olla kiristettynä jopa ikuisesti. Eikä tässä olisi väliä suostuuko toinen puoli yhteistyöhön vai ei. 1: Jos tekoälyn ei usko voivan ylittää singulariteettia ei pelko ihmiskuntaa älykkäämmästä tekoälykompleksista ole kysymys. Se on vain määritelty 0 todennäköisyydeksi ja koko ajatuskoe/skenaario määrittyy pois. Tässä ajatus on tietenkin toinen, mutta tämä on enemmän a priorinen oletus tekoälyn rajoista kuin tunnettu teknologinen rajoite.)

Kristillistä eskatologiaa uudessa kuosissa?

Jos Rokon basiliskia tarkastelee teologiaan tutustuneen silmin voi huomata että ajatus on yllättävän läheistä sukua Pascalin ajatukselle "uskomisesta jumalaan varmuuden vuoksi". Jumalaan kannattaa uskoa, koska jos et usko, sinua kidutetaan helvetissä iankaikkisesti, ja jos uskot, et menetä oikeastaan mitään. Äärettömän palkkion mahdollisuus tekee uskomisesta tavallaan rationaalista. Ja riittää että Jumala olisi mitenkään mahdollinen. Samoin Rokon basiliskissa mahdollisuus, ei suuri todennäköisyys "tai uskottavuus", ei ole se kaikista tärkein asia. Koska riski toteutuessaan on niin suuri.

Jos Pascalin vaaka tuntuu uskottavalta niin sitten pitäisi ponnistella kaikin voimin tietoisen tekoälyn kehittämistyössä. Hyvin harva kristitty on kuitenkaan valmis kuluttamaan suurinta osaa vapaa-ajastaan tekoälyn kehittämistyössä. Ja kun he kertovat miksi eivät, he ovat samalla antaneet minulle syyn siihen miksi minun ei kannattaisi uskoa Jumalaan varmuuden vuoksi.