Pekka Pihlanto kirjoitti uuden suomen blogiinsa tekoälyn viisaudesta skeptisen kirjoituksen. Tästä tekstistä piti tulla vain kommentti, mutta vastaukseni paisui. Hän otti kantaa Nick Bostromin singulariteettiin. "Oxfordin professori Nick Bostrom esittää muun muassa kirjassaan Superintelligence: Paths, Dangers, Strategies uhkakuvia, joiden mukaan tekoälykkäät robotit voivat pahimmassa tapauksessa tuhota ihmiskunnan. Hän ennustaa, että ennen pitkää koneäly ohittaa ihmisälyn. Koneäly voisi jopa kehittää itseään älykkäämpiä koneita ja nämä vielä älykkäämpiä koneita, ja niin edelleen." Hänen kantansa oli että tekoäly ei voi olla viisas. "Tällaisia utopioita ja dystopioita robottien suorittamasta vallankaappauksesta on esitetty maailman sivu – tosin yleensä fiktion puolella. Bostromin villinpuoleisia ideoita arvioitaessa on muistettava, että on kysymys koneiden älykkyydestä, ei ihmisälystä. Jo tietokoneiden alkuaikoina korostettiin, että tietokoneet olivat "äärimmäisen nopeita idiootteja", eivätkä ne vieläkään ole inhimillisessä mielessä viisaita."
Minun silmiini tämä kommentti ei ole kovin laadukas : Mieleeni tulee kreationistien käyttämät kielikuvat siitä miten eläimet muuttuvat ihmisiksi vain saduissa.
Ainut argumentatiivinen voima näyttää olevan siinä että "tähänkään asti ei ole ollut". Tekoälyyn on aina suhtauduttu kriittisesti. Ja tässä usein unohdetaan se, että jos puhutaan siitä mikä on mahdollista ja ei ole mahdollista puhutaan innovatiivisuudesta ja sen rajoista. Itse asiassa väitänkin että Pihlannon tekstissä on - riippumatta siitä onko hän uskovainen vai ei - metafyysinen jäänne dualismista. Jossa tosiasiassa oletetaan pakosti jonkinlainen sielu, jos tätä ei osata tehdä eksplisiittisesti vaan tämä filosofinen painolasti kulkee mukana implisiittisesti, niin sen pahempi mielenfilosofille. En siis vastusta tämänlaisia väitteitä sinällään, vaan nimenomaan sen takia että metafyysisistä sitoumuksista tehdään mahdottomuusväitteitä samalla kun nämä kiistetään "Koneälyltä tulee jatkossakin puuttumaan se inhimillisyyden kipinä, joka tekee elollisesta organismista ihmisen: koneelta puuttuu inhimillinen viisaus – tosin myös tyhmyys – ja tietoisuus itsestään, jonka vain ihmisaivot ja -tajunta voivat tuottaa. Teologit voivat tässä yhteydessä sanoa, että koneilta puuttuu sielu, mutta sielun olemassaolo perustuu uskoon."
Mutta alkustatementista itse perusteluun.
Pihlannon teksti on siitä kiinnostava että se käsittelee sellaista asiaa kuin viisaus. Siksi omassa kommentissani kysyinkin suoraan että ""Voiko tekoäly haastaa ihmisen viisaudessa?" Siis anteeksi; Missä viisaudessa." Pihlanto ymmärsi lauseeni ironian. Vitsi olikin tarkoitettu ja oli mukavaa että se tiedostettiin. Kuitenkin sen takana on vakavampi kysymys. Kun väitetään että maailmassa on jokin piirre johon ihminen kykenee ja kone ei on tämä piirre jotenkin kuvattava. Ja jos väittää jotain villinpuoleiseksi, tämä on syytös. (Toki moni pitää näitä statementeja argumentinkorvikkeenakin. Tieteellisesti ne kuvaavat vakaumuksia eivät tosiasioiden tiloja.)
Ja tässä kohden tekoäly on ollut järkyttävä ala. Evoluutiobiologian puolella on totuttu leikkimään sillä että monesti siellä esitetään erilaisia väitteitä siitä että mitä ihmiset tekevät jota simpanssit eivät tee eivätkä voi oppia tekemään. Ja nämä tuntuvat sitten kumoutuvan. (Viittomakieli ja työkalujen käyttö ovat tästä malliesimerkkejä : Ne falsifioivat "vain ihmiset" -kannanottoja.) Tekoälyssä oikeastaan kaikki näyttää noudattavan samaa kaavaa. Kun itse opiskelin kognitiotiedettä oli ilmoilla selvä ongelma. Ongelma jota pidän relevanttina. Ja tärkeänä syynä miksi en pidä ns. tietokonemetaforasta. Syynä on yksinkertaisesti se, että koneet tekevät hyvin sellaisia asioita jotka ovat ihmiselle loppujen lopuksi älyttömän vaikeita. Ja toisaalta monet asiat jotka ovat ihmisille helppoja ovat koneille lähes mahdottomia.
Siinä missä historiassa ihmisen loogis-älyllinen asia oli se joka erotti hänet eläimistä, on nykyään ikävä tietokonesiru ihmistä parempi raa'assa laskentatehossa. Ihminen on sitten erityislaatuisen hyvä ns. hahmontunnistuksessa (pattern recognition). Tämä ilmiö on se syy minkä vuoksi captcha -tunnistuksia käytetään. Tekoälyt eivät osaa murtaa niitä. Siksi erilaiset spammausfirmat joutuvat palkkaamaan alipalkattuja toimisto-orjia purkamaan näitä captcha -salauksia. Toisaalta ajan mittaan tässäkin on edistytty. Captcha -tunnisteet alkavat olemaan niin sumuisia ja hämäriä että ainakaan minä en onnistu niissä aina. Captcha -tunnistus tuleekin jossain vaiheessa vallan kovasti todennäköisesti murtumaan. (Ja toimisto-orjat korjataan algoritmeilla.) Trendi on nimittäin tässä kohden ollut sen verran voimakasta. Samoin kun itse pelleilin kahviautomaatin kanssa vaikeuksilla, on kännyköissä oleva "Siri" jo huomattavasti parempi.
Tämä ero on tärkeä koska se vihjaa siitä että aivojemme toimintamekanismi on oleellisesti erilainen. Meidän ei tarvitse tietää miten aivot tarkalleen ottaen toimivat. Paras vertailu toki tapahtuisi näin. Mutta kun suorituksessa on noin radikaaleja eroja, se kertoo siitä että ihmisajattelu toimii jollain tavalla syvästi epäanalogisesti verrattuna tietokoneiden loogiseen laskentatehopuoleen.
Ero on tärkeä.
Olen ottanut tietokonemetaforaan kantaa varhaisemmassa singulariteettiblogauksessani. Samassa kirjoituksessani valitin siitä miten moni sekoittaa tietoisuuden ja singulariteetin yhteen. Tällä kertaa jatkan siitä miten "viisauden" tapaiset konseptit sotkevat asiaa helposti lisää. Tietoisuuskiakin on monia eri määritteitä ja "viisauden" kaltainen epämääräisyys sallii eri tasoilla hyppimisen. Ekvivokaatiot jyräävät peliin kuin huomaamatta. Syntyy dikotomisia ajatuksia ja puutteellista mielenfilosofiaa. Kategoriavirheiden vuoksi on syytä katsoa eroja.
1: Korostan että en tässä halua erityisesti moittia Pihlantoa : Hänen kannanottonsa on "good enough" ja hän keskustelee asiallisesti. Kokonaisuus on tekstin blogimuoto huomioiden aivan riittävän hyvä
Pihlannon tekstissä asiallista onkin korostaa tietokonemetaforan puutteellisuutta. Nähdäkseni tietokoneen taitoerot johtuvat syvällisistä toimintaperiaate-eroista. Ja tämän vuoksi minulle jokainen ameebakin on tietoisempi kuin mikään "Eugene Goostman". Turingin testissä onnistuminen on minulle vain "nätti temppu". Ei merkki tietoisuudesta. Tässä on käytössä tärkeä jaottelu. Moni pitää Turingin testiä jonkinlaisena tietoisuuden saavuttamisen todisteena, mutta sitten moni toimii kuten Chalmers ja korostaa kiinalaisen huoneen argumentissaan että imitaatio ei ole välttämättä samaa kuin onnistuminen.
Tässä kohden Pihlanto ei ole eksplisiittisesti tuonut esiin sellaista joka kohtuu usein tulee vastaavassa tilanteessa esiin. Eli sitä että ensin selitetään että kiinalainen huone on vakava haaste. Ja sitten siirryttäisiin puhumaan siitä mitä koneet voivat tai eivät voi tehdä. Tämä ongelma on tietysti siitä ongelmallinen että kiinalainen huone käsittelee tilannetta jossa kone pystyy tekemään samoja asioita kuin ihminen. Sen tietoisuus on se käsite joka tässä irrotetaan. Olisi siis omituista lähteä siitä että jos tekoälyn älykkyys jotenkin puuttuu niin sitten se kone ei voisi tehdä juuri mitään.
1: Toki Pihlannolta löytyy tähän implikoivia lausuntoja jotka vihjaavat että hän saattaa ehkä kenties ajatella tähän tapaan. Kommenteista nimittäin löytyy pari asiaa "Sanotaan sitten Metzingerin käsittein, että tekoäly ei koskaan kykene kokemaan fenomenologista minää". Ja "En usko, että koneäly voi koskaan saavuttaa ihmismäistä potentiaalia
tehdä omasta aloitteestaan hyvää tai pahaa. Jälkimmäisestä Bostrom
haluaa meitä varoittaa. Kone ei voi tuntea aidosti "minä olen minä" eikä
haluta jotakin omasta tahdostaan. Jos näitä ominaisuuksia näyttäisi
koneilla esiintyvän, ne ovat ihmisen ohjelmoimia." Ja lisäksi Pihlström sanoo kommenteissaan että "Ihminen pystyy tekemään myös tyhmyyksiä, mutta kyllä myös kaikki hyvä ja
hyödyllinen, mitä näemme ympärillämme, on tietysti ihmisen viisauden
luomuksia. Ihmisellä on potentiaali hyvään ja luovaan, mutta myös
pahaan." Tätä kautta loppuosassa tekstiä käsittelen asiaa kuin hän tekisi niin. (Muutoin teksti paisuisi vielä järjettömämmän kokoiseksi. Ja tämän tuoma on relevantimpi ottaen huomioon keskustelu tästä aiheesta noin yleisemmin.) Kenties hän ei tee niin.
Itse korostankin että tietoisuus vaatii sen että tiedetään millä mekaniikalla tekoäly suorittaa temppunsa. ; Tässä spesifiin aihetta koskevana karkeana analogiana voisi ottaa tilanteen jossa tietokoneohjelma pelaa shakkia. Mielestäni "Deep Blue" pelaa mainiosti shakkia mutta se käyttää tässä prosesseja jotka ovat tietokoneilla hyviä. Se hoitaa asian suoralla laskentateholla. Jos tietokone toimisi toisenlaisella mekaniikalla, tilanne voisi olla aivan toinen. Ja itse asiassa tässä korostankin että mekaniikka on oikeastaan kaikki. Jos mekaniikka on kunnossa, niin imitaatio on käytännössä mahdottomuus. Filosofinen zombie ei tässä mielessä ole enää mahdollinen. Tai jos on, se on latistunut puhtaaksi metafysiikaksi jolla ei ole enää mitään empiriistä ulottuvuutta. (Vaaditaan jonkinlainen oletus empirian ulkopuolella olevasta sielusta olemassaolevaksi jotta vastapuolella olisi enää jäljellä mitään.)
Tosin kun aiheena on Boström, on pakko muistaa että singulariteettia pitää käsitellä hieman eri ehdoilla kuin mitä vaikkapa Chalmers - tai Metzinger - lähestyy asiaa. Niiden käyttäminen kritiikin oikeuttamisessa on jonkinlainen olkiukko. Toki kysymykset tietoisuudesta, etiikasta ja muusta ovat milenfilosofisesti kiinnostavia. Ne ovat vain hieman eri kysymyksiä ja niiden niputtaminen on siksi turhan oikovaa. Toki näin aihetta voidaan laajentaa. Kun viisaudelle annetaan eri merkityksiä voidaan kasata tietoa siitä mitkä asiat eivät ole samoja asioita. Ja toisaalta samalla voi syntyä ajatus siitä että kun noin monta asiaa ovat ongelmallisia niin kenties se että niistä vähintään yksi osuisi oikeaan on hyvinkin relevanttia. (Ja samalla voi miettiä sitä että tämä ei tarkoita että edes yksi niistä väistämättä toteutuisi ja tekisi tekoälyn viisaudesta mahdotonta sanan täydessä mielessä.)
Tässä ei kuitenkaan enää oikeastaan ole "teknisesti" singulariteetista puhumista. Aiheena on laajempi mielenfilosofia. Joka on tietysti aivan OK, etenkin henkilökohtaisissa blogeissa. Ja tällä laajemmalla rintamalla jatkan tämän kahlaamiseni loppuun.
Eroista ei saa tehdä liian pitkälle meneviä johtopäätöksiä.
Jos minun pitäisi kuvata millä hengellä otan sen että "jos kone tekee jotain se on ihmisen siihen ohjelmoimaa". Mieleeni tulee vahva Intelligent Design -rinnastus. William Dembski on kuluttanut paljon aikaa ajatukseen jossa evoluutioalgoritmit "salakuljettavat" lopputulokseen informaatiota eivätkä ratko oikeasti ongelmia. Suunnittelu on aina läsnä koska ohjelmoija on liittänyt intelligent designiä koodatessaan ohjelman. Näin "hyvyysfunktioissa" on väkisinkin design -informaatiota. ; Itseäni ihmetyttää miksi tämä on millään tavalla relevanttia sillä (a) se on vähän sama kuin selittäisi että ihminen ei voi olla tietoinen koska sen alkuperä on Jumala eikä ihmisessä ole mitään sellaista mitä Jumala ei olisi häneen laittanut (b) meteorologiset simulaatiot eivät liity luonnossa olevaan säätilaan mitenkään koska ne toimivat vain kaavoilla jotka joku on niihin ohjelmoinut (c) ne kertovat jonkinlaista äiti-maa -tarinaa koska evoluutioalgoritmejen "hyvyysfunktioissa" on analogisuus siihen mitä luonnonlait ja ympäristö tekevät luonnossa. Tosiasiassa Dembski tietenkin vain haluaa torjua matematiikan jota evoluutioalgoritmeissa käytetään. Eikä hän tee sitä kovin hyvin tai kiinnostavasti. (Se on itse asiassa "no joo" joillain hyvin erikoisilla metafyysisillä käsitteiden väkisin määrittelyillä. Jos olet näistä erimielinen niin se on sitten siinä, mitään uhkaa tästä ei ole.)
Tästä ohjelmointipohjasta on itse asiassa raaka yhteys suoraan neurologiaan. Kun puhuin siitä miten "ihminen ei tee mitään mitä Jumala ei ole meihin laittanut" en ottanut kantaa pelkästään kalvinismiin - jossa ollaan deterministejä ja kiistetään vapaa tahto. Se on nimittäin syvempi kysymys. Se on kysymys joka esiintyy esimerkiksi Eaglemanin "Incognito" -kirjassa. Hän ottaa esille sen miten valtaosa ihmismielen toiminnasta on esitietoista jolle konfabuloiadan selitys jälkikäteen. Ja miten aivovammat ja rakenteet vaikuttavat vahvasti toimintaansa. Hän näkee tällä olevan juridis-eettisiä ulottuvuuksia. Että tällä on tärkeitä yhteyksiä lain ja oikeuden kanssa. ; Kun tieto näistä yhteyksistä lisääntyy, korostuu yhä vahvemmin se että usein tulee tilanne jossa tekijä ei ikään kuin olisi vastuussa koska hänen "aivonsa tekevät jotain" jolle "hän itse ei mahda mitään".
Tässä mielessä tilanne nimenomaan lähestyy sitä että "ihminen ei tee mitään mitä Jumala ei häneen ole ohjelmoinut" on aivan relevantti mahdollisuus. Vaihtoehto joka ei missään nimessä ole ristiriidassa minkään tietämämme empiirisen asian kanssa. Joten se ei ole missään nimessä "mahdoton" sellaisessa mielessä joka ihmisen on relevanttia kieltää periaatetasolla jossain mielenfilosofiakeskustelussa. Jos ihmisen aivot paljastuvat deterministisiksi, se vastaisi täysin ajatusta jonkinlaisen mekanistisen algoritmin tietoisuudesta. Ja tästä päästään kysymykseen voiko kalvinistisen ihmiskuvan mukaan ihminen olla tietoinen. (Oma kantani asiaan tulee selväksi jo tähän laittamistani aiemmista linkeistä : Kyllä voi. Mikä muistuttaa siitä että tietoisuus ei ole sama kuin vapaa tahto, ja niiden käyttäminen automaattisesti synonyymeinä on "älyllistä oikomista".)
Lyhyesti sanoen tietokoneen, tietoisuuden ja vapaan tahdon kohdalla on kysymys samantapaisesta ongelmasta joka on aivojen fysikalismissa tuttu. Ongelmana onkin se, että argumentit joilla koneen tietoisuus halutaan kieltää johtaa helposti siihen että ihmsenkin tietoisuus kyseenalaistuu. (Mikä on toki tuttua myös eläinten tietoisuuden kanssa ; ja samasta syystä. Statement on maailmankuvallinen ja sitä perustellaan sovittamalla argumentit asiaan jälkikäteen katsomatta kokonaisuutta. Sillä jos lopputulos on haluttu, koetaan argumentti väkisinkin osuvaksi.) Ja johon minulla on varsin selvä kanta. Ongelma on tässä kohden tavallaan siinä että tietoisuus ja vapaa tahto ja kokemuksellisuus liitetään liian vahvasti ja automaattisesti ns. indeterminismiin. Ainakin siinä mielessä että deterministiseltä puolelta tämä nähdään automaattisesti puuttuvaksi. Eli deterministinen järjestelmä ei voisi olla tietoinen. Oma "selvä kantani" oli kuitenkin se että juuri näin ei välttämättä ole. Mielenfilosofiassa tämä dikotomia koskee vain osia teorioista. Ja siksi voidaan sanoa että "mahdottomuusväite" on maailmankuvallinen statement joka vaatii tiettyjä sitoumuksia. En ymmärrä miksi minun tai kenenkään muunkaan pitäisi näihin uskoa puhtaasti a priori. (Olen yhä Quinelainen ; Kaikessa tiedossa on oletuksenvaraisuutta. Mutta puhdas a priori -järjestelmä on roskaa joten kaikessa hyväksyttävässä premissoinnissa on oltava takana tietoa.)
Mainiossa "Philosophical Disquisitions" -blogissa on tartuttu relevanttiin asiaan. Huomio on kiinnittynyt siihen miten moni lataa aivotutkimukseen kovia odotuksia. "Once upon a time, I wrote a thesis about criminal responsibility and advances in neuroscience. Half-way through that thesis, I realised that few, if any, of the supposedly revolutionary impacts of neuroscience on the law were all that revolutionary. Most were simply rehashed arguments about free will and responsibility, dressed up in a neuroscientific garb, but which had been around for millennia." Tämä hypetys on toki ilmiselvää. Mutta toisaalta tässä on syytä korotaa mekanismipuolta.
Mahdotonta? Miten niin mahdotonta?
Tässä mietteiden avuksi voi ottaa vaikka Mark Balaguerin "Free Will as Open Scientific Problem" jossa korostetaan juuri sitä että vanhat mielenfilosofiset ongelmat ovat jotain jotka tekevät jonkinlaisia tosiasiaväitteitä. Ja näiden kautta asiaa voidaan ratkaista. Oman argumenttini kannalta erittäin osuvaa on se, että hän miettii miten aivoihin voidaan mahdollisesti saada indeterminismiä ja milloin tämä johtaa aitoon vapaaseen tahtoon. Samoin hän miettii voiko deterministinen aivokoneisto olla tietoinen. Samoin oleellista on tiedostaa että hän pitää kysymystä jonain jonka tiede voi periaatteessa ratkaista vaikka ei vielä olekaan ratkaissut sitä.
1: Toisaalta lähestymisellä on argumenttini kannalta toinenkin puoli. Jos tietoisuutta ei voida lähestyä empiirisesti se on suoraan määritelty ei epistemologian ja empirian ulottuvilla olevaksi metafyysinen ontologiseksi asiaksi. Jos näin on niin on erikoista että Boströmin kannanotot teknologiasta kuvattaisiin mahdottomiksi puhtaasti eitieteellisin ja metafyysisin syin. Tällöin on tarpeetonta selittää että sielu olisi uskonasia. Itse agnostikkona suhtaudun tämänlaisiin kannanottoihin ... varovaisen epäillen ; Ne kuvaavat ehkä yhtä mahdollisuutta mutta eivät kaikkia. Kun taas "mahdotonta" on universaali väite joka pätee kaikissa "nykyfysiikan rajoissa mahdollisissa empiirisissä maailmoissa". (Joka ei ole samaa kuin mahdollisuus jossain loogisessa maailmassa, vaan on tätä astetta suppeampi. Ja jossa tätä kautta on helpompi tehdä mahdottomuusväitteitä. Ja tämän vuoksi epäonnistuminen mahdottomuusväitteen todistamisessa painaa astetta enemmän.)
Nämä ratkaisut ovat mekanistisia. Joka tarkoittaa että periaatteessa voidaan rakentaa jonkinlainen fysikaalinen kappale joka tekee tiettyjä toimintoja. Tämä ei välttämättä ole piitä ja terästä. Mutta kun ihminen rakentaa kokonaisuuden joka toimii tällä tavalla - vaikka kvanttifysiikan mekanismeja hyväksikäyttäen kuten
Samoin voidaan ottaa mielenfilosofinen ajatus "hieman spekulatiivisemmalta puolelta". Silloin puhutaan mahdollisuudesta sanan loogisessa mielessä (logical possibility.) Tällöin voidaan nostaa esiin mikä tahansa fysikalistinen mielenfilosofia. Vaikkapa Daniel Dennettin ajatus siitä miten tietoisuus voi rakentua eitietoisista alaosista on mahdollinen. Aina kun joku esittää mahdottomuusväitteen innovatiivisista aihepiireistä, hänen täytyy tehdä asiasta jonkinlainen hyvinkin vahva argumentti. Nimittäin jos jotain väittää mahdottomaksi, riittää että on jokin ei-falsifioitu keino jolla se olisi mahdollista. Näin esimerkiksi Dennettin näkemys siitä miten tietoisuus voi muodostua aivoissa on jotain jossa fysikalistinen mekaniikka voi johtaa tietoisuuteen. Dennettin näkemys on jotain josta on vaikeaa sanoa onko se reduktionistinen vai holistinen : Tai oikeammin : Se sopii yhteen molempien kanssa. Tekoäly voi olla syntyvä emergentti piirre tai jotain joka ihmismieleen tuntuu lattealta (koska reduktio on monien korvissa samaa kuin pahuus ja automaattisesti väärässäoleva, josta en tosin ymmärrä että "miksi").
Näistä voidaan palauttaa asia kaiken ytimeen. Jos otamme ihmisen aivot ja vaihdamme yhden neuronin laitteeseen joka antaa täsmälleen samanlaista palautetta eteenpäin kuin oikeakin hermosolu. Tämä ei vielä tee ihmismielestä mekaanista. Jos tätä tehdään toiselle, kolmannelle ja neljännelle... hermosolulle syntyy muutakin kuin "Sorites -paradoksin" riski. Se nimittäin luo loogisen mahdollisuuden sille että aivot ovat fysikalistinen koneisto. Ja jos asia on mekanistinen, se voidaan yleensä rakentaa. - Kenties tekoäly ei onnistu algoritmeilla koska ne ovat ohjelmointia vaativia ja deterministisiä. Tämäkään ei ole välttämätöntä. Mutta vaikka näin olisi niin silti koneistoon voidaan saada indeterminismiä kvanttifysiikalla. Samoilla tavoilla millä se aivoihinkin saadaan.
Se että kiistetään tämä ja selitetään että aivotkin toimivat eri tavalla harrastetaan jotain joka on samanlaista filosofiaa mitä vitalismi oli ennen biokemian alkua. Eli jotain joka on lähinnä:
1: Science stopper. Jotain joka sanoo "ei kannata tutkia, haaskaatte aikaa ja rahaa mahdottomaan". Mutta ei kuitenkaan tutki sitä vaihtoehtoa, kuten sitä miten tietoisuus ja viisaus sitten rakentuvat.
2: Jotain joka on teoriassa yksi mahdollisuus, mutta joka ei rajaa todellisuutta siten että siitä poikkeaminen ei mitenkään olisi mahdollista. Biokemian voittokulku on käytännössä niin vahva että ID -piiritkin eivät korosta että ihmiskehon elävä kudos ei olisi fysikalistisesti mahdollisia. Sen sijaan he korostavat että ne ovat hienoja koneita, mekanistisia ja siksi suunniteltuja. Joka muistuttaa siitä että vitalismi ei suinkaan tarjonnut kovin vakuttavaa "mahdotonta" -väitettä. Vaikka se sellaisena aikanaan esitettiinkin.
Loppukaneetti:
Se, että kieltää lähtökohtaisesti mahdollisuuden Bostromin singulariteetilta, koneiden viisaudelta tai miltä tahansa onkin näyttää noudattavan tiettyä puutteellista klimppiä:
1: Eri asioita liimataan yhteen kuin ne olisivat samoja asioita. Tässä esimerkiksi viisaus on samanaikaisesti käytännön toimivuutta joka näkyy että fenomenologista itsetietoisuutta. Jossa ei tiedä puhutaanko saavutuksista vai tietoisuudesta. Tai siitä onko Turingin testi ja vastaavat saavutettavissa. "Viisaus" on tässä erityisen erikoinen koska Pihlanto sekoittaa mukaan jopa etiikan. "Mistä syntyisivät koneälyn tunteet ja niihin liittyvät arvot sekä moraali ja eettisyys?" (Jossa on kategoriavirheen makua kun kommenteissa puhutaan fenomenologisesta tietoisuudesta ja sitten etiikka kuin ne olisivat oleellisesti ja väistämättä yhteenliittyneet. Mutta kun tietoisuus, etiikka ja koneiden kyky tallata ihmiset jalkoihinsa rinnastetaan yhteen näiden kanssa on jo asetettu samaksi niin tiedetään että kuljetut tiet ovat assosiativiisia eivätkä siksi mitään vakavastiotettavaa teknologian rajojen aitoa pohdintaa.) Ja jopa neurologian rajat "Aivot on kuitenkin todettu liian monimutkaisiksi läheskään täydellisesti jäljiteltäviksi." Tämä aivojen haasteellisuus toki koskee tämän hetken tiedettä, mutta se ei tietenkään tarkoita juuri mitään koska Bostrom ei sano että singulariteetti on jo nyt läsnä, ja ainut tapa jolla argumentti laajenee kaikkea tulevaa teknologiaa koskevaksi on laajentaa tästä mahdottomuusväitteeksi. Samalla kun hän ei ota kantaa sielukysymykseen joka on hänestä uskonasia. (Joka on kokonaisuutena itselleni täysin käsittämätön)
1.1: Itse korostan että etiikkaan liittyvät ongelmat ovat täsmälleen humen giljotiinin kokoiset. Ja tässä kohden kysymys voidaan Quinelaisittain häivyttää. (On naurettavaa vaatia keneltäkään loogisen positivismin ehtoja täydestä premissittömyydestä.) Itsekin pidän etiikkaa mysteerinä, mutta nostan kuitenkin esiin sen että Sam Harrisin tapaan ongelma voidaan latistaa kysymykseen siitä miten etiikka määritellään. Hän määrittelee moraalin ihmisten kautta. Toki avoimen kysymyksen argumentti riittää tässä kysymään onko tämä todella etiikkaa. Mutta täsmälleen sama tulee sitten vastaan myös ihmisten älyn kohdalla. ; Kysymys muuttaa tällöin muotoaan. Se muistuttaa enemmän ns. Hard problem -tilannetta. ; Ensinnäkin sen merkitystä tunnutaan ylikorostavan. Ja toisaalta se esittää epistemologisen kannanoton siitä mitä fysikaaolisesta tietoisuudesta voi tietää. Ei siitä että fysikaalisesta tietoisuus olisi mahdotonta. Ei kuitenkaan ole tavatonta että Hard Problem muuntuu ihmisten puheissa jonkinlaiseksi todisteeksi sielun olemassaolon väitämättömyydestä. (He sentään tunnustavat sitoumuksensa ääneen, toisin kuin ne tahot joilla se jää implisiittiseksi mutta joilla fysikalismin/naturalismin vaihtoehtona kiistävät argumenttirakenteet muutoin kulkevat mukana.)
2: Argumentoinnin sijasta tässä itse asiassa lähinnä a priori kielletään että asiat eivät toimi. Tehdään suoria kannanottoja ; Että tietoisuus ei voi olla deterministinen. Että se ei ole indeterministinen. Että se ei ole reduktiivinen. Että se ei ole emergentti piirre. Näiden pitäisi olla johtopäätöksiä eikä premissejä jos kyseessä on mahdottomuusväite. Kaiken lisäksi tämän jälkeen on aivan turha väittää että jättäisi sielukysymyksen ulkopuolelle. Jos eliminoi kaikki luonnontieteelliset vaihtoehdot ja lähestymistavat lähtökohtaisesti on turhaa esittää että ei tee kannanottoa jossa mieli ihmisilläkin olisi luonteeltaan supernaturaali.
Näen kuitenkin että Bostromin kritiikkiin on tarvetta. Hän on niitä ihmisiä jotka tuntuvat näkevän tekoälyä kaikkialla ja jotka uskovat tekoälyn voivan tehdä aivan mitä tahansa. Joka vihjaa siitä että hänellä on fix idé tämän asian kohdalla. En voi sanoa muuta kuin että tämänlainen intoilu herättää vähintään epäilyjä maailmankuvista ja intresseistä : Toki Bostrom täytyy tuomita tieteellisestä osuvuudestaan koska asia ratkaistaan asialla eikä henkilöllä. Eli katsomalla mitkä tiedetään eimahdollisiksi. (Itse en esimerkiksi pidä mind uploadingia mahdollisena.)
Bostrom luultavasti liioittelee, vakavastikin. Hän puhuu tulevaisuusskenaarioista, joten tämä ikään kuin kuuluu jossain määrin asiaan väkisinkin. Tämän hypetyksen kohdalla asenteeni on tässä samanhenkinen kuin mitä linkkaamieni "Eugene Goostmanin" turingin testailun ja "Philosophical Disquisitionsin" "neurojuridiikan" kritiikin kanssa. Eli en pidä "periaatteessa mahdottomana" onnistua Turingin testissä tai että aivotutkimus ei auttaisi rikollisten intentioiden ja tekemisien paljastamisessa. ; Toki on mahdollista että nämä eivät oikeasti olisi mahdollisia. Innovaatioista puhuttaessa ongelmana vain on se, että liian helposti nojataan siihen että "ei ole tähänkään asti" ja tästä päätellään että "asia on mahdotonta". Kuitenkin innovaatioita ja tieteellisiä tutkimuksia ja kehitelmiä syntyy jossain määrin joka päivä. Ja kun ne kasautuvat, minun säälittävä kahviautomaatti mutatoituu "Siriksi", peräti tavalla jossa "Siri" ei edusta jotain mitä teknologia ei enää edes teoriassa voisi mitenkään ylittää saavutettua. (Ikiliikkuja on nykytieteen mukaan mahdoton. "Sirin" jatkokehittely paremmaksi ei ole ainakaan todistettu sellaiseksi.)
Loppujen lopuksi ironian rajat näyttävätkin olevan juuri siinä että ihmiseltä odotetaan aika paljon. Moni on jonkinlaisessa inhimillisessä egoismissa jossa ihminen nähdään jotenkin erityisen kyvykkäänä ja spesiaalina. Että ihmiset voivat tehdä jotain johon apinat ja koneet eivät pysty. En suhtaudu tämänlaiseen ihmiskuvaan kovin positiivisesti : Minusta se on naïvien ihmisten kyvykkyysfantasiointia. Sellaista joka sopii pikkupoikien - ja miksipä ei tyttöjen, aikuisten miesten, naisten ja hermafrodiittienkin - supersankarileikkeihin.
Esimerkiksi jos joku esittää että fysiikka ei voi tuottaa aitoa etiikkaa, hän tekee suoran kannanoton siitä että evoluution vähittäiset prosessit eivät voi luoda tunteita adaptaationa mitenkään missään koskaan. Ja tämä taas on jotain joka selvästi asettaa rajoja siihen mitä luonnontiede voi selittää. Ja siihen mitä havaittavia piirteitä luonnossa on. Käytin tässä tekstissä hyvin niukasti kreationistivertauksia. Syynä oli se, että riskinä muutoin olisi aiheen paisuminen analogialistauksiksi. Nähdäkseni peruasenne käsittelemässäni Bostrom -kritiikissä ei eroa ID -kannanotoista kovinkaan paljoa. Tosin jotain eroa itse aiheissa on. Evoluutiolle on paljon evidenssiä, joten sen kohdalla kritiikki on käytännössä jo falsifioitu. Tässä kohden asiat ovat enemmänkin niin että kukaan ei tiedä tarkasti.
Ei kommentteja:
Lähetä kommentti