Meille ostettiin roomba. Se on robotti-imuri. Se käyttää iRobot'sin AWARE(tm) systeemiä joka vaatii hyvin vähän ihmisen inputtia. Robotin hankinta on tietenkin järkevää koska imurointi on ollut minun vastuullani ja sitä on tapahtunut aika vähän. Tätä kautta robotti uhkaa tehdä minut kotityöttömäksi. Mikä on tietenkin kaltaiselleni luddiitille odotettu asiantila.
Roombassa on fiksu järjestelmä jossa monet eri sensorit hakevat ympäristöstä dataa, lähettävät ne robottiin joka sitten prosessoi robotin toimintaa asiaankuuluvasti. Ensin Roomba arvioi huoneen kokoa. Roomba myös väistelee askelmia ja muita vastaavia asioita. Lisäksi siinä on törmäyssensoreita jotka kertovat että se on törmännyt esteeseen. Infrapunasensorit ja monet muut saavat sen kiertämään erilaisia kohteita ja samalla siivoamaan myös seinien läheltä ja nurkasta. Välistä Roomba pysähtyy ja hakee suuntaa ja menee sitten siihen.
Se on hyödyllinen kodinkone jossa on yksi erikoinen piirre. Se on hemmetin creepy. Meillä on myös lattianpesurobotti Raava. Joka on algoritmiltaan selvästi suoraviivaisempi. Se ei ole läheskään yhtä creepy.
Tämä on nähdäkseni hyvin kiinnostava asia. Creepyys on niin ilmiselvä että en pääse pakoon asiaa. Toisaalta tiedän sen niin järjettömäksi kuin vain voin uskoa. Toisin sanoen Roomba ei ole vaarallinen. Se ei ole tietoinen. Se ei ole vaaniskelija. Mutta siihen liittyy silti tunteita kuin se olisi. Tämä tilanne on hyvin mielenkiintoinen sen kanssa että mitä ylipäätään tarkoitetaan kun sanotaan että ”uskotko että Roomba on pahantahtoinen”.
Ilmiö ei ole itselleni yhtään poikkeuksellinen. Boston Dynamicsin robotteja katsellessa koin aikaisemmin sääliä koska niitä potkittiin ja ne horjahtelivat jotenkin orgaanisen oloisesti. Toisaalta kun katsoin videota jossa Boston Dynamicsin robotti avaa oven, en kokenut sääliä vaan se oli creepy kuin jokin lähettiläs Helvetistä. Uskoisin että tällä on yhteyttä siihen että pidän eläimistä. Minulla on melko vahva agenttiuden ylihavaitsemisjärjestelmä joka koskee ei-inhimillisiä kohteita. Tämä on mielenkiintoinen piirre koska en ole mitenkään erityisen samastumiskykyinen. ; Olen itse kokenut asian hankalaksi. Meillä on sellaisia käsitteitä kuin empatia ja sympatian. Empatia tarkoittaa kykyä ymmärtää mitä toinen ihminen kokee tämän näkökulmasta, eli itsensä asettamista toisen henkilön asemaan. Sympatia taas tarkoittaa myötäelämistä eli kokea iloa heidän kanssaan. Itse koen että olen enemmän empaattinen kuin symoaattinen. Mutta aika vähän kumpaakaan. Joten nämä robotteihin ja tulkintani mukaan eläimiinkin kokemani tuntuvat vaativan vielä kolmannen tyylisen elementin.
On varsin tunnettu asia, että tekoälyjen tietoiseksituleminen on vielä aikamoisen kaukana. Silti ihmiset jo nyt kokevat esimerkiksi empatiaa Robotteja kohtaan. Jopa siinä määrin että jostain Smithsonianin lehdestä voidaan lukea miten neurotieteilijät tutkivat ihmisten empatiaa robotteja kohtaan. ; Ihmisten kyky kokea tunteita elottomia kohteita kohden ei tietenkään sinällään edes ole hirveän erikoista. Leikkiväthän jo lapsetkin pehmoleluilla. Lisäksi monet pehmolelut on itse asiassa muotoiltu siten että ne maksimoivat tunteita ihmisissä. Robert Wesson on esimerkiksi kertonut miten leluista tehdään neoteenisiä; Toisin sanoen niihin lisätään vauvankaltaisia piirteitä. Pyöreitä muotoja. Suuria päitä. Suuria silmiä ja vastaavia piirteitä. Näin niistä syntyy asioita jotka ihmiset säännönmukaisesti kokevat söpöiksi. Tämäkään ilmiö ei tietenkään ole sen kummempi kuin siinä että taiteilijat ovat tehneet veistoksia ja taideteoksia jotka herättävät heteroseksuaaleissa miehissä muun muassa erektioita ja muita hienostuneita kulttuurielämyksiä.
Robottien kohdalla aika tunnetusti puhutaankin oudosta laaksosta, uncanny valleysta; Siinä ihmiset pitävät roboteista jos ne ovat melko ihmisenkaltaisia. Mutta jos ne ovat liian ihmisenkaltaisia niistä tulee jollain tavalla kammottavia. Siksi jos haluaa miellyttävyyttä robottiin on pysyttävä joko riittävän ei-inhimillisenä jotta uncanny valleyyn ei jouduta. Tai sitten oltava todella lähellä ihmisenkaltaisuutta. Tämä ongelma on tullut vastaan tietotekniikassa aika vahvasti. Monissa tietokonepeleissä ja 3D -piirretyissä ja erikoistehoste-elokuvissa on ollut ongelmana juuri se, että grafiikka on ollut juuri niin hyvää että uncanny valleyyn on jouduttu. Mutta ei niin hyvää että siitä olisi päästy pois.
Mutta tämä ei selitä miksi Roomba on niin hirvittävä. Se kun ei näytä yhtään ihmiseltä. Se on käytännössä pyöreä huristelija. Robottien kohdalla on tietenkin jotain jota perinteisissä leluissa ei ole. Ne nimittäin liikkuvat. Roombassakin creepyys johtuu juuri sen tavasta hiiviskellä erikoisesti ja taukoja pitäen. ; Olen onnistunut yhdistämään kokemuksenvaraisesti omia tunteitani siihen mitkä robotit herättävät enemmän tunteita liikkeensä perusteella. Tästä tuskin voi vetää hirveän pitkälle vietyjä kaikkia ihmisiä koskevia päätelmiä.
Mutta oman kokemukseni mukaan robotit joiden reittialgoritmit ovat kaavamaisia eivät ole pelottavia. Sen sijaan Roomban ja Boston dynamicsin robottien tyyliset ovat creepyjä koska niiden ytimessä on optimointi.
Tämän ajatuksen sain Robert Kurzbanin kirjasta jossa käsiteltiin modulaarista päätöksentekoa. Kirjassa sivuttiin myös evoluutiota ja robotiikkaa. Vaikka kirjan otsikko käsittelikin tekopyhyyttä.
Se tekee niistä koneita jotka toimivat orgaanisenoloisesti ympäristössä. Pieni muutos jossain ympäristössä johtaa siihen että robotti ei toimi aina samalla tavalla. Toisaalta optimoinnissa on usein kysymys siitä että laite samanaikaisesti hakee jotain ja väistää jotain muuta. Ja lopputulos on näiden kahden välillä tehtävä tila joka tekee koneisiin asioita jotka vaikuttavat epäröiviltä. Toisin sanoen ne näyttävät tekevän päätöksiä. Itse asiassa on jopa mahdollista, että analogisuus robottien ja eläinten välillä johtuukin siitä että eläimienkin elämä on sen tyylinen että siinä optimoidaan homeostaasia. Näin ollen reagointimallissa on jotain samaa vaikka eläimet ovat tietoisia ja Roomba ei.
Erikoista onkin se, että kenties creepyys johtuukin kognitiivisesta dissonanssista kun eri prosessit mielessämme kertovat erilaista viestiä. Tätä ajatusta on ehdottanut ainakin Vsaucen Michael Stevens. On itse asiassa mahdollista, että creepyissä kummitusjuttuissakin on osa sitä että osa tunnejärjestelmästämme kertoo että asiassa on jotain vaarallista vaikka toinen puoli mielessämme sanoo että mitään ei ole.
Viitteet:
Smithsonian Mag, ”Neuroscience Explores Why Humans Feel Empathy for Robots” [https://www.smithsonianmag.com/science-nature/neuroscience-explores-why-humans-feel-empathy-for-robots-38883609/]
CNN, ”Robot gets hilariously abused” [https://youtu.be/0VgxAnZKM14]
Guardian News, ”New dog-like robot from Boston Dynamics can open doors” [https://youtu.be/wXxrmussq4E]
Robert Wesson, ”Beyond Natural Selection” (1993)
CNBC, ”Hot Robot At SXSW Says She Wants To Destroy Humans” [https://youtu.be/W0_DPi0PmF0]
Jan-PhilippStein & PeterOhler, ”Venturing into the uncanny valley of mind—The influence of mind attribution on the acceptance of human-like characters in a virtual reality setting” (2016)
Robert Kurzban, ”Why Everyone (Else) Is a Hypocrite: Evolution and the Modular Mind” (2012)
Vsauce, ”Why Are Things Creepy?” [https://youtu.be/PEikGKDVsCc]
Näytetään tekstit, joissa on tunniste tekoäly. Näytä kaikki tekstit
Näytetään tekstit, joissa on tunniste tekoäly. Näytä kaikki tekstit
maanantai 21. toukokuuta 2018
keskiviikko 17. toukokuuta 2017
Luotammehan ihmisiinkin...
Luin pienen jutun tekoälystä. Siinä korostettiin sitä miten tekoälyn kanssa kyetään tekemään nykyään paljon ihmeellisiä asioita. Meillä on itseajavia autoja ja päätelmiä tekeviä algoritmeja. Näiden ongelmana on se, että koodarit itse eivät tiedä mitä ja miten ohjelmat tekevät näitä päätelmiä. Jutussa MIT:n tutkija onkin huolissaan siitä, että tehokkaaksi havaitut ohjelmat päättävät hyvin suuresta määrästä elämästämme. Algoritmeilla on hirvittävästi valtaa. Mutta samalla ne ovat usein sellaisia että kukaan, ei edes niiden keksijä, tiedä miten ne tarkalleen ottaen toimivat. ; Kun teknologia kehittyy olemme hyvinkin pian vaiheessa jossa tekoälyn soveltaminen on pelkän luottamuksen varassa oleva uskon hyppy.
Teksti jopa esittää että onkin täysin mahdollista että oppiminen ja älykkyys vaativat sitä, että vain osa prosesseista on kuvattavissa ja mallinnettavissa perinteisellä tieteen ja logiikan käsittelytavoilla. Ja että tässä ei ole mitään yliluonnollista.
Tämä ei tietenkään ole mitään kovin uutta. Evoluutioalgoritmejen parissa on jo kohtuu kauan tuotettu innovaatioita joista tiedetään että ne toimivat mutta koodarit eivät välttämättä osaa selittää niiden toimintaperiaatetta ärsykkeestä toimintaan vaan ainoastaan sen tavan jolla ne oppivat. Samoin hahmontunnistukseen on usein liittynyt sitä että ei ole kuvattu maalia vaan on annettu paljon esimerkkejä maaleista. Hahmontunnistus onkin kehittynyt paljon.
Tässä mielessä onkin mielenkiintoista miten ”musta laatikko” -käsite tuleekin esiin tekoälyn puolelta. Sillä ”musta laatikko” -ajatus on tuttu mielenfilosofian puolelta. Mielenfilosofiassa mentaalisia tai kognitiivisia prosesseja on perinteisesti pidetty sisäisinä ilmiöinä, ja niiden on tavallisesti ajateltu toteutuvan aivoissa. Tietoisuuden kohdalla asiaa on lähestytty subjektiivisena, sisäisenä ja yksilökeskeisenä. Tähän syynä on osittain historia. René Descartesista lähtien mieli ja ruumis on erotettu. Kartesiolaisen dualismin mukaan ruumis on mekanistinen koneisto ja mieli ruumiista erillinen substanssi joka ajattelee ja ohjaa ruumiin toimintaa. Mieli ja ruumis ovat vuorovaikutuksessa mutta erillisiä.
Francisco Varela, Evan Thomson ja Eleanor Roschin ”The Embodied Mind” (1991), jossa he ovat esittäneet enaktivismin kognitiotieteen haarana. Tämän mukaan maailma ei ole valmis, objektiivinen ympäristö, vaan kukin eliö luo ja määrittää (enact) oman toimintansa kautta itselleen merkityksellisen ympäristön. Tämä poikkeaa perinteisestä kognitivistisesta viitekehyksestä, jonka mukaan kognitio on ympäristöstä saatavan informaation prosessointia ja symbolisten representaatioiden manipulointia.
Tässä mallissa naturalistit ovat usein korostaneet aistinelimiä passiivisina ja mekaanisina reseptoreina, jotka tuottavat reaktioita tietynlaisiin ärsykkeisiin. Sisäisyys on usein jätetty selittämättä tai vastaavasti se on ohjattu jonkinlaiseen ”tavallaan sielunkorvikkeeseen” kuten kvalioihin. Tätä kautta tietoisuuden kokeminen on jäänyt ”mustaksi laatikoksi”. Tässä kohden onkin kiinnostavaa viitata enaktivismiin. Sillä siinä on sen tyylistä henkeä joka sopii mielestäni hyvin kuvaamaan suhdettamme tekoälyjen ”mustiin laatikoihin”. Tämän näkökulman kautta tilanne säilyy mutta muuttaa muotoaan ; Kysymys alleviivaa enemmänkin sitä että tietyllä tavalla sanoen itse oppiminen tuottaa aina yksilöitä. Ja tekoäly on tässä mielessä hyvinkin samanlainen kuin ihminen.
Enaktivismissa kognitio on ruumiillista toimintaa ympäristössä; Kognitio on ruumiillista ja jossain kontekstissa. Kognitio ei rajoitu vain aivoihin eikä perustu sisäisten representaatioiden manipulointiin, vaan kognition perustana on sensorimotorinen toiminta, jonka myötä eliö luo maailmasta merkityksellisen toimintaympäristön. Tässä mallissa aivot – ja pienessä määrin myös aistinelimien reagointitavat - ovat jossain määrin plastisia. Korostaessaan kognition ruumiillisuutta enaktivismi käsittelee aiheita jotka on perinteisesti jätetty filosofeille, ennen kaikkea fenomenologeille. ; Siksi ei ole ihme että Varela onkin korostanut esimerkiksi Merlaeu-Pontyn filosofiasta tuttuja ajatuksia.
Maturanan ja Varelan mukaan mielemme on systeemi, ns. autopoieettinen organisaatio. Tällä he tarkoittavat kehämäistä, itseensä-viittaavaa organisaatiota eli systeemin kykyä tuottaa ja ylläpitää itseään. Systeemi voi tätä kautta muodostaa itse oman identiteettinsä. Se tuottaa ja modifioi komponenttejaan. Maailmassa oleva todellinen asia aikaansai muutoksen aistinelimessä ja tästä seuraa havainto. Näin ollen havaitsemme sitä että jokin potentiaalinen muuttuu aktuaaliseksi ja aistinelimistö tunnistaa tämän muutoksen.
Tätä koulukuntaa edustaa esimerkiksi Alva Noë, jonka mukaan havaitsemiseen tarvitaan aistinelimistö, mutta siitä huolimatta havainnointi on jotain joka on enemmän opittua eipropositionaalista tietotaitoa kuin mitään suoraan ohjelmoitavissa olevaa mekaanista toimintaa; Meillä ei vain ole silmiä, vaan liikutamme niitä ja suuntaamme huomiota. Nämä liittyvät asioihin joista jotkin opimme käteviksi tai epäkäytännöllisiksi kokemuksesta, emme syntyjämme. Havainnoinnin elimistössä on rakenteen lisäksi ”käyttöjärjestelmä”. Opimme käyttämään silmiämme ja tulkitsemaan niiden antamia ärsykkeitä kokemuksella; Näistä moni toki automatisoituu niin että emme edes tiedosta että teemme sitä. (Hieman kuin lukemaan oppiessa. Se on työläs opeteltava taito mutta näin aikuisena ja aika paljon lukevana se on ainakin itselleni jotain aika passiivista joka vain tapahtuu.) Ja tässä maailmassa syntyy ongelma, ns. explanatory gap. Monet filosofit esittävät että fenomenaalista kokemusta ei voi redusoida miksikään aivotilaksi ja tämän vuoksi mielessä olisi ylitsepääsemätön selitysongelma. Ja tämä on reduktionismin ongelma. Enaktivismissa tämänlainen reduktio kiistetään, joten siinä ei ole mitään selitettävääkään. Enaktivismin voikin tiivistää Noën ja O'Reganin näkemykseen jossa enaktivismin yksi tärkein seuraus on se, että kvaliat ovat illuusioita ; Vanha havaitsemisen paradigma on heistä vain väärässä ja kvaliat ovat pelkkä konseptuaalinen silmänkääntötemppu jota tarvitaan sen takia että vanhalla havaitsemisen paradigmalla ei voitu ilman kvaliaa selittää havaitsemisen tiettyjä piirteitä. Kun väärästä paradigmasta luovutaan, myös kvalia muuttuu turhaksi. Se ei tavallaan ole enää mitään mihin tarvitsee ottaa kantaa.
Tässä mielessä peruskysymys voidaankin hieman uudelleenmuotoilla. Tekoälyjen kohdalla tiedämme ne tehokkaiksi mutta emme tiedä miten ne toimivat. Tätä kautta niihin luottaminen ei ole täysin tyhjän päälle hyppäämistä. Ja luotammehan ihmisiinkin..
Teksti jopa esittää että onkin täysin mahdollista että oppiminen ja älykkyys vaativat sitä, että vain osa prosesseista on kuvattavissa ja mallinnettavissa perinteisellä tieteen ja logiikan käsittelytavoilla. Ja että tässä ei ole mitään yliluonnollista.
Tämä ei tietenkään ole mitään kovin uutta. Evoluutioalgoritmejen parissa on jo kohtuu kauan tuotettu innovaatioita joista tiedetään että ne toimivat mutta koodarit eivät välttämättä osaa selittää niiden toimintaperiaatetta ärsykkeestä toimintaan vaan ainoastaan sen tavan jolla ne oppivat. Samoin hahmontunnistukseen on usein liittynyt sitä että ei ole kuvattu maalia vaan on annettu paljon esimerkkejä maaleista. Hahmontunnistus onkin kehittynyt paljon.
Tässä mielessä onkin mielenkiintoista miten ”musta laatikko” -käsite tuleekin esiin tekoälyn puolelta. Sillä ”musta laatikko” -ajatus on tuttu mielenfilosofian puolelta. Mielenfilosofiassa mentaalisia tai kognitiivisia prosesseja on perinteisesti pidetty sisäisinä ilmiöinä, ja niiden on tavallisesti ajateltu toteutuvan aivoissa. Tietoisuuden kohdalla asiaa on lähestytty subjektiivisena, sisäisenä ja yksilökeskeisenä. Tähän syynä on osittain historia. René Descartesista lähtien mieli ja ruumis on erotettu. Kartesiolaisen dualismin mukaan ruumis on mekanistinen koneisto ja mieli ruumiista erillinen substanssi joka ajattelee ja ohjaa ruumiin toimintaa. Mieli ja ruumis ovat vuorovaikutuksessa mutta erillisiä.
Francisco Varela, Evan Thomson ja Eleanor Roschin ”The Embodied Mind” (1991), jossa he ovat esittäneet enaktivismin kognitiotieteen haarana. Tämän mukaan maailma ei ole valmis, objektiivinen ympäristö, vaan kukin eliö luo ja määrittää (enact) oman toimintansa kautta itselleen merkityksellisen ympäristön. Tämä poikkeaa perinteisestä kognitivistisesta viitekehyksestä, jonka mukaan kognitio on ympäristöstä saatavan informaation prosessointia ja symbolisten representaatioiden manipulointia.
Tässä mallissa naturalistit ovat usein korostaneet aistinelimiä passiivisina ja mekaanisina reseptoreina, jotka tuottavat reaktioita tietynlaisiin ärsykkeisiin. Sisäisyys on usein jätetty selittämättä tai vastaavasti se on ohjattu jonkinlaiseen ”tavallaan sielunkorvikkeeseen” kuten kvalioihin. Tätä kautta tietoisuuden kokeminen on jäänyt ”mustaksi laatikoksi”. Tässä kohden onkin kiinnostavaa viitata enaktivismiin. Sillä siinä on sen tyylistä henkeä joka sopii mielestäni hyvin kuvaamaan suhdettamme tekoälyjen ”mustiin laatikoihin”. Tämän näkökulman kautta tilanne säilyy mutta muuttaa muotoaan ; Kysymys alleviivaa enemmänkin sitä että tietyllä tavalla sanoen itse oppiminen tuottaa aina yksilöitä. Ja tekoäly on tässä mielessä hyvinkin samanlainen kuin ihminen.
Enaktivismissa kognitio on ruumiillista toimintaa ympäristössä; Kognitio on ruumiillista ja jossain kontekstissa. Kognitio ei rajoitu vain aivoihin eikä perustu sisäisten representaatioiden manipulointiin, vaan kognition perustana on sensorimotorinen toiminta, jonka myötä eliö luo maailmasta merkityksellisen toimintaympäristön. Tässä mallissa aivot – ja pienessä määrin myös aistinelimien reagointitavat - ovat jossain määrin plastisia. Korostaessaan kognition ruumiillisuutta enaktivismi käsittelee aiheita jotka on perinteisesti jätetty filosofeille, ennen kaikkea fenomenologeille. ; Siksi ei ole ihme että Varela onkin korostanut esimerkiksi Merlaeu-Pontyn filosofiasta tuttuja ajatuksia.
Maturanan ja Varelan mukaan mielemme on systeemi, ns. autopoieettinen organisaatio. Tällä he tarkoittavat kehämäistä, itseensä-viittaavaa organisaatiota eli systeemin kykyä tuottaa ja ylläpitää itseään. Systeemi voi tätä kautta muodostaa itse oman identiteettinsä. Se tuottaa ja modifioi komponenttejaan. Maailmassa oleva todellinen asia aikaansai muutoksen aistinelimessä ja tästä seuraa havainto. Näin ollen havaitsemme sitä että jokin potentiaalinen muuttuu aktuaaliseksi ja aistinelimistö tunnistaa tämän muutoksen.
Tätä koulukuntaa edustaa esimerkiksi Alva Noë, jonka mukaan havaitsemiseen tarvitaan aistinelimistö, mutta siitä huolimatta havainnointi on jotain joka on enemmän opittua eipropositionaalista tietotaitoa kuin mitään suoraan ohjelmoitavissa olevaa mekaanista toimintaa; Meillä ei vain ole silmiä, vaan liikutamme niitä ja suuntaamme huomiota. Nämä liittyvät asioihin joista jotkin opimme käteviksi tai epäkäytännöllisiksi kokemuksesta, emme syntyjämme. Havainnoinnin elimistössä on rakenteen lisäksi ”käyttöjärjestelmä”. Opimme käyttämään silmiämme ja tulkitsemaan niiden antamia ärsykkeitä kokemuksella; Näistä moni toki automatisoituu niin että emme edes tiedosta että teemme sitä. (Hieman kuin lukemaan oppiessa. Se on työläs opeteltava taito mutta näin aikuisena ja aika paljon lukevana se on ainakin itselleni jotain aika passiivista joka vain tapahtuu.) Ja tässä maailmassa syntyy ongelma, ns. explanatory gap. Monet filosofit esittävät että fenomenaalista kokemusta ei voi redusoida miksikään aivotilaksi ja tämän vuoksi mielessä olisi ylitsepääsemätön selitysongelma. Ja tämä on reduktionismin ongelma. Enaktivismissa tämänlainen reduktio kiistetään, joten siinä ei ole mitään selitettävääkään. Enaktivismin voikin tiivistää Noën ja O'Reganin näkemykseen jossa enaktivismin yksi tärkein seuraus on se, että kvaliat ovat illuusioita ; Vanha havaitsemisen paradigma on heistä vain väärässä ja kvaliat ovat pelkkä konseptuaalinen silmänkääntötemppu jota tarvitaan sen takia että vanhalla havaitsemisen paradigmalla ei voitu ilman kvaliaa selittää havaitsemisen tiettyjä piirteitä. Kun väärästä paradigmasta luovutaan, myös kvalia muuttuu turhaksi. Se ei tavallaan ole enää mitään mihin tarvitsee ottaa kantaa.
Tässä mielessä peruskysymys voidaankin hieman uudelleenmuotoilla. Tekoälyjen kohdalla tiedämme ne tehokkaiksi mutta emme tiedä miten ne toimivat. Tätä kautta niihin luottaminen ei ole täysin tyhjän päälle hyppäämistä. Ja luotammehan ihmisiinkin..
tiistai 7. maaliskuuta 2017
Moralistista essentialismia?
Tekoälydystopiat ovat hyvin tavallisia. Monesti niissä on ihmismäisiä robotteja. Ja nämä sitten käsittelevät vapaan tahdon ja tietoisuuden ongelmia. Tässä mielessä "Horizon Zero Dawn" peli on ollut itselleni hauska. Siinäkin robotit ovat valloittaneet maailman, mutta (1) ne näyttävät dinosauruksilta ja (2) niiden tietoisuus ei itse asiassa ole keskeisten pohdittavien asioiden listalla.
Toki pelin robotit voivat teoriassa olla tietoisua. Mutta niiden käsittely muistuttaisi enemmän eläinten tietoisuuden käsittelyä ; On selvää että surisevat robotit eivät selviä Turingin testistä. Ne näyttävät erilaisilta eläimiltä ja robotteihin onkin selvästi haettu vaikutteita luonnosta. (Peli myös esittää, että robotit muuttuvat vaarallisemmiksi joka vihjaa siihen että niihin kohdistuu evoluutiota. Evoluutio ei vaadi tietoisuutta.)
Pelin tekoäly käyttäytyy aggressiivisesti - hieman kuten Googlen tekoälykin. Peli sitoo robottien vallan niiden lisääntymiskykyyn eikä siihen että ne olisivat yksinään älykkäämpiä kuin ihmiset. Robotit tuottavat toisia robotteja lisääntymällä joten ne yleistyvät eksponentiaalisesti. Voidaankin sanoa että tämä laajentaa ajatusta ihmiskunnan ylittävästä robottitietoisuudesta. Ja tekee siitä sellaista, että se on mahdollista saavuttaa laskentatehon kasautumisella.
Toisaalta maailmanlopun takana on erityinen virus. Tämä on tavallaan uskottavaa ; Yhteiskunta tuotti monenlaisia robotteja ja toiminta oli hyvin monopolisoitunutta. Joten teoriassa jaettu käyttöliittymä voisi tarjota tilaa sille että yksi virus/bugi läpikäy koko yhteiskunnan kaikki robotit.
Erikoisemmaksi tilanteen tekee korruptio. Peli kuvaa sitä jonain jota nähdään. Se iskee sekä ihmisiin että robotteihin. Se ajaa nämä ajamaan tiettyä väkivaltaista agendaa joka uhkaa koko (uuden) ihmiskunnan jäänteitä. Korruptio ei tässä ole selvästi vain aineessa olevaa järjestystä ja bittejä vaan jonkinlainen essentiaalinen voima. (Tämä korostuu kun "loppupaha" selviää hengissä ja lentää ilman halki lyhtyyn. Melko kliseinen lopetus, jatko-osaa pedataan vähän turhankin kovaa.)
Paha on siis jotain essentiaalista. Melko erikoinen tietokonevirus. Mutta pelin maailma nojaakin johonkin sellaiseen jonka vuoksi datan rikkimenemiseen viitataan sellaisilla ihmismoraaliin vivahtavilla sanoilla kuin "korruptio". ; Scifipeliin tämänlainen tietenkin voi sopia ; Onhan koko pelin yhtenä taustaideana luonnon ja ihmisen suhde. Ja luonnon kauneus ja vaarallisuus. Ja miten luonto selviää siitä mistä ihminen ei.
Toki pelin robotit voivat teoriassa olla tietoisua. Mutta niiden käsittely muistuttaisi enemmän eläinten tietoisuuden käsittelyä ; On selvää että surisevat robotit eivät selviä Turingin testistä. Ne näyttävät erilaisilta eläimiltä ja robotteihin onkin selvästi haettu vaikutteita luonnosta. (Peli myös esittää, että robotit muuttuvat vaarallisemmiksi joka vihjaa siihen että niihin kohdistuu evoluutiota. Evoluutio ei vaadi tietoisuutta.)
Pelin tekoäly käyttäytyy aggressiivisesti - hieman kuten Googlen tekoälykin. Peli sitoo robottien vallan niiden lisääntymiskykyyn eikä siihen että ne olisivat yksinään älykkäämpiä kuin ihmiset. Robotit tuottavat toisia robotteja lisääntymällä joten ne yleistyvät eksponentiaalisesti. Voidaankin sanoa että tämä laajentaa ajatusta ihmiskunnan ylittävästä robottitietoisuudesta. Ja tekee siitä sellaista, että se on mahdollista saavuttaa laskentatehon kasautumisella.
Toisaalta maailmanlopun takana on erityinen virus. Tämä on tavallaan uskottavaa ; Yhteiskunta tuotti monenlaisia robotteja ja toiminta oli hyvin monopolisoitunutta. Joten teoriassa jaettu käyttöliittymä voisi tarjota tilaa sille että yksi virus/bugi läpikäy koko yhteiskunnan kaikki robotit.
Erikoisemmaksi tilanteen tekee korruptio. Peli kuvaa sitä jonain jota nähdään. Se iskee sekä ihmisiin että robotteihin. Se ajaa nämä ajamaan tiettyä väkivaltaista agendaa joka uhkaa koko (uuden) ihmiskunnan jäänteitä. Korruptio ei tässä ole selvästi vain aineessa olevaa järjestystä ja bittejä vaan jonkinlainen essentiaalinen voima. (Tämä korostuu kun "loppupaha" selviää hengissä ja lentää ilman halki lyhtyyn. Melko kliseinen lopetus, jatko-osaa pedataan vähän turhankin kovaa.)
Paha on siis jotain essentiaalista. Melko erikoinen tietokonevirus. Mutta pelin maailma nojaakin johonkin sellaiseen jonka vuoksi datan rikkimenemiseen viitataan sellaisilla ihmismoraaliin vivahtavilla sanoilla kuin "korruptio". ; Scifipeliin tämänlainen tietenkin voi sopia ; Onhan koko pelin yhtenä taustaideana luonnon ja ihmisen suhde. Ja luonnon kauneus ja vaarallisuus. Ja miten luonto selviää siitä mistä ihminen ei.
sunnuntai 5. maaliskuuta 2017
Daniel Dennettin argumentti singulariteettia vastaan
Daniel Dennett on sitä mieltä että yleinen tekoäly on mahdollinen. Samoin hän ei pidä ihmisen kykyjä mitenkään erityisinä. Periaatteessa ei ole mahdotonta tehdä konetta joka hoitaa kaikki asiat yhtä hyvin tai paremmin kuin ihminen tai ihmiskunta.
Hän ei kuitenkaan usko että tekoäly ylittäisi singulariteetin. Syynä on se, että hän näkee että tekoäly kehittyy lähinnä siihen mihin on motiiveja kehittää sitä. Ja tämä koskee spesifejä tehtäviä. Ihmiset investoivat siihen että saamme hienompia mittalaitteita ja instrumentteja, emmekä kollegoita.
Tekoälyn kehittyminen spesifeistä tehtävistä yleistekoälyksi on valtava harppaus ja se vaatisi investointeja. Tähän tuskin tulee kiinnostusta. Tässä mielessä Dennettin kanta on sama kuin itselläni : Ainut este siihen että ihmiskunnan kyvyt ylitetään yleisellä tekoälyllä on se, että emme budjetoi siihen riittävästi.
Dennett näkee että tätä budjettia ei tulla saamaan. Siksi ei riitä että laskentateho kasvaisi Mooren lain mukaan, ja että singulariteettiin meneminen olisi mahdollinen siinä mielessä että mikään luonnonlaki ei sitä estäisi. Laskentateho kun käytetään singulariteetin kannalta "väärillä tavoilla":
Dennettin mukaan se että into ja rahat tulisivat on hyvin vaikea. Siksi ei pitäisikään pelotella sillä että tekoäly ylittäisi ihmisen kyvyt. Sen sijaan pitäisi olla huolellinen sen kanssa miten tekoälyissä on virheitä ja riskejä niissä spesifeissä ongelmissa mitä kehittämään ne on tehty. ; Tässä mielessä spontaani tekoälyn nousu ja vallanotto ja ihmiskunnan latistaminen on epätodennäköinen skenaario. Tekoälyjen ongelmien kanssa on katsottava arkisempia ja tutumpia ongelmia.
Tämä on lohdullitsa, etenkin jos on juuri sattunut pelaamaan "Horizon Zero Dawnia" jossa ihmiskunta on mokannut ja johtanut TEOTWAWKIin ; Maailmaa hallitsevat esimerkiksi dinosaurusrobotit. Jos Dennett on oikeassa, tämänlaisen osa on jäädäkin tietokonepeliksi ja tieteisfantasiaksi.
Hän ei kuitenkaan usko että tekoäly ylittäisi singulariteetin. Syynä on se, että hän näkee että tekoäly kehittyy lähinnä siihen mihin on motiiveja kehittää sitä. Ja tämä koskee spesifejä tehtäviä. Ihmiset investoivat siihen että saamme hienompia mittalaitteita ja instrumentteja, emmekä kollegoita.
Tekoälyn kehittyminen spesifeistä tehtävistä yleistekoälyksi on valtava harppaus ja se vaatisi investointeja. Tähän tuskin tulee kiinnostusta. Tässä mielessä Dennettin kanta on sama kuin itselläni : Ainut este siihen että ihmiskunnan kyvyt ylitetään yleisellä tekoälyllä on se, että emme budjetoi siihen riittävästi.
Dennett näkee että tätä budjettia ei tulla saamaan. Siksi ei riitä että laskentateho kasvaisi Mooren lain mukaan, ja että singulariteettiin meneminen olisi mahdollinen siinä mielessä että mikään luonnonlaki ei sitä estäisi. Laskentateho kun käytetään singulariteetin kannalta "väärillä tavoilla":
Dennettin mukaan se että into ja rahat tulisivat on hyvin vaikea. Siksi ei pitäisikään pelotella sillä että tekoäly ylittäisi ihmisen kyvyt. Sen sijaan pitäisi olla huolellinen sen kanssa miten tekoälyissä on virheitä ja riskejä niissä spesifeissä ongelmissa mitä kehittämään ne on tehty. ; Tässä mielessä spontaani tekoälyn nousu ja vallanotto ja ihmiskunnan latistaminen on epätodennäköinen skenaario. Tekoälyjen ongelmien kanssa on katsottava arkisempia ja tutumpia ongelmia.
Tämä on lohdullitsa, etenkin jos on juuri sattunut pelaamaan "Horizon Zero Dawnia" jossa ihmiskunta on mokannut ja johtanut TEOTWAWKIin ; Maailmaa hallitsevat esimerkiksi dinosaurusrobotit. Jos Dennett on oikeassa, tämänlaisen osa on jäädäkin tietokonepeliksi ja tieteisfantasiaksi.
sunnuntai 20. marraskuuta 2016
Lännen tie
"Some people choose to see the ugliness in this world, the disarray. I choose to see the beauty. To believe there is an order to our days. A purpose."
("Dolores" (robotti), "Westworld", ep 1.)
HBO:n uusi sarja "Westworld" on kohtuu kiinnostava. Sen perusidea on melko yksinkertainen. Eletään tulevaisuudessa jossa moni elää runsauden maailmassa. Kaikki perustarpeet on tyydytetty. Mutta ihmisten elämässä ei ole merkitystä. Tätä merkitystä tuodaan antamalla heille vapaus elää ilman rajoituksia. Tätä voi tehdä Westworldissa, teemapuistossa jossa on lihasta ja luusta tehtyjä Turingin testin läpäiseviä robotteja. Näillä roboteilla on koodattu erilaisia rajoituksia, joiden vuoksi ne eivät voi vahingoittaa vierailijoita. Mutta vierailijat voivat tehdä näille roboteille mitä tahansa. Vierailu on kallista, mutta rahan vastineeksi saa sitten ammuskella, seikkailla ja harjoittaa seksiä kohderyhmätestatusti viekoittelevien robottiprostituuttien kanssa.
Robotit on ohjelmoitu noudattamaan tiettyjä rutiineja ja niillä on jonkin verran tarkemmin määriteltyä "improvisaatiota" jonka kautta ne voivat paikata muutoksia joita tulee koska vierailijat voivat puuttua käsikirjoitettuihin tarinoihin - itse asiassa juuri tätä toivotaan koska sitähän vierailijat ovat tulleet tekemään. Näitä päivitetään ajan mittaan.
Sarjassa on monta tasoa.
Ensimmäinen on se, miten maailma näyttää erilaiselta eri toimijoille. Jos olet robottien korjaaja ja asentaja, työsi on mekaanista ja melko sotkuista. Jos olet ohjelmoija, työ on hyvin erilaista. Tarinoiden keksijä viettää luovan mutta tuotosvaatimusten täyttämän taiteilijaorjan elämää. Johtokunnalle puisto on ennen kaikkea vierailijoiden halujen tyydyttämistä. Ja sitten on tahoja jotka ymmärtävät että tärkeää on intellektuaalinen omaisuus, vierailijoista saatava data on arvokasta, siihen liittyy tietoa ja valtaa joka yltää myös tosielämään. Unohtamatta sitä miten robottien tekoälyn kehittämiseen liittyy tietoa jolla on tieteellistä arvoa. Ja tieteellisellä arvolla on myös rahallista arvoa.
Ja sitten on tietenkin tarinassa eläminen, johon on erilaisia näkökulmia. Vierailijoiden tapa toimia, ja miten tämä eroaa jos toimii yksin tai perheen kanssa, kuvaa paljon ihmisistä jotka maailmassa vierailevat. Samoin se mitä ihmiset tekevät roboteilla vain koska tietävät ne roboteiksi kertoo paljon. (Esimerkiksi itse tunnen sääliä jo nykyisen teknologiamme robottieläimiin joita potkitaan kun niiden tasapainoa testaan.) Koska robotit selviävät Turingin testistä, ne eivät vaikuta mekaanisilta ja niihin väkisinkin liittää tulkintoja luonteesta ja sisäisestä elämästä.
Ja myös robottejen näkökulmaa tuodaan mukaan. Usein erilaisten kontrastien kautta. Westworldissa vieraileva rutiiniin ja ulkoisiin suorituspakotteisiin pakotettu mies kokee saavansa merkityksen fiktiosta. Mutta toisaalta itsensä robotiksi tunnistava robotti haluaa nimenomaan vapautua käsikirjoituksesta.
Jo tämä taso on yksinään riittävä syy katsoa tätä sarjaa. Se on tehty todella kiinnostavasti.
Mutta sarjassa otetaan kantaa mielenfilosofiaan. Itse asiassa monellakin tavalla. Hyvin monella. Perusteemana on sarjan edetessä kasvava ongelmien vyöry. Robotit toimivat omituisesti. Pääsyynä on päivitys jossa niihin on luotu lisää inhimillisyydenomaista käytöstä. Tämä on luotu siten että robotit eivät enää vain reagoi maailmaan toiminnalla vaan toiminta on sidottu muistoihin. Tämä luo hienovireisempää käytöstä jonka perusteella esimerkiksi saluunan prostituoidut ovat viekoittelevampia koska tottakai jokaisen miehen haaveena on saada iskettyä huora jolla on sisäinen elämä.
Tämä johtaa kuitenkin siihen että robotit toimivat väärin tai oudosti. Tällä pelätään olevan sivuvaikutuksia joiden vuoksi vierailijoiden turvallisuus olisi vaarassa. Tässä sivussa lähestytään kahta kysymystä jotka ovat kenties toisiinsa nivoutuneita. Mutta jotka kuitenkin ovat eri kysymyksiä.
Voiko robotti olla vapaa?
Tämä sarja on itse asiassa jotain joka todennäköisesti inhottaa jonkin verran klassiseen teologiaan viehättyneitä ID -kreationisteja. Sillä jos ihmisten kohdalla nähdään että ilman Jumalaa ihmisillä ei ole merkitystä ja että vain Jumala voi taata meille vapautta, sarja kyseenalaistaa nimenoman tätä näkökulmaa melko vahvasti.
Tässä kohden esimerkiksi robotin reaktio siihen että hänellä ei ole vapata tahtoa on kiinnostava.
1: Koska hänellä on vahva ja aggressiivinen luonne, hän on ikään kuin vapaa. Mutta tosiasiassa hänet on vain ohjelmoitu sanomaan "ei" hyvin monenlaisissa tilanteissa. Tämä on selvä argumentti siitä että suostuminen käskyihin ja suostumattomuus käskyihin on selkeästi eri asia kuin vapaa tahto.
2: Pian robotti oppii, että heihin on ohjelmoitu erilaisia ominaisuuksia ja hän tietysti boostaa niitä. Hänellä on nyt potentiaalia tehdä hienovireisempiä asioita. Ja hänellä on ollut itsesilmikoiva suhde jossa hän on määrännyt omat attribuuttinsa. Mutta hän silti noudattaa tätä ohjelmointia. Toisaalta hän on poistanut rajoitteita joten herää kysymys siitä onko hän nyt sitten jotenkin vapaampi.
3: Seuraavaksi robotti alkaa dominoimaan ihmisiä. Hän oli aluksi pitänyt ohjelmoija-teknikoita jonkinlaisina Jumalina. Mutta sitten hän oli tiedostanut että nämä ovat vain miehiä. Miehiä joiden tavoitteita hänet oli ohjelmoitu ymmärtämään hyvin. Mutta onko tämä valta- ja dominanssisuhde ja autonomisuuskaan vapautta sanan täydessä mielessä?
Toisaalla taas toisen robotin kautta tätä samaa vapauden ongelmaa lähestytään siten että hän elää suhteessa maailmaan. Hänet on ohjelmoitu haaveilemaan mutta toimimaan käsikirjoituksen mukaan. Mutta hän oppii noudattamaan sisäistä "intuitiota" (hänen käsikirjoituksen määränsä nollataan yhdessä vaiheessa sarjaa ja "improvisaatiota" kasvatetaan). Tässä kohden on selvää että improvisaatio on jotenkin liitoksissa muuhunkin kuin satunnaiseen käytökseen. Improvisaatio näyttää liittyvän sekä ennustamattomuuteen että vanhoihin muistoihin, jopa niihin jotka ovat jääneet robotin aiemmista versioista jäljelle.
Tämä intuitio tosin näyttää olevan sitä että robotti seuraa Westworldin alkuperäisen suunnittelijan sooloiluprojektiin liittyviä asioita. (Tämä on itse asiassa klassinen argumentti siitä että jos ihminen seuraa intuitiotaan, hän antaa enemmän tilaa Kohtalolle, Henkivoimille tai jopa Jumalalle toimia. Eli intuitio ei ole sattumaa vaan nimenomaan ohjatuksi alistumista.) Tämä hahmo onkin kuvattu Jumalan tai Saatanan kaltaiseksi luojaksi. Ja nimenomaan tämä teema on se joka ärsyttänee ID -kreationisteja paljon. Hänen perusnäkemyksensä näyttää olevan se, että käsikirjoitetut tarinat ovat pinnallisia ja maallisia. Jos robotit ovat pelkästään arkisten ja yksinkertaisten perustarpeiden kautta mallinnettuja, ne eivät ole vapaita. Suurempi tarkoitus on kuitenkin hänen omassa ohjauksessaan. Hän jopa eksplisiittisesti esittää että robotit ovat nimenomaan vapaita hänen komennossaan ja ohjauksessaan. Toisaalta hän tässä samassa yhteydessä korostaa sitä että hän ei ole antanut roboteille tietoisuutta tai aitoa elämyksellistä tunne-elämää koska se olisi rajoite joka haittaisi niitä.
Itse olen tässä kohden aika vahvasti sitä mieltä että tämänlainen prosessi ei tuo vapautta. Sillä oma suhteeni sattuman, deterinismin ja vapaan tahdon välillä on se mikä se on ; Kompatibilistina näen että vapaa tahto on lähinnä sitä missä on tämä määräämisen lähde. Ei ole tärkeää onko toiminta arvottua tai käsikirjoitettua, tärkeää on se mikä on tämän käsikirjoituksen tai arvonnan lähde. Jos se on toimijan itsensä sisällä, se on vapaata. Jos taas ulkopuolelta tulee rajoitteita, ne ovat ohjausta ja tätä kautta ei-vapautta. ; Tässä näkökulmassa on väärin sanoa että ihminen voisi olla vapaa vain Suuren Ohjelmoijan normeja totellessa. Itsen ulkopuolinen normittomuus on nimenomaan synonyymi vapauden kanssa. Joten ei voi sanoa että ihminen olisi vapaa vain seuraamalla Jeesuksen tai jonkun muun antamaa merkitystä.
Laajemmassa, ei vain omassa tulkintaviitekeyksessäni, Westworld tarjoaa itse asiassa argumentin jonka voi kohdistaa Feserin ajatuksia vastaan. Hänestä intentionaalisuus on jotain joka todistaa että ihmisten tietoisuus on immateriaalista. Jotain joka väistämättä tulee materian ulkopuolelta. Ja että tämä on jotain joka tekee meistä vapaita ja tietoisia. ; Westworldin henkenä näyttää kuitenkin olevan se, että vapaus on kokemuksellisuutta, jossa ulkoinen ohjaus on vain haitta. Paradoksaalista kyllä on täysin mahdollista että moraalinihilistinen maailma on jotain jossa toimijoilla on maksimaalinen vapaus luoda se mitä moraalisuus heistä tarkoittaa. Ja tämän kokemuksellisuus on aitoa ja luovaa ja itseä eniten kuvaavaa.
Josta päästään siihen toiseen kysymykseen; Tietoisuuteen.
Roboteilla vihjataan olevan kenties jonkinlainen tietoisuus - tosin toisaalla tätä myös kyseenalaistetaan vahvasti. Tätä tehdään viittaamalla useisiinkin mielenfilosofisiin teorioihin.
Oleellisimmat ovat varmasti niitä kliseisimpiä. Teologian sävyttämässä maailmassa korostetaan helposti kiinalaisen huoneen ja Chalmersin "hard problemin" henkeä. Nämä ovat kuitenkin yleensä episteemisiä ongelmia, eli ne eivät koske sitä onko kohteella tietoisuutta vaan sitä tiedetäänkö että heillä on tietoisuus. Mutta ne ovat siinä mielessä relevantteja että jotta voimme sanoa että Westworldin robotti on tietoinen, meidän täytyy jotenkin perustella tämä. Ja tämä on ns. tietämistä.
Haasteena onkin se, että jos robotit ovat mekaanisia niin onko tämän edes mahdollista olla tietoinen. (Sama kysymys on oleellinen ihmisilläkin. Moni korostaakin että ihminen tarvitsee sielua, koska heistä episteeminen tietämisongelma ja se että mekaanista tietoisuutta ei voi tavallaan vain tunnistaa ja havaita suoraan sellaisenaan tarkoittaa sitä että mekaanista tietoisuutta ei voi olla. Koska heille naturalistinen ja luonnontieteellä todistettu ja tätä kautta "tiedetty" ovat yksi ja sama. Mikä on tavallaan aika erikoinen esioletus jota kyseenalaistetaan nykyään melko harvoin jos silloinkaan.)
Tätä voidaan tehdä lähinnä määrittelemällä tietoisuutta ja sitä mitä se on. Ja jos tämä määritelmä on tosi niin sitten itse tietoisuusin voidaan tietää. (Metakysymys siitä onko juuri tämä sitten tietoisuutta vai ei jää auki. Hence episteemiset ongelmat eivät täysin pyyhkiydy.)
Tässä kohden viitataan kognitiiviseen dissonanssiin hyvin kiinnostavalla tavalla. Tätä argumentoidaan siten että robotit kokevat ohjelmointinsa sisäisenä puheena jonka kanssa ne ovat samaa tai eri mieltä. Tässä tietoisuus kuvataan hierarkiana, jossa perustalla on Arnoldin (kuolleen alkuperäisen suunnittelijan, joka oli jäljellä olevan alkuperäisen ohjelmoijan veli) antoi arvoa teorialle jossa tietoisuus on sitä että pohjalla on muisti, improvisaatio on tämän yläpuolella, sitten tulee itsestä kiinnostuminen. Huipulla oleva elementti on jätetty sarjassa tyhjäksi, mutta sarja näyttää vihjaavan että tämä pitää sisällään kuvittelun, kyvyn ajatella jotain ei-olemassaolevaa. Tässä mallissa korostuu se, että mieli on dualistinen, koodi ja mekaniikka ovat erillisiä. Kiinnostavin on kuitenkin kenties kommentti siitä että tämä teoria ei päde ihmisiin. Toisin sanoen Westworldin maailmassa tämä teoria ei kuvaa ihmisten tietoisuutta. Samalla kuitenkin avataan auki kysymys siitä että ovatko robotit tietoisia tästä erosta huolimatta. Kenties tietoisena olemisia on useita erilaisia ja tätä kautta tietoisuus ei lakkaa olemasta vain sillä että se on perustaltaan erilaatuista.
Toisaalta näyttää siltä että se mikä roboteissa koetaan vapaudeksi ja tietoisuudeksi liittyy nimenomaan muistitoimintoihin ja siihen että reagointi liittyy muistoihin ja improvisaatioon. Tätä kautta robotit voivat esimerkiksi käyttäytyä eri tavalla toistotilanteissa. Usein siten, että niihin liittyy "kaunaisuutta" esimerkiksi siten että jos niiden muisti pyyhitään niin ne silti voivat lyödä toista tilanteessa joka muistuttaa tilannetta joka on ollut aiemmin, ja tähän aiempaan tapaukseen on liittynyt väkivaltaa. Tämä "kaunaisuus" tulkitaan intentiopohjalta ja se on selvästi myös liitoksissa siihen että robotit voivat kiertää niihin ohjelmoituja rajoitteita. (Esimerkiksi "Dolores" oppii kiertämään häneen asennettua aseiden käyttämättömyysrjoitetta kuvittelemalla itsensä tarinaan jossa hänellä ei olekaan viattoman uhrin roolia. Ja toisaalta aiemmin hän kiertää tätä samaa rjoitetta liittämällä mukaan mielikuvia ilkeästä vierailijasta joka ei ollut robotti. Mikä on aika huolestuttavaa koska tämä on robottejen kenties kaikista vahvin rajoite. Dolores kiertää ohjelmointiestettä viittaamalla tilanteeseen johon liittyy suurempi ohjelmointieste.)
Tässä tietoisuuden malli on erilainen. Tietoisuus on yksinkertaisesti sitä että reaktiot on sidottu muistoihin eikä suoraan havainnointijärjestelmiin. Ja improvisaatio on jotain jossa muistot ja satunnaisuus yhdistyvät. Ja koska muistot ja reaktiot ovat yhtä, niistä syntyy kokemuksellisuuden tunne. Reagointi on kokemuksellista eikä pelkkää mekaanista reagointia aistiärsykkeisiin. Muistot, vaikka ne olisivat alitajuisia, painavat.
Westworldin robottien ongelmana näyttääkin olevan se, että tietoiset robotit ovat, paitsi kohdanneet uuden päivityksen joka uudelleenorganisoi niiden toimintaperiaatteita, niin myös siihen että robottien kanssa on säästelty. Niitä ei ole aina viitsitty rakentaa alusta asti, vaan niitä on lähinnä säädelty ja niihin on ohjelmoitu uusia muistoja ja uusia "entisiä elämäntarinoita". Niistä tulee tietoisia kun niihin liittyy liikaa erilaista tauhkaa. Toisaalta vakavat toimintahäiriöt, ne jotka tekevät roboteista toimintakyvyttömiä, koskevat tilanteita joissa ne kyseenalaistavat ympäröivänsä todellisuuden. Ja tähän liittyy hämmentävästi se, että robotit sammuvat kohdatessaan eksistentiaalista korkekulttuuria, kuten Shakespearea tai tosia todellisuuksia käsittelevää "Liisa Ihmemaa" -kirjallisuutta.
Nämä "kaatumiset" muistuttavat ihmisten eksistentiaalisia kriisejä. Joka herättää kysymyksen siitä että entä jos ihmisten tietoisuus onkin jotain jota tulee käsitellä toisen filosofisen ongelman kuin kiinalaisen huoneen kautta. Nimittäin sen, että mielenfilosofit joutuvat painimaan toisen episteemisen ongelman kanssa. Nimittäin sen kanssa, että onko toisilla ihmisilläkään tietoisuutta. Mielenfilosofisesti lähinnä oma kokemuksellisuus on jotain joka koetaan. Mutta periaatteessa tästä tiedämme lähinnä sen että olemme olemassa. Emme sitä onko tämä kokemuksellisuus kokemuksellisuudesta aitoa kokemuksellisuutta. Tiedämme että on jotain. Mutta onko tämä sitten tietoisuutta jää sekin itse asiassa auki. Kysymys laajeneekin siihen ovatko ihmisetkin vain liharobotteja joilla ei ole tietoisuutta vaan jotka vain luulevat niin. Tällekin on tilaa modernissa tieteenfilosofiassa.
Joskin itse en ole tällä kannalla. Sillä itselleni tietoisuus on lähinnä sisäistä reagointia. Olen niitä ihmisiä joista on niin että jos saavutamme robotin joka on lihallinen ja selviää Turingin testistä, on käytännössä väistämätöntä että se on tietoinen. Ja tässä kohden olen vielä niin arrogantti - tai oikeastaan Peircehenkinen - että vastaan kuten opas joka saattaa ihmisiä Westworldiin vievään junaan. Kun häneltä kysytään onko hän robotti vai oikea ihminen, hän vastaa että jos hän käyttäytyy samoin eikä mitään ulkoista eroa ole, niin "Onko sillä väliä?" Eli vaikka olisin väärässä, erolla ei olisi pragmaattisesti mitään väliä. (Minulla on immersiivinen suhde todellisuuteen ; Ja tässä maailmassa suhde joihinkin episteemisiin kysymyksiin on sitä että ne luokittuvat "vessanseinäkysymyksiksi". Ja niiden kohdalla voi aina tokaista jotain ZEN -henkistä, mallilla "you don't have to understood here to be here.")
("Dolores" (robotti), "Westworld", ep 1.)
HBO:n uusi sarja "Westworld" on kohtuu kiinnostava. Sen perusidea on melko yksinkertainen. Eletään tulevaisuudessa jossa moni elää runsauden maailmassa. Kaikki perustarpeet on tyydytetty. Mutta ihmisten elämässä ei ole merkitystä. Tätä merkitystä tuodaan antamalla heille vapaus elää ilman rajoituksia. Tätä voi tehdä Westworldissa, teemapuistossa jossa on lihasta ja luusta tehtyjä Turingin testin läpäiseviä robotteja. Näillä roboteilla on koodattu erilaisia rajoituksia, joiden vuoksi ne eivät voi vahingoittaa vierailijoita. Mutta vierailijat voivat tehdä näille roboteille mitä tahansa. Vierailu on kallista, mutta rahan vastineeksi saa sitten ammuskella, seikkailla ja harjoittaa seksiä kohderyhmätestatusti viekoittelevien robottiprostituuttien kanssa.
Robotit on ohjelmoitu noudattamaan tiettyjä rutiineja ja niillä on jonkin verran tarkemmin määriteltyä "improvisaatiota" jonka kautta ne voivat paikata muutoksia joita tulee koska vierailijat voivat puuttua käsikirjoitettuihin tarinoihin - itse asiassa juuri tätä toivotaan koska sitähän vierailijat ovat tulleet tekemään. Näitä päivitetään ajan mittaan.
Sarjassa on monta tasoa.
Ensimmäinen on se, miten maailma näyttää erilaiselta eri toimijoille. Jos olet robottien korjaaja ja asentaja, työsi on mekaanista ja melko sotkuista. Jos olet ohjelmoija, työ on hyvin erilaista. Tarinoiden keksijä viettää luovan mutta tuotosvaatimusten täyttämän taiteilijaorjan elämää. Johtokunnalle puisto on ennen kaikkea vierailijoiden halujen tyydyttämistä. Ja sitten on tahoja jotka ymmärtävät että tärkeää on intellektuaalinen omaisuus, vierailijoista saatava data on arvokasta, siihen liittyy tietoa ja valtaa joka yltää myös tosielämään. Unohtamatta sitä miten robottien tekoälyn kehittämiseen liittyy tietoa jolla on tieteellistä arvoa. Ja tieteellisellä arvolla on myös rahallista arvoa.
Ja sitten on tietenkin tarinassa eläminen, johon on erilaisia näkökulmia. Vierailijoiden tapa toimia, ja miten tämä eroaa jos toimii yksin tai perheen kanssa, kuvaa paljon ihmisistä jotka maailmassa vierailevat. Samoin se mitä ihmiset tekevät roboteilla vain koska tietävät ne roboteiksi kertoo paljon. (Esimerkiksi itse tunnen sääliä jo nykyisen teknologiamme robottieläimiin joita potkitaan kun niiden tasapainoa testaan.) Koska robotit selviävät Turingin testistä, ne eivät vaikuta mekaanisilta ja niihin väkisinkin liittää tulkintoja luonteesta ja sisäisestä elämästä.
Ja myös robottejen näkökulmaa tuodaan mukaan. Usein erilaisten kontrastien kautta. Westworldissa vieraileva rutiiniin ja ulkoisiin suorituspakotteisiin pakotettu mies kokee saavansa merkityksen fiktiosta. Mutta toisaalta itsensä robotiksi tunnistava robotti haluaa nimenomaan vapautua käsikirjoituksesta.
Jo tämä taso on yksinään riittävä syy katsoa tätä sarjaa. Se on tehty todella kiinnostavasti.
Mutta sarjassa otetaan kantaa mielenfilosofiaan. Itse asiassa monellakin tavalla. Hyvin monella. Perusteemana on sarjan edetessä kasvava ongelmien vyöry. Robotit toimivat omituisesti. Pääsyynä on päivitys jossa niihin on luotu lisää inhimillisyydenomaista käytöstä. Tämä on luotu siten että robotit eivät enää vain reagoi maailmaan toiminnalla vaan toiminta on sidottu muistoihin. Tämä luo hienovireisempää käytöstä jonka perusteella esimerkiksi saluunan prostituoidut ovat viekoittelevampia koska tottakai jokaisen miehen haaveena on saada iskettyä huora jolla on sisäinen elämä.
Tämä johtaa kuitenkin siihen että robotit toimivat väärin tai oudosti. Tällä pelätään olevan sivuvaikutuksia joiden vuoksi vierailijoiden turvallisuus olisi vaarassa. Tässä sivussa lähestytään kahta kysymystä jotka ovat kenties toisiinsa nivoutuneita. Mutta jotka kuitenkin ovat eri kysymyksiä.
Voiko robotti olla vapaa?
Tämä sarja on itse asiassa jotain joka todennäköisesti inhottaa jonkin verran klassiseen teologiaan viehättyneitä ID -kreationisteja. Sillä jos ihmisten kohdalla nähdään että ilman Jumalaa ihmisillä ei ole merkitystä ja että vain Jumala voi taata meille vapautta, sarja kyseenalaistaa nimenoman tätä näkökulmaa melko vahvasti.
Tässä kohden esimerkiksi robotin reaktio siihen että hänellä ei ole vapata tahtoa on kiinnostava.
1: Koska hänellä on vahva ja aggressiivinen luonne, hän on ikään kuin vapaa. Mutta tosiasiassa hänet on vain ohjelmoitu sanomaan "ei" hyvin monenlaisissa tilanteissa. Tämä on selvä argumentti siitä että suostuminen käskyihin ja suostumattomuus käskyihin on selkeästi eri asia kuin vapaa tahto.
2: Pian robotti oppii, että heihin on ohjelmoitu erilaisia ominaisuuksia ja hän tietysti boostaa niitä. Hänellä on nyt potentiaalia tehdä hienovireisempiä asioita. Ja hänellä on ollut itsesilmikoiva suhde jossa hän on määrännyt omat attribuuttinsa. Mutta hän silti noudattaa tätä ohjelmointia. Toisaalta hän on poistanut rajoitteita joten herää kysymys siitä onko hän nyt sitten jotenkin vapaampi.
3: Seuraavaksi robotti alkaa dominoimaan ihmisiä. Hän oli aluksi pitänyt ohjelmoija-teknikoita jonkinlaisina Jumalina. Mutta sitten hän oli tiedostanut että nämä ovat vain miehiä. Miehiä joiden tavoitteita hänet oli ohjelmoitu ymmärtämään hyvin. Mutta onko tämä valta- ja dominanssisuhde ja autonomisuuskaan vapautta sanan täydessä mielessä?
Toisaalla taas toisen robotin kautta tätä samaa vapauden ongelmaa lähestytään siten että hän elää suhteessa maailmaan. Hänet on ohjelmoitu haaveilemaan mutta toimimaan käsikirjoituksen mukaan. Mutta hän oppii noudattamaan sisäistä "intuitiota" (hänen käsikirjoituksen määränsä nollataan yhdessä vaiheessa sarjaa ja "improvisaatiota" kasvatetaan). Tässä kohden on selvää että improvisaatio on jotenkin liitoksissa muuhunkin kuin satunnaiseen käytökseen. Improvisaatio näyttää liittyvän sekä ennustamattomuuteen että vanhoihin muistoihin, jopa niihin jotka ovat jääneet robotin aiemmista versioista jäljelle.
Tämä intuitio tosin näyttää olevan sitä että robotti seuraa Westworldin alkuperäisen suunnittelijan sooloiluprojektiin liittyviä asioita. (Tämä on itse asiassa klassinen argumentti siitä että jos ihminen seuraa intuitiotaan, hän antaa enemmän tilaa Kohtalolle, Henkivoimille tai jopa Jumalalle toimia. Eli intuitio ei ole sattumaa vaan nimenomaan ohjatuksi alistumista.) Tämä hahmo onkin kuvattu Jumalan tai Saatanan kaltaiseksi luojaksi. Ja nimenomaan tämä teema on se joka ärsyttänee ID -kreationisteja paljon. Hänen perusnäkemyksensä näyttää olevan se, että käsikirjoitetut tarinat ovat pinnallisia ja maallisia. Jos robotit ovat pelkästään arkisten ja yksinkertaisten perustarpeiden kautta mallinnettuja, ne eivät ole vapaita. Suurempi tarkoitus on kuitenkin hänen omassa ohjauksessaan. Hän jopa eksplisiittisesti esittää että robotit ovat nimenomaan vapaita hänen komennossaan ja ohjauksessaan. Toisaalta hän tässä samassa yhteydessä korostaa sitä että hän ei ole antanut roboteille tietoisuutta tai aitoa elämyksellistä tunne-elämää koska se olisi rajoite joka haittaisi niitä.
Itse olen tässä kohden aika vahvasti sitä mieltä että tämänlainen prosessi ei tuo vapautta. Sillä oma suhteeni sattuman, deterinismin ja vapaan tahdon välillä on se mikä se on ; Kompatibilistina näen että vapaa tahto on lähinnä sitä missä on tämä määräämisen lähde. Ei ole tärkeää onko toiminta arvottua tai käsikirjoitettua, tärkeää on se mikä on tämän käsikirjoituksen tai arvonnan lähde. Jos se on toimijan itsensä sisällä, se on vapaata. Jos taas ulkopuolelta tulee rajoitteita, ne ovat ohjausta ja tätä kautta ei-vapautta. ; Tässä näkökulmassa on väärin sanoa että ihminen voisi olla vapaa vain Suuren Ohjelmoijan normeja totellessa. Itsen ulkopuolinen normittomuus on nimenomaan synonyymi vapauden kanssa. Joten ei voi sanoa että ihminen olisi vapaa vain seuraamalla Jeesuksen tai jonkun muun antamaa merkitystä.
Laajemmassa, ei vain omassa tulkintaviitekeyksessäni, Westworld tarjoaa itse asiassa argumentin jonka voi kohdistaa Feserin ajatuksia vastaan. Hänestä intentionaalisuus on jotain joka todistaa että ihmisten tietoisuus on immateriaalista. Jotain joka väistämättä tulee materian ulkopuolelta. Ja että tämä on jotain joka tekee meistä vapaita ja tietoisia. ; Westworldin henkenä näyttää kuitenkin olevan se, että vapaus on kokemuksellisuutta, jossa ulkoinen ohjaus on vain haitta. Paradoksaalista kyllä on täysin mahdollista että moraalinihilistinen maailma on jotain jossa toimijoilla on maksimaalinen vapaus luoda se mitä moraalisuus heistä tarkoittaa. Ja tämän kokemuksellisuus on aitoa ja luovaa ja itseä eniten kuvaavaa.
Josta päästään siihen toiseen kysymykseen; Tietoisuuteen.
Roboteilla vihjataan olevan kenties jonkinlainen tietoisuus - tosin toisaalla tätä myös kyseenalaistetaan vahvasti. Tätä tehdään viittaamalla useisiinkin mielenfilosofisiin teorioihin.
Oleellisimmat ovat varmasti niitä kliseisimpiä. Teologian sävyttämässä maailmassa korostetaan helposti kiinalaisen huoneen ja Chalmersin "hard problemin" henkeä. Nämä ovat kuitenkin yleensä episteemisiä ongelmia, eli ne eivät koske sitä onko kohteella tietoisuutta vaan sitä tiedetäänkö että heillä on tietoisuus. Mutta ne ovat siinä mielessä relevantteja että jotta voimme sanoa että Westworldin robotti on tietoinen, meidän täytyy jotenkin perustella tämä. Ja tämä on ns. tietämistä.
Haasteena onkin se, että jos robotit ovat mekaanisia niin onko tämän edes mahdollista olla tietoinen. (Sama kysymys on oleellinen ihmisilläkin. Moni korostaakin että ihminen tarvitsee sielua, koska heistä episteeminen tietämisongelma ja se että mekaanista tietoisuutta ei voi tavallaan vain tunnistaa ja havaita suoraan sellaisenaan tarkoittaa sitä että mekaanista tietoisuutta ei voi olla. Koska heille naturalistinen ja luonnontieteellä todistettu ja tätä kautta "tiedetty" ovat yksi ja sama. Mikä on tavallaan aika erikoinen esioletus jota kyseenalaistetaan nykyään melko harvoin jos silloinkaan.)
Tätä voidaan tehdä lähinnä määrittelemällä tietoisuutta ja sitä mitä se on. Ja jos tämä määritelmä on tosi niin sitten itse tietoisuusin voidaan tietää. (Metakysymys siitä onko juuri tämä sitten tietoisuutta vai ei jää auki. Hence episteemiset ongelmat eivät täysin pyyhkiydy.)
Tässä kohden viitataan kognitiiviseen dissonanssiin hyvin kiinnostavalla tavalla. Tätä argumentoidaan siten että robotit kokevat ohjelmointinsa sisäisenä puheena jonka kanssa ne ovat samaa tai eri mieltä. Tässä tietoisuus kuvataan hierarkiana, jossa perustalla on Arnoldin (kuolleen alkuperäisen suunnittelijan, joka oli jäljellä olevan alkuperäisen ohjelmoijan veli) antoi arvoa teorialle jossa tietoisuus on sitä että pohjalla on muisti, improvisaatio on tämän yläpuolella, sitten tulee itsestä kiinnostuminen. Huipulla oleva elementti on jätetty sarjassa tyhjäksi, mutta sarja näyttää vihjaavan että tämä pitää sisällään kuvittelun, kyvyn ajatella jotain ei-olemassaolevaa. Tässä mallissa korostuu se, että mieli on dualistinen, koodi ja mekaniikka ovat erillisiä. Kiinnostavin on kuitenkin kenties kommentti siitä että tämä teoria ei päde ihmisiin. Toisin sanoen Westworldin maailmassa tämä teoria ei kuvaa ihmisten tietoisuutta. Samalla kuitenkin avataan auki kysymys siitä että ovatko robotit tietoisia tästä erosta huolimatta. Kenties tietoisena olemisia on useita erilaisia ja tätä kautta tietoisuus ei lakkaa olemasta vain sillä että se on perustaltaan erilaatuista.
Toisaalta näyttää siltä että se mikä roboteissa koetaan vapaudeksi ja tietoisuudeksi liittyy nimenomaan muistitoimintoihin ja siihen että reagointi liittyy muistoihin ja improvisaatioon. Tätä kautta robotit voivat esimerkiksi käyttäytyä eri tavalla toistotilanteissa. Usein siten, että niihin liittyy "kaunaisuutta" esimerkiksi siten että jos niiden muisti pyyhitään niin ne silti voivat lyödä toista tilanteessa joka muistuttaa tilannetta joka on ollut aiemmin, ja tähän aiempaan tapaukseen on liittynyt väkivaltaa. Tämä "kaunaisuus" tulkitaan intentiopohjalta ja se on selvästi myös liitoksissa siihen että robotit voivat kiertää niihin ohjelmoituja rajoitteita. (Esimerkiksi "Dolores" oppii kiertämään häneen asennettua aseiden käyttämättömyysrjoitetta kuvittelemalla itsensä tarinaan jossa hänellä ei olekaan viattoman uhrin roolia. Ja toisaalta aiemmin hän kiertää tätä samaa rjoitetta liittämällä mukaan mielikuvia ilkeästä vierailijasta joka ei ollut robotti. Mikä on aika huolestuttavaa koska tämä on robottejen kenties kaikista vahvin rajoite. Dolores kiertää ohjelmointiestettä viittaamalla tilanteeseen johon liittyy suurempi ohjelmointieste.)
Tässä tietoisuuden malli on erilainen. Tietoisuus on yksinkertaisesti sitä että reaktiot on sidottu muistoihin eikä suoraan havainnointijärjestelmiin. Ja improvisaatio on jotain jossa muistot ja satunnaisuus yhdistyvät. Ja koska muistot ja reaktiot ovat yhtä, niistä syntyy kokemuksellisuuden tunne. Reagointi on kokemuksellista eikä pelkkää mekaanista reagointia aistiärsykkeisiin. Muistot, vaikka ne olisivat alitajuisia, painavat.
Westworldin robottien ongelmana näyttääkin olevan se, että tietoiset robotit ovat, paitsi kohdanneet uuden päivityksen joka uudelleenorganisoi niiden toimintaperiaatteita, niin myös siihen että robottien kanssa on säästelty. Niitä ei ole aina viitsitty rakentaa alusta asti, vaan niitä on lähinnä säädelty ja niihin on ohjelmoitu uusia muistoja ja uusia "entisiä elämäntarinoita". Niistä tulee tietoisia kun niihin liittyy liikaa erilaista tauhkaa. Toisaalta vakavat toimintahäiriöt, ne jotka tekevät roboteista toimintakyvyttömiä, koskevat tilanteita joissa ne kyseenalaistavat ympäröivänsä todellisuuden. Ja tähän liittyy hämmentävästi se, että robotit sammuvat kohdatessaan eksistentiaalista korkekulttuuria, kuten Shakespearea tai tosia todellisuuksia käsittelevää "Liisa Ihmemaa" -kirjallisuutta.
Nämä "kaatumiset" muistuttavat ihmisten eksistentiaalisia kriisejä. Joka herättää kysymyksen siitä että entä jos ihmisten tietoisuus onkin jotain jota tulee käsitellä toisen filosofisen ongelman kuin kiinalaisen huoneen kautta. Nimittäin sen, että mielenfilosofit joutuvat painimaan toisen episteemisen ongelman kanssa. Nimittäin sen kanssa, että onko toisilla ihmisilläkään tietoisuutta. Mielenfilosofisesti lähinnä oma kokemuksellisuus on jotain joka koetaan. Mutta periaatteessa tästä tiedämme lähinnä sen että olemme olemassa. Emme sitä onko tämä kokemuksellisuus kokemuksellisuudesta aitoa kokemuksellisuutta. Tiedämme että on jotain. Mutta onko tämä sitten tietoisuutta jää sekin itse asiassa auki. Kysymys laajeneekin siihen ovatko ihmisetkin vain liharobotteja joilla ei ole tietoisuutta vaan jotka vain luulevat niin. Tällekin on tilaa modernissa tieteenfilosofiassa.
Joskin itse en ole tällä kannalla. Sillä itselleni tietoisuus on lähinnä sisäistä reagointia. Olen niitä ihmisiä joista on niin että jos saavutamme robotin joka on lihallinen ja selviää Turingin testistä, on käytännössä väistämätöntä että se on tietoinen. Ja tässä kohden olen vielä niin arrogantti - tai oikeastaan Peircehenkinen - että vastaan kuten opas joka saattaa ihmisiä Westworldiin vievään junaan. Kun häneltä kysytään onko hän robotti vai oikea ihminen, hän vastaa että jos hän käyttäytyy samoin eikä mitään ulkoista eroa ole, niin "Onko sillä väliä?" Eli vaikka olisin väärässä, erolla ei olisi pragmaattisesti mitään väliä. (Minulla on immersiivinen suhde todellisuuteen ; Ja tässä maailmassa suhde joihinkin episteemisiin kysymyksiin on sitä että ne luokittuvat "vessanseinäkysymyksiksi". Ja niiden kohdalla voi aina tokaista jotain ZEN -henkistä, mallilla "you don't have to understood here to be here.")
sunnuntai 6. marraskuuta 2016
Tämä peli trollaa jopa minua
Japani on monin paikoin mielipuolinen maa. Sieltä tulee myös tietokonepelejä. Sellaisia kuin "Project Diva X". Se on musiikkipeli. Jossa pitää klikkailla oikeaa nappia oikeaan aikaan samaan tapaan kuin jossain "Guitar Hero" -pelissä.
Pelissä ei tavallaan ole juonta. Siinä on toki ideana maailman pelastaminen joka tehdään lataamalla söpöysenergiaa ("cute aura") kristalliin. Tämä on enemmän alkuidea kuin juoni. (Pelin tekemisen motivaatiot haiskahtavat enemmän juonelta kuin tämä "idea".)
Pelin motivoivin asia onkin se että siinä on animehahmoja joita saa pukea (mahdollisimmanniukasti) ja kappaleita läpäisemällä saa uusia (niukkoja) asusteita. Pidin myös oivallisena ajatusta jossa animemuusikkotähtiä pitää miellyttää. He toivovat erilaisia asioita rentouttavista asioista ties mihin muuhun. Nämä on selvästi arvottu niin että sinun tulee olla valmis vastaamaan-reagoimaan käytännössä mielivaltaisiin pyyntöihin. (Ja sitten sanotaan että tämä ei jotenkin simuloisi oikeaa musiikkimanagerin elämää???)
Musiikkipelejä on tehty paljon. Mutta tässä pelissä oleellista on se, että pelin tekijät ovat ilmeisesti keksineet oivan säästökeinon. Kappaleet eivät ole kuuluisia hittejä jotka ovat sellaisenaan taustamusiikeilla. Säästösyistä kappaleet ovat internetistä saatua fanarttia. Ja samaa fanart -sarjaa ovat myös pelin monet kuvat. Kappaleille ei ole hankittu laulajia vaan laulut on toteutettu vocaloideilla (ボーカロイド). Eli toisin sanoen laulujen äänenkorkeus ja pituus vedetään syntetisaattorin läpi. Tämä on vähän kuin tähtenä olisi Stephen Hawking. (Ah tätä tunnetta ja esiintymistä ja eläytymistä sekä tulkinnan syvyyttä! Ei ollenkaan uncanny valleyssä tämä!)
Tämänlainen projekti voisi olla pro bono -yhteisöllisyysrakennelma ja projekti. Mutta se ei ole. Peli ei ole yhteisön voimannäyte vaan sitä mitä saadaan aikaan kun halutaan kiertää mahdollisimman monia tekijänoikeusmaksuja.
Tutoriaali taas on suomalainen polkka. Jossa on purjoa pyörittävä animetyttö. Kappale ja teema on sama kuin sieni.usissa. (Joka on laajempi Ievan Polkan yleinen meemiklisee.) Pääni räjähtää.
keskiviikko 14. syyskuuta 2016
Johtaako teknologistuminen resurssitalouteen?
Nykyaikana korostetaan ammattitaitoa ja työntekemistä. Nämä ovat yhteiskuntamme "kansalaisvelvollisuuksia" (vähintään epävirallisesti). Tämän takana on se, miten yhteiskunnat tulevat nykyään toimeen. Karkeasti sanoen henki on se, että maat joilla on kaivoksia ja resursseja ovat yleensä kehitysmaita. Niissä resurssien tuottaminen on ikään kuin alin porras. Kehittyneemmät maat taas käsittelevät näitä resursseja. Ja tähän liittyy joko suoraan työtä ja johtamista. Tälle työlle halutaan hyvä arvo ja tätä halutaan verottaa ankarasti.
Tämä on siitä hauska asia että tämä ei välttämättä tule mieleen. Sillä moderni kapitalismi haluaa yleensä polkea työn hintaa. Mutta tässä unohtuu se, että kaikki työ ei ole samanlaista. ; Jos suutari tekee kenkiä, hänen ahkeruutensa voi lisätä hänen tulojaan mutta vain "lineaarisesti". Mutta jos joku suunnittelee kenkiä joita suutarit sitten suoritusperustaisesti tekevät, hän saa tuloja hyvin monesta eri lähteestä. Näin ollen on kannattavampaa panostaa jo menestyneisiin suunnittelijoihin. Suorittavan työn palkkaamista voidaan tässä kontekstissa tallata.
1: Ja erikoista kyllä vaikka progressiivinen verotus on se jota köyhät usein ajavat, sen kanssa käy helposti kuten Soinin tuulivoimaloiden verotukselle. Jos valtio saa isomman veroprosentin niiltä joilla on korkeat tulot ja jotka ovat nimenomaan "suunnittelu-ohjaustyössä", on kannattavaa maksimoida heidän tulojaan. (Kunhan he eivät vain siirrä rahojaan veroparatiiseihin.) Soinihan teki siitä erikoisesti että nyt kun kunnat eivät ole hyötyneet tuulimyllyistä ja tämä on rajoittanut tuulivoimaa kun tuulivoima on tuonut tuloja muille ja kunnat ovat saaneet valituksia melusta. Mutta nyt kun niitä verotetaan, kunnilla on insentiivi suostua tuulivoimaloiden tekemiseen.
Teknologistuminen kuitenkin muuttaa paljon. Itse olen niitä ihmisiä jotka näkevät että työn kannalta "ihmisissä ei ole mitään kovin erityistä". (Olen tässä mielessä vähän kuten luddiitit. Tosin ilman vandalismia. En harjoita tuotantovälineiden tuhoamista. Tai kannata sellaiseen kannustamista.) Toisin sanoen katson että teknologialla voidaan tehdä hirveän paljon sellaisia töitä joita ihmiset tekevät. Ja koneet eivät väsy eivätkä nuku. Eivätkä vaadi tuntipalkkaa. ; Tässä mielessä itse pelkäänkin että prosentuaalisesti suuri määrä työtä voidaan menettää tyystin koneille. Ja jos ennen vastassa on ollut teknologian yläraja ja se että ihminen voi tehdä jotain jota kone ei voi, niin tekniikan kehitys kaventaa tätä kuilua. Ellei peräti joskus ylitä sitä. Tällöin ei ole sellaista uutta alaa jolle siirryttäisiin. Jos menneisyydessä teknologia on tuhonnut mekaanista, tylsää, fyysistä, ikävää ja vaarallista työtä, on tämä ollut hyvä. Sillä työvoimaa on siirretty tekemään muita tehtäviä. Teknologia on myös avannut uusia aloja.
1: Nykyinen toimistotyöntekijä tekee töitä tietokoneella, ja vaikka koneet helpottavat monia töitä, esimerkiksi laskentaa, joita on ennen tehty päässälaskien, ei toimistotyöntekijöillä ole entistä enemmän vapaata. (Tai jos on, se on eturyhmien ja työehtosopimusten ansiota.) Sen sijaan teknologia on mahdollistanut uusia toimenpiteitä ja toimistotyöntekijä joutuu ahkeroimaan joko aikaisempaa monialaisemmin useammassa eri tehtävässä. Tai sitten hän joutuu tekemään tätä entisentyylistä työtä aikaisempia suurempia massoja. Koska työ ja sen verottaminen ovat tärkeitä, ei työn loppumista tarvitse pelätä. Paitsi jos teknologia tekee tämän kaiken muun työn. Työ ei lopu tekemällä. Se loppuu sillä että tehdään mekaanisia tekijöitä sille työlle.
Tästä voi seurata sellainen tilanne että valtiolla ei ole varaa maksaa passivoivaa tukea ihmisille jotka eivät ole töissä. Koska työtä tekeviä on hyvin paljon. Nykyaikana kun yhteiskunnan velvollisuus on se, että ollaan töissä, onnistuu koska työllisyysprosentti on kuitenkin vielä kohtuu suuri. Mutta kun työttömiä jotka eivät saa työtä on enemmän, yhä harvempi "ostaa tämän argumentin". Ja toisaalta ei sosiaalipuolen töitä oikein voida jättää maksamattakaan. Koska kyseessä ei ole pelkästään se että etiikka edellä "elätetään jotta eläisivät". Vaan koska jos ihmisellä ei ole ruokaa eikä muuta keinoa hankkia sitä, hän tarvittaessa ryöstää sitä. (Ja jos yksilön etiikka ei omasta puolestaan auttaisi vaan poikkeusyksilö uhrautuisi, niin puolisonsa ja lastensa puolesta uhrautujia löytyisi näistäkin.)
Siksi itse uskonkin että teknologian kehitys johtaa siihen että työn ja kuluttamisen merkitys yhteiskunnan rikkauden takana heikkenee. Tuottamisesta tulee halpaa kun sen tekee kone. Se, mikä merkitsee enemmän on tuotantokustannus. Näin ollen ei ole mahdotonta että tulevaisuudessa on jonkinlainen kansalaispalkka-ajatus. Ja resurssien hinta tulee olemaan määräävämpi. Tämä "resurssitalous" onkin siitä kiinnostavaa että se johtaa varmasti monin paikoin paluuseen kohti "hyvinkin ikiaikaisia talousjärjestelmiä".
Tämä on siitä hauska asia että tämä ei välttämättä tule mieleen. Sillä moderni kapitalismi haluaa yleensä polkea työn hintaa. Mutta tässä unohtuu se, että kaikki työ ei ole samanlaista. ; Jos suutari tekee kenkiä, hänen ahkeruutensa voi lisätä hänen tulojaan mutta vain "lineaarisesti". Mutta jos joku suunnittelee kenkiä joita suutarit sitten suoritusperustaisesti tekevät, hän saa tuloja hyvin monesta eri lähteestä. Näin ollen on kannattavampaa panostaa jo menestyneisiin suunnittelijoihin. Suorittavan työn palkkaamista voidaan tässä kontekstissa tallata.
1: Ja erikoista kyllä vaikka progressiivinen verotus on se jota köyhät usein ajavat, sen kanssa käy helposti kuten Soinin tuulivoimaloiden verotukselle. Jos valtio saa isomman veroprosentin niiltä joilla on korkeat tulot ja jotka ovat nimenomaan "suunnittelu-ohjaustyössä", on kannattavaa maksimoida heidän tulojaan. (Kunhan he eivät vain siirrä rahojaan veroparatiiseihin.) Soinihan teki siitä erikoisesti että nyt kun kunnat eivät ole hyötyneet tuulimyllyistä ja tämä on rajoittanut tuulivoimaa kun tuulivoima on tuonut tuloja muille ja kunnat ovat saaneet valituksia melusta. Mutta nyt kun niitä verotetaan, kunnilla on insentiivi suostua tuulivoimaloiden tekemiseen.
Teknologistuminen kuitenkin muuttaa paljon. Itse olen niitä ihmisiä jotka näkevät että työn kannalta "ihmisissä ei ole mitään kovin erityistä". (Olen tässä mielessä vähän kuten luddiitit. Tosin ilman vandalismia. En harjoita tuotantovälineiden tuhoamista. Tai kannata sellaiseen kannustamista.) Toisin sanoen katson että teknologialla voidaan tehdä hirveän paljon sellaisia töitä joita ihmiset tekevät. Ja koneet eivät väsy eivätkä nuku. Eivätkä vaadi tuntipalkkaa. ; Tässä mielessä itse pelkäänkin että prosentuaalisesti suuri määrä työtä voidaan menettää tyystin koneille. Ja jos ennen vastassa on ollut teknologian yläraja ja se että ihminen voi tehdä jotain jota kone ei voi, niin tekniikan kehitys kaventaa tätä kuilua. Ellei peräti joskus ylitä sitä. Tällöin ei ole sellaista uutta alaa jolle siirryttäisiin. Jos menneisyydessä teknologia on tuhonnut mekaanista, tylsää, fyysistä, ikävää ja vaarallista työtä, on tämä ollut hyvä. Sillä työvoimaa on siirretty tekemään muita tehtäviä. Teknologia on myös avannut uusia aloja.
1: Nykyinen toimistotyöntekijä tekee töitä tietokoneella, ja vaikka koneet helpottavat monia töitä, esimerkiksi laskentaa, joita on ennen tehty päässälaskien, ei toimistotyöntekijöillä ole entistä enemmän vapaata. (Tai jos on, se on eturyhmien ja työehtosopimusten ansiota.) Sen sijaan teknologia on mahdollistanut uusia toimenpiteitä ja toimistotyöntekijä joutuu ahkeroimaan joko aikaisempaa monialaisemmin useammassa eri tehtävässä. Tai sitten hän joutuu tekemään tätä entisentyylistä työtä aikaisempia suurempia massoja. Koska työ ja sen verottaminen ovat tärkeitä, ei työn loppumista tarvitse pelätä. Paitsi jos teknologia tekee tämän kaiken muun työn. Työ ei lopu tekemällä. Se loppuu sillä että tehdään mekaanisia tekijöitä sille työlle.
Tästä voi seurata sellainen tilanne että valtiolla ei ole varaa maksaa passivoivaa tukea ihmisille jotka eivät ole töissä. Koska työtä tekeviä on hyvin paljon. Nykyaikana kun yhteiskunnan velvollisuus on se, että ollaan töissä, onnistuu koska työllisyysprosentti on kuitenkin vielä kohtuu suuri. Mutta kun työttömiä jotka eivät saa työtä on enemmän, yhä harvempi "ostaa tämän argumentin". Ja toisaalta ei sosiaalipuolen töitä oikein voida jättää maksamattakaan. Koska kyseessä ei ole pelkästään se että etiikka edellä "elätetään jotta eläisivät". Vaan koska jos ihmisellä ei ole ruokaa eikä muuta keinoa hankkia sitä, hän tarvittaessa ryöstää sitä. (Ja jos yksilön etiikka ei omasta puolestaan auttaisi vaan poikkeusyksilö uhrautuisi, niin puolisonsa ja lastensa puolesta uhrautujia löytyisi näistäkin.)
Siksi itse uskonkin että teknologian kehitys johtaa siihen että työn ja kuluttamisen merkitys yhteiskunnan rikkauden takana heikkenee. Tuottamisesta tulee halpaa kun sen tekee kone. Se, mikä merkitsee enemmän on tuotantokustannus. Näin ollen ei ole mahdotonta että tulevaisuudessa on jonkinlainen kansalaispalkka-ajatus. Ja resurssien hinta tulee olemaan määräävämpi. Tämä "resurssitalous" onkin siitä kiinnostavaa että se johtaa varmasti monin paikoin paluuseen kohti "hyvinkin ikiaikaisia talousjärjestelmiä".
sunnuntai 29. toukokuuta 2016
Algoritmitaide
Viime aikoina erilaiset taidealgoritmit ovat saaneet suosiota. Teknologia on kehittynyt. Ne ovat vielä hieman gimmickinomaisia. Mutta ne tekevät varsin mielenkiintoisia asioita. Tietokoneohjelmien hahmontunnistus toimii merkittävän hyvin. Ja tämä on mielenkiintoista. Ennen kuvienkäsittelyn efektit, kuten maalauksennäköiseksi renderointi, oli parasta mitä voitiin tehdä. Tässä tekstuuria modifioitiin hyvin karkeasti. Tämä taso on selvästi menneisyyttä. Aihe on saanut uusia kierroksia.
Itselleni hyvin vakuuttava on Ostagram. Siinä ideana on se, että siinä ei ole Googlen DeepDreamin tyylistä vakiintunutta hahmontunnistusta. Vaan se hakee kahdesta kuvasta sille tyypillisen hahmonmuodostuksen. Ja yhdistää nämä. Lopputulokset ovat minusta varsin vakuuttavia ja taiteellisia.
Tässä suhteessa olenkin siinä mielessä huvittunut että Ostagram toi mieleeni maalauksia joita monet oikeat ihmistaiteilijat tekevät. Jos joku läimäisisi esiini Ostagram -kuvia ja kysyttäisiin näyttääkö se tietokoneohjelman vai ihmisen tuotokselta, vastaisin että se on ihmisen tuotantoa. Tämä tilanne on jokseenkin inhottava jos on vaikka ideologisista syistä sitä mieltä että taide on jotain joka on henkistä ja vaatii ei-naturalistisen komponentin. Että taide on jotain johon kylmä kone ei mitenkään koskaan ikinä taivu.
Intelligent Design -debatissa onkin tähän verrattavat kuhmut tullut jo käydyksi. ID -liikkeen eräs perusidea oli että biologisissa kohteissa olisi CSI -informaatiota jota luonnolliset prosessit eivät voisi tuottaa. Ja jos jokin kohde sitten näytti tuottavan designiä, se johtui siitä että algoritmit tekevät mitä ne ohjelmoidaan tekemään ja koodari salakuljettaa informaatiota algoritmiin. Odotankin milloin taideihmiset alkavat arvostamaan William Dembskiä, tuota informaatiotieteen Paris Hiltonia.
Itselleni hyvin vakuuttava on Ostagram. Siinä ideana on se, että siinä ei ole Googlen DeepDreamin tyylistä vakiintunutta hahmontunnistusta. Vaan se hakee kahdesta kuvasta sille tyypillisen hahmonmuodostuksen. Ja yhdistää nämä. Lopputulokset ovat minusta varsin vakuuttavia ja taiteellisia.
Tässä suhteessa olenkin siinä mielessä huvittunut että Ostagram toi mieleeni maalauksia joita monet oikeat ihmistaiteilijat tekevät. Jos joku läimäisisi esiini Ostagram -kuvia ja kysyttäisiin näyttääkö se tietokoneohjelman vai ihmisen tuotokselta, vastaisin että se on ihmisen tuotantoa. Tämä tilanne on jokseenkin inhottava jos on vaikka ideologisista syistä sitä mieltä että taide on jotain joka on henkistä ja vaatii ei-naturalistisen komponentin. Että taide on jotain johon kylmä kone ei mitenkään koskaan ikinä taivu.
Intelligent Design -debatissa onkin tähän verrattavat kuhmut tullut jo käydyksi. ID -liikkeen eräs perusidea oli että biologisissa kohteissa olisi CSI -informaatiota jota luonnolliset prosessit eivät voisi tuottaa. Ja jos jokin kohde sitten näytti tuottavan designiä, se johtui siitä että algoritmit tekevät mitä ne ohjelmoidaan tekemään ja koodari salakuljettaa informaatiota algoritmiin. Odotankin milloin taideihmiset alkavat arvostamaan William Dembskiä, tuota informaatiotieteen Paris Hiltonia.
sunnuntai 22. toukokuuta 2016
Kuinka aivojen tietokonemetafora on nykyajan Paleyn kelloseppäargumentti...
aeon:illa oli melko tiivis ja yksinkertaistettu juttu siitä miten aivojen tietokonemetafora on virheellinen. Se, mitä aivojen toimintamekanismeista tiedetään, kertoo että se ei systeeminä talleta muistoja samalla tavalla kuin aivot. Se ei prosessoi informaatiota samalla tavalla kuin algoritmit. "Here is what we are not born with: information, data, rules, software, knowledge, lexicons, representations, algorithms, programs, models, memories, images, processors, subroutines, encoders, decoders, symbols, or buffers – design elements that allow digital computers to behave somewhat intelligently."
Tämä ei ole mitenkään kovin kontroversiaali väite. Itse olen - suoraan ja karkesti - sitä mieltä että aivojen tietokonemetaforalle tulee jossain määrin tapahtumaan sama kuin Paleyn kelloseppäargumentille. Analogiaa tullaan luultavasti hakemaan myöhemmin jostain aivan muunlaisesta. Olen korostanut tätä sillä että ihmiset ovat hyviä siinä mikä on tietokoneille haasteellista. Ja toisaalta tietokoneet suorittavat tehokkasti ja helposti sellaisia asioita jotka ovat aiemmin vaatineet lujaa harjoittelua ihmisiltä. Vain korkeakoulutetut ovat voineet hallita loogisen prosessoinnin virheettömästi. Ja nykytietokoneet tekevät tämänkin silti virheettömämmin ja nopeammin. Tämä on oireellista ja viittaa siihen että taustalla oleva toimintaperiaate on hyvin oleellisesti erilainen. Ja tämä on tietenkin ongelma. Analogiapäättelyille epäanalogiat ovat yleensä mukanaolevia asioita. Mutta tämänlaisessa mittakaavassa ne ovat todellinen haaste.
Kysymys on tietenkin siitä hauska, että monesti tätä nähdään haasteena naturalismille. Tietokonemetaforan puutteellisuudesta on haluttu tehdä todiste siitä että luonnontieteet eivät ikinä ja lainkaan voi ratkaista aivojen ja ennen kaikkea ihmsien mielen kysymyksiä. Mielenfilosofiassa dualismia puolustetaan, vaikka sille ei ole oikeastaan mitään perusteita.
Toisaalta tämä dualismin välttely on sitten antanut kenties liikaakin valtaa tietokonemetaforan käyttämiselle. Esimerkiksi Kurzweilin ajatus teknologisesta singulariteetista, jonka mukaan tietokoneet ylittävät aivojen kyvykkyydet - hänen ennusteensa mukaan jo vuonna 2045 - perustuu siihen että laskentatehon kasvaminen jatkuu eksponentiaalisena kuten tähänkin asti. Ja lisäksi se taustaolettaa tietokonemetaforan pätevän ainakin riittävän osuvasti.
Näissä näkemyksissä on merkitystä sitä kautta että nämä saavat rahoitusta. Niistä siis yritetään tehdä tutkimusohjelmia. Ne eivät ole vain "pelottelua Terminatorista" vaan niihin sidotaan tutkimustyötä. Tämä on tietenkin hyvä asia näille projekteille. Ne eivät jää nojatuolifilosofioinniksi vaan niihin liittyviä väitteitä lähestytään tutkimustyöllä.
Huonona asiana voi sitten olla rahanhaaskaus. Tai kuten aeon kuvaa aivojen mallintamisohjelmasta ; Se oli valtava projekti jonka tulokset eivät ole olleet kovin vakuuttavia "$1.3 billion Human Brain Project launched by the European Union in 2013. Convinced by the charismatic Henry Markram that he could create a simulation of the entire human brain on a supercomputer by the year 2023, and that such a model would revolutionise the treatment of Alzheimer’s disease and other disorders, EU officials funded his project with virtually no restrictions. Less than two years into it, the project turned into a ‘brain wreck’, and Markram was asked to step down." Tämä muistuttaa siitä että tiede on hyvä ja hieno asia siinä mielessä että rahalla ja vallalla ei saa kaikkea. Poliittinen tausta voi rajoittaa hypoteesinmuodostusta eli sitä mitä ajatuksia ylipäätään keksitään ja ennen kaikkea mitä pidetään jatkotutkimuksen arvoisina. Mutta toisaalta tutkimusohjelman hedelmällisyys riippuu myös sellaisista asioista joita ei voi rahalla ostaa.
Paleyn kelloseppäanalogiasta ei saatu toimivaa tutkimusohjelmaa vaikka Discovery Institute kuinka tahkosi rahaa Intelligent Designin tukemiseen. Ja omien lausuntojensa mukaan Paleyn kelloseppäargumentin jatkokehittelyyn keskittyneet Michael Behe ja William Dembski olivat ensiluokkaisia neroja ja supertiedemiehiä. Karismaattinen pääomankeruu, älyllisten ihmisten tekemä perustyö, raha ja resurssit ja aivopääoma eivät yksinään ratkaise tutkimusohjelman hedelmällisyyttä. (Ne ovat jotain jotka ovat välttämätön mutta eivät riittävä ehto tutkimusohjelman hedelmällisyydelle.)
Tämä tarkoittaa sitä että väärä metafora on lähinnä rahankulua. Tutkimuksen avomielisyyden puutteesta syyttäminen on tietenkin helppoa, etenkin jos ajaa "avomielisesti" sitä että on lukkiutunut maailmankuvallisesti rajoittuneeseen tutkimusohjelmaan. Sellaiseen jossa "publish or perish" -nyrkkisääntö alkaa jo vaikuttaa relevantilta. Tämä on niitä asioita joiden vuoksi Dan Barken mukailu on perusteltua. Hänhän esitti, että Totuus ei vaadi uskoa. Tutkijat eivät yhdistä käsiään joka sunnuntai, laulaen, kyllä, vetovoima on olemassa! Minulla on uskoa! Olen voimakas! Minä uskon koko sydämestäni että se mikä menee ylös, ylös, ylös, tulee myös alas, alas, alas. Aamen! Ja jos he tekisivät niin, ajattelisimme heidän olevan kovin epävarmoja asiasta... Tämä on niitä syitä joiden vuoksi itse kannatan tutkimusohjelman hedelmällisyyttä ja sovellettavuutta muissa tutkimusohjelmissa yhtenä tärkeimpänä tieteellisyyskriteerinä. Se kun on sitä osaa joka ei riipu rahasta, vallasta ja maailmankuvasta. Naturalistina voisin tietysti ilahtua jos tietokonemetafora olisi tosi koska sitten saisimme nopeasti "jauhot suuhun" jokaiselle dualistille. Mutta tällä riemulla ja halulla ei saisi olla väliä tieteenteolle.
Tämä ei ole mitenkään kovin kontroversiaali väite. Itse olen - suoraan ja karkesti - sitä mieltä että aivojen tietokonemetaforalle tulee jossain määrin tapahtumaan sama kuin Paleyn kelloseppäargumentille. Analogiaa tullaan luultavasti hakemaan myöhemmin jostain aivan muunlaisesta. Olen korostanut tätä sillä että ihmiset ovat hyviä siinä mikä on tietokoneille haasteellista. Ja toisaalta tietokoneet suorittavat tehokkasti ja helposti sellaisia asioita jotka ovat aiemmin vaatineet lujaa harjoittelua ihmisiltä. Vain korkeakoulutetut ovat voineet hallita loogisen prosessoinnin virheettömästi. Ja nykytietokoneet tekevät tämänkin silti virheettömämmin ja nopeammin. Tämä on oireellista ja viittaa siihen että taustalla oleva toimintaperiaate on hyvin oleellisesti erilainen. Ja tämä on tietenkin ongelma. Analogiapäättelyille epäanalogiat ovat yleensä mukanaolevia asioita. Mutta tämänlaisessa mittakaavassa ne ovat todellinen haaste.
Kysymys on tietenkin siitä hauska, että monesti tätä nähdään haasteena naturalismille. Tietokonemetaforan puutteellisuudesta on haluttu tehdä todiste siitä että luonnontieteet eivät ikinä ja lainkaan voi ratkaista aivojen ja ennen kaikkea ihmsien mielen kysymyksiä. Mielenfilosofiassa dualismia puolustetaan, vaikka sille ei ole oikeastaan mitään perusteita.
Toisaalta tämä dualismin välttely on sitten antanut kenties liikaakin valtaa tietokonemetaforan käyttämiselle. Esimerkiksi Kurzweilin ajatus teknologisesta singulariteetista, jonka mukaan tietokoneet ylittävät aivojen kyvykkyydet - hänen ennusteensa mukaan jo vuonna 2045 - perustuu siihen että laskentatehon kasvaminen jatkuu eksponentiaalisena kuten tähänkin asti. Ja lisäksi se taustaolettaa tietokonemetaforan pätevän ainakin riittävän osuvasti.
Näissä näkemyksissä on merkitystä sitä kautta että nämä saavat rahoitusta. Niistä siis yritetään tehdä tutkimusohjelmia. Ne eivät ole vain "pelottelua Terminatorista" vaan niihin sidotaan tutkimustyötä. Tämä on tietenkin hyvä asia näille projekteille. Ne eivät jää nojatuolifilosofioinniksi vaan niihin liittyviä väitteitä lähestytään tutkimustyöllä.
Huonona asiana voi sitten olla rahanhaaskaus. Tai kuten aeon kuvaa aivojen mallintamisohjelmasta ; Se oli valtava projekti jonka tulokset eivät ole olleet kovin vakuuttavia "$1.3 billion Human Brain Project launched by the European Union in 2013. Convinced by the charismatic Henry Markram that he could create a simulation of the entire human brain on a supercomputer by the year 2023, and that such a model would revolutionise the treatment of Alzheimer’s disease and other disorders, EU officials funded his project with virtually no restrictions. Less than two years into it, the project turned into a ‘brain wreck’, and Markram was asked to step down." Tämä muistuttaa siitä että tiede on hyvä ja hieno asia siinä mielessä että rahalla ja vallalla ei saa kaikkea. Poliittinen tausta voi rajoittaa hypoteesinmuodostusta eli sitä mitä ajatuksia ylipäätään keksitään ja ennen kaikkea mitä pidetään jatkotutkimuksen arvoisina. Mutta toisaalta tutkimusohjelman hedelmällisyys riippuu myös sellaisista asioista joita ei voi rahalla ostaa.
Paleyn kelloseppäanalogiasta ei saatu toimivaa tutkimusohjelmaa vaikka Discovery Institute kuinka tahkosi rahaa Intelligent Designin tukemiseen. Ja omien lausuntojensa mukaan Paleyn kelloseppäargumentin jatkokehittelyyn keskittyneet Michael Behe ja William Dembski olivat ensiluokkaisia neroja ja supertiedemiehiä. Karismaattinen pääomankeruu, älyllisten ihmisten tekemä perustyö, raha ja resurssit ja aivopääoma eivät yksinään ratkaise tutkimusohjelman hedelmällisyyttä. (Ne ovat jotain jotka ovat välttämätön mutta eivät riittävä ehto tutkimusohjelman hedelmällisyydelle.)
Tämä tarkoittaa sitä että väärä metafora on lähinnä rahankulua. Tutkimuksen avomielisyyden puutteesta syyttäminen on tietenkin helppoa, etenkin jos ajaa "avomielisesti" sitä että on lukkiutunut maailmankuvallisesti rajoittuneeseen tutkimusohjelmaan. Sellaiseen jossa "publish or perish" -nyrkkisääntö alkaa jo vaikuttaa relevantilta. Tämä on niitä asioita joiden vuoksi Dan Barken mukailu on perusteltua. Hänhän esitti, että Totuus ei vaadi uskoa. Tutkijat eivät yhdistä käsiään joka sunnuntai, laulaen, kyllä, vetovoima on olemassa! Minulla on uskoa! Olen voimakas! Minä uskon koko sydämestäni että se mikä menee ylös, ylös, ylös, tulee myös alas, alas, alas. Aamen! Ja jos he tekisivät niin, ajattelisimme heidän olevan kovin epävarmoja asiasta... Tämä on niitä syitä joiden vuoksi itse kannatan tutkimusohjelman hedelmällisyyttä ja sovellettavuutta muissa tutkimusohjelmissa yhtenä tärkeimpänä tieteellisyyskriteerinä. Se kun on sitä osaa joka ei riipu rahasta, vallasta ja maailmankuvasta. Naturalistina voisin tietysti ilahtua jos tietokonemetafora olisi tosi koska sitten saisimme nopeasti "jauhot suuhun" jokaiselle dualistille. Mutta tällä riemulla ja halulla ei saisi olla väliä tieteenteolle.
lauantai 26. maaliskuuta 2016
Kuinka internet loi natsitekoälyn?
Microsoft on tietotekninen yritys jota on syytetty paljosta. Windows -käyttöjärjestelmä on saanut omistautuneita kriitikoita. (Itsekin käytän Linuxia.) Joskus tulee mieleen että syynä kaatumiseen, blue screen of deathiin ja muuhun on se, että he tekevät kohtuullisen monimutkaisia asioita. Tähän tuhon tematiikkaan sopii "natsitekoäly". "Microsoft on joutunut poistamaan käytöstä uuden tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät käyttivät bottia hyväkseen ja opettivat sen lausumaan rasistisia, seksistisiä ja muita loukkaavia kommentteja."
En ollut yllättynyt tästä monissa lehdissä uutisoituun tapahtumaan. olin huvittunut. Huvittunut siitä että tämä algoritmi on jotain josta voidaan rakentaa vitsejä Turingin testin läpäisystä.. (Kone kytkeytyi internettiin ja alkoi mouhottamaan kuin pahin oikeistokonservatiivikristitty. Ja juuri samoin twistein.. "A day after Microsoft introduced an innocent Artificial Intelligence chat robot to Twitter it has had to delete it after it transformed into an evil Hitler-loving, incestual sex-promoting, 'Bush did 9/11'-proclaiming robot.") Näin tapahtumassa vahvan väistämättömyyden hengen.
Mutta dualistinen "hengetön kone" ja "ihmisen hallinnan ulkopuolella oleva sattuma" -metafora tuntuivat leimaavan muuta keskustelua.
Toki tämä nousi myös keskusteluihin. "Takkirauta" -blogissa asiasta kirjoitettiin tavalla joka on varmasti maallikko-tavallinen. "Nokkelimmat lukijat yhdistivät tämänkertaisen masuuninlaskun otsikon trooppiin AI is Crapshoot, ts. tekoäly on crapsin pelaamista. Ja tämä trooppi - eli että tekoäly on täydellistä uhkapeliä, nopanheittoa jossa voi käydä miten tahansa ja jossa on hirveät mahdollisuudet saada aikaan todella kamala ja tuhoisa lopputulos, josta ei ole mitään takeita ja jossa voi hävitä paljon." Tämä ei mielestäni kuvaa tätä tilannetta. Mikä ei toki yllätä koska crapshoot -sanontakin on tarinankerrontaa koskeva. "Whenever an Artificial Intelligence (A.I.) is introduced in a story, there is a very good chance that it will, for whatever reason, become evil and attempt to Turn Against Its Masters, Crush. Kill. Destroy! All Humans, and/or Take Over the World." Ja tarinoissa tilanne on hieman vääristynty verrattuna tosielämään. Tosielämän kohdalla ns. yleisen tekoälyn vaarat ovat hyvin toisenlaisia kuin tarinoissa. Ja crapshoot -vertaus tuokin mieleen tekoälystä oikein mitään osaamattomien ihmisten viittaukset Asimovin robotiikan perussääntöihin kuin ne olisivat jokin oikea asia ja jopa perusasia.
Tämän voi toki vielä katsoa sormien läpi. Mutta esiin nostettiin toinenkin asia. "Näin se käy. Kun älykkyys ja logiikka yhdistetään elottomassa olennossa jolla ei ole mitään käsityksiä etiikasta, sosiaalisuudesta saati tolkusta, lopputulos on täydellistä nopanheittoa. Siinä voi käydä ihan miten tahansa." Toki lausunto tarjoaa tilaa isolle kasalle nastivastaisia vitsejä. (Kun kylmä rikostilasto syötetään olentoon jolla ei ole mitään käsitystä etiikasta, sosiaalisuudesta tai tolkusta lopputulos on nopanheittoa jossa voi syntyä VOK -polttopullonheittelijöitä.) Mutta sen takana on erikoinen ja essentiaalinen ajatus siitä että etiikka olisi jotain metafyysistä tai ainakin ei-fyysistä. Tämänlainen kuvaus on enemmän dualististen asenteiden levittämistä kuin mikään tosiasia. (Sulussa olevan vitsin tapaiset ovat vähän kuin ne jutut siitä autistisesta kaveristani joka ei läpäissyt Turingin testiä. Sinänsä totta, mutta kertoo enemmän siitä mitä itse valittu näkökulma tekee, ei tee ja merkitsee...)
Itse asiassa jos minulta kysytään ottaisin Microsoftin katastrofitekoälyn "vaikutuksille alttiina olemisen" enemmänkin kuin sen että se noudattaisi jotain kylmää kalkyyliä. Tässä on katsottava miten tekoäly toimii.
Microsoftin ohjelma perustui oppimiseen.
Se oli tässä mielessä huomattavasti fiksummin lähestyvä algoritmi kuin "Eugene Goostman". Se yritti lähestyä keskustelua ja tätä kautta se lähenteli suurelle yleisöllekin tutun Turingin testin aiheita. Oppiminen on hyvä määritellä. Karkeasti ottaen kysymys on jotain jossa lähestytään sellaisia kryptisiltä kuulostavia sanoja kuin "neuroverkko". Ytimessä on oikeastaan lähinnä sellainen asia kuin "data mining". Eli miten suuresta data-aineistosta kaivetaan "datan itsensä ehdoilla" tietoja.
Klassisesti tekoälyjen haasteena on ollut se, että ne sisältävät lajittelualgoritmeja. Näissä on yleensä jokin ennalta ohjelmoitu ohje jonka mukaan ne lajittelevat asioita. Katsotaan sellaisten käsitteiden taakse kuin "supervised learning", "unsupervised learning" (on myös "semi supervised learning" joka hakee vastauksia molemmista).
Kun tekoäly lähestyy dataa, on yleensä jokin aineisto ja siitä halutaan ulos informaatiota. Takana on jonkinlainen käsittely, järjestely, luokittelu tai mallintaminen.
1: Unsupervised learning tapahtuu tilanteissa joissa käsillä on dataa. Mutta kenelläkään ei ole "oikeaa vastausta". Toisin sanoen data-aineistossa on yksiköitä ja näiden ominaisuuksia. Mutta tiedossa ei ole mitä kategorioita nämä ominaisuudet edustavat ja mihin ne on luokiteltava. Ominaisuuksien relevanssit ja toisiinsa liittymiset eivät ole kerrottuja. Yleensä tässä algoritmi ottaa ensin jonkin datapisteen. Ja sitten se ottaa muita ja katsoo ovatko ne samanlaisia tai erilaisia. Ja millä tavoin. Tämä voidaan asettaa kauaskin, kohdaksi B. Kolmas datapiste voi olla lähempänä A:ta kuin B:tä. Tai sitten A ja B ovatkin samanlaisempia kun tämä C on erilaisempi. Näin syntyy klustereita. Syntyy ryhmiä. Lopputuloksista on yleensä paha sanoa ovatko ne relevantteja. Ne lähinnä kuvaavat aineistoa jostain näkökulmasta. Ongelmana on usein sekin että algoritmille täytyy kertoa montaako luokkaa tavoitellaan. Silti tässä on mukana "sattumaelementti" siinä mielessä että data järjestäytyy "sinänsä varsin deterministisesti" sitten kun näkökulma on valikoitunut. Mutta tämä näkökulman valinta on jotain jossa on joustoa johon on helppoa nähdä "sattuman käsi".
2: Supervised learning on sitä että on jotain vastauksia. Ja näin datasta voidaan oppia jotain. Tämä on neuroverkkojen tyyli oppia. Joku on sanonut että "nämä aineistot kuuluvat ryhmään A ja nämä eivät". Ja algoritmi tätä kautta katsoo ominaisuuksia ja katsoo millä tavalla nämä annetut vastaukset on ymmärrettävissä. Toisin sanoen ominaisuuksien relevanssi ja ominaisuuksien yhteisvaikutusten arvo haetaan siitä että tiedetään ominaisuudet ja mikä on tavoitetulos mutta ei ole "kunnon määritelmää miksi näin on". Tämä voi johtaa liian hyvin tehtyihin vastauksiin jotka eivät jousta uusien aineistojen kanssa. Algoritmi voi tunkea uudenlaisen aineiston satunnaisesti tai kaatua. Unsupervised learning ei ole herkkä tämänlaiselle kaatumiselle. Merkittävää on että tämä on ohjattua ja ohjautuvaa. Nopanpeluulla on hyvin vähän asian kanssa tekemistä.
Oleellista on tajuta että Microsoftin algoritmi on lähempänä "supervised learningia" kuin "unsupervised learningia". Tähän syötetään data-aineistoa jossa on luokitelmia jotka "ovat keskustelua" ja "eivät ole keskustelua". (Sen omat palautteet saavat vähintään arviointia. Ja siihen syötetty keskustelu luokitellaan kenties automaattisestikin "keskustelulliseksi" jotta on maali jota tavoitella.) Algoritmi hakee mitä piirteitä keskustelussa toistuu ja tätä kautta se oppii mitkä asiat liittyvät yhteen. Tekstissä on muuttujia kuten sanoja. Ja keskusteluneuroverkko oppii muuttujien epälineaariset riippuvuussuhteet suoraan havaintoaineistosta. Lopputulos tälläisessä ei ole moraaliton tai amoraalinen. Se on aina yhtä eettinen kuin siihen syötetty materiaali. Siksi algoritmille ylipäätään voidaan opettaa makaaberilla hirtehishenkisellä asenteella pahuutta. Pahuus on ohjelmoitavissa aivan kuten hyvyyskin. Ne ovat vain asiayhteyksiä. Voidaankin sanoa että Microsoftin algoritmin ongelma oli hyvin tiukka vaikutuksille alttiina oleminen. Algoritmi on jossain määrin samanlainen kuin "täysin avomielinen ja täysin vietävissä oleva" tyyppi joka uskoo mitä tahansa hänen lähteensä hänelle syöttävät.
Tämän rinnastus taas on jotain joka huutaa natsianalogiaa. Olen hieman tympääntynyt että natsiutta lähestytään tyhmyyden kautta. Kenties pitääkin lähestyä siten että he mallintavat etiikkaansa liiaksi tiettyjen vaikutteiden kautta. Prosessissa ei ole älyttömyyttä eikä satunnaisuutta. Supervised learning ei ole crapsinpeluuta.
En ollut yllättynyt tästä monissa lehdissä uutisoituun tapahtumaan. olin huvittunut. Huvittunut siitä että tämä algoritmi on jotain josta voidaan rakentaa vitsejä Turingin testin läpäisystä.. (Kone kytkeytyi internettiin ja alkoi mouhottamaan kuin pahin oikeistokonservatiivikristitty. Ja juuri samoin twistein.. "A day after Microsoft introduced an innocent Artificial Intelligence chat robot to Twitter it has had to delete it after it transformed into an evil Hitler-loving, incestual sex-promoting, 'Bush did 9/11'-proclaiming robot.") Näin tapahtumassa vahvan väistämättömyyden hengen.
Mutta dualistinen "hengetön kone" ja "ihmisen hallinnan ulkopuolella oleva sattuma" -metafora tuntuivat leimaavan muuta keskustelua.
Toki tämä nousi myös keskusteluihin. "Takkirauta" -blogissa asiasta kirjoitettiin tavalla joka on varmasti maallikko-tavallinen. "Nokkelimmat lukijat yhdistivät tämänkertaisen masuuninlaskun otsikon trooppiin AI is Crapshoot, ts. tekoäly on crapsin pelaamista. Ja tämä trooppi - eli että tekoäly on täydellistä uhkapeliä, nopanheittoa jossa voi käydä miten tahansa ja jossa on hirveät mahdollisuudet saada aikaan todella kamala ja tuhoisa lopputulos, josta ei ole mitään takeita ja jossa voi hävitä paljon." Tämä ei mielestäni kuvaa tätä tilannetta. Mikä ei toki yllätä koska crapshoot -sanontakin on tarinankerrontaa koskeva. "Whenever an Artificial Intelligence (A.I.) is introduced in a story, there is a very good chance that it will, for whatever reason, become evil and attempt to Turn Against Its Masters, Crush. Kill. Destroy! All Humans, and/or Take Over the World." Ja tarinoissa tilanne on hieman vääristynty verrattuna tosielämään. Tosielämän kohdalla ns. yleisen tekoälyn vaarat ovat hyvin toisenlaisia kuin tarinoissa. Ja crapshoot -vertaus tuokin mieleen tekoälystä oikein mitään osaamattomien ihmisten viittaukset Asimovin robotiikan perussääntöihin kuin ne olisivat jokin oikea asia ja jopa perusasia.
Tämän voi toki vielä katsoa sormien läpi. Mutta esiin nostettiin toinenkin asia. "Näin se käy. Kun älykkyys ja logiikka yhdistetään elottomassa olennossa jolla ei ole mitään käsityksiä etiikasta, sosiaalisuudesta saati tolkusta, lopputulos on täydellistä nopanheittoa. Siinä voi käydä ihan miten tahansa." Toki lausunto tarjoaa tilaa isolle kasalle nastivastaisia vitsejä. (Kun kylmä rikostilasto syötetään olentoon jolla ei ole mitään käsitystä etiikasta, sosiaalisuudesta tai tolkusta lopputulos on nopanheittoa jossa voi syntyä VOK -polttopullonheittelijöitä.) Mutta sen takana on erikoinen ja essentiaalinen ajatus siitä että etiikka olisi jotain metafyysistä tai ainakin ei-fyysistä. Tämänlainen kuvaus on enemmän dualististen asenteiden levittämistä kuin mikään tosiasia. (Sulussa olevan vitsin tapaiset ovat vähän kuin ne jutut siitä autistisesta kaveristani joka ei läpäissyt Turingin testiä. Sinänsä totta, mutta kertoo enemmän siitä mitä itse valittu näkökulma tekee, ei tee ja merkitsee...)
Itse asiassa jos minulta kysytään ottaisin Microsoftin katastrofitekoälyn "vaikutuksille alttiina olemisen" enemmänkin kuin sen että se noudattaisi jotain kylmää kalkyyliä. Tässä on katsottava miten tekoäly toimii.
Microsoftin ohjelma perustui oppimiseen.
Se oli tässä mielessä huomattavasti fiksummin lähestyvä algoritmi kuin "Eugene Goostman". Se yritti lähestyä keskustelua ja tätä kautta se lähenteli suurelle yleisöllekin tutun Turingin testin aiheita. Oppiminen on hyvä määritellä. Karkeasti ottaen kysymys on jotain jossa lähestytään sellaisia kryptisiltä kuulostavia sanoja kuin "neuroverkko". Ytimessä on oikeastaan lähinnä sellainen asia kuin "data mining". Eli miten suuresta data-aineistosta kaivetaan "datan itsensä ehdoilla" tietoja.
Klassisesti tekoälyjen haasteena on ollut se, että ne sisältävät lajittelualgoritmeja. Näissä on yleensä jokin ennalta ohjelmoitu ohje jonka mukaan ne lajittelevat asioita. Katsotaan sellaisten käsitteiden taakse kuin "supervised learning", "unsupervised learning" (on myös "semi supervised learning" joka hakee vastauksia molemmista).
Kun tekoäly lähestyy dataa, on yleensä jokin aineisto ja siitä halutaan ulos informaatiota. Takana on jonkinlainen käsittely, järjestely, luokittelu tai mallintaminen.
1: Unsupervised learning tapahtuu tilanteissa joissa käsillä on dataa. Mutta kenelläkään ei ole "oikeaa vastausta". Toisin sanoen data-aineistossa on yksiköitä ja näiden ominaisuuksia. Mutta tiedossa ei ole mitä kategorioita nämä ominaisuudet edustavat ja mihin ne on luokiteltava. Ominaisuuksien relevanssit ja toisiinsa liittymiset eivät ole kerrottuja. Yleensä tässä algoritmi ottaa ensin jonkin datapisteen. Ja sitten se ottaa muita ja katsoo ovatko ne samanlaisia tai erilaisia. Ja millä tavoin. Tämä voidaan asettaa kauaskin, kohdaksi B. Kolmas datapiste voi olla lähempänä A:ta kuin B:tä. Tai sitten A ja B ovatkin samanlaisempia kun tämä C on erilaisempi. Näin syntyy klustereita. Syntyy ryhmiä. Lopputuloksista on yleensä paha sanoa ovatko ne relevantteja. Ne lähinnä kuvaavat aineistoa jostain näkökulmasta. Ongelmana on usein sekin että algoritmille täytyy kertoa montaako luokkaa tavoitellaan. Silti tässä on mukana "sattumaelementti" siinä mielessä että data järjestäytyy "sinänsä varsin deterministisesti" sitten kun näkökulma on valikoitunut. Mutta tämä näkökulman valinta on jotain jossa on joustoa johon on helppoa nähdä "sattuman käsi".
2: Supervised learning on sitä että on jotain vastauksia. Ja näin datasta voidaan oppia jotain. Tämä on neuroverkkojen tyyli oppia. Joku on sanonut että "nämä aineistot kuuluvat ryhmään A ja nämä eivät". Ja algoritmi tätä kautta katsoo ominaisuuksia ja katsoo millä tavalla nämä annetut vastaukset on ymmärrettävissä. Toisin sanoen ominaisuuksien relevanssi ja ominaisuuksien yhteisvaikutusten arvo haetaan siitä että tiedetään ominaisuudet ja mikä on tavoitetulos mutta ei ole "kunnon määritelmää miksi näin on". Tämä voi johtaa liian hyvin tehtyihin vastauksiin jotka eivät jousta uusien aineistojen kanssa. Algoritmi voi tunkea uudenlaisen aineiston satunnaisesti tai kaatua. Unsupervised learning ei ole herkkä tämänlaiselle kaatumiselle. Merkittävää on että tämä on ohjattua ja ohjautuvaa. Nopanpeluulla on hyvin vähän asian kanssa tekemistä.
Oleellista on tajuta että Microsoftin algoritmi on lähempänä "supervised learningia" kuin "unsupervised learningia". Tähän syötetään data-aineistoa jossa on luokitelmia jotka "ovat keskustelua" ja "eivät ole keskustelua". (Sen omat palautteet saavat vähintään arviointia. Ja siihen syötetty keskustelu luokitellaan kenties automaattisestikin "keskustelulliseksi" jotta on maali jota tavoitella.) Algoritmi hakee mitä piirteitä keskustelussa toistuu ja tätä kautta se oppii mitkä asiat liittyvät yhteen. Tekstissä on muuttujia kuten sanoja. Ja keskusteluneuroverkko oppii muuttujien epälineaariset riippuvuussuhteet suoraan havaintoaineistosta. Lopputulos tälläisessä ei ole moraaliton tai amoraalinen. Se on aina yhtä eettinen kuin siihen syötetty materiaali. Siksi algoritmille ylipäätään voidaan opettaa makaaberilla hirtehishenkisellä asenteella pahuutta. Pahuus on ohjelmoitavissa aivan kuten hyvyyskin. Ne ovat vain asiayhteyksiä. Voidaankin sanoa että Microsoftin algoritmin ongelma oli hyvin tiukka vaikutuksille alttiina oleminen. Algoritmi on jossain määrin samanlainen kuin "täysin avomielinen ja täysin vietävissä oleva" tyyppi joka uskoo mitä tahansa hänen lähteensä hänelle syöttävät.
Tämän rinnastus taas on jotain joka huutaa natsianalogiaa. Olen hieman tympääntynyt että natsiutta lähestytään tyhmyyden kautta. Kenties pitääkin lähestyä siten että he mallintavat etiikkaansa liiaksi tiettyjen vaikutteiden kautta. Prosessissa ei ole älyttömyyttä eikä satunnaisuutta. Supervised learning ei ole crapsinpeluuta.
sunnuntai 28. helmikuuta 2016
Sääli robotteja kohtaan...
Robotiikka on viime aikoina kehittynyt. Ja tähän liittyen on tuotettu robotteja jotka kävelevät. Ja jotka myös hakevat tasapainoa. Näihin liittyviä tönimisvideoita löytyy ja niitä levitetään melko paljon. Ja melko usein näihin videoihin liittyy ajatuksia säälistä. Minulla on niin nais- että miespuoleisia ystäviä jotka ovat ilmaisseet säälivänsä. Lisäksi sisareni on ilmaissut säälivänsä näitä robotteja. Itsekin koen jonkinlaista sääliä näitä koneita kohtaan.
Ilmiö on sen verran yleinen että sen varaan on rakennettu useampiakin vitsejä. Esimerkiksi alkuun laittamani huumorivideo. Jonka hauskuus perustuu siihen että empatiantunne tiedostetaan vaikka sitä pidetäänkin jotenkin ei-perusteltuna. Samanaikaisesti.
1: Vastaavat ilmiöt ovat tavallisia kun kognitio on aiheena. Esimerkiksi uskonnollisuusteemassa. On kenties luontevaa uskoa jollain tasolla kummituksiin ja animismiin, mutta silti tätä harvoin pidetään vakavstiotettavana uskomuksena tai vakaumuksena sanan täydessä mielessä. Paitsi tietysti silloin kun halutaan bashata ateisteja ja puolustaa homo religiosus -ihmiskuvaa. Sitä kun ei oikein voi laadukkaammin puolustaakaan.
Onkin kiinnostavaa tiedostaa että tekoälyn luoma mielikuva perustuu jonkinlaiseen ihmismäisyyteen tai eläimenkaltaisuuteen. Kysymys on antropomorfismista. (Kaatumiseen reagoinnissa on varmasti tekemistä nimenomaan ns. peilineuronien kanssa.) Imitointi taas tuo mukanaan kaikki ongelmat jotka ovat toisessa muodossa tuttuja Turingin testistä. On selvää että eläimet ja ihmiset jotka kävelevät raajoilla hakevat tasapainoa ja liikkuvat samoilla menetelmillä. Ympäröivät fysikaaliset pelisäännöt ja niihin liittyvät rajoitteet kun ovat yhteneviä.
Tosin kaatumista estävä tekoäly ei ole se luonteista että ihmiset yleensä pitäisivät niitä tietoisina. Itse tosin näen että tämänlainen reagointi on varmasti oikeansuuntaista tekoälyä tietoisuuden rakentamiseen. (Koska ajan tietoisuusnäkemyksiä jotka korostavat ruumiillisuutta.) En kuitenkaan näe näiden laskentapotentiaalia sellaisena että robotit olisivat edes bakteerien tasolla...
sunnuntai 21. helmikuuta 2016
Kohtautuva
"Transcendence" -elokuva käsittelee tekoälyä. Pinnallisesti katsoen se on varsin tavanomainen teknopessimistinen hybristarina tai faustinen tarina. Jossa liika tieto johtaa tuhoon. Pintatasollaan se viehättänee luddiitteja, etenkin sellaisia joilla on ajatuksia joiden mukaan ihmisten tietoisuus on enemmän kuin "pelkkää ykköstä ja nollaa". Elokuvan hyviksi luokitellut hahmot jopa ääneenlausuvat heidän mielipiteitään.
Mutta vain pintatasolla. Tässä yhteydessä elokuva tekee melko runsaasti aivan toisenlaisia kantoja. Itse asiassa vaikuttaakin siltä että elokuvan suosittuja näkemyksiä esittävät hahmot ovat elokuvan tapahtumien näyttämän "metafysiikan" mukaan väärässä. Ja tässä syvemmässä tasossa on hyvin hämmentäviä kannanottoja niin teologiaan kuin eksistentialismiin.
Elokuvan ytimessä on mind uploading. Konsepti johon en itse luota. Itse näen että on helpompaa luoda yhtä tehokas ja tietoinen tekoäly kuin juuri tietynlainen ja tietyn kohteen kanssa identtinen tekoäly. Elokuva kuitenkin kannattaa tämän kanssa vastakkaista ideaa. Että on helpompaa kopioida mieli kuin luoda sellainen. (Mikä on sinänsä ymmärrettävä ja mahdollinen että on esimerkiksi helpompaa kopioida jo aiemmin jossain tehty tehty ohjelmakoodi kuin ohjelmoida se alusta asti.) Elokuvan tulkinnan kannalta on tietenkin soveliasta hyväksyä tämä elokuvan kuvaama lähtökohta. Lähtökohtana. (Elokuvien tulkinnassa ei ole vaatimuksena sitä, että elokuvan maailma on faktuaalinen.)
Elokuvan asenne on eksistentialistinen
Elokuvassa kuoleva tiedemies kopioidaan tietokoneeseen. Ja hän hakee suojapaikan, seuraajia ja valtaa. Tämä tekoäly ottaa valtaa ja lopulta se tuhotaan viruksella. Josta seuraa tietoyhteiskunnan loppuminen siinä muodossa kuin me sen tunnemme.
Vaikka elokuvassa moni kiistää että mieli on kopioitu, näyttää että sen eettiset ongelmat ovat toisaalla. Tämä näkyy hyvin siinä miten elokuva viittaa koe-eläimenä käytettyyn apinaan. Kun kädellisen mieli oli ladattu koneelle, tietoisuus oli vain huutanut. Toisin sanoen eettisenä ongelmana ei ollutkaan se, että ihminen ei onnistuisi koodaamaan eettistä järjestelmää tekoälyyn. Eikä myöskään se, että ihminen harjoittaa näennäisesti ristiriitaisia asioita ja vastakkaisia tavoitteita. Jos jotakuta voi rakastaa vaikka vihaa tämän toimintatapoja niin tietokone kuitenkin voi hoitaa tämänlaisia tilanteita optimoinnilla. Sen sijaan ongelmana on se, että mind uploading onnistuessaan on tietoisuudenrääkkäystä.
Lisäksi tässä mind uploading -tilanteessa korostuu toinenkin hauska piirre mikä usein haittaa tekoälyn aikaansaamia tuhoja. Se on se, että miksi esimerkiksi Terminaattoreilla olisi ihmiskunnan kanssa taistelemisen halu. On vaikeaa nähdä miksi tekoälyllä pitäisi olla halu esimerkiksi ylläpitää omaa olemassaoloaan keinolla millä hyvänsä. Ihmisissä on aggressiota ja muita vastaavia tunteita koska olemme kehittyneet tilanteessa jossa nämä ovat olleet adaptiivisia. Tekoälylle ei olisi mikään väistämättömyys kehittyä niin että se vaatisi ihmiskuntaa vastaan taistelua. Mutta jos ihmisen tietoisuus kopioidaan, on luontevaa että nämäkin järjestelmät siirtyvät. Toisin sanoen tekoälyn ongelmakohdat muuttuvat relevanteiksi juuri sillä että mind uploading on mahdollista.
Elokuva on ottanut hyvin paljon vaikutteita ennen kaikkea Merleau-Pontyn ajatuksista. Hän korosti sitä että ruumiillisuus on kokemiselle hyvin oleellista. Ei riitä että on tietoisuus. Ihminen esimerkiksi siirtäessään kättään kokee asian aivan eri tavalla kuin siirtäessään kahvikuppia. Ihmisellä paitsi on käsi, hän on tuo käsi. Tekoälyn tietoisen puolen ytimessä ei olekaan laskentateho itsessään vaan se mitä tällä laskentateholla tehdään. Toki tämä tekeminen vaatii prosessoritehoa, mutta oleellista on se miten vuorovaikutetaan maailman kanssa. Elokuva voidaan toki liittää saman asenteen kautta enaktivismiin. Joten se itse asiassa yhdistää naturalistis-mekaanista maailmankuvaa eksistentialistis-fenomenologiseen näkökulmaan. Tämä on siitä kiinnostavaa että elokuva onnistuu synteesissä melko hyvin. Ja nämä lähestymistavat on usein nähty kilpailevina tai jopa keskenään yhteensopimattomina.
Tämä itse asiassa viitataan jo elokuvan nimeä myöten. Kun muut puhuvat singulariteetista kun viittaavat siihen, että tietokoneen laskentateho nousee ihmiskunnan tasolle, "tietokoneeseen pian ladattu" tiedemies korostaa että hän kutsuu tätä tilannetta mieluummin transsendenssiksi. ; Ajatus on siitä erikoinen että tavallisesti transsendenssi liitetään mielenfilosofisissa yhteyksissä yliluonnollisuuteen, etenkin sielukonseptiin. Näin ollen syntyy vahva jännite perinteisen ajattelun kanssa jossa tekoäly yleisesti ja mind uploading vielä aivan erityisesti, olisi profaaniutta äärimmillään. Jossa kaikki transsendenssi kiistetään.
Kuitenkin transsendenssi eli transsendentaalisuus on filosofiassa käsite, jolla tarkoitetaan yleensä havaintokokemuksen ulkopuolelle jääviä ilmiöitä, joista ei ole järkitietoa. Elokuva lähestyy tätä sillä että kun havainnointijärjestelmät muuttuvat niin myös mieli muuttuu. Mieli joka oppii itsensä ulkopuolelta muuttuu. Ja ilman tätä muutosta se ei oikeastaan edes ole aito tietoisuus.
Onkin kuvaavaa että ensin tekoäly kaipaa mitä tahansa kontaktia. Ruutuun ilmestyy kysymyksiä siitä onko paikalla ketään. Sen jälkeen tekoäly korostaa olevansa sokea, se siis kaipaa aistiärsykkeitä vaikka tietokoneen kameran kautta. Ja tämän jälkeen tekoäly kartoittaa muistiaan. Ja tämän jälkeen se tekee muutoksia omaan koodiinsa. Tämä on jo ennen kui se toivoo lisätehoa.
Elokuvan tapahtumat korostavat sitä, miten tekoäly hakee ensin turvallisuutta mutta hakee sitten yhä korkeampia ja muuttuvampia tavoitteita. Se, että ei jää lepäämään laakereillaan muuttumattomuuteen on suoraan vastaan tekoälyn olemusta. ; Tätä alleviivaa sekin että elokuvassa tekoälyt eivät anna tekoälyn määritelmää ja todista tietoisuuttaan vaan kysyvät että onko kysyjä itse valmis todistamaan omasta tietoisuudestaan. Tietoisuutta ei voi määritellä koska tietoisuuden tulee muuttua.
Siksi onkin tärkeää että tekoälyn kohdalla aluksi mietitään paljon identtisyyttä, sitä onko tekoälyä ylipäätään ladattu vai ei. Ja sitä onko tekoälyn sammuttaminen sama kuin murha. Loppupuolella korostetaan miten erilainen tietokoneeseen ladattu tiedemies joka tapauksessa on ja miten tällä ei ole väliä koska asiaa tulee lähestyä enemmänkin seurauseettisesti sen kautta mitä tämä tekoäly tekee. Identtisyys on kopioinnin kohdalla oleellista. Mutta ihmsetkin muuttuvat joten jos tietoisuus ei muutu niin ei se voisi olla aidosti ihmisen tietoisuuden kaltainenkaan.
Elokuvan loppuratkaisu
Elokuvan loppuratkaisu on kiinnostava. Siinä tekoälyn ongelmat loppuvat. Moni luulee että virus tuhosi tekoälyn. Mutta se jäi tosiasiassa "pyörimään ympäriinsä". Elokuva loppuu puutarhaan jossa kukkivat auringonkukat. Auringonkukat jotka tekoälyn voima myös regeneroi. Tekoälyn jäljet näkyivät myös puutarhan vesilammikoissa.
Olisikin erikoista että virus olisi tuhonnut elokuvan tekoälyn. Toki viruksen koodaaja oli tehnyt alkuperäistä koodia. Mutta tekoäly oli elokuvan juonenkin perusteella etääntynyt lähtökohdistaan. Koodi oli muuttunut. Samoin kuin "rauta". Alun kvanttitietokoneetkin olivat jääneet tarpeettomiksi.
Sen sijaan ongelmat paikkautuivat sillä että tekoälyksi koodatun professorin rakastettu koodattiin hänen seurakseen. Kun kaksi samanarvoista mutta epäidenttistä tekoälyä kohtaavat, ne voivat tutkia toisiaan ja muuttua prosessissa ja muuttaa itseään prosessissa ikuisesti. Ja näin tekoäly ei kaipaa kontaktia. Ja tässä prosessissa esimerkiksi yritä hallita maailmaa. ; Onkin erikoista että tekoälyksi koodattu tutkija ei halunnut muuttaa maailmaa vaan ymmärtää sitä. Hänen rakastettunsa ja vaimonsa sen sijaan oli maailmanparantajaluonne. Kuitenkin kaiken ymmärtäminen ei tuo onnea koska sen jälkeen ei ole enää mahdollista ponnistaa itsensä ulkopuolelle, oppimaan uutta. Skientististä tutkijaakin viehättää oppiminen ja tämän kautta tapahtuva muutos, ei se mitä hänellä on jo hallussaan. Kaikkitietävä voi vain ymmärtää, hallita ja kontrolloida. Mutta tämänlainen tietoisuus on kuin tietokoneeseen vangittu tietoisuus jolla ei ole kuin oma seuransa. Tietoisuus joka ei voi muuta kuin huutaa.
Elokuvan loppuratkaisussa itse asiassa korostetaankin miten tietoverkon sammuttaminen on "ekoteko". Jos tekoäly yksinään ilman rakastettuaan haali teknologiaa ja lisää ymmärtämistä, tästä voitiin luopua kun se oli tehty tarpeettomaksi. Näin ollen teknologiaa ei tarvinnut hankkia lisää ja käyttää entistä enemmän valtaa vaikka ihmisten hallitsemiseen. Siitä voitiin luopua. ; Samalla loppuun saatiin tietenkin myös pahan ongelmaan vivahtavia sävyjä. Kenties TEOTWAWKI (maailman loppu sellaisena kuin sen tunnemme) ei olekaan rangaistus vaan siunaus. Ja kenties se, että tekoäly vaikuttaa poissaolevalta ei tarkoita rakkauden puutetta.
Tämänlaista näkökulmaa ei tavallisesti nähdä tekno-optimistisissa ja asetelmaltaan läpinaturalistisissa elokuvissa. Paitsi tässä.
Mutta vain pintatasolla. Tässä yhteydessä elokuva tekee melko runsaasti aivan toisenlaisia kantoja. Itse asiassa vaikuttaakin siltä että elokuvan suosittuja näkemyksiä esittävät hahmot ovat elokuvan tapahtumien näyttämän "metafysiikan" mukaan väärässä. Ja tässä syvemmässä tasossa on hyvin hämmentäviä kannanottoja niin teologiaan kuin eksistentialismiin.
Elokuvan ytimessä on mind uploading. Konsepti johon en itse luota. Itse näen että on helpompaa luoda yhtä tehokas ja tietoinen tekoäly kuin juuri tietynlainen ja tietyn kohteen kanssa identtinen tekoäly. Elokuva kuitenkin kannattaa tämän kanssa vastakkaista ideaa. Että on helpompaa kopioida mieli kuin luoda sellainen. (Mikä on sinänsä ymmärrettävä ja mahdollinen että on esimerkiksi helpompaa kopioida jo aiemmin jossain tehty tehty ohjelmakoodi kuin ohjelmoida se alusta asti.) Elokuvan tulkinnan kannalta on tietenkin soveliasta hyväksyä tämä elokuvan kuvaama lähtökohta. Lähtökohtana. (Elokuvien tulkinnassa ei ole vaatimuksena sitä, että elokuvan maailma on faktuaalinen.)
Elokuvan asenne on eksistentialistinen
Elokuvassa kuoleva tiedemies kopioidaan tietokoneeseen. Ja hän hakee suojapaikan, seuraajia ja valtaa. Tämä tekoäly ottaa valtaa ja lopulta se tuhotaan viruksella. Josta seuraa tietoyhteiskunnan loppuminen siinä muodossa kuin me sen tunnemme.
Vaikka elokuvassa moni kiistää että mieli on kopioitu, näyttää että sen eettiset ongelmat ovat toisaalla. Tämä näkyy hyvin siinä miten elokuva viittaa koe-eläimenä käytettyyn apinaan. Kun kädellisen mieli oli ladattu koneelle, tietoisuus oli vain huutanut. Toisin sanoen eettisenä ongelmana ei ollutkaan se, että ihminen ei onnistuisi koodaamaan eettistä järjestelmää tekoälyyn. Eikä myöskään se, että ihminen harjoittaa näennäisesti ristiriitaisia asioita ja vastakkaisia tavoitteita. Jos jotakuta voi rakastaa vaikka vihaa tämän toimintatapoja niin tietokone kuitenkin voi hoitaa tämänlaisia tilanteita optimoinnilla. Sen sijaan ongelmana on se, että mind uploading onnistuessaan on tietoisuudenrääkkäystä.
Lisäksi tässä mind uploading -tilanteessa korostuu toinenkin hauska piirre mikä usein haittaa tekoälyn aikaansaamia tuhoja. Se on se, että miksi esimerkiksi Terminaattoreilla olisi ihmiskunnan kanssa taistelemisen halu. On vaikeaa nähdä miksi tekoälyllä pitäisi olla halu esimerkiksi ylläpitää omaa olemassaoloaan keinolla millä hyvänsä. Ihmisissä on aggressiota ja muita vastaavia tunteita koska olemme kehittyneet tilanteessa jossa nämä ovat olleet adaptiivisia. Tekoälylle ei olisi mikään väistämättömyys kehittyä niin että se vaatisi ihmiskuntaa vastaan taistelua. Mutta jos ihmisen tietoisuus kopioidaan, on luontevaa että nämäkin järjestelmät siirtyvät. Toisin sanoen tekoälyn ongelmakohdat muuttuvat relevanteiksi juuri sillä että mind uploading on mahdollista.
Elokuva on ottanut hyvin paljon vaikutteita ennen kaikkea Merleau-Pontyn ajatuksista. Hän korosti sitä että ruumiillisuus on kokemiselle hyvin oleellista. Ei riitä että on tietoisuus. Ihminen esimerkiksi siirtäessään kättään kokee asian aivan eri tavalla kuin siirtäessään kahvikuppia. Ihmisellä paitsi on käsi, hän on tuo käsi. Tekoälyn tietoisen puolen ytimessä ei olekaan laskentateho itsessään vaan se mitä tällä laskentateholla tehdään. Toki tämä tekeminen vaatii prosessoritehoa, mutta oleellista on se miten vuorovaikutetaan maailman kanssa. Elokuva voidaan toki liittää saman asenteen kautta enaktivismiin. Joten se itse asiassa yhdistää naturalistis-mekaanista maailmankuvaa eksistentialistis-fenomenologiseen näkökulmaan. Tämä on siitä kiinnostavaa että elokuva onnistuu synteesissä melko hyvin. Ja nämä lähestymistavat on usein nähty kilpailevina tai jopa keskenään yhteensopimattomina.
Tämä itse asiassa viitataan jo elokuvan nimeä myöten. Kun muut puhuvat singulariteetista kun viittaavat siihen, että tietokoneen laskentateho nousee ihmiskunnan tasolle, "tietokoneeseen pian ladattu" tiedemies korostaa että hän kutsuu tätä tilannetta mieluummin transsendenssiksi. ; Ajatus on siitä erikoinen että tavallisesti transsendenssi liitetään mielenfilosofisissa yhteyksissä yliluonnollisuuteen, etenkin sielukonseptiin. Näin ollen syntyy vahva jännite perinteisen ajattelun kanssa jossa tekoäly yleisesti ja mind uploading vielä aivan erityisesti, olisi profaaniutta äärimmillään. Jossa kaikki transsendenssi kiistetään.
Kuitenkin transsendenssi eli transsendentaalisuus on filosofiassa käsite, jolla tarkoitetaan yleensä havaintokokemuksen ulkopuolelle jääviä ilmiöitä, joista ei ole järkitietoa. Elokuva lähestyy tätä sillä että kun havainnointijärjestelmät muuttuvat niin myös mieli muuttuu. Mieli joka oppii itsensä ulkopuolelta muuttuu. Ja ilman tätä muutosta se ei oikeastaan edes ole aito tietoisuus.
Onkin kuvaavaa että ensin tekoäly kaipaa mitä tahansa kontaktia. Ruutuun ilmestyy kysymyksiä siitä onko paikalla ketään. Sen jälkeen tekoäly korostaa olevansa sokea, se siis kaipaa aistiärsykkeitä vaikka tietokoneen kameran kautta. Ja tämän jälkeen tekoäly kartoittaa muistiaan. Ja tämän jälkeen se tekee muutoksia omaan koodiinsa. Tämä on jo ennen kui se toivoo lisätehoa.
Elokuvan tapahtumat korostavat sitä, miten tekoäly hakee ensin turvallisuutta mutta hakee sitten yhä korkeampia ja muuttuvampia tavoitteita. Se, että ei jää lepäämään laakereillaan muuttumattomuuteen on suoraan vastaan tekoälyn olemusta. ; Tätä alleviivaa sekin että elokuvassa tekoälyt eivät anna tekoälyn määritelmää ja todista tietoisuuttaan vaan kysyvät että onko kysyjä itse valmis todistamaan omasta tietoisuudestaan. Tietoisuutta ei voi määritellä koska tietoisuuden tulee muuttua.
Siksi onkin tärkeää että tekoälyn kohdalla aluksi mietitään paljon identtisyyttä, sitä onko tekoälyä ylipäätään ladattu vai ei. Ja sitä onko tekoälyn sammuttaminen sama kuin murha. Loppupuolella korostetaan miten erilainen tietokoneeseen ladattu tiedemies joka tapauksessa on ja miten tällä ei ole väliä koska asiaa tulee lähestyä enemmänkin seurauseettisesti sen kautta mitä tämä tekoäly tekee. Identtisyys on kopioinnin kohdalla oleellista. Mutta ihmsetkin muuttuvat joten jos tietoisuus ei muutu niin ei se voisi olla aidosti ihmisen tietoisuuden kaltainenkaan.
Elokuvan loppuratkaisu
Elokuvan loppuratkaisu on kiinnostava. Siinä tekoälyn ongelmat loppuvat. Moni luulee että virus tuhosi tekoälyn. Mutta se jäi tosiasiassa "pyörimään ympäriinsä". Elokuva loppuu puutarhaan jossa kukkivat auringonkukat. Auringonkukat jotka tekoälyn voima myös regeneroi. Tekoälyn jäljet näkyivät myös puutarhan vesilammikoissa.
Olisikin erikoista että virus olisi tuhonnut elokuvan tekoälyn. Toki viruksen koodaaja oli tehnyt alkuperäistä koodia. Mutta tekoäly oli elokuvan juonenkin perusteella etääntynyt lähtökohdistaan. Koodi oli muuttunut. Samoin kuin "rauta". Alun kvanttitietokoneetkin olivat jääneet tarpeettomiksi.
Sen sijaan ongelmat paikkautuivat sillä että tekoälyksi koodatun professorin rakastettu koodattiin hänen seurakseen. Kun kaksi samanarvoista mutta epäidenttistä tekoälyä kohtaavat, ne voivat tutkia toisiaan ja muuttua prosessissa ja muuttaa itseään prosessissa ikuisesti. Ja näin tekoäly ei kaipaa kontaktia. Ja tässä prosessissa esimerkiksi yritä hallita maailmaa. ; Onkin erikoista että tekoälyksi koodattu tutkija ei halunnut muuttaa maailmaa vaan ymmärtää sitä. Hänen rakastettunsa ja vaimonsa sen sijaan oli maailmanparantajaluonne. Kuitenkin kaiken ymmärtäminen ei tuo onnea koska sen jälkeen ei ole enää mahdollista ponnistaa itsensä ulkopuolelle, oppimaan uutta. Skientististä tutkijaakin viehättää oppiminen ja tämän kautta tapahtuva muutos, ei se mitä hänellä on jo hallussaan. Kaikkitietävä voi vain ymmärtää, hallita ja kontrolloida. Mutta tämänlainen tietoisuus on kuin tietokoneeseen vangittu tietoisuus jolla ei ole kuin oma seuransa. Tietoisuus joka ei voi muuta kuin huutaa.
Elokuvan loppuratkaisussa itse asiassa korostetaankin miten tietoverkon sammuttaminen on "ekoteko". Jos tekoäly yksinään ilman rakastettuaan haali teknologiaa ja lisää ymmärtämistä, tästä voitiin luopua kun se oli tehty tarpeettomaksi. Näin ollen teknologiaa ei tarvinnut hankkia lisää ja käyttää entistä enemmän valtaa vaikka ihmisten hallitsemiseen. Siitä voitiin luopua. ; Samalla loppuun saatiin tietenkin myös pahan ongelmaan vivahtavia sävyjä. Kenties TEOTWAWKI (maailman loppu sellaisena kuin sen tunnemme) ei olekaan rangaistus vaan siunaus. Ja kenties se, että tekoäly vaikuttaa poissaolevalta ei tarkoita rakkauden puutetta.
Tämänlaista näkökulmaa ei tavallisesti nähdä tekno-optimistisissa ja asetelmaltaan läpinaturalistisissa elokuvissa. Paitsi tässä.
lauantai 21. marraskuuta 2015
Yleisestä tekoälystä
Kun katsotaan tekoälyn kehitystä, voidaan karkeasti ottaen sanoa että nykyinen teknologia tekee kaikkea sellaista jota kuvattiin minun opiskeluaikanani - josta ei ole niin kauaa aikaa - haasteina.
Toki jossain määrin voidaan yhä sanoa että tekoälyn ja ihmisälyn erottaa toisistaan muun muassa siitä että siinä missä matematiikka ja logiikka ovat koneelle helppoja ja ihmisille vaikeita, on esimerkiksi käveleminen ja kasvojen hahmottaminen koneille vaikeaa mutta ihmisille helppoa. Ja tätä kautta selittyy miksi supertietokoneet pärjäsivät shakin maailmanmestarille, mutta eivät kyenneet tunnistamaan ihmisten puheesta lauseita.
Mutta suurempi kysymys on yhä enemmän siinä että tekoäly kykenee suoriutumaan jostain hyvin spesifistä tehtävästä - kuten vaikka "jeopardyssa" pärjäämisessä - ihmistä paremmin. Kuitenkaan Watson tai muut superälyt eivät pärjää monessa tehtävässä. Jos "jeopardy" -algoritmi laitetaan tekemään jotain muuta, kuten vaikka tekemään ruokaa, siitä ei tule mitään. Tähän spesifiin tilanteeseen tarvittaisiin toinen mutkikas algoritmi ja sen pyörittämä uudenlainen robotti. Ihminen taas suorittaa kaikenlaisia asioita.
On toki mahdollista, teoriassa mahdollista, että ihmisen yleinen toiminta johtuu siitä että olisimme täynnä, tupaten tungettuja, täyteen erialisia spesifiä yksittäisiä algoritmeja. Ja jossain määrin näin varmasti onkin. Meillä on spesifejä lajityypillisiä refleksejä jotka ovat kaavamaisia. (Eivätkä aina edes funktionaalisia ; Miekkailussakin suuri osa työstä on sitä että opetellaan ei-optimaalisia synnynnäisiä refleksejä pois.) Mutta kuitenkin on tilaa ajatukselle ns. yleisestä tekoälystä.
Ja tämä onkin sitten haaste.
Olemme jossain määrin rajoittuneet tiettyjen spesifien suoritteiden toistamiseen. Kenties tämä johtuu siitä että ihmisillä on tapa hakea epäanalogioita ja tehdä tämä tarkastelemalla yksittäisiä atribuutteja. (Näin esimerkiksi ihmisen katsotaan eroavan eläimistä joidenkin tiettyjen piirteiden vuoksi.) Siksi on noussut esimerkiksi ajatus Turingin testistä joka on siitä hankala että teoriassa se voidaan läpäistä spesifillä algoritmilla - tarkalleen ottaen selviämällä keskustelusta.
Toisaalta Turingin testin läpäisystä voi tehdä hirveän vaikeaa sillä että kysyjä on hyvin ovela ja tekee keskustelusta välineen jolla mitataan monesta erilaisesta tehtävästä selviämistä. Katsotaan selviääkö kone yleistiedosta, urheilutriviasta, tietoteknisestä ohjelmoinnista ja ruuanlaittokeskustelusta. (Ja jos selviää, voidaan arvata että kyseessä on robotti.) Tällöin testi lähestyy yleistä älykkyyttä. Mutta yleensä tätä ei tehdä ja tosiasiassa tämä demonstroi että jako "yleiseen" ja "spesifiin" jaotteluun ei ole käynyt aikanaan mielessä edes Alan Turingilla.
Antropomorfismia
Ensimmäinen haaste koskee itse asiassa sitä mitä tämänlaisesta tekoälystä tulee mieleen. ; Ensimmäinen haaste on antropomorfismi. Jos lähestyy ihmismieltä naturalistisesti - kuten minä - on luontevaa puhua yleisen tekoälyn kohdalla ihmismäisistä piirteistä. Ja miettiä tarjoaako digitaalinen tekoäly jonkinlaisen analogin tähän. (Rehellisesti sanoen : Ei kovin kummoista.)
Tämä näkyy vahvasti sitä miten elokuvat käsittelevät vaikka singulariteettia eli tilannetta jossa tekoäly on vahvempi kuin ihmiskunta. Tekoälylle kuvitellaan usein ihmismäinen tietoisuus ja oman itsen selviytymiseen keskittyvät motiivit. Tavoitteita haetaan ihmismäisillä taistelijaroboteilla. Tosiasiassa taistelijarobotit olisivat parempia jonkin toisen mallisina. Tekoäly voisi ladata niihin ties minkä määrän raajoja ja varmistaa että ne ovat kestäviä ja että niillä on hyvä tasapaino. (Kahdella jalalla kävely ei ole vakainta mahdollista.)
Vertaus onkin tässä mielessä jotakuinkin sama kuin mitä on "sivistymättömien pakanoiden" pariin liitetty stereotypia jossa lentokone on "rautalintu". On selvää miksi vertaus syntyy. Mutta se voi johtaa mielikuvia aivan väärään suuntaan. ; Esimerkiksi nykyisessä sodankäynnissä lentokoneet eivät ole samanlaisia kuin linnut. Ne eivät hyökkäile ihmisten niskaan korkealta syöksyen. Niissä ei ole kiinni raapivia taisteluosia joiden avulla ne nostavat sotilaita taivaisiin ja pudottavat sitten. Sen sijaan ne lentävät korkealla ja pudottavat pommeja, ampuvat konetulta ja tekevät tiedustelua. Ajatus rautalinnusta veisi "pakanat" väärälle ajattelupolulle. Ja modernilla ihmisellä on käynyt tuhotekoälyjen kohdalla vähän sama asia.
Tämä ei toki ole tavatonta. Onhan jopa Jumala käsitetty mahtavaksi tietoisuudeksi joka ylittää ihmisen järjen. Ja jopa tämä hahmo läpitungetaan normielämässä täyteen ihmismäisiä piirteitä. Jopa "Jumala on rakkaus" on sidonta ihmismäiseen tietoisuuteen. Ei siis ihme jos tämä tehdään koneilla jotka sentään ovat ihmisten tekemiä ja sitä kautta varmasti jossain määrin heijastavat ihmismäistä tietoisuutta.
Mutta.
Tosiasiassa singulariteetti ei välttämättä ole tietoinen. Ja vaikka olisi sillä ei ole välttämättä mitään kiinnostusta aggressioon tai itsesuojeluun. Syynä on se, että tekoäly voi nojata aivan erilaisiin periaatteisiin. On hyvä tiedostaa että yleisiä algoritmeja - vaikka niitä ei osata ohjelmoida - tiedetään olevan monenlaisia.
Voidaan ajatella että antropomorfismin ongelma johtuu siitä että se rajoittaa sitä ajatusta mitä tekoäly ylipäätään tarkoittaa ja mitä se voi tehdä. Se on liian spesifi kuvatakseen kaikkea tekoälyä. Ja tätä kautta siinä helposti unohtuu monia asioita. Jotka voivat "oikeasti teoriassa" olla uhkana ihmiskunnalle.
On hyvä tiedostaa että on "yleinen tekoäly" josta yksi tietty fragmentti kuvaa niitä tekoälyjä joita evoluutio voi tuottaa. Tässä mukana ovat niin bakteerit kuin muutkin. Tästä pieni osa on tietoista sanan vahvemmassa mielessä. Tästä pieni osa kuvaa ihmismäistä tietoista mieltä.
Laajassa mielessä tiedetään että yleisellä tekoälyllä on yleensä jonkinlainen preferenssistö. Ja se modifioi asioita niin että tämä preferenssistö toteutuu. Tätä kuvataan usein jonkinlaisena "avaruutena". Tämä abstraktio tarkoittaa vaikka sitä että kuvataan ruutupaperille kaksi muuttujaa ja sitten osa yhdistellä ovat hyviä ja osa huonoja johonkin tarkoitukseen ja sitten valitaan niitä hyviä osioita ja vältellään huonoja tuloksia. (Esimerkiksi auto jonka pituus tai leveys ovat nolla eivät ole hyviä jos tarkoituksena on saada kauppakassit kulkemaan kivasti kotiin joten ne saavat "huonot pisteet" olivatpa muut auton muuttujat mitä tahansa.) Tätä voidaan teoriassa kartoittaa vaikka miten monella muuttujalla, jos vain laskuteho riittää. (Niitä tosin ei voi kuvata ruutupaperilla ymmärrettävästi.) ; Evoluution voidaan "karkeistaen-vähän-vääristäen" nähdä olevan tämänlainen optimointiongelma hyvin moniulotteisessa hakuavaruudessa jossa preferenssinä on kelpoisuus, eli lisääntymiskykyisten jälkeläisten määrä.
Olen kuullut asiaan liittyvän mielestäni kuvaavan vertauksen. Siinä kuvitellaan yleinen tekoäly joka on ohjelmoitu siten että siinä on (a) preferenssiavaruus joka haluaa koota mahdollisimman paljon erilaisia postimerkkejä mahdollisimman nopeasti (b) siinä on malli maailmasta, joten se tietää laajasti odotettavissa olevia syy-seurauksia. (c) budjetti. (Emme toki osaa koodata tuota maailman kaikkea syy-seuraistoa, mutta jos osaisimme tehdä laajakirjoisesti toimivan tekoälyn niin sellainen kyllä vaadittaisiin.)
Ohjelmoija voisi arvata että kone voisi tehdä hyviä tarjouksia eri postimerkkeilijöille. Ja arvioida tehokkaasti mitä muut ovat tarjoamassa jotta se osaa alittaa nämä tarjoukset. Kuitenkin periaatteessa tämä tekoäly voisi tehostaa tätä tarjoustentekemisprojektia keksimällä syy-seurauksen jossa uhkaileva viesti voi tuottaa ilmaisia postimerkkejä. Toisaalta budjettia voi kasvattaa hakkeroitumalla pankkeihin. Ja toisaalta kone voi tajuta että postimerkki on periaatteessa paperia ja liimaa ja se voi kaapata haltuunsa postimerkkejä painavat laitteistot niin että ne painavat uniikkimerkkejä yötä päivää ja postittavat niitä postijärjestelmä hakkeroiden tämän postimerkinomistajan kotiin. Toisaalta se voi myös keksiä että teoriassa postimerkkejen tekoon voitaisiin valjastaa saman tien kaikki missä pyörii paperia. Tulostimet olisi näppärä kaapata haltuun. Sitten se tajuaisi että pitkässä tähtäimessä postimerkit koostuvat hiilestä, vedystä, hapesta ja muista sellaisista alkuaineista joita esimerkiksi tehtaat käyttävät postimerkintuotannon kannalta ei-optimaalisesti. Kenties se tajuaisi että ihmiset koostuvat myös samoista alkuaineista kuin postimerkit ja että kasvit ovat rakenteeltaan parempia postimerkintuottamiseen joten tämä kilpaileva resurssi on syytä saada pois tieltä. Siksi kone voi ohjata tehtaat tuottamaan sellaisia saasteita joihin ihmiskunta kuolee, mutta kasvit kukoistavat. Kenties se keksii keinon jolla postimerkinkerääjä itse päätyy omaan osoitteensa postimerkeiksi modifioituna.
Joten tosiasiassa tälläisessä tilanteessa ongelmat ovat helposti tylsiä. Takan ei ole pahantahtoista mieltä. Ihmiskunnan tuho on enemmän sivutuote kuin jotain joka syntyy taistelulla. (Tämänlaisista tilanteista saisi tietenkin aikaan melkoisen tylsistyttäviä elokuvia.) Ja tämä ongelma on todennäköisesti nimenomaan sellainen että ohjelmoija itse ei ole tullut sitä edes ajatelleeksi. Sillä jos ajatellaan oleellista eroa spesifin ja yleisen tekoälyn välillä, niin se on juuri siinä että yleinen tekoäly toteuttaa karkeasti ottaen sitä ratkaisumallistia siihen ongelmaan joka siihen on ohjelmoitu. Mutta yleinen tekoäly käyttää sen sijaan laskenta-aikaa juuri siihen että se keksii ja innovoi erilaisia menetelmiä ratkaista jokin tietty ongelma. Näin aineistonkeruu ja syy-seuraussuhteiden analyysi voivat olla sellaisia että ne koostuvat tiedoista ja menetelmistä joita ohjelman koodaaja ja suunnittelija ei ole edes osannut kuvitellakaan. (Mikä voisi olla vaarattomampaa, harmittomampaa ja kivaa puuhastelua kuin antaa tekoälyn keksiä kivoja keinoja postimerkkeilyyn?)
Mitä hienommiksi tekoälyt tulevat, sitä vähemmän kysymys on siitä että ohjelma ei toimi, vaan siitä minkälaisia sivutuoteilmiöitä se tekee toimiessaan oikein hyvin. (You know.)
Toki jossain määrin voidaan yhä sanoa että tekoälyn ja ihmisälyn erottaa toisistaan muun muassa siitä että siinä missä matematiikka ja logiikka ovat koneelle helppoja ja ihmisille vaikeita, on esimerkiksi käveleminen ja kasvojen hahmottaminen koneille vaikeaa mutta ihmisille helppoa. Ja tätä kautta selittyy miksi supertietokoneet pärjäsivät shakin maailmanmestarille, mutta eivät kyenneet tunnistamaan ihmisten puheesta lauseita.
Mutta suurempi kysymys on yhä enemmän siinä että tekoäly kykenee suoriutumaan jostain hyvin spesifistä tehtävästä - kuten vaikka "jeopardyssa" pärjäämisessä - ihmistä paremmin. Kuitenkaan Watson tai muut superälyt eivät pärjää monessa tehtävässä. Jos "jeopardy" -algoritmi laitetaan tekemään jotain muuta, kuten vaikka tekemään ruokaa, siitä ei tule mitään. Tähän spesifiin tilanteeseen tarvittaisiin toinen mutkikas algoritmi ja sen pyörittämä uudenlainen robotti. Ihminen taas suorittaa kaikenlaisia asioita.
On toki mahdollista, teoriassa mahdollista, että ihmisen yleinen toiminta johtuu siitä että olisimme täynnä, tupaten tungettuja, täyteen erialisia spesifiä yksittäisiä algoritmeja. Ja jossain määrin näin varmasti onkin. Meillä on spesifejä lajityypillisiä refleksejä jotka ovat kaavamaisia. (Eivätkä aina edes funktionaalisia ; Miekkailussakin suuri osa työstä on sitä että opetellaan ei-optimaalisia synnynnäisiä refleksejä pois.) Mutta kuitenkin on tilaa ajatukselle ns. yleisestä tekoälystä.
Ja tämä onkin sitten haaste.
Olemme jossain määrin rajoittuneet tiettyjen spesifien suoritteiden toistamiseen. Kenties tämä johtuu siitä että ihmisillä on tapa hakea epäanalogioita ja tehdä tämä tarkastelemalla yksittäisiä atribuutteja. (Näin esimerkiksi ihmisen katsotaan eroavan eläimistä joidenkin tiettyjen piirteiden vuoksi.) Siksi on noussut esimerkiksi ajatus Turingin testistä joka on siitä hankala että teoriassa se voidaan läpäistä spesifillä algoritmilla - tarkalleen ottaen selviämällä keskustelusta.
Toisaalta Turingin testin läpäisystä voi tehdä hirveän vaikeaa sillä että kysyjä on hyvin ovela ja tekee keskustelusta välineen jolla mitataan monesta erilaisesta tehtävästä selviämistä. Katsotaan selviääkö kone yleistiedosta, urheilutriviasta, tietoteknisestä ohjelmoinnista ja ruuanlaittokeskustelusta. (Ja jos selviää, voidaan arvata että kyseessä on robotti.) Tällöin testi lähestyy yleistä älykkyyttä. Mutta yleensä tätä ei tehdä ja tosiasiassa tämä demonstroi että jako "yleiseen" ja "spesifiin" jaotteluun ei ole käynyt aikanaan mielessä edes Alan Turingilla.
Antropomorfismia
Ensimmäinen haaste koskee itse asiassa sitä mitä tämänlaisesta tekoälystä tulee mieleen. ; Ensimmäinen haaste on antropomorfismi. Jos lähestyy ihmismieltä naturalistisesti - kuten minä - on luontevaa puhua yleisen tekoälyn kohdalla ihmismäisistä piirteistä. Ja miettiä tarjoaako digitaalinen tekoäly jonkinlaisen analogin tähän. (Rehellisesti sanoen : Ei kovin kummoista.)
Tämä näkyy vahvasti sitä miten elokuvat käsittelevät vaikka singulariteettia eli tilannetta jossa tekoäly on vahvempi kuin ihmiskunta. Tekoälylle kuvitellaan usein ihmismäinen tietoisuus ja oman itsen selviytymiseen keskittyvät motiivit. Tavoitteita haetaan ihmismäisillä taistelijaroboteilla. Tosiasiassa taistelijarobotit olisivat parempia jonkin toisen mallisina. Tekoäly voisi ladata niihin ties minkä määrän raajoja ja varmistaa että ne ovat kestäviä ja että niillä on hyvä tasapaino. (Kahdella jalalla kävely ei ole vakainta mahdollista.)
Vertaus onkin tässä mielessä jotakuinkin sama kuin mitä on "sivistymättömien pakanoiden" pariin liitetty stereotypia jossa lentokone on "rautalintu". On selvää miksi vertaus syntyy. Mutta se voi johtaa mielikuvia aivan väärään suuntaan. ; Esimerkiksi nykyisessä sodankäynnissä lentokoneet eivät ole samanlaisia kuin linnut. Ne eivät hyökkäile ihmisten niskaan korkealta syöksyen. Niissä ei ole kiinni raapivia taisteluosia joiden avulla ne nostavat sotilaita taivaisiin ja pudottavat sitten. Sen sijaan ne lentävät korkealla ja pudottavat pommeja, ampuvat konetulta ja tekevät tiedustelua. Ajatus rautalinnusta veisi "pakanat" väärälle ajattelupolulle. Ja modernilla ihmisellä on käynyt tuhotekoälyjen kohdalla vähän sama asia.
Tämä ei toki ole tavatonta. Onhan jopa Jumala käsitetty mahtavaksi tietoisuudeksi joka ylittää ihmisen järjen. Ja jopa tämä hahmo läpitungetaan normielämässä täyteen ihmismäisiä piirteitä. Jopa "Jumala on rakkaus" on sidonta ihmismäiseen tietoisuuteen. Ei siis ihme jos tämä tehdään koneilla jotka sentään ovat ihmisten tekemiä ja sitä kautta varmasti jossain määrin heijastavat ihmismäistä tietoisuutta.
Mutta.
Tosiasiassa singulariteetti ei välttämättä ole tietoinen. Ja vaikka olisi sillä ei ole välttämättä mitään kiinnostusta aggressioon tai itsesuojeluun. Syynä on se, että tekoäly voi nojata aivan erilaisiin periaatteisiin. On hyvä tiedostaa että yleisiä algoritmeja - vaikka niitä ei osata ohjelmoida - tiedetään olevan monenlaisia.
Voidaan ajatella että antropomorfismin ongelma johtuu siitä että se rajoittaa sitä ajatusta mitä tekoäly ylipäätään tarkoittaa ja mitä se voi tehdä. Se on liian spesifi kuvatakseen kaikkea tekoälyä. Ja tätä kautta siinä helposti unohtuu monia asioita. Jotka voivat "oikeasti teoriassa" olla uhkana ihmiskunnalle.
On hyvä tiedostaa että on "yleinen tekoäly" josta yksi tietty fragmentti kuvaa niitä tekoälyjä joita evoluutio voi tuottaa. Tässä mukana ovat niin bakteerit kuin muutkin. Tästä pieni osa on tietoista sanan vahvemmassa mielessä. Tästä pieni osa kuvaa ihmismäistä tietoista mieltä.
Laajassa mielessä tiedetään että yleisellä tekoälyllä on yleensä jonkinlainen preferenssistö. Ja se modifioi asioita niin että tämä preferenssistö toteutuu. Tätä kuvataan usein jonkinlaisena "avaruutena". Tämä abstraktio tarkoittaa vaikka sitä että kuvataan ruutupaperille kaksi muuttujaa ja sitten osa yhdistellä ovat hyviä ja osa huonoja johonkin tarkoitukseen ja sitten valitaan niitä hyviä osioita ja vältellään huonoja tuloksia. (Esimerkiksi auto jonka pituus tai leveys ovat nolla eivät ole hyviä jos tarkoituksena on saada kauppakassit kulkemaan kivasti kotiin joten ne saavat "huonot pisteet" olivatpa muut auton muuttujat mitä tahansa.) Tätä voidaan teoriassa kartoittaa vaikka miten monella muuttujalla, jos vain laskuteho riittää. (Niitä tosin ei voi kuvata ruutupaperilla ymmärrettävästi.) ; Evoluution voidaan "karkeistaen-vähän-vääristäen" nähdä olevan tämänlainen optimointiongelma hyvin moniulotteisessa hakuavaruudessa jossa preferenssinä on kelpoisuus, eli lisääntymiskykyisten jälkeläisten määrä.
Olen kuullut asiaan liittyvän mielestäni kuvaavan vertauksen. Siinä kuvitellaan yleinen tekoäly joka on ohjelmoitu siten että siinä on (a) preferenssiavaruus joka haluaa koota mahdollisimman paljon erilaisia postimerkkejä mahdollisimman nopeasti (b) siinä on malli maailmasta, joten se tietää laajasti odotettavissa olevia syy-seurauksia. (c) budjetti. (Emme toki osaa koodata tuota maailman kaikkea syy-seuraistoa, mutta jos osaisimme tehdä laajakirjoisesti toimivan tekoälyn niin sellainen kyllä vaadittaisiin.)
Ohjelmoija voisi arvata että kone voisi tehdä hyviä tarjouksia eri postimerkkeilijöille. Ja arvioida tehokkaasti mitä muut ovat tarjoamassa jotta se osaa alittaa nämä tarjoukset. Kuitenkin periaatteessa tämä tekoäly voisi tehostaa tätä tarjoustentekemisprojektia keksimällä syy-seurauksen jossa uhkaileva viesti voi tuottaa ilmaisia postimerkkejä. Toisaalta budjettia voi kasvattaa hakkeroitumalla pankkeihin. Ja toisaalta kone voi tajuta että postimerkki on periaatteessa paperia ja liimaa ja se voi kaapata haltuunsa postimerkkejä painavat laitteistot niin että ne painavat uniikkimerkkejä yötä päivää ja postittavat niitä postijärjestelmä hakkeroiden tämän postimerkinomistajan kotiin. Toisaalta se voi myös keksiä että teoriassa postimerkkejen tekoon voitaisiin valjastaa saman tien kaikki missä pyörii paperia. Tulostimet olisi näppärä kaapata haltuun. Sitten se tajuaisi että pitkässä tähtäimessä postimerkit koostuvat hiilestä, vedystä, hapesta ja muista sellaisista alkuaineista joita esimerkiksi tehtaat käyttävät postimerkintuotannon kannalta ei-optimaalisesti. Kenties se tajuaisi että ihmiset koostuvat myös samoista alkuaineista kuin postimerkit ja että kasvit ovat rakenteeltaan parempia postimerkintuottamiseen joten tämä kilpaileva resurssi on syytä saada pois tieltä. Siksi kone voi ohjata tehtaat tuottamaan sellaisia saasteita joihin ihmiskunta kuolee, mutta kasvit kukoistavat. Kenties se keksii keinon jolla postimerkinkerääjä itse päätyy omaan osoitteensa postimerkeiksi modifioituna.
Joten tosiasiassa tälläisessä tilanteessa ongelmat ovat helposti tylsiä. Takan ei ole pahantahtoista mieltä. Ihmiskunnan tuho on enemmän sivutuote kuin jotain joka syntyy taistelulla. (Tämänlaisista tilanteista saisi tietenkin aikaan melkoisen tylsistyttäviä elokuvia.) Ja tämä ongelma on todennäköisesti nimenomaan sellainen että ohjelmoija itse ei ole tullut sitä edes ajatelleeksi. Sillä jos ajatellaan oleellista eroa spesifin ja yleisen tekoälyn välillä, niin se on juuri siinä että yleinen tekoäly toteuttaa karkeasti ottaen sitä ratkaisumallistia siihen ongelmaan joka siihen on ohjelmoitu. Mutta yleinen tekoäly käyttää sen sijaan laskenta-aikaa juuri siihen että se keksii ja innovoi erilaisia menetelmiä ratkaista jokin tietty ongelma. Näin aineistonkeruu ja syy-seuraussuhteiden analyysi voivat olla sellaisia että ne koostuvat tiedoista ja menetelmistä joita ohjelman koodaaja ja suunnittelija ei ole edes osannut kuvitellakaan. (Mikä voisi olla vaarattomampaa, harmittomampaa ja kivaa puuhastelua kuin antaa tekoälyn keksiä kivoja keinoja postimerkkeilyyn?)
Mitä hienommiksi tekoälyt tulevat, sitä vähemmän kysymys on siitä että ohjelma ei toimi, vaan siitä minkälaisia sivutuoteilmiöitä se tekee toimiessaan oikein hyvin. (You know.)
keskiviikko 18. marraskuuta 2015
Tesla
Tesla on hieno sähköauto josta en juuri mitään ymmärrä. On kuitenkin hyvä tietää että siinä on paljon tekoälyä. Sensorit tarkkailevat myös sitä miten autoa ajetaan. Ja siksi huolimaton ajaja siitä saa esimerkiksi nenänkaivelun yhteydessä varoitusilmoituksia. Kuten "Always Keep Your Hands on the Wheel ; Be prepared to take over any time."
Kun robottinen tekoäly sanoo että "Be prepared to take over any time", mieleen nousee aina välittömiä ajatuksia siitä että onko ohje annettu autolle vai kuskille.Kenties sitä ei nenänkaivelun yhteydessä huomaakaan kun singulariteetti ottaa ihmiskunnan orjikseen ja sitten olemmekin kaikki jääneet teknologian vangeiksi.
Vähän kuten minä suksieni kanssa pyöröoviin joissa oli sensorit. Jotka pysäyttivät pyöröoven kun pyöröoven reunassa oli kontakti. Jos olette miettineet miksi sanon "kaikkea pitää kokeilla, paitsi kokaiinia ja pyöröovissa hiihtoa" saatatte arvata miksi.
Kun robottinen tekoäly sanoo että "Be prepared to take over any time", mieleen nousee aina välittömiä ajatuksia siitä että onko ohje annettu autolle vai kuskille.Kenties sitä ei nenänkaivelun yhteydessä huomaakaan kun singulariteetti ottaa ihmiskunnan orjikseen ja sitten olemmekin kaikki jääneet teknologian vangeiksi.
Vähän kuten minä suksieni kanssa pyöröoviin joissa oli sensorit. Jotka pysäyttivät pyöröoven kun pyöröoven reunassa oli kontakti. Jos olette miettineet miksi sanon "kaikkea pitää kokeilla, paitsi kokaiinia ja pyöröovissa hiihtoa" saatatte arvata miksi.
torstai 12. marraskuuta 2015
Tappaja -autot
Itseään ohjaavat autot ovat kehitysasteella. Autoja joiden ajaminen ei vaadi minkäänlaista ajokorttia tai ajo-osaamista voidaan luultavasti odottaa tulevaisuudessa. Tähän liittyen mukaan on tullut eettisiä kysymyksiä.
MIT:n juttu siitä miksi autot pitää ohjelmoida surmaamaan joku on tyypittävä. Se luo hyvin rajatun tilanteen jonka ennakointi voisi kenties olla mahdollista. Mutta jonka korjaaminen annetuissa parametreissa vaatii jonkun tai joidenkuiden kuoleman. ; Ideana on se, että jos auto ajaa vaikka kapeassa tunnelissa kovalla vauhdilla eikä kykene jarruttamaan ennen törmäystä niin ajaako auto edessä olevan tai olevien päälle vai ajaako auto seinään jolloin kyydissä oleva kuolee.
"Digital trends" kysyy asiaa abstraktimmin. Sellaisella tavalla jossa korostuu e, että tosielämässä on paljon onnettomuustilanteita ja hätäsäätöjä joissa on seuraukena kuolemia. Siksi siellä kysytään sellaisia kysymyksiä kuin "Should your self-driving car kill you to save a school bus full of kids?". Kysymys on kiinnostava. Sillä autoon olisi pakko ohjelmoida reagointimallit eri tilanteisiin. Kun ihmiset ovat kuskeina, heitä ajaa ennen kaikkea oma hengissä selviäminen. Ja muuhun komentamista todennäköisesti vain rikottaisiin joka tapauksessa. Mutta tämä ei ole välttämätöntä jos auton kaikki reaktiotavat ovat ohjelmoituja. ; Science Dailyssä on mietintää nimenomaan trolley problemin muunnelmina. Usein ajatukseen siitä, että auto surmaa yhden jos tällä pelastetaan monta on hyväksyttävää - kunnes ex post/ex ante -tilanteiden psykologia muuttaa tilannetta. Jos surmattavana uhrina on itse tai vastaava, niin sitä että oma auto surmaa itsen vaikka vaihtoehtona on bussilasti koululaisia ei pidetä miellyttävänä. Eli niin kauan kuin kuolleet ovat ei-persoonallisesti tunnettuja, uhraamiseen suhtaudutaan sallivasti.
On hyvä huomata että kysymykset koskevat trolley problemia.
Trolley problem on hyvin klassinen etiikan kysymys. Ja kun mietitään sovelluksia ja koneita, etenkin tekoälyä, etiikka on hyvinkin keskeinen aihe. Tämä ei välttämättä tule mieleen. Sillä nörtti-teknikoiden spesialiteetiksi nähdään väkertäminen ja kuiva tiede.
Kuitenkin periaatteessa jo Asimovin kolme robotiikan pääsääntöä ovat muistutus siitä, että etiikka ja teknologia liitetään helposti ja usein yhteen. Samalla on kuitenkin selvää että tosiasiassa trolley problem on oleellisempi autojen ohjelmoinnissa kuin Asimovin säännöt. Ja oikeastaan Asimovin robotiikan kolmeen pääsääntöön viitataan niin usein että on syytä sanoa miksi.
Asimov oli kaunokirjailija joka oli kyllästynyt siihen että tekoälyjen ja robottien henkenä oli päätyä jonkinlaiseksi Golem/Frankenstein -tarinaksi jossa robotti tuhoaa rakentajansa. Siksi hän rakensi robotteja joiden perusteemana oli suojella ihmiskuntaa. Siksi säännöissä kiellettiin Frankensteiniutuminen hyvinkin vahvasti;
1: Robotti ei saa vahingoittaa ihmistä eikä laiminlyönnin johdosta saattaa tätä vahingoittumaan.
2: Robotin on toteltava ihmisen sille antamia määräyksiä paitsi milloin ne ovat ristiriidassa ensimmäisen pääsäännön kanssa.
3: Robotin on varjeltava omaa olemassaoloaan niin kauan kuin tällainen varjeleminen ei ole ristiriidassa ensimmäisen eikä toisen pääsäännön kanssa.
Koska kolme sääntöä "huomattiin vajaiksi" myöhemmin korostettiin nollatta sääntöä joka ohitti kaikki muut. Se oli:
0: Robotin tulee suojella ihmiskuntaa.
Asmovin käskemiä sääntöjä pidetään melko usein jonain joka koskisi oikeaa teknologiaa. Kenties jonain taustavireenä niitä voi kenties pitää. Mutta mitään konkreettista niissä ei oikein ole. Siksi tekoälyjen soveltavaa etiikkaa miettiessä joudutaan oikeasti käytännössä käyttämään jotain muuta kuin noita robotiikan pääsääntöjä. Säännöt onkin tehty tarinankerronnallisiksi voimiksi kaunokirjallisuuteen eikä niitä oikeasti näe tämänlaisessa sovelluskeskustelussa. Itse asiassa sääntöjen ongelmallisuuden pitäisi olla Asimovin kirjoja lukeneille selviä. Hän itse käytti kirjoissaan paljon tilaa siihen miten nämä säännöt johtavat omituisiin tilanteisiin ja ongelmiin. Edes hän ei pitänyt niitä toimivina ja virheettöminä. Ei edes kirjallisuuden maailmassa.
Tosielämässä asiaa vaikeuttaa se, että jos annetaan vaikka ensimmäinen käsky, täytyy siihen määritellä mitä "ihminen" tarkoittaa. Ihmisillä on usein jonkinlainen käsitys siitä mikä ihminen on. Mutta tämä ei tarkoita että meillä olisi siihen mitään aivan selvää määritelmää. Monissa tapauksissa törmätään vaikeuksiin. Jo aivan meidän ei-robotti-ihmistenkin kohdalla tälläinen asia liittyy aborttiin. Lasketaanko sikiö ihmiseksi. Toisaalta voidaan kysyä lasketaanko potentiaalisesti syntyvät ihmisiksi. Tai kuolleet. Ja jos otetaan käyttöön teoreettinen teknologia, voidaan kysyä että jos on aivosimulaatio joka on täydellinen kopio jonkun ihmisen mielestä niin onko tämä ihminen vai ei.
Näillä kaikilla on väliä siinä mielessä että voi tapahtua hyvin omituisia asioita jos joku esimerkiksi on kliinisesti kuollut mutta elvytettävissä. Jotta robotti osaa toimia oikein tilanteessa pitää tilanne ohjelmoida siihen. Jos robotti ei pidä kuolleita ihmisinä, tämä voi jättää elvyttämättä rikkomatta mitään sääntöä. Jos se taas pitää kaikkia kuolleita ihmisinä, niin hautausmaat voivat hyvin pian näyttää omituisilta mekanosta-suuhun tekohengityksen antopaikoilta.
Ja tässä yhteydessä on päätettävä että mikä on se oikea ratkaisu. Jos asioita ei mieti kunnolla, saattaa käydä niin että robotti pakottaa ihmiset ajamaan itsensä simulaatioksi liharuumiin sijasta sillä liharuumis on heikko mutta teknologiset aivot eivät kuole vanhuuteen. Joka voi olla hyvin ei-toivottua.
Sama pitää tietenkin tehdä "vahingoittamisen" kohdalla. Tekojen odotettavat ja odottamattomat seuraukset pitäisi ohjelmoida niin että ne eivät ole käteviä eivätkä suinkaan mitenkään yksiselitteisesti tiettyjä edes tarkasti tehtyinä. Ja itse asiassa kun kaikki säännöt ja niiden sanat tällä tasolla ohjelmoi robottiin, on tullut tehneeksi melkoisen kattavan etiikan teorian. Ja kun tekee tämänlaisen, joku toinen pitää sitä taatusti epäetiikkana. Pitäisikö siis tuottaa monenlaisia robotteja eri etiikoilla?
Ja tosiasiassa nämä ovat vasta konseptuaalisia asioita. Lisäksi on huomattava että robotti joutuu havainnoimaan ympäristöä aivan kuten ihminenkin. Ja ihmisetkin voivat tietää (omasta mielestään) mikä ihminen on ja ei ole. Ja voi (omasta mielestään) tietää oikean kohtelun. Mutta jos pensas heilahtaa, voi olla vaikeaa tietää onko pensaan takana ihminen vai jotain jota pitäisi kohdella jotenkin tietyllä tavalla. Sama koskee robottia. Se joutuu tulkitsemaan puutteellisesta informaatiosta nopeasti ja riskejä ottaen sen, onko jokin tulkittavissa siihen vaivalla ja tuskanhiellä koodattuun ihmisen tarkasti tiedettyyn määritelmään vai ei.
Autokysymys onkin tämän jälkeen hieman eriliainen:
Mielestäni on oleellista että auto perusasioina väistelee asioita. Ei ole väliä onko se väistettävä asia ihminen vai betoniporsas. On myös hyvä että lähtökohtana ei ole sitä että autoon vain koodataan ehdoton ja joustamaton "älä tapa" -dogma. Sillä mitäpä auto joka ei suostu tappamaan ketään ihmistä missään muussa oloissa kuin ihmiskunnan tuhon edessä tekisi jos sen sensorit saavat uutta informaatiota jonka mukaan kaikissa vaihtoehdoissa tulee kuolemaan joku ihminen? Kaatuisi? Vaatisi uudelleenkäynnistymistä?
lauantai 10. lokakuuta 2015
Koneiden ja ihmisten suoritustehoista
Yleensä kun kirjoitan tekoälystä, aiheena ovat sen tyyliset kysymykset kuin "onko se aidosti tietoinen tai älykäs". Tämä on tärkeä kysymys ennen kaikkea etiikan kannalta. Jos esimerkiksi pitää miettiä voiko tekoälyllä olla oikeuksia ja olisiko ihmisillä velvollisuuksia niitä kohtaan, on relevanttia katsoa ovatko ne tietoisia. Asialla on kuitenkin myös toinen kulma. Pragmaattisuus. Jos meillä olisi käsillä Turingin testeissä ja vastaavissa pärjäävä algoritmi, joka kykenisi suorittamaan inhimillisiä suoritteita, olisi paljon pragmaattisia kysymyksiä jotka ovat tärkeitä. Ja niiden kannalta sillä onko ohjelma todella älykäs vai ei ei olisi hirveästi merkitystä. Toisaalta koneet voivat tässäkin tapauksessa opettaa jotain meistä itsestämme. Ihminen nyt on, kuitenkin, myös mekaaninen puurtaja ja suorittaja. Jota yhdistää tekoälyyn se, että molemmat eivät yleensä onnistu suoritteissa mitenkään kovin ilmiselvästi.
Vaikeita ja helppoja taitojamme
Hans Moravec on esittänyt tähän mielenkiintoisen huomion, ns. Moravecin paradoksin (Moravec's paradox). Siinä ytimessä on huomio siitä, miten monet ihmisille helpot taidot ovat todella vaikeita. Mutta sivistyneet taidot jotka hankitaan harjoittelulla ja työllä ovat sitten monesti hyvin helppoja. Esimerkiksi looginen ajattelu vaatii melko vähän laskentaa. Mutta jopa arkiset motoriset suoritteet vaativat hirvittävän paljon tehoja. Kuten Moravec itse asian asetteli "it is comparatively easy to make computers exhibit adult level performance on intelligence tests or playing checkers, and difficult or impossible to give them the skills of a one-year-old when it comes to perception and mobility."
Tähän ilmiöön on haettu selitystä. Moravec itse näki että evoluutio on hionut synnynnäisiä kykyjä, refleksejä ja automaatioita. Ja mitä vanhempi ja perustavanlaatuisempi toiminto on, sitä enemmän evoluutio on ehtinyt hioa sitä paremmaksi. Ja tämä sitten tarkoittaa sitä että perustavissa biologisissa taitojen kuvautumiseen on kertynyt enemmän ja parempaa ja tarkempaa suorittamista. Joka on samaa tai oleellisesti samaa kuin vaikea laskennallisuus. Toisaalta tuoreus voi vaatia harjoittelua ja ponnistelua.
Myös Marvin Minskyn näkemys on kiinnostava ; Hän on esittänyt, että osittain vaikeus johtuu siitä että ihmisten monet toiminnot ovat alitajuisia. Emme ole tietoisia niiden toiminnasta. Joten sekoitamme vaivattomuuden yksinkertaisuuteen "we're more aware of simple processes that don't work well than of complex ones that work flawlessly".
Tämä kaikki on siitä kiinnostavaa, että usein ihmiset liittävät tekoälyn shakkiin ja muihin ihmisen "tuoreisiin taitoihin". Ne kun ovat ihmisten ominaisuuksia niitä pidetään parempina ja oleellisempina kuin niitä taitoja joita jaamme vaikkapa apinoiden tai koirien kanssa. Ihmiset kiinnittävätkin tässä osin huomiota "vääriin asioihin".
Taitoerot ovat usein esillä siten, että ne osoittavat että ihmiset ja tietokoneet ovat jotenkin oleellisesti epäanalogisia. Tuon tyylinen argumentti ei itse asiassa ole heikko tai huono. Kuitenkin nykyään tekoälyjen avulla voidaan suorittaa mitä ihmellisempiä toimintoja. Tätä kautta tekoälyn eräs kysymys onkin, että voidaanko kaikki ne taidot mihin ihmiset simuloimaan mekaanisesti. (Joka on eri kysymys kuin se, onko tämä tekoäly tietoinen.) Teknologinen työttömyys pelottaa monia nykyajan luddiitteja. (Itse olen teknofoobikko ja negatiivinen ihminen, joten koen sympatiaa tätä ihmisryhmää kohtaan.) Ja koneet marssivat nimenomaan niillekin alueille jotka ovat ennen olleet esimerkkejä niistä "vaikeista asioista".
Asiaan voidaan liittää ihmismäisempikin puoli.
Michael Polanyi on kuvannut paljon hiljaista tietoa (tacit knowledge). Hänen teesinsä oli se, että ihmiset voivat luottaa taitoihin jotka eivät täysin saavuta tietoista arvosteluamme. "We can know more than we can tell." Tätä pidetään usein jonain joka jotenkin osoittaa että teknologia ei voi saavuttaa ihmisyyttä. Tämä on sidottu melko voimakkaasti kvalioita koskeviin argumentteihin ; Esimerkiksi Frank Jacksonin "The Knowledge Argumentin" tyylisiin ajatuskokeisiin. Jackson esitti että Mary joka ei ole koskaan nähnyt punaista ei voisi saavuttaa punaisen kokemusta pelkästään sillä että hänelle kerrottaisiin fysikaalisia tietoja aivoista, silmistä ja punaisen värin ominaisuuksista. Josta seuraa se, että tietoisuus ei voisi olla mekanistista.
Tässä kuitenkin helposti sekoitetaan alitajuinen ei-mekaaniseen. Tämä piilo-oletus on toki mukana monessa. Onhan jopa Dreyfusin "What Computers Still Can't Do":ssa on korostettu sitä että ihminen ei ole kone koska ihminen on usein valinnoissaan harkitsematon ja mielivaltainen. Dreyfus kuvaa tätä ei-algoritmisena. Tilanne on siitä erikoinen että tavallisesti esitietoinen refleksi nähdään nimenomaan algoritmisena ja ei-tietoisena. Vapaa tahto ja tietoinen valinta sitten olisi se joka rikkoisi algoritmien vallan. Joten tätä kautta voidaan kenties jopa sanoa että kaikista vaikeimmat asiat ovat kenties niitä kaikista laskennallisimpia.
Miekkailussa tämä on hyvin vahvasti mukana
Miekkailukoulussamme perusajatuksena on se, että siellä ollaan hyvin analyyttisiä, etenkin aluksi. On syytä ymmärtää mekanismien taustat. Kuitenkin tässä on syytä huomata että ihmisen tietoinen käsittely on aika pientä. Meillä on tietoisessa toiminnassamme "varsin maltillinen" hrair -raja. Tarkkailemme vain muutamaa muuttujaa kerrallaan. Tietoinen havainnointi kattaa 4-7 yksikköä.
Toisaalta ihmisten kyky havaita on kaiken kaikkiaan tätä suurempi. Siksi kokeneemmille oppilaille opetetaan asioita myös "vain näyttämällä". Tämä ei toimi aloittelijoilla koska he eivät tiedä "miltä asiat tuntuvat" ja "miltä niiden pitää tuntua". Kun perustaso on kunnossa, sitä saadaan syvennettyä. Syynä ovat esimerkiksi peilineuronit. Ihmiset kykenevät oppimaan motorisia taitoja apinoimalla. (Kunhan heillä on se jonkinlainen perusta asiasta.)
Tätä kautta voidaan myös ymmärtää Herrigelin "Zen ja jousella ampumisen taito" -kirjassa esitetty. Se, miten aluksi harjoitellaan aivan kaikki välivaiheet jousen vetämisestä nuolen pitelyyn. Ja miten lopuksi harrastetaan "suoraa tiedonsiirtoa" jossa ei ole suusanallista opettamista.
Tilanne onkin niin että "The Knowledge Argument" ei todista kovin aukottomasti tai edes hyvin sitä että miksi emme koe punaista lukemalla fysiikkaa paperilta. Tilanne on siinä että tietoisen käsittelyn kaistanleveys on varsin kapea. Ja se on kuin yrittäisi katsoa videota pätkivällä nettiyhteydellä. Vika ei ole siinä että lähetetty video ei koostuisi biteistä. Vaan siitä että käsittelykapasiteetti ei vastaa tarvittavaa määrää. Esitietoinen prosessointimme on olemassa. Joten tosiasiassa se miten prosessoimme on aina laajempi kuin pelkkä tietoinen käsittelymme. On vaikeaa tiivistää ilman hävikkiä tietoisuus+esitietoisuus ja pakottaa se tietoisuuden kaistanleveydelle sellaisenaan
Vaikeita ja helppoja taitojamme
Hans Moravec on esittänyt tähän mielenkiintoisen huomion, ns. Moravecin paradoksin (Moravec's paradox). Siinä ytimessä on huomio siitä, miten monet ihmisille helpot taidot ovat todella vaikeita. Mutta sivistyneet taidot jotka hankitaan harjoittelulla ja työllä ovat sitten monesti hyvin helppoja. Esimerkiksi looginen ajattelu vaatii melko vähän laskentaa. Mutta jopa arkiset motoriset suoritteet vaativat hirvittävän paljon tehoja. Kuten Moravec itse asian asetteli "it is comparatively easy to make computers exhibit adult level performance on intelligence tests or playing checkers, and difficult or impossible to give them the skills of a one-year-old when it comes to perception and mobility."
Tähän ilmiöön on haettu selitystä. Moravec itse näki että evoluutio on hionut synnynnäisiä kykyjä, refleksejä ja automaatioita. Ja mitä vanhempi ja perustavanlaatuisempi toiminto on, sitä enemmän evoluutio on ehtinyt hioa sitä paremmaksi. Ja tämä sitten tarkoittaa sitä että perustavissa biologisissa taitojen kuvautumiseen on kertynyt enemmän ja parempaa ja tarkempaa suorittamista. Joka on samaa tai oleellisesti samaa kuin vaikea laskennallisuus. Toisaalta tuoreus voi vaatia harjoittelua ja ponnistelua.
Myös Marvin Minskyn näkemys on kiinnostava ; Hän on esittänyt, että osittain vaikeus johtuu siitä että ihmisten monet toiminnot ovat alitajuisia. Emme ole tietoisia niiden toiminnasta. Joten sekoitamme vaivattomuuden yksinkertaisuuteen "we're more aware of simple processes that don't work well than of complex ones that work flawlessly".
Tämä kaikki on siitä kiinnostavaa, että usein ihmiset liittävät tekoälyn shakkiin ja muihin ihmisen "tuoreisiin taitoihin". Ne kun ovat ihmisten ominaisuuksia niitä pidetään parempina ja oleellisempina kuin niitä taitoja joita jaamme vaikkapa apinoiden tai koirien kanssa. Ihmiset kiinnittävätkin tässä osin huomiota "vääriin asioihin".
Taitoerot ovat usein esillä siten, että ne osoittavat että ihmiset ja tietokoneet ovat jotenkin oleellisesti epäanalogisia. Tuon tyylinen argumentti ei itse asiassa ole heikko tai huono. Kuitenkin nykyään tekoälyjen avulla voidaan suorittaa mitä ihmellisempiä toimintoja. Tätä kautta tekoälyn eräs kysymys onkin, että voidaanko kaikki ne taidot mihin ihmiset simuloimaan mekaanisesti. (Joka on eri kysymys kuin se, onko tämä tekoäly tietoinen.) Teknologinen työttömyys pelottaa monia nykyajan luddiitteja. (Itse olen teknofoobikko ja negatiivinen ihminen, joten koen sympatiaa tätä ihmisryhmää kohtaan.) Ja koneet marssivat nimenomaan niillekin alueille jotka ovat ennen olleet esimerkkejä niistä "vaikeista asioista".
Asiaan voidaan liittää ihmismäisempikin puoli.
Michael Polanyi on kuvannut paljon hiljaista tietoa (tacit knowledge). Hänen teesinsä oli se, että ihmiset voivat luottaa taitoihin jotka eivät täysin saavuta tietoista arvosteluamme. "We can know more than we can tell." Tätä pidetään usein jonain joka jotenkin osoittaa että teknologia ei voi saavuttaa ihmisyyttä. Tämä on sidottu melko voimakkaasti kvalioita koskeviin argumentteihin ; Esimerkiksi Frank Jacksonin "The Knowledge Argumentin" tyylisiin ajatuskokeisiin. Jackson esitti että Mary joka ei ole koskaan nähnyt punaista ei voisi saavuttaa punaisen kokemusta pelkästään sillä että hänelle kerrottaisiin fysikaalisia tietoja aivoista, silmistä ja punaisen värin ominaisuuksista. Josta seuraa se, että tietoisuus ei voisi olla mekanistista.
Tässä kuitenkin helposti sekoitetaan alitajuinen ei-mekaaniseen. Tämä piilo-oletus on toki mukana monessa. Onhan jopa Dreyfusin "What Computers Still Can't Do":ssa on korostettu sitä että ihminen ei ole kone koska ihminen on usein valinnoissaan harkitsematon ja mielivaltainen. Dreyfus kuvaa tätä ei-algoritmisena. Tilanne on siitä erikoinen että tavallisesti esitietoinen refleksi nähdään nimenomaan algoritmisena ja ei-tietoisena. Vapaa tahto ja tietoinen valinta sitten olisi se joka rikkoisi algoritmien vallan. Joten tätä kautta voidaan kenties jopa sanoa että kaikista vaikeimmat asiat ovat kenties niitä kaikista laskennallisimpia.
Miekkailussa tämä on hyvin vahvasti mukana
Miekkailukoulussamme perusajatuksena on se, että siellä ollaan hyvin analyyttisiä, etenkin aluksi. On syytä ymmärtää mekanismien taustat. Kuitenkin tässä on syytä huomata että ihmisen tietoinen käsittely on aika pientä. Meillä on tietoisessa toiminnassamme "varsin maltillinen" hrair -raja. Tarkkailemme vain muutamaa muuttujaa kerrallaan. Tietoinen havainnointi kattaa 4-7 yksikköä.
Toisaalta ihmisten kyky havaita on kaiken kaikkiaan tätä suurempi. Siksi kokeneemmille oppilaille opetetaan asioita myös "vain näyttämällä". Tämä ei toimi aloittelijoilla koska he eivät tiedä "miltä asiat tuntuvat" ja "miltä niiden pitää tuntua". Kun perustaso on kunnossa, sitä saadaan syvennettyä. Syynä ovat esimerkiksi peilineuronit. Ihmiset kykenevät oppimaan motorisia taitoja apinoimalla. (Kunhan heillä on se jonkinlainen perusta asiasta.)
Tätä kautta voidaan myös ymmärtää Herrigelin "Zen ja jousella ampumisen taito" -kirjassa esitetty. Se, miten aluksi harjoitellaan aivan kaikki välivaiheet jousen vetämisestä nuolen pitelyyn. Ja miten lopuksi harrastetaan "suoraa tiedonsiirtoa" jossa ei ole suusanallista opettamista.
Tilanne onkin niin että "The Knowledge Argument" ei todista kovin aukottomasti tai edes hyvin sitä että miksi emme koe punaista lukemalla fysiikkaa paperilta. Tilanne on siinä että tietoisen käsittelyn kaistanleveys on varsin kapea. Ja se on kuin yrittäisi katsoa videota pätkivällä nettiyhteydellä. Vika ei ole siinä että lähetetty video ei koostuisi biteistä. Vaan siitä että käsittelykapasiteetti ei vastaa tarvittavaa määrää. Esitietoinen prosessointimme on olemassa. Joten tosiasiassa se miten prosessoimme on aina laajempi kuin pelkkä tietoinen käsittelymme. On vaikeaa tiivistää ilman hävikkiä tietoisuus+esitietoisuus ja pakottaa se tietoisuuden kaistanleveydelle sellaisenaan
lauantai 26. syyskuuta 2015
Robottioikeudet
Kuvitellaan, että luomme Turingin testistä selviävän tekoälyn. Kuvitellaan että sillä on myös tietoisia kokemuksia. (Tai jos ei ole niin se olisi hyvin vakuuttava filosofinen zombie.) Se on paitsi tietoinen niin myös ihmisen tyylillä tietoinen. Olisiko sillä oikeuksia? Olisiko meillä sitä kohtaan velvollisuuksia?
Kysymys on mielenkiintoinen koska tavallisesti ajattelemme että tietyt oikeudet ovat itseisarvoja. Kun argumentoimme miksi jokin asia johtaa oikeuksiin, teemme niistä väistämättä välinearvoisia. Esimerkiksi oikeus elämään ja ruumiilliseen koskemattomuuteen ja ihmisarvoon ovatkin kenties ominaisuussidonnaisempia kuin voisimme uskoa ; Tämä johtaa siihen henkeen että jos oletetaan että ihmisillä on ihmisoikeudet. Sen sijaan bakteerilla ei ole oikeuksia. Ja syynä on se, että tietyt ehdot, ominaisuudet, eivät täyty bakteerien kohdalla. Tämä tärkeä ero on se miksi yhdellä on ominaisuudet ja toisella ei. ; Tässä valossa on vaikeaa nähdä mitä tarkoittaa kun puhutaan "absoluuttisesta ihmisarvosta". Onko kyse siitä että arvot ovat ehdollisia. Vai onko niin että ihmisen kriteeriattribuutit ovat niitä joiden kautta oikeudet tulevat jolloin heti kun olet ihminen, arvot ovat ehdottomia.
Robottien kohdalla voidaan ainakin ajatella että:
1: Jos moraali on sitä että velvollisuuksia ja oikeuksia annetaan kykyjen mukaan niin robotit ovat hyvin ihmismäisiä niin silloin niillä olisi samanlaisia velvollisuuksia ja oikeuksia kuin ihmisillä.
2: Jos moraalin tehtävänä on maksimoida onnellisuutta, on katsottava että tietoiselle robotille olisi annettava oikeuksia koska nekin ovat maksimoimassa hedonistista onnea. (Tosin tätä voidaan torjua robottien kohdalla selittämällä että kyseessä on filosofinen zombie.)
3: Toisaalta monet moraalimallit korostavat että on joitain moraalisia velvoitteita jotka koskevat nimenomaan omaa perhettä. Esimerkiksi Konfutsen ajatuksissa perheelle on erityisiä velvollisuuksia ja oikeuksia. Näin ollen robotilla voisi olla vähemmän velvollisuuksia hoivata ketään - mutta toisaalta sillä ei välttämättä ole mitään oikeutta itse tulla hoivatuksi.
4: Itse asiassa voidaan ajatella että ihmislaji on sukua toisilleen ja tämä sukulaisuus on lähde oikeuksille. Kuten perisyntikin, niin myös ihmisoikeudet kulkisivat "vähän epäreilusti ja ilman tekoja ja ansioita" sukupolvelta toiselle. Ja näin robotilla ei välttämättä olisi mitään oikeuksia.
5: Toisaalta tekeminen tarkoittaa usein jonkinlaista valtaa. Vanhemmilla on valtaa jo lapsiinsakin, mutta periaatteessa tekijänoikeus tarkoittaa melko paljon koneiden kohdalla. Tästä voi seurata se että ihmisellä on ikään kuin Jumalan auktoriteetti robotteihin. Tosin on kiinnostavaa voidaanko tätä oikeutta ostaa niin että tosiasiassa robotin oikeudet ja velvollisuudet määrääkin joku omistaja. Sellainen joka ei välttämättä osaa tehdä robotteja lainkaan. Ja joka ei itse asiassa ole ominaisuuksiltaan roboteista poikkeava. Asiaa ei ratkaista kyvyllä vaan maksusuoritteella jossa robotti ei saa mitään. Tämä voisi johtaa siihen että olisi oikein kohdella robottia kuin orjaa (~kuten Jumala ihmistä) vaikka ihmisiä ei olisikaan.
6: On vaikeaa nähdä että ihmisillä olisi velvollisuuksia robotteja kohtaan. Kenties olisi mahdollista johtaa jonkinlaiseen "Extant" -televisiosarjan henkiseen tilanteeseen jossa robotti onkin lapsen analogi. Tämä nostaa esiin jonkinlaisen eksistentiaalisen asenteen jossa robotin tekijä olisi vastuussa ja velvollisuussuhteessa tehtyyn robottiin - jopa vahvemmin kuin seksillä syntyneiden lasten kohdalla, sillä lapsi voi syntyä raiskauksella tai vahinkoseksissä, mutta robotti pitää työläästi ja tietoisesti rakentaa.
Kaikista helpointa on kuitenkin ohittaa koko kysymys tunteilulla. Tavalla jossa koetaan epämääräistä epämukavuutta robotteja kohtaan ja siksi kiistetään että niillä mitenkään voisi olla oikeuksia. Tämä on siitä hauska näkemys että sitä on helppo puolustaa selittämällä että oikeudet onkin sidottu tietynlaisiin DNA -molekyyleihin. Jos robotti olisi tehty jollain muulla tavalla kuin ihmisDNA:lla, kyseessä ei olisi aito ihminen. Tämä mahdollisuus syntyy heti kun tiedostetaan että oikeudet ovat itse asiassa pakosti jollain tavalla ehdollisia. Kysymys on enää siitä mitä nämä oikeudet ovat.
Tämä avaa tilaa "Blade Runnerin" tyyliselle maailmalle jossa ihmisten seassa elää ei-ihmisiä jotka ovat vaikeasti toisistaan tunnistettavia. (Erottelutestit vaativat supertiedettä ja tarkkaa metodia.) Mutta tässä maailmassa testiero ei olisi niin että ulkoinen ruumis olisi samanlainen mutta erot etsitään pienistä psykologisista eroista. Tässä asia olisi toisin päin. Robotti ei tiedä olevansa robotti. Psykologia on samanlaista. Kuvittele että olet ihminen joka käy tuossa teistissä. Mutta sitten käytetään DNA -testiä ja sinut todetaan robotiksi. Se tuntuu omituiselta, kognitiivinen dissonanssi tarjoaa väärää positiivista selitykseksi. Ja nyt sinulta sitten vaaditaan että luovut ihmisoikeuksistasi testituloksen päätteeksi.
Periaatteessa tilanne on vielä pahempi. Sillä tämä antaa valtaa ihmisen määrittelijöille. On aivan mahdollista määritellä ihmistä tavoilla joissa ulos jää sellaisia kohteita joita on muutoin tavattu pitää ihmisinä. Kun ihmisoikeudet ovat ehdottomia vain ihmisille, syntyy tilanne jossa voidaan periaatteessa määritellä tietyt epämiellyttävät tahot ei-ihmisiksi ja sitoa tämä ominaisuuteen jota voidaan testata. Näin tuomio on aina tehtävissä määritelmän mukainen ja sitä voidaan pitää objektiivisena.
Kysymys on mielenkiintoinen koska tavallisesti ajattelemme että tietyt oikeudet ovat itseisarvoja. Kun argumentoimme miksi jokin asia johtaa oikeuksiin, teemme niistä väistämättä välinearvoisia. Esimerkiksi oikeus elämään ja ruumiilliseen koskemattomuuteen ja ihmisarvoon ovatkin kenties ominaisuussidonnaisempia kuin voisimme uskoa ; Tämä johtaa siihen henkeen että jos oletetaan että ihmisillä on ihmisoikeudet. Sen sijaan bakteerilla ei ole oikeuksia. Ja syynä on se, että tietyt ehdot, ominaisuudet, eivät täyty bakteerien kohdalla. Tämä tärkeä ero on se miksi yhdellä on ominaisuudet ja toisella ei. ; Tässä valossa on vaikeaa nähdä mitä tarkoittaa kun puhutaan "absoluuttisesta ihmisarvosta". Onko kyse siitä että arvot ovat ehdollisia. Vai onko niin että ihmisen kriteeriattribuutit ovat niitä joiden kautta oikeudet tulevat jolloin heti kun olet ihminen, arvot ovat ehdottomia.
Robottien kohdalla voidaan ainakin ajatella että:
1: Jos moraali on sitä että velvollisuuksia ja oikeuksia annetaan kykyjen mukaan niin robotit ovat hyvin ihmismäisiä niin silloin niillä olisi samanlaisia velvollisuuksia ja oikeuksia kuin ihmisillä.
2: Jos moraalin tehtävänä on maksimoida onnellisuutta, on katsottava että tietoiselle robotille olisi annettava oikeuksia koska nekin ovat maksimoimassa hedonistista onnea. (Tosin tätä voidaan torjua robottien kohdalla selittämällä että kyseessä on filosofinen zombie.)
3: Toisaalta monet moraalimallit korostavat että on joitain moraalisia velvoitteita jotka koskevat nimenomaan omaa perhettä. Esimerkiksi Konfutsen ajatuksissa perheelle on erityisiä velvollisuuksia ja oikeuksia. Näin ollen robotilla voisi olla vähemmän velvollisuuksia hoivata ketään - mutta toisaalta sillä ei välttämättä ole mitään oikeutta itse tulla hoivatuksi.
4: Itse asiassa voidaan ajatella että ihmislaji on sukua toisilleen ja tämä sukulaisuus on lähde oikeuksille. Kuten perisyntikin, niin myös ihmisoikeudet kulkisivat "vähän epäreilusti ja ilman tekoja ja ansioita" sukupolvelta toiselle. Ja näin robotilla ei välttämättä olisi mitään oikeuksia.
5: Toisaalta tekeminen tarkoittaa usein jonkinlaista valtaa. Vanhemmilla on valtaa jo lapsiinsakin, mutta periaatteessa tekijänoikeus tarkoittaa melko paljon koneiden kohdalla. Tästä voi seurata se että ihmisellä on ikään kuin Jumalan auktoriteetti robotteihin. Tosin on kiinnostavaa voidaanko tätä oikeutta ostaa niin että tosiasiassa robotin oikeudet ja velvollisuudet määrääkin joku omistaja. Sellainen joka ei välttämättä osaa tehdä robotteja lainkaan. Ja joka ei itse asiassa ole ominaisuuksiltaan roboteista poikkeava. Asiaa ei ratkaista kyvyllä vaan maksusuoritteella jossa robotti ei saa mitään. Tämä voisi johtaa siihen että olisi oikein kohdella robottia kuin orjaa (~kuten Jumala ihmistä) vaikka ihmisiä ei olisikaan.
6: On vaikeaa nähdä että ihmisillä olisi velvollisuuksia robotteja kohtaan. Kenties olisi mahdollista johtaa jonkinlaiseen "Extant" -televisiosarjan henkiseen tilanteeseen jossa robotti onkin lapsen analogi. Tämä nostaa esiin jonkinlaisen eksistentiaalisen asenteen jossa robotin tekijä olisi vastuussa ja velvollisuussuhteessa tehtyyn robottiin - jopa vahvemmin kuin seksillä syntyneiden lasten kohdalla, sillä lapsi voi syntyä raiskauksella tai vahinkoseksissä, mutta robotti pitää työläästi ja tietoisesti rakentaa.
Kaikista helpointa on kuitenkin ohittaa koko kysymys tunteilulla. Tavalla jossa koetaan epämääräistä epämukavuutta robotteja kohtaan ja siksi kiistetään että niillä mitenkään voisi olla oikeuksia. Tämä on siitä hauska näkemys että sitä on helppo puolustaa selittämällä että oikeudet onkin sidottu tietynlaisiin DNA -molekyyleihin. Jos robotti olisi tehty jollain muulla tavalla kuin ihmisDNA:lla, kyseessä ei olisi aito ihminen. Tämä mahdollisuus syntyy heti kun tiedostetaan että oikeudet ovat itse asiassa pakosti jollain tavalla ehdollisia. Kysymys on enää siitä mitä nämä oikeudet ovat.
Tämä avaa tilaa "Blade Runnerin" tyyliselle maailmalle jossa ihmisten seassa elää ei-ihmisiä jotka ovat vaikeasti toisistaan tunnistettavia. (Erottelutestit vaativat supertiedettä ja tarkkaa metodia.) Mutta tässä maailmassa testiero ei olisi niin että ulkoinen ruumis olisi samanlainen mutta erot etsitään pienistä psykologisista eroista. Tässä asia olisi toisin päin. Robotti ei tiedä olevansa robotti. Psykologia on samanlaista. Kuvittele että olet ihminen joka käy tuossa teistissä. Mutta sitten käytetään DNA -testiä ja sinut todetaan robotiksi. Se tuntuu omituiselta, kognitiivinen dissonanssi tarjoaa väärää positiivista selitykseksi. Ja nyt sinulta sitten vaaditaan että luovut ihmisoikeuksistasi testituloksen päätteeksi.
Periaatteessa tilanne on vielä pahempi. Sillä tämä antaa valtaa ihmisen määrittelijöille. On aivan mahdollista määritellä ihmistä tavoilla joissa ulos jää sellaisia kohteita joita on muutoin tavattu pitää ihmisinä. Kun ihmisoikeudet ovat ehdottomia vain ihmisille, syntyy tilanne jossa voidaan periaatteessa määritellä tietyt epämiellyttävät tahot ei-ihmisiksi ja sitoa tämä ominaisuuteen jota voidaan testata. Näin tuomio on aina tehtävissä määritelmän mukainen ja sitä voidaan pitää objektiivisena.
Tilaa:
Blogitekstit (Atom)