Laskentatehon kasvattaminen "loputtomasti" ei automaagisesti muuta ohjelmaa tietoiseksi (toisin kuin elokuvat väittää ;)). Jos tietoisuus muodostuu yksittäisissä soluissa niinkuin Mattih3 ylempänä kertoo, niin toki en näe mitään syytä että eikö kone voisi toimia samoin samoilla periaatteilla. Ongelmahan tässä tietysti on, että me ei tietenkään tiedetä miten tietoisuus muodostuu, joten vertaus on siltä osin ontuva. Itse en vain pysty näkemään ohjelmaa jolla on tahto (oikeasti, eikä vain nopalla random generaattorissa heitetty "valinta").
Jos me nyt porukalla kävellään polkua pitkin joka haarautuu kahdeksi samanlaiseksi poluksi. Osa meistä haluaa mennä oikean puoleista ja osa vasemman puoleista haaraumaa. Syitä voi olla miljoona miksi haluamme mennä toiseen. Tai ihan vain että tuntuu kivemmalta mennä tuota toista. Miten huippuunsa viritetty tekoäly tämän päättelisi kumpaa haluaa mennä? Mistä halu kumpuaa ihmisellä? Mitä on keinotekoinen halu? Tottakai tekoälylle voidaan luoda priorisoitu protokollalista, jonka mukaan toimia tilanteessa kuin tilanteessa, ja luoda illuusion että kone teki jotain omasta tahdostaan, mutta ei se silloin kuitenkaan ole oikeasti vapaa tahto, tai halu, mitä tehdä.
Mitä ylipäätään on valinnanvapaus? Jos mulle annetaan mahdollisuudeksi syödä omena tai banaani, ja jos valitsen omenan, niin valitsenko sen sattumanvaraisesti (mieli) vai koska kehoni tykkää enemmän omenoista (keho). Kumpi saa valita ja kumman valinta on valinnan vapaus?
Mitä tarkoittaa tietoisuus? Näen itseni peilistä ja tunnistan itseni siinä? Osaan ajatella asioita omasta näkökulmasta? Osaan haluta itselleni parasta? Erotan itseni muista kaltaisistani? Osaan unelmoida tulevasta? Osaan vastata kysymykseen kuka minä olen (osaako kukaan oikeasti?)? Ei pitäisi olla kovin vaikea ohjelmoida tunnistamaan kone itsensä näön perusteella (sijainti, muoto, väritys jne). Tekoälyautot meilkein noi loput kohdat jo tekeekin. Onko googlen auto sitten tietoinen?
Miten määritellään raja tietoisuuden ja konemaisen toimisen välille? En jaksa mitenkään uskoea, että oikeaa tietoisuutta kone tulee koskaan saamaan (edes tietokoneen itsensä rakentamana). Mahdollisimman lähelle illuusion tietoisuuedesta pystytään varmasti luomaan. Enemmän pelkäisin ohjelmoitua robottia joka goes rogue, eli ei pysty erottamaan omia vihollisesta, kuin tietoisen tekoälyn maailman valloitukseen.