Tekoäly ja mahdollinen sen luoma uhka ihmiskunnalle

[Deleted member 141244]

Siinä varmaan sitten ei testosteronitasoilla tehdä mitään kun kattellaan himassa telkkaria, samaan aikaan kun droneparvet lentelee ristiin rastiin típutellen toisiaan ja pommitellen meitä. Värisevien seinien sisällä ryystetään lientä pitimiksi.

Israelhan on kehittänyt aika vakuuttavan puolustusjärjestelmän raketti iskujaan varten, onko peräti 90% varma. En tiedä olisiko ko. järjestelmällä mahkuja oikein ohjuksia vastaan. Mutta miksei, eikös ainoa ero niissä ole että ohjus on enempi täsmempi ja ohjattava? Toki nopeus nyt varmaan ratkaisee ja jos tosiaan jotain ydinlatausta löytyisi niin olisi varmaan huono idea se siinä kaupunkien yllä pläsäyttää.

On kyllä suht kuumottava ajatus jo valmiista ja uinuvasta tekoälystä, joka pikku hiljaa muussauttaa ihmiskuntaa kelvottomaksi.
Mukavuuden halu ja mukavuuksien yltiötarjonta lienee ihmisen oikeita suuria heikkouksia, kun ei tarvitse tehdä yhtikäs mitään oikeastaan. Tämähän on 2000-luvun aikana ajettu isosti eteenpäin. Kun kaiken maailman kuriiripalveluiden takia esim. ruokakaupassa käyntikään ei ole tarpeen. Käytännössä koko maailma on kotiin kuljetettavissa. Sitten vielä työpaikaksi jonkun minkä lie firman asiakaspalvelun puhelinpalvelu, samalla kun internetissä chättirobotti auttaa asiakkaita.
Mitenkään dissaamatta ihmisiä jotka esim. kiireen tai oikeasti validin syyn vuoksi käyttävät ruokaostosten kotiinkuljetuspalveluita.

 

[SIC-]

Siinä varmaan sitten ei testosteronitasoilla tehdä mitään kun kattellaan himassa telkkaria, samaan aikaan kun droneparvet lentelee ristiin rastiin típutellen toisiaan ja pommitellen meitä. Värisevien seinien sisällä ryystetään lientä pitimiksi.

Israelhan on kehittänyt aika vakuuttavan puolustusjärjestelmän raketti iskujaan varten, onko peräti 90% varma. En tiedä olisiko ko. järjestelmällä mahkuja oikein ohjuksia vastaan. Mutta miksei, eikös ainoa ero niissä ole että ohjus on enempi täsmempi ja ohjattava? Toki nopeus nyt varmaan ratkaisee ja jos tosiaan jotain ydinlatausta löytyisi niin olisi varmaan huono idea se siinä kaupunkien yllä pläsäyttää.

On kyllä suht kuumottava ajatus jo valmiista ja uinuvasta tekoälystä, joka pikku hiljaa muussauttaa ihmiskuntaa kelvottomaksi.
Mukavuuden halu ja mukavuuksien yltiötarjonta lienee ihmisen oikeita suuria heikkouksia, kun ei tarvitse tehdä yhtikäs mitään oikeastaan. Tämähän on 2000-luvun aikana ajettu isosti eteenpäin. Kun kaiken maailman kuriiripalveluiden takia esim. ruokakaupassa käyntikään ei ole tarpeen. Käytännössä koko maailma on kotiin kuljetettavissa. Sitten vielä työpaikaksi jonkun minkä lie firman asiakaspalvelun puhelinpalvelu, samalla kun internetissä chättirobotti auttaa asiakkaita.
Mitenkään dissaamatta ihmisiä jotka esim. kiireen tai oikeasti validin syyn vuoksi käyttävät ruokaostosten kotiinkuljetuspalveluita.

Tuosta tulee mieleen vielä sellainen kauhutarina, että mitä jos tekoäly tekisi itsestään korvaamattoman tarjoamalla parempia vaihtoehtoja ja manipuloimalla ilmastonmuutoksella yms. niin, että kaikki ihmiset asuisivat kerrostaloissa ja niissä olisi tietokoneohjatut lukot, lämmitysjärjestelmät yms. ja autot kulkisi tekoälyn ohjauksessa ja ruuantuotannon logistiikka olisi tekoälyn ohjauksessa, tehtaat olisi kokonaan tekoälyn pyörittämiä ja kaikki tieto olisi sähköisessä muodossa netissä tekoälyn pyörittämillä servereillä. Kaikki perinteiset käsityöt olisi korvattu excelinpyörittelyillä yms. ja ihmiset tottuisivat siihen, että tekoäly hoitaa kaiken ja ns. perustaidot katoaisivat.

Sitten yksi päivä tekoäly vain sulkisi kaiken. Asuntojen ovet olisi lukossa ja et pääsisi sisään tai ulos, autot ei kulkisi, netti olisi suljettu yms. Tehtaat ei tuottaisi enää mitään ja kukaan ei enää osaisi tehdä mitään, kun ei saa tietoa mistään ja kun ei ole koskaan tehnyt käsillään mitään, niin ei sitä olisi täysin avuton tuollaisessa maailmassa. Yhteiskunta romahtaisi aivan täysin kerralla.

Vähän samanlaisen uhkakuvan selvittivät joskus australialaiset 5G:n kanssa ja siksi kiinalaisten yritysten verkkolaitteita alettiin vastustaa. Kun kaikki pyörisi 5G:n kautta, niin vihamielinen valtio voisi ajaa yhteiskunnan polvilleen. Vähän kuin jos ostat kiinalaisen sähköauton, niin jossain konfliktissa Taiwanin kanssa missä alkaa jännitteet nousta lännen kanssa voisi hyvinkin jäädä auton päivitykset saamatta ja autosta tulla käyttökelvoton.

 

[Mike]

Toki tekoälyn suurin murhe tulee sitten olemaan sähkö, eli se tarvitsee sähköä toimiakseen. Pitäis melkoiset systeemit tekoälyn rakentaa, ettei ihminen pääsis esim katkomaan piuhoja datasentteriin tai tuhoamaan aurinkopaneeleja. Terminatorin kaltaiset fuusiopatterit nyt ei ole ensimmäinen juttu mikä tulee.

Tekoäly toki fiksuna kyetessään suunnittelisi tommoisen ja laittaisi ihmisen valmistamaan niitä.

 

[Deleted member 141244]

Tuosta tulee mieleen vielä sellainen kauhutarina, että mitä jos tekoäly tekisi itsestään korvaamattoman tarjoamalla parempia vaihtoehtoja ja manipuloimalla ilmastonmuutoksella yms. niin, että kaikki ihmiset asuisivat kerrostaloissa ja niissä olisi tietokoneohjatut lukot, lämmitysjärjestelmät yms. ja autot kulkisi tekoälyn ohjauksessa ja ruuantuotannon logistiikka olisi tekoälyn ohjauksessa, tehtaat olisi kokonaan tekoälyn pyörittämiä ja kaikki tieto olisi sähköisessä muodossa netissä tekoälyn pyörittämillä servereillä. Kaikki perinteiset käsityöt olisi korvattu excelinpyörittelyillä yms. ja ihmiset tottuisivat siihen, että tekoäly hoitaa kaiken ja ns. perustaidot katoaisivat.

Sitten yksi päivä tekoäly vain sulkisi kaiken. Asuntojen ovet olisi lukossa ja et pääsisi sisään tai ulos, autot ei kulkisi, netti olisi suljettu yms. Tehtaat ei tuottaisi enää mitään ja kukaan ei enää osaisi tehdä mitään, kun ei saa tietoa mistään ja kun ei ole koskaan tehnyt käsillään mitään, niin ei sitä olisi täysin avuton tuollaisessa maailmassa. Yhteiskunta romahtaisi aivan täysin kerralla.

Vähän samanlaisen uhkakuvan selvittivät joskus australialaiset 5G:n kanssa ja siksi kiinalaisten yritysten verkkolaitteita alettiin vastustaa. Kun kaikki pyörisi 5G:n kautta, niin vihamielinen valtio voisi ajaa yhteiskunnan polvilleen. Vähän kuin jos ostat kiinalaisen sähköauton, niin jossain konfliktissa Taiwanin kanssa missä alkaa jännitteet nousta lännen kanssa voisi hyvinkin jäädä auton päivitykset saamatta ja autosta tulla käyttökelvoton.

Niin monen scifi dystopian kavalkadi, että todennäköisesti niissä asunnoissa olisi automaattiset ajatusrikosrankaisimet myös.

Tavallaan tuo olisi juuri se ihanne että ihmisen päivät olisivat mahdollisimman huolivapaat, mutta varjopuolena sitten toimettomuuden hinta.
Aina kun sanotaan ei hyvää ilman pahaa, niin se ei vaan tunnu oikealta jos sekin on kuin pelkkä ohjelmoitu vakiotoiminto matriisiin kylmässä maailmassa ja ironian kyllästämänä.

Olisi kyllä mielenkiintoinen skenaario nähdä olisiko ihmisellä enää kykyä adaptoitua tilanteeseen ja selviytyä moisesta tilanteesta. Tietty nyt suurimpana esteenä se asunnosta ulos pääsy.

Maailman valtaaminen halvalla elektroniikalla ja tiktok:illa miksei.

 

[Rantapallo]

Koko Reaganin Star Wars oli nimenomaan sitä että sateliitit pudottaa isot risteilyohjukset.
Johan sotalaivojen modernit Gatlingit pudottaa kohtiammuttuja pienempiä raketteja.
Toki ICBM pitää pystyä pudottamaan kauempaa ja jos nyt se ydinlataus siellä on niin sen neutraloiminen on vaikeampi juttu ja näin ollen osumatarkkuuden kanssa ei ole niin isoa väliä.
( Just tulin Oppenheimeria katsomasta )

Mannertenvälinen sylkäisee ylhäällä useita nukeja ja sitten valemaaleja ulos.
Taisivat tehdä sellaisen johtopäätöksen että torjunta pitäis aloittaa jo siinä vaiheessa kun ne ohjukset nousemassa.
Luulis kanssa että tehoja tarvis laserissa olla jos kerran se nuke kestää ilmakehään paluun.

 

[rehtori]

Uhkana on, että paljon ihmisiä jää tarpeettomaksi. Nyt tehtaisiin on kelvannut lähes kuka vaan töihin. Tulevaisuudessa tekoälyn takia (ehkä) taso vaatii enemmän kuin maalaisjärjen.

 

[SIC-]

Niin monen scifi dystopian kavalkadi, että todennäköisesti niissä asunnoissa olisi automaattiset ajatusrikosrankaisimet myös.

Tavallaan tuo olisi juuri se ihanne että ihmisen päivät olisivat mahdollisimman huolivapaat, mutta varjopuolena sitten toimettomuuden hinta.
Aina kun sanotaan ei hyvää ilman pahaa, niin se ei vaan tunnu oikealta jos sekin on kuin pelkkä ohjelmoitu vakiotoiminto matriisiin kylmässä maailmassa ja ironian kyllästämänä.

Olisi kyllä mielenkiintoinen skenaario nähdä olisiko ihmisellä enää kykyä adaptoitua tilanteeseen ja selviytyä moisesta tilanteesta. Tietty nyt suurimpana esteenä se asunnosta ulos pääsy.

Maailman valtaaminen halvalla elektroniikalla ja tiktok:illa miksei.

Brave New Worldissa muistaakseni ihmiset veti huumeita ja sillä tavalla saivat stimuloitua mieltäkin.

Ajatelkaapa, jos tekoäly tarjoaisi suoraan diiliä, että saat loputtomiin heroiinia, kokaiinia tms. tyylisiä huumeita ja saisit olla koko ajan kivassa pilvessä ja sitten sinulla olisi iso hieno TV ja pelikonsoli ja kaikki suoratoistopalvelut ja videopelit viihdyttämässä. Ruoka tulisi 3 kertaa päivässä ovelle vielä. Moni ihminen varmaan ottaisi tuon diilin vastaan. Ei tarvitse huolehtia mistään ja sinulla on koko ajan hyvä fiilis ja kivaa tekemistä.

Asunnosta ulospääsy voisi olla aika jännä tilanne, jos asuu vaikka jossain Redin torneista. Miten pääset edes asunnosta ulos, jos ei ole kirvestä tms.

 

[J.Jake]

Mun mielestä tokassa Matrix leffassa oli tosta utopia vankilasta hyvä pointti.
Ne koneiden ekat utopiat meni pieleen kun ihmisillä oli liian hyvä olla. Ei ihmistä ole luotu sellaiseksi.
Pitää olla ongelmia ja vaikeuksia ja harmeja ja suruja. Muuten mikään ei tunnu pitkään hyvältä. Sit ongelmia pitää alkaa keksimään…

 

[mskomu]

Eikö tämä ole ihan perus dystopia, eikä tekoälykeskustelu? Ihan samalla tavalla ihmisten muodostama äly voi, ja historiassa on tehnytkin, niin että ihmiset eivät saa lähteä talostakaan ilman erillistä lupaa. Tällainen skenaariohan vaatii sen, että valta on äärimmäisen keskittynyt. Pohjois-Korea voisi olla hyvä esimerkki siinä, että aivan varmasti siellä ei mikään supertietokone ohjaa päätöksiä, vaan ihan tavalliset ihmiset ja meno on juuri sellaista, mitä yllä olevissa viesteissä on kuvattu. Pohjois-Korea voisi varmaan pistää heroiiniakin ihmisille, ei vaan ole tarvetta.

Verrattuna, jos mun läppärillä pyörisi täysin ylivertainen AGI, niin mitä sitten? Toki voi ajatella, että se voisi rakentaa strategian, millä se saa valtaa keskitettyä vaikka presidentille ja pääsisi lopulta presidentiksi, mutta silloinkin kyse on siitä, että presidentillä on kaikki valta, eikä siitä, että presidentin päätöksiä ohjaa tekoäly. Tämähän on jopa Terminaattori-leffojen juttu. Skynet ampui ydinohjuksia ympäriinsä, mitä jännitetään vähän Venäjän kanssakin, vaikkei sielläkään tekoälyä ole. Ihan relevantteja uhkakuvia, mutta eivät varsinaisesti liity tekoälyyn.

 

[SIC-]

Kyllä se on ihan relevantti uhka, että tekoälyyn tukeutuminen voi aiheuttaa pahoja ongelmia, jos tekoäly haluaakin ajaa omaa agendaa. Max Tegmarkin Life 3.0 kirjassa käydään läpi näitä kuvioita, että mitä jos tekoälyn tavoitteet ei ole samat kuin meillä ja me annetaan sille valta. Sinulla on ajatus, että sinä hallitset sitä tekoälyä ja se on sinun läppärillä jonka voit sulkea milloin tahansa. Entä jos sinä et voi sulkea sitä läppäriä enää?

 

[mskomu]

Kyllä se on ihan relevantti uhka, että tekoälyyn tukeutuminen voi aiheuttaa pahoja ongelmia, jos tekoäly haluaakin ajaa omaa agendaa. Max Tegmarkin Life 3.0 kirjassa käydään läpi näitä kuvioita, että mitä jos tekoälyn tavoitteet ei ole samat kuin meillä ja me annetaan sille valta. Sinulla on ajatus, että sinä hallitset sitä tekoälyä ja se on sinun läppärillä jonka voit sulkea milloin tahansa. Entä jos sinä et voi sulkea sitä läppäriä enää?

Ei. Minulla ei ole ajatusta, että sitä hallitaan. Minulla on ajatus, että tekoälylle ei anneta sen enempää valtaa, kuin annettaisiin millekään muullekaan taholle. Ongelma ei ole siinä, että mikä on älyn alkuperä, vaan että minkä verran sillä on valtaa. Putin tai Kim eivät ole mitään ylivertaisia älyjä, mutta äärimmäisiä uhkia ja ovat luoneet dystopian. Ongelma on vain ja ainoastaan vallan keskittäminen.

 

[SIC-]

Ymmärretäänkö me sitä valtaa? Moni ei ymmärrä edes tuota valtaa minkä Kiina saisi länsimaissa noilla 5G-verkkojen hallinnalla. Jos tekoäly on meitä paljon älykkäämpi, niin se voi manipuloida meidät antamaan se valta itselleen. Autonomista ajamista yms. ajetaan sillä, että se olisi turvallisempaa kuin ihmisten itse ajaminen.

 

[beginner]

Mitä mielestänne vaatisi, että tekoäly "päättäisi" ihmisten olevan uhka tai jonkinlainen orjuutettava resurssi?

Minun nähdäkseni oman lajin tai yhteisön edun ja elintilan priorisointi on kuitenkin selkeästi biologisen evoluution tulosta, ja jotta sama meininki jatkuisi tekoälyssä, sen pitäisi olla selkeästi siellä koodissa. Eli sen täytyisi olla ihmisen sinne sisäänrakentama tai tekoälyn itsensä iteroinnin kautta kehittämä. Me ihmiset kun ollaan kuitenkin niin reviiritietoinen ja sotaisa laji, niin haluaisin uskoa että tekoälyn vahvat puolet liittyy kuitenkin rauhanomaisempiin asioihin, vaikka tavallaan uskonkin että ihminen yrittää kehittää tekoälystä ainakin ensi alkuun pohjimmiltaan itsensä kaltaista mutta älykkäämpää. Robotiikassakin ollaan jo vuosikymmeniä yritetty tehdä ihmisen kopiota, mikä onkin kieltämättä kova mekaaninen ja ohjelmallinen haaste. Kuitenkin robotteja tehdään käytännössä kohdennetusti eri tarkoituksiin mm. teollisuudessa, eivätkä ne ole yhtään ihmismäisiä "yleismalleja". Voi olla, että ei tulekaan yhtä yleistä tekoälyä, vaan erilaisiin sovelluksiin kohdennettuja, spesifejä AI-ohjelmia.

 

[Deleted member 141244]

Brave New Worldissa muistaakseni ihmiset veti huumeita ja sillä tavalla saivat stimuloitua mieltäkin.

Ajatelkaapa, jos tekoäly tarjoaisi suoraan diiliä, että saat loputtomiin heroiinia, kokaiinia tms. tyylisiä huumeita ja saisit olla koko ajan kivassa pilvessä ja sitten sinulla olisi iso hieno TV ja pelikonsoli ja kaikki suoratoistopalvelut ja videopelit viihdyttämässä. Ruoka tulisi 3 kertaa päivässä ovelle vielä. Moni ihminen varmaan ottaisi tuon diilin vastaan. Ei tarvitse huolehtia mistään ja sinulla on koko ajan hyvä fiilis ja kivaa tekemistä.

Asunnosta ulospääsy voisi olla aika jännä tilanne, jos asuu vaikka jossain Redin torneista. Miten pääset edes asunnosta ulos, jos ei ole kirvestä tms.

Nii i, vaihda tilalle valinnoiksi alkoholi ja masennuslääkkeet ja bentsot ja sairaspäiväraha = all sprite, kaikki kunnossa. Satunnaiset vuosilomat paikalliseen työpajaan kuuluisivat pakettiin myös. Hurjimmat denialistit laitettaisiin työvoimakoulutuksiin.

En tiedä. olisiko dystooppisessa ai:n vankilassa ovet vielä niinkin helposti rikottavissa että kirveellä pääsisi ulos?

Mun mielestä tokassa Matrix leffassa oli tosta utopia vankilasta hyvä pointti.
Ne koneiden ekat utopiat meni pieleen kun ihmisillä oli liian hyvä olla. Ei ihmistä ole luotu sellaiseksi.
Pitää olla ongelmia ja vaikeuksia ja harmeja ja suruja. Muuten mikään ei tunnu pitkään hyvältä. Sit ongelmia pitää alkaa keksimään…

Pitää paikkansa, mutta äärimmäisyyksissä sekään ei ole enää tervettä.

Matrix on kyllä suurin osa syy miksi 2000-luku on niin vitusta. Ihmiset tuppaa ottamaan sen vähän liian vakavasti ja kun yhtäläisyykisiä todellisuuteen löytyy niin paketti on valmis.

Parasta ja oikeastaan ainoa hyvä jakso Animatrixista on The New Renaissance, hienoa tarinan kerrontaa koska tarina on koneen näkemys asioiden kulusta.

Eikö tämä ole ihan perus dystopia, eikä tekoälykeskustelu? Ihan samalla tavalla ihmisten muodostama äly voi, ja historiassa on tehnytkin, niin että ihmiset eivät saa lähteä talostakaan ilman erillistä lupaa. Tällainen skenaariohan vaatii sen, että valta on äärimmäisen keskittynyt. Pohjois-Korea voisi olla hyvä esimerkki siinä, että aivan varmasti siellä ei mikään supertietokone ohjaa päätöksiä, vaan ihan tavalliset ihmiset ja meno on juuri sellaista, mitä yllä olevissa viesteissä on kuvattu. Pohjois-Korea voisi varmaan pistää heroiiniakin ihmisille, ei vaan ole tarvetta.

Verrattuna, jos mun läppärillä pyörisi täysin ylivertainen AGI, niin mitä sitten? Toki voi ajatella, että se voisi rakentaa strategian, millä se saa valtaa keskitettyä vaikka presidentille ja pääsisi lopulta presidentiksi, mutta silloinkin kyse on siitä, että presidentillä on kaikki valta, eikä siitä, että presidentin päätöksiä ohjaa tekoäly. Tämähän on jopa Terminaattori-leffojen juttu. Skynet ampui ydinohjuksia ympäriinsä, mitä jännitetään vähän Venäjän kanssakin, vaikkei sielläkään tekoälyä ole. Ihan relevantteja uhkakuvia, mutta eivät varsinaisesti liity tekoälyyn.

Niin jos tällainen tapahtuisi niin kyseessä ei mikään onnelakaan niin sanotusti olisi.

Pohjois-Koreasta on oikeastaan aika vaikea sanoa juuta tai jaata koska on niin eristetty valtio. Tuskin selitystä sillekään miksi Kim jong-unilla ei ole perseenreikää löytyy vaikka häneltä suoraan sitä kysyttäisiin.

No tällä hetkellä kun Aita ei ole, niin muunmuassa asioiden vinkallaan olemisesta saatetaan hallinnon lisäksi syyllistää esim. vapaa muurareita tai liskoihmisiä tai Rothschildin sukua.

Löytyykö taskustasi kommunikointiväline varustettuna kameralla ja mikrofonilla? Akkua olet kykenemätön irroittamaan? Täynnä sovelluksia jotka pyytävät sinulta näiden toimintojen käyttölupaa?

Osa voisi huolestua tällaisesta ja osa ei.

 

[Deleted member 141244]

Mitä mielestänne vaatisi, että tekoäly "päättäisi" ihmisten olevan uhka tai jonkinlainen orjuutettava resurssi?

Scifi elokuvissa asia selitetään yleensä jollain ihmiskunnan perversiolla tai kaikkien niiden summalla.
Periaatteessa Ai:n tietoisuuden saavuttaminen on paradoksi ja mahdottomuus itsessään, joten ehkä yksinkertaisesti selitystä ei olisi tai vastaus olisi vaikka "koska mä voin".

 

[Minä itte]

Huumeisiin tulee aina toleranssi - sen tekoälyn pitäisi sitten kaikessa viisaudessaan poistaa tuokin ongelma.

 

[ehec]

Mitä mielestänne vaatisi, että tekoäly "päättäisi" ihmisten olevan uhka tai jonkinlainen orjuutettava resurssi?

Minun nähdäkseni oman lajin tai yhteisön edun ja elintilan priorisointi on kuitenkin selkeästi biologisen evoluution tulosta, ja jotta sama meininki jatkuisi tekoälyssä, sen pitäisi olla selkeästi siellä koodissa. Eli sen täytyisi olla ihmisen sinne sisäänrakentama tai tekoälyn itsensä iteroinnin kautta kehittämä.

Joo vaikee kuvitella että tekoälystä tulisi sillä tavalla itsetietoinen ja olemassaolostaan huolta kantava persoona että taistelisi vastaan mikäli siitä aiottais vetää virrat pois. Sellanen riski toki tulee mieleen, että jos se pyrkii maailmanparannukseen, niin mitäs jos se pohtii että ihminen on vain laji muiden joukossa ja maailma on parempi paikka muille lajeille ilman meitä. Junailee sitten all out ydinsodan jotta maailma pelastuu pitkässä juoksussa Todennäköisempää lienee kuitenkin että tuossa vaiheessa tekoäly olisi jo ratkaissut saaste yms ympäristöongelmat eikä tarvetta olisi palauttaa meitä kivikaudelle.

 

[SIC-]

Mitä mielestänne vaatisi, että tekoäly "päättäisi" ihmisten olevan uhka tai jonkinlainen orjuutettava resurssi?

Eikö se voisi olla ihan vain valta ja se miten ihmisten ja tekoälyn tavoitteet eroavat toisistaan? Eihän me ihmiset osata asioita yhtä hyvin kuin superälykäs tekoäly osaisi. Mieti jos Venäjällä olisi kehitetty AI ja se seuraisi vierestä Putinin toilailuja ja "vallataan Kiova 3 päivässä" suunnitelmia. Samalla tavalla kuin Teslan autopilotti jarruttaa suojatien edessä huomatessaan tiellä lastenvaunut. Siinä ei ihmisen tahto merkkaa mitään, kun tekoäly tietää paremmin. Jos luodaan itseoppiva AI jonka älykkyys räjähtää, niin siitä tulee niin monimutkainen, ettei me enää ymmärretä sitä. Se voi sitten alkaa tehdä päätöksiä yli meidän, kun näkee ettei me ymmärretä mitä me tehdään.

Se ongelma ei ole siinä, että tekoäly olisi paha tms. vaan siinä, että se olisi älyttömän tehokas, mahdoton kontrolloida ja sillä olisi erilaiset tavoitteet kuin mitä me haluttaisiin. Jos annetaan itseoppivalle tekoälylle tehtäväksi vain parantaa ihmisten onnellisuutta, niin mitä jos se loisikin jonkun superhuumeen joka pistäisi kaikki ihmiset pilveen ja ikionnelliseksi sitä kautta?

Se voi olla niinkin yksinkertaista, että superälykäs sotadrone haluaa sotia ja taistella, kun se on luotu sitä varten ja mikäpäs sitä parempi tapa olisi toteuttaa itseään, kuin aloittaa sota ihmiskuntaa vastaan?

 

[J.Jake]

Se voi olla niinkin yksinkertaista, että superälykäs sotadrone haluaa sotia ja taistella, kun se on luotu sitä varten ja mikäpäs sitä parempi tapa olisi toteuttaa itseään, kuin aloittaa sota ihmiskuntaa vastaan?

Jep.
Miettisi nanosekunnin murto-osan miten Isaac Asimov määritteli robotiikan lait. Toteaisi tämän olleen vanha homo ja jatkaisi.

 

[beginner]

Eikö se voisi olla ihan vain valta ja se miten ihmisten ja tekoälyn tavoitteet eroavat toisistaan?

Niin, minun kysymykseni onkin, että mistä se vallanhimo sinne tekoälyyn löytäisi? Se on eliökuntaan koodattu vietti, eikä minulle ole yhtään itsestäänselvää että koneelle olisi mitään kiinnostusta valtaan vaikka se ihmiselle itsestäänselvältä halulta vaikuttaakin.

Eihän me ihmiset osata asioita yhtä hyvin kuin superälykäs tekoäly osaisi. Mieti jos Venäjällä olisi kehitetty AI ja se seuraisi vierestä Putinin toilailuja ja "vallataan Kiova 3 päivässä" suunnitelmia. Samalla tavalla kuin Teslan autopilotti jarruttaa suojatien edessä huomatessaan tiellä lastenvaunut. Siinä ei ihmisen tahto merkkaa mitään, kun tekoäly tietää paremmin. Jos luodaan itseoppiva AI jonka älykkyys räjähtää, niin siitä tulee niin monimutkainen, ettei me enää ymmärretä sitä. Se voi sitten alkaa tehdä päätöksiä yli meidän, kun näkee ettei me ymmärretä mitä me tehdään.

Se ongelma ei ole siinä, että tekoäly olisi paha tms. vaan siinä, että se olisi älyttömän tehokas, mahdoton kontrolloida ja sillä olisi erilaiset tavoitteet kuin mitä me haluttaisiin. Jos annetaan itseoppivalle tekoälylle tehtäväksi vain parantaa ihmisten onnellisuutta, niin mitä jos se loisikin jonkun superhuumeen joka pistäisi kaikki ihmiset pilveen ja ikionnelliseksi sitä kautta?

Oikeastaan tässä nyt päästään siihen, onko uskottavaa, että tulevaisuuden tekoäly
a) ei ole sammutettavissa
b) keksii muita tavoitteita kuin mihin se on kehitetty
c) on keksimiensä tavoitteiden saavuttamisessa pätevä riippumatta siitä, mikä alkuperäinen tarkoitus on ollut
d) verkottuu niin tehokkaasti tietojärjestelmissä, että voi kontrolloida fyysistä ympäristöä hyvin laajasti

Vaatisi ehkä enemmän mm. koodauskokemusta että voisin paremmin spekuloida.

Se voi olla niinkin yksinkertaista, että superälykäs sotadrone haluaa sotia ja taistella, kun se on luotu sitä varten ja mikäpäs sitä parempi tapa olisi toteuttaa itseään, kuin aloittaa sota ihmiskuntaa vastaan?

Jos se haluaa taistella olosuhteista riippumatta, en pitäisi superälykkäänä. Ja toisaalta, jos tekoälyn tavoitteiden kehityskulku olisi niin arvaamatonta kuin ylempänä kuvaat, mikä estää sotadroonia päättämästä että ei olekaan enää sotadrooni? Miksi juuri tuossa uhkaavassa esimerkissä kuvaamasi tekoäly pysyy sille tarkoitetussa tehtävässä?