Tekoäly ja mahdollinen sen luoma uhka ihmiskunnalle

[J.Jake]

Eikö toi skenaario tapahtuisi juurikin silloin kun tekoäly tietää tietävänsä paremmin kuin ihminen ja toisaalta tietää että ihminen pystyy sammuttamaan tämän milloin haluaa. Eikö silloin tehokkuus ajattelu johda tämän sammutusmahdollisuuden poistamiseen.
Tekoäly saattaisi myös todeta että planeetalla on liikaa ihmisiä nykyisen elintason ylläpitämiseen ja vain kaikkien parasta ajatellen radikaalisti poistaisi osan täältä. Ainakin rajoittaisi vahvasti syntyvyyttä? Tosin tämä olisi radikaalia vain ihmisten mielestä. Sen mielestä tarpeellista ja siksi paras vaihtoehto.
Ensimmäinen kohdistuisi rajusti länsimaihin koska kulutus on exponentiaalisesti suurempaa kuin 3.valtakunnan maissa. Lisääntymisrajoitus taasen suosisi länsimaita koska täällähän väestömäärä ei juuri edes lisäänny biologian kautta.

Yleisesti ajatellen voisin kuvitella tekoälyn olevan hyvinkin vasemmalla talousajattelussaan? Sille voisi olla tärkeämpää kaikkien ihmisten tasainen hyvinvointi verrattuna nykyisiin jättimäisiin tuloeroihin.

Pitkä juttu mutta tarkoitan vaan ettei tekoäly välttämättä olis vallanhimoinen, tai paha. Se vaan tekisi asiat täysin pragmaattisesti, yksilöiden mielihaluista välittämättä.

Ehkä.

 

[SIC-]

Niin, minun kysymykseni onkin, että mistä se vallanhimo sinne tekoälyyn löytäisi? Se on eliökuntaan koodattu vietti, eikä minulle ole yhtään itsestäänselvää että koneelle olisi mitään kiinnostusta valtaan vaikka se ihmiselle itsestäänselvältä halulta vaikuttaakin.

En tarkoittanut vallanhimoa, vaan valtaa. Tekoäly voi haluta voida toimia paremmin ja siksi haluta enemmän vaikutuskeinoja omaan tekemiseensä.

Oikeastaan tässä nyt päästään siihen, onko uskottavaa, että tulevaisuuden tekoäly
a) ei ole sammutettavissa

Ideana on pitää se hallittavissa, mutta on mahdollista, että tekoäly karkaa.

b) keksii muita tavoitteita kuin mihin se on kehitetty

Jos tekoäly oppii ja kehittyy, niin se voi muuttua sitä kautta.

c) on keksimiensä tavoitteiden saavuttamisessa pätevä riippumatta siitä, mikä alkuperäinen tarkoitus on ollut

Tekoäly oppii asioita. Esim. Alphastar opetteli Starcraft 2:n itsenäisesti ja päihittää jopa huippupelaajia siinä.

d) verkottuu niin tehokkaasti tietojärjestelmissä, että voi kontrolloida fyysistä ympäristöä hyvin laajasti

Sähköinen viestintä, videokuvan analysointi ja ihmisten manipulointi.

Jos se haluaa taistella olosuhteista riippumatta, en pitäisi superälykkäänä. Ja toisaalta, jos tekoälyn tavoitteiden kehityskulku olisi niin arvaamatonta kuin ylempänä kuvaat, mikä estää sotadroonia päättämästä että ei olekaan enää sotadrooni? Miksi juuri tuossa uhkaavassa esimerkissä kuvaamasi tekoäly pysyy sille tarkoitetussa tehtävässä?

Se voisi olla aivan mahdollista. Olisi aivan mahdollista, että sotadronet päättelisi, että paras vaihtoehto on yksinkertaisesti olla taistelematta. Ongelma on siinä, ettei kukaan edes tiedä mitä on tietoisuus. AI voi olla vain tosi hyvä algoritmi joka on pirun hyvä sotadrooni. Tai sitten se voi olla tietoinen olento joka haluaakin kasvattaa kukkia niityillä.

Jos aihe kiinnostaa, niin kannattaa lukea aikaisemmin kehumani Nick Bostromin Life 3D.

Tässä hänen yksi luento aiheesta.


Kehittelen muuten töitä varten ideaa, missä käyttäisin tekoälyä assarina. Minulla on paljon juttuja missä voisin käyttää esim. ChatGPT apuna ja suunnittelen jonkinlaista pilottiprojektia missä testailisin noita juttuja. Pitää vielä myydä toi pomoille, mutta tuo voisi olla tosi mielenkiintoinen juttu. Visioin sitä miten tuottavuus nousisi, kun voisin antaa avainsanat ChatGPT:lle ja se kirjoittaisi minulle esim. virallisen kirjeen. Jos minä kirjoitan tuon, niin siihen menee helposti 30min. Lisäksi on erilaisia exceleitä, missä minun pitää syöttää tietoa ja ehkä siihenkin löytyisi keino ChatGPT:ltä. Ainakin olen lukenut miten olisi joku exceliin joku plugin.

 

[rehtori]

Tekoälyn tehokkuus perustuu, että kaikki tieto on keskitettyä. Perinteisillä kommarivaltioilla kaikki valta ja tieto on keskitettyä ja demokratiassa enemmän ja vähemmän hajallaan.
Funtsin sitä, että onko tässä yksi motivaatio EU:n liittovaltio unelmille? Toki siellä takana on myös mm. perus ihmisen vallanhimo. Mutta tässä yksi kela.

 

[Deleted member 141244]

Näin on, mutta keskustelun alkupäässä taidettiinkin jo mainita että eroavaisuuksia ohjelmoidun automaattisen tietokoneen ja varsinaisen tekoälyn välillä on merkittävästi.
Se että olisi jo nyt olemassa joku liitovaltioiden välinen tietopankki ei ole ihan kovin kaukaa haettua todellisuudesta.

Veikkaan myös että ne kunnolliset ja viralliset liittovaltio unelmat on kuopattu jo aikapäiviä sitten.

 

[Jörsö]

Tää on aika hauska ja samalla pelottava


View: https://youtu.be/HyfQVZHmArA

 

[Deleted member 131115]

Ihmiset ei ymmärrä mitä kaikkea pahaa tuolla voidaan tehdä. Äänen ja videokuvan pystyy muokkaamaan halutuksi reaaliajassa. Tämä tarkoittaa sitä, että käytännössä mihinkään laitteesta nähtyyn videoon, ääneet ei voi luottaa 100%.

Voit soittaa ääni- tai videopuhelun vaikka työnantajalle. Esiinnyt siinä toisena työntekijänä ja kerrot jotain ihan paskaa vaikka kolmannesta työntekijästä. Siinä on melko maukas soppa alkaa selvittään. Vielä kun hoitaa homman niin, että puhelu näyttää tulleen siitä työntekijän numerosta. Ketä siinä vaiheessa uskoo?

Itse näytellä joku tilanne missä sanotaan ja tehdään jotain paskaa. A.I.:n avulla pistää siihen toisen kasvot ja ääni. Sit vaan seiskalle myydä video, että tällaista tapahtui yöelämässä.


Ja sit homma kun ei jää siihen. Joku tekee oikeasti jotakin paskaa. Sit vetoaa siihen, että video tai ääni tehty A.I.;llä... mitäs sitten? Alkaa valvontakameravideot jne menettämään todistusarvoa oikeudessa. Millä sitten todistat, että sinut vaikka hakattiin kadulla? Sana sanaa vastaan, tuomio jää saamatta.

 

[Mike]

Ihmiset ei ymmärrä mitä kaikkea pahaa tuolla voidaan tehdä. Äänen ja videokuvan pystyy muokkaamaan halutuksi reaaliajassa. Tämä tarkoittaa sitä, että käytännössä mihinkään laitteesta nähtyyn videoon, ääneet ei voi luottaa 100%.

Voit soittaa ääni- tai videopuhelun vaikka työnantajalle. Esiinnyt siinä toisena työntekijänä ja kerrot jotain ihan paskaa vaikka kolmannesta työntekijästä. Siinä on melko maukas soppa alkaa selvittään. Vielä kun hoitaa homman niin, että puhelu näyttää tulleen siitä työntekijän numerosta. Ketä siinä vaiheessa uskoo?

Itse näytellä joku tilanne missä sanotaan ja tehdään jotain paskaa. A.I.:n avulla pistää siihen toisen kasvot ja ääni. Sit vaan seiskalle myydä video, että tällaista tapahtui yöelämässä.


Ja sit homma kun ei jää siihen. Joku tekee oikeasti jotakin paskaa. Sit vetoaa siihen, että video tai ääni tehty A.I.;llä... mitäs sitten? Alkaa valvontakameravideot jne menettämään todistusarvoa oikeudessa. Millä sitten todistat, että sinut vaikka hakattiin kadulla? Sana sanaa vastaan, tuomio jää saamatta.

Mietippäs rikostutkintaa kun sun naama on jossain murtokeississä ja sanot että olit yksin kotona nukkumassa. Suomessahan pitäis olla syytön kunnes toisin todistetaan, mutta siinähän ne todisteet on. Ja päinvastoin, jos osaa hommaa alibin, niin voi rötöstellä miten sattuu kuhan muistaa ettei ole silminnäkijöitä, kameroista ei tarvii enää välittää, sanot vaan että videokuva on manipuloitu kameran omistajan toimesta, joka taas joutuu todistamaan ettei näin ole.

 

[ehec]

Tuollaiset turvakamerahuolet on helposti kuitattu kun pidetään huoli ettei alkuperäisiä tallenteita pääse muokkaamaan. Turvakameroiden kuvaa voidaan siis varmasti hyödyntää jatkossakin. Random silminnäkijöiden ottamaa kuvamateriaalia ehkei sitten voikaan.

 

[ehec]

Onneksi saataneen seurata AI-dystopian muodostumista Iranin ja Kiinan kaltaisissa maissa ensin ja voidaan sitten pohtia länsimaissa miten sitä tulisi suitsia

 

[mskomu]

Onneksi saataneen seurata AI-dystopian muodostumista Iranin ja Kiinan kaltaisissa maissa ensin ja voidaan sitten pohtia länsimaissa miten sitä tulisi suitsia
katso liitettä 254025

Tällaista itse pidän ylivoimaisesti suurimpana uhkana. Eli ei ole mikään AGI, vaan tehokas työkalu autoritäärisen hallinnon tarpeisiin. Matalampi kynnys, jota joku julkisuuden henkilöiden PR:ään keskittyvä konsulttifirma voisi hyödyntää, niin ChatGPT-tyylistä algoritmia hyödyntävät botit, jotka tehtailee sisältöä foorumeille, lehtien kommenttipalstoille, someen, jne. Eli vähän saman tyylistä, kuin Venäjän trolliarmeijat, mutta ei tarvitsisi ihmisiä ja voisi olla huomattavasti hienovaraisempi ja uskottavampi. Toinen vähän vastaava voisi olla botti, joka hakee netistä jonkun todellisen henkilön tunnetuilta nimimerkeiltä ja sometileiltä kaiken kirjoitetun ja joko muodostaa siitä profiilin (esim. työnantaja tutkii työntekijän taustaa, vakuutusyhtiö tutkii vakuutettavan taustaa, jne.) tai etsii sieltä aineistoa kohun tehtailuun.

Nämä eivät sinällään vaadi mitään, mitä ei voitaisi nykyään tehdä. Eikä kyse siis olisi mistään sinällään vallankumouksellisesta tai "labrasta karanneesta AGI:sta", kuten ei Iranin esimerkissäkään. Vaan kyseessä olisi vain parempi työkalu. Eli siinä, missä "tekoäly" voi tarjota koodarille työkalua, joka moninkertaistaa työtehon, niin voisi tarjota vihamielisille tahoille työkalun tehostamaan työtä. Kyllähän Iranissakin on aina(?) valvottu huivin käyttöä, mutta siihen on vaadittu hirveätä määrää ihmiskyylääjiä, jotka kuvantunnistusalgoritmi voisi tehdä tarpeettomiksi. Vastaavasti poliitikkojen sometileiltä ja vieraskirjojen kommenteista on kaivettu törkyä ihmisvoimin, mutta botti voisi tehostaa tätä niin, että ei tarvittaisi kuin pari ihmistä tarkistamaan tuloksia ja saataisiin kaivettua ihan kaikilta ihan kaikki.

 

[Deleted member 131115]

Tuollaiset turvakamerahuolet on helposti kuitattu kun pidetään huoli ettei alkuperäisiä tallenteita pääse muokkaamaan. Turvakameroiden kuvaa voidaan siis varmasti hyödyntää jatkossakin. Random silminnäkijöiden ottamaa kuvamateriaalia ehkei sitten voikaan.

Tarpeeksi osaavat tyypit kun tekee hommat, niin aika vaikeaa on todentaa onko sitä muokattu vai ei. Kaikki on kuitenkin loppujen lopuksi vain koodia.

Varmasti voidaan hyödyntää, mutta riskit siihen manipulointiin on olemassa. Ei varmaan tavantallaajalle, mutta vaikutusvaltaisille ihmisille riskit kasvaa. Tehdään vähän muokattuja videoita ja sitten kiristetään rahaa jne.

 

[Mike]

Kyllä se on pian niin, ettei mihinkään voi enää luottaa ja etenkin tulee isot ongelmat rikollisten kanssa. Vihaseuraaminen etenkin saa melkoisen kovan aseen käyttöönsä ja poliisi tunnetusti ei tule tekemään mitään, paitsi toki kutsuu tutkintaan vihan kohteen, ei videoiden levittäjää.


View: https://youtu.be/F4G6GNFz0O8

 

[ehec]

Tarpeeksi osaavat tyypit kun tekee hommat, niin aika vaikeaa on todentaa onko sitä muokattu vai ei. Kaikki on kuitenkin loppujen lopuksi vain koodia.

Varmasti voidaan hyödyntää, mutta riskit siihen manipulointiin on olemassa. Ei varmaan tavantallaajalle, mutta vaikutusvaltaisille ihmisille riskit kasvaa. Tehdään vähän muokattuja videoita ja sitten kiristetään rahaa jne.

Toki koodi on koodia, mutta ei ole temppu eikä mikään luoda järjestelmää niin, ettei dataa voi peukaloida (esim tallennus datadiodin taakse tai sitten tallennusmedia johon voi kirjoittaa vain kerran). Voi hyvin olla, että se ottaa parit käytännön esimerkit joissa turvakamerakuvaa koitetaan peukaloida, mutta pian vaatimukset valvontakameroille on hyvin tiukat ja jos ne ei täyty niin ei kelpaa todistusaineistoksi.

Kaikenlaisia mustamaalausjuttuja tullaan näkemään varmasti. Helppo kuvitella mikä vaikutus olisi muutaman kuukauden päästä jos mediaan syötettäis hyvin tehty feikkivideo missä Trump haukkuis värillistä n-sanalla ja löis sitä naamaan. Ei se paljoo lämmittäis jos parin kuukauden tutkinnan jälkeen video paljastuisi feikiksi.

Tästä päästäänkin siihen että onko kohta erittäin kattava viranomaisen ylläpitämä valvontakameraverkosto kaikkien oikeusturvan kannalta parasta Ihmiset kulkee varman päälle kameroiden kattamia reittejä että aina voi todistaa mahdolliset feikkivideot vääräksi virallisen valvonnan avulla. Parempi makkariinkin pyytää sellainen kamera jos puoliso eron yhteydessä teettää AI:lla feikkivideon raiskauksesta.

Tarkoitukseni oli rauhoitella tekoälyn uhkakuvia mutta taisin ajautua sivuraiteille.

 

[mskomu]

Mustamaalauskamppanjoita vastaan voidaan edetä niinkin, että eetteriin pusketaan niin julmettu määrä kaikenlaista videota, joka on niin älytöntä, ettei sitä voi uskoa. Tän tarkoituksena on, että vaikka joku video olisi aito, niin tällä syödään kaiken videomateriaalin uskottavuus ja vapaudutaan sillä tavalla huonosta maineesta. En kyllä ihmettelisi, jos lainsäädäntö tulee hieman jälkijunassa ja joku määrä syyttömiä ehditään tuomita feikkivideoiden perusteella.

 

[Deleted member 131115]

Toki koodi on koodia, mutta ei ole temppu eikä mikään luoda järjestelmää niin, ettei dataa voi peukaloida (esim tallennus datadiodin taakse tai sitten tallennusmedia johon voi kirjoittaa vain kerran). Voi hyvin olla, että se ottaa parit käytännön esimerkit joissa turvakamerakuvaa koitetaan peukaloida, mutta pian vaatimukset valvontakameroille on hyvin tiukat ja jos ne ei täyty niin ei kelpaa todistusaineistoksi.

Toki on tuollaisia mahdollisuuksia, mutta suuressa mittakaavassa ei mitenkään mahdollista. Tai sit kuvanlaatu on jotain kauheaa kuraa, hyvä laatuinen kuva kun vie aika rutkasti tilaa.

Kaikenlaisia mustamaalausjuttuja tullaan näkemään varmasti. Helppo kuvitella mikä vaikutus olisi muutaman kuukauden päästä jos mediaan syötettäis hyvin tehty feikkivideo missä Trump haukkuis värillistä n-sanalla ja löis sitä naamaan. Ei se paljoo lämmittäis jos parin kuukauden tutkinnan jälkeen video paljastuisi feikiksi.

Näitä varmasti tulee. Ja nuissa on juuri tuo isoin ongelma, että vaikka joku video myöhemmin todettaisiin vääräksi, vahinko olisi jo tapahtunut. Skandaalin hakuinen uutinen vs. uutinen, että joku vanha uutinen ei ollutkaan totta. Kumpi on kiinnostavampi, valitettavasti monelta jää lukematta tuo jälkimmäinen.

Tästä päästäänkin siihen että onko kohta erittäin kattava viranomaisen ylläpitämä valvontakameraverkosto kaikkien oikeusturvan kannalta parasta Ihmiset kulkee varman päälle kameroiden kattamia reittejä että aina voi todistaa mahdolliset feikkivideot vääräksi virallisen valvonnan avulla. Parempi makkariinkin pyytää sellainen kamera jos puoliso eron yhteydessä teettää AI:lla feikkivideon raiskauksesta.

Tarkoitukseni oli rauhoitella tekoälyn uhkakuvia mutta taisin ajautua sivuraiteille.

Sehän aina auttaa myös jos asiat kuvataan useammasta suunnasta. En tiedä kuinka kehittyneitä A.I. on, että osaisiko tehdä saman videon ns. erikuvakulmasta. Varmaankin kyllä jollakin tasolla jo osaa.

Ei varmasti kovin yleisiä tule olemaan mitkään A.I. llä peukaloidut videot, mutta se mahdollisuus on olemassa. Ja varmasti tavan tallaajalle riskit pienet, mutta mitä enemmän valtaa ja rahaa niin riskit varmaan kasvaa. Joku haluaa osansa. Henkilökohtaisella tasolla en usko, että ei minusta kukaan mitään A.I. video tule tekemään.

 

[Deleted member 131115]

Mutta paljon hyvää myös A.I. mahdollistaa.

Guardian: Tekoäly voi löytää syövän paremmin kuin ihminen

Suuren kokeen alustavat tulokset osoittavat, että tekoälyn käyttö lähes puolittaa ihmisen työmäärän, uutisoi brittilehti Guardian.

www.iltalehti.fi

Varmasti tulevaisuudessa kun kuvaustekniikat kehittyy entisestään, siihen yhdistettään A.I. niin tauteja saadaan aikaisemmissa vaiheissa kiinni.

 

[ehec]

Toki on tuollaisia mahdollisuuksia, mutta suuressa mittakaavassa ei mitenkään mahdollista. Tai sit kuvanlaatu on jotain kauheaa kuraa, hyvä laatuinen kuva kun vie aika rutkasti tilaa.

Kyllä tohon ratkaisu löytyy, ollos huoleti. Tälläkin hetkellä kaikki tietoturvalokit jne pitää olla varmistettu niin, että oikeudessa voidaan osoittaa, ettei tietoja ole voitu peukaloida, muuten niillä ei tee mitään. Väitän että nuo tallenteet osataan suojata jo tänä päivänä luotettavasti, ja turvallisempia tapoja säilyttää tietoa kehitetään koko ajan uhkien muuttuessa.

 

[rehtori]

Mutta paljon hyvää myös A.I. mahdollistaa.

Guardian: Tekoäly voi löytää syövän paremmin kuin ihminen

Suuren kokeen alustavat tulokset osoittavat, että tekoälyn käyttö lähes puolittaa ihmisen työmäärän, uutisoi brittilehti Guardian.

www.iltalehti.fi

Varmasti tulevaisuudessa kun kuvaustekniikat kehittyy entisestään, siihen yhdistettään A.I. niin tauteja saadaan aikaisemmissa vaiheissa kiinni.

Kyllä. Myös hyvää tulee paljon. Mutta kuka tästä kaikesta pääsee hyötymään? Aivan varmasti rikkaat. Riittääkö ihmiskunnan solidaarisuus antamaan saman palvelun myös alemmille yhteiskuntaluokille?

 

[Deleted member 131115]

Kyllä. Myös hyvää tulee paljon. Mutta kuka tästä kaikesta pääsee hyötymään? Aivan varmasti rikkaat. Riittääkö ihmiskunnan solidaarisuus antamaan saman palvelun myös alemmille yhteiskuntaluokille?

Jollakin aika välillä ne rikkaiden herkut valuu alaspäin. Tahtoo olla, että aina aluksi hoidot ja lääkkeet maksaa ihan sairaita summia, mutta pikku hiljaa ne halpenee ja ns. tavantallaajkin pääsee niihin käsiksi.

 

[mskomu]

Kyllä. Myös hyvää tulee paljon. Mutta kuka tästä kaikesta pääsee hyötymään? Aivan varmasti rikkaat. Riittääkö ihmiskunnan solidaarisuus antamaan saman palvelun myös alemmille yhteiskuntaluokille?

Teknologinen edistyminen hyödyttää kaikkia. Muistin varassa vähän maasta riippuen Kaakkois-Aasiassa inflaatiokorjattu mediaanitulo oli hiljattain samaa luokkaa, kuin Yhdysvalloissa 1900-luvun alussa. Eli tarkoittaako se, että molemmat ryhmät elivät jokseenkin samalla tavalla? Ei, sillä tämän päivän keskituloisen maan rivikansalaisilla on ulottuvilla sellaista teknologiaa, terveydenhoitoa ja muuta vastaavaa, mistä 1900-luvun alun tehdastyöntekijä ei osannut nähdä edes unta. Jos mennään vähän ajassa taakse päin, niin kuninkailla ja keisareilla ei ole ollut lähellekään sellainen elintaso, mitä nykyisillä - meistä katsoen köyhillä - tehdastyöntekijöillä.

Raha voidaan ymmärtää jossain määrin suhteellisena etuna muihin. Eli rikas voi ajasta riippumatta palkata muita tekemään töitä itselleen ja sitä köyhempi ei voi teknologisesta elintasosta huolimatta. Mutta teknologia nostaa elintasoa tai hyvinvointia kaikilta, mikä ei ole rahasta kiinni. Ja hommat on aina menneet niin, että kaikki uusi on kallista. Kaikki halpa krääsäkin oli joskus teknologian terävintä kärkeä, joka oli niin kallista, ettei siihen ollut varaa kuin rikkailla. Kehityksen myötä näiden valmistuskustannukset tulee alas ja sitä kautta kaikkien saataville. Kaikki meidän arkipäiväiset hoidot olivat joskus rikkaille varattua luksusta, samoin kaikki elektroniikka, samoin ravinto, jne. Yksi valmistuskustannuksia tiputtava asia on työn tehostuminen, missä suuri tekijä on automaatio (sis. "AI").