Blake Lemoine, Googlen insinööri, on jäädytetty maksamaan palkkaa, kun hän kertoi ajatuksistaan, että Googlen läpimurto tekoäly-chatbot LaMDA oli tunteva kone todellisen tajunnan kanssa.
Lemoine tuli tähän johtopäätökseen työskenneltyään mallin kanssa ja käytyään syvällisiä keskusteluja, jotka saivat hänet uskomaan, että tekoälyllä oli "sielu" ja se oli fysiikan tuntevaa lasta.
Se on mielenkiintoinen ja mahdollisesti tarpeellinen keskustelu. Google ja muut tekoälytutkimusyritykset ovat ohjanneet LLM-hermoverkkoja (large language model) siihen suuntaan, että ne kuulostavat todelliselta ihmiseltä, usein upein tuloksin.
Mutta loppujen lopuksi algoritmi tekee vain sen, mitä se on ohjelmoitu tekemään – huijaamaan meidät ajattelemaan, että puhumme todelliselle henkilölle.
Mikä on LaMDA?
LaMDA, ja muut suuret AI "chatbotit" ovat Alexan tai Google Assistantin kaltaisten laajennus. Annat jonkinlaisen syötteen, ja monimutkainen joukko tietokonealgoritmeja vastaa lasketulla lähdöllä.
LaMDA (Language Model for Dialogue Applications) tekee eron sen mittakaavassa. Tyypillisesti tekoäly analysoi sen, mitä sille esitetään, hyvin pieninä paloina ja etsii avainsanoja tai kirjoitus- ja kielioppivirheitä, jotta se tietää, kuinka vastata.
LaMDA on niin kutsuttu LLM. Suuri kielimalli on nimi, joka annetaan eräänlaiselle tietokoneiden hermoverkolle, joille on syötetty uskomaton määrä paljon tekstiä, jotta se opetetaan luomaan vastauksia, jotka eivät ole vain oikeita, vaan myös kuulostavat toisilta henkilö.
LaMDA on mahtava mittakaavansa vuoksi.
LaMDA: n läpimurto oli se, kuinka Google pystyi tarkentamaan ja säätämään sitä niin, että se oli kuultavasti samanlainen kuin tapa, jolla henkilö todella puhuu. Olemme esimerkiksi kaikki kuulleet "OK, laitan makuuhuoneen valot päälle" tai jotain vastaavaa Google Assistant jos käytämme meidän suosikki älypolttimomme.
LaMDA voisi sen sijaan vastata seuraavasti: "Okei, täällä on aika pimeää, eikö?"Se vain kuulostaa enemmän kuin puhuisit ihmiselle kuin pieneltä piirilaatikolta.
Se tekee tämän analysoimalla sanojen lisäksi kokonaisia kielilohkoja. Riittävällä muistilla se voi tallentaa vastaukset useisiin kappaleisiin syötettäviin syöttöihin ja selvittää, kumpaa käyttää ja miten vastauksesta saadaan ystävälliseltä ja inhimilliseltä.
Asteikko on iso osa yhtälöä/ Minulla on ärsyttävä kirjoitusvirhe I aina make: "isn; t" "ei ole". Yksinkertaiset algoritmit, kuten Chromen oikeinkirjoituksen tarkistus tai kielioppi, voivat tunnistaa virheeni ja pyytää minua korjaamaan sen.
Jokin LaMDA voisi sen sijaan arvioida koko kappaleen ja kertoa minulle, mitä se ajattelee sanomistani asioista ja korjaa kirjoitustani. Sitä se on suunniteltu tekemään.
Mutta onko se todella tunteva, ja onko se todellinen ongelma?
Lemoine ehdottomasti uskoo, että LaMDA on elävä, hengittävä asia. Hänen henkisestä tilastaan tai hänen elämäntyylistään on puhuttu tarpeeksi, joten en aio sanoa mitään paitsi että mies uskoo, että LaMDAlla on todellisia tunteita ja että hän toimi ystävällisyydestään, kun hän julkisti hänen kanssaan ajatuksia. Google tietysti ajatteli toisin.
Mutta ei, en usko, että LaMDA tai mikään LLM-hermoverkko on tunteva tai voi olla, ainakaan nykytekniikalla. Olen oppinut kauan sitten, ettei koskaan sano ei koskaan. Tällä hetkellä LaMDA vastaa vain ohjelmoidulla tavalla, eikä sen tarvitse ymmärtää mitä se sanoo samalla tavalla kuin henkilö.
Se on aivan kuin sinä tai minä täytämme ristisanatehtävän, emmekä tiedä mitä sana tarkoittaa tai edes on. Tiedämme vain säännöt ja sen, että se sopii minne ja miten sen pitäisi sopia.
4 kirjainta - substantiivi. Jäykät hiukset tai harjakset. (Se on Seta, mutta kokeilin SEGAa 10 kertaa).
Se, että emme ole lähellä päivää, jolloin älykkäät koneet nousevat ja yrittävät tappaa kaikki ihmiset, ei tarkoita, etteikö meidän pitäisi olla huolissaan. Tietokoneiden opettaminen kuulostamaan inhimillisemmältä ei todellakaan ole hyvä asia.
Tämä johtuu siitä, että tietokone voi - jälleen - vastata vain tavalla, jolla se on ohjelmoitu vastaamaan. Tämä ohjelmointi ei välttämättä aina ole yhteiskunnan etujen mukaista. Näemme jo nyt huolen tekoälyn puolueellisuudesta, koska ohjelmoijat ovat enimmäkseen varakkaita parikymppisiä miehiä. On vain luonnollista, että heidän elämänkokemuksensa tulee vaikuttamaan tekoälyn päätöksentekoon.
Ota se askel pidemmälle ja mieti, mitä joku, jolla on todellisia huonoja aikomuksia, saattaa ohjelmoida. Ajattele sitten, että he voisivat saada sen kuulostamaan ihmiseltä eikä koneelta. Tietokone ei ehkä pysty tekemään pahoja asioita fyysisessä maailmassa, mutta se voi saada ihmiset tekemään ne.
LaMDA on uskomaton, ja ihmiset, jotka suunnittelevat sen kaltaisia järjestelmiä, tekevät uskomatonta työtä, joka vaikuttaa tulevaisuuteen. Mutta se on silti vain tietokone, vaikka se kuulostaakin ystävältäsi yhden liian monen 420 istunnon jälkeen ja he alkavat puhua elämästä, maailmankaikkeudesta ja kaikesta.