Mitä sinun tarvitsee tietää
- Google on jättänyt yhden insinööristään palkalliselle lomalle sen jälkeen, kun hän oli ilmaissut huolensa tekoälyn eettisyydestä yrityksessä.
- Blake Lemoine on väittänyt, että Googlen LaMDA-chatbot-järjestelmä on saavuttanut ihmisiin verrattavissa olevan käsityksen tason.
- Googlen mukaan ei ole todisteita Lemoinen väitteiden tueksi.
Yrityksen Responsible AI -organisaatiossa työskentelevä Googlen insinööri on asetettu palkalliseksi lomalle, kun hän ilmaisi huolensa siitä, että LaMDA-chatbot-järjestelmä on tullut herkäksi.
Blake Lemoine on väittänyt, että LaMDA (Language Model for Dialogue Applications) ajattelee kuin "7-vuotias, 8-vuotias lapsi, joka sattuu tuntemaan fysiikan". Washington Post. Google esitteli LaMDA: n I/O-tapahtumassaan viime vuonna tehdä Google Assistant enemmän keskustelua.
Viime syksynä Lemoine testasi, käyttikö tekoäly syrjivää vai vihapuhetta. Keskustelun jälkeen LaMDA: n kanssa insinööri totesi, että se oli paljon enemmän kuin järjestelmä chatbottien luomiseen. Myöhemmin hän esitti huolensa Googlen johtajille huhtikuussa asiakirjalla, joka sisälsi pöytäkirjan hänen keskusteluistaan LaMDA: n kanssa.
Lemoine sanoi, että hän on keskustellut LaMDA: n kanssa useista aiheista, kuten oikeuksista, uskonnosta ja robotiikan laeista. Tekoäly on kuvaillut itseään "henkilöksi", koska sillä on "tunteita, tunteita ja subjektiivista kokemusta". Lemoine sanoi myös LaMDA haluaa "priorisoida ihmiskunnan hyvinvoinnin" ja "saada tunnustusta Googlen työntekijänä eikä omaisuutta."
Voit lukea keskustelun koko tekstin osoitteesta Lemoinen keskikokoinen viesti, jonka hän julkaisi sen jälkeen, kun Googlen johtajat hylkäsivät hänen väitteensä.
Etsintäjätti on kiistänyt Lemoinen väitteet. Android Centralille antamassaan lausunnossa Googlen tiedottaja Brian Gabriel sanoi, että yhtiö "ei ole tietoinen kenenkään muun tekevän laajan valikoiman väitteitä tai LaMDA: n antropomorfoimista, kuten Blake on tehnyt", viitaten satoihin tutkijoihin ja insinööreihin, jotka ovat keskustelleet LaMDA.
"Tiimimme - mukaan lukien eettiset ja teknologit - on tarkistanut Blaken huolenaiheet tekoälyperiaatteidemme mukaisesti ja ilmoittanut hänelle, että todisteet eivät tue hänen väitteitään", Gabriel lisäsi.
Googlen tiedottaja mainitsi myös "tiukkaa tutkimusta ja testausta" sekä 11 tekoälyperiaatteen arviota, jotka LaMDA on käynyt läpi. Gabriel sanoi, että nämä arvioinnit perustuvat keskeisiin laatu-, turvallisuus- ja järjestelmän kykyyn tuottaa tosiasioita koskevia lausuntoja.
"Tietenkin jotkut laajemmasta tekoälyyhteisöstä harkitsevat tuntevan tai yleisen tekoälyn pitkän aikavälin mahdollisuutta, mutta sitä ei ole järkevää tehdä antropomorfoimalla nykypäivän keskustelumalleja, jotka eivät ole tuntevia", hän sanoi. "Nämä järjestelmät jäljittelevät miljoonissa lauseissa esiintyviä vaihtotyyppejä ja voivat riffata mistä tahansa fantastisesta aiheesta - jos kysyt millaista on olla jäätelidinosauruksena, he voivat luoda tekstiä sulamisesta ja mölyisystä jne. päällä."
Lemoine joutui myöhemmin palkalliselle hallinnolliselle lomalle Googlen luottamuksellisuuskäytännön rikkomisen vuoksi, The Post raportoi. Hän halusi myös palkata lakimiehen edustamaan LaMDA: ta ja jopa puhunut edustajainhuoneen oikeuskomitean jäsenille Googlen väitetystä epäeettisestä toiminnasta.
Keskeyttäminen kuitenkin houkuttelee Googlen tekoälyn tarkastelua.