Amit tudnod kell
- A Google fizetett szabadságra helyezte egyik mérnökét, miután aggodalmát fejezte ki a vállalaton belüli mesterséges intelligencia etikájával kapcsolatban.
- Blake Lemoine azt állította, hogy a Google LaMDA chatbot rendszere az emberekhez hasonló érzékelési szintet szerzett.
- A Google szerint nincs bizonyíték Lemoine állításainak alátámasztására.
Fizetett szabadságra helyezték a Google egyik mérnökét, aki a vállalat Responsible AI szervezeténél dolgozik, miután aggodalmát fejezte ki amiatt, hogy a LaMDA chatbot-rendszer érzővé vált.
Blake Lemoine azt állította, hogy a LaMDA (Language Model for Dialogue Applications) úgy gondolkodik, mint egy "7 éves, 8 éves gyerek, aki történetesen ismeri a fizikát". A Washington Post. Google tavaly mutatta be a LaMDA-t az I/O rendezvényén csinálni Google Asszisztens beszélgetőbb.
Tavaly ősszel Lemoine azt tesztelte, hogy az MI használ-e diszkriminatív vagy gyűlöletbeszédet. A LaMDA-val folytatott beszélgetése után a mérnök arra a következtetésre jutott, hogy ez sokkal több, mint chatbotokat generáló rendszer. Később aggodalmait a Google vezetőinek továbbította áprilisban egy dokumentumon keresztül, amely a LaMDA-val folytatott beszélgetéseinek átiratát tartalmazza.
Lemoine elmondta, hogy különféle témákról beszélgetett a LaMDA-val, mint például a jogokról, a vallásról és a robotika törvényeiről. Az AI „személyként” jellemezte magát, mert „érzései, érzelmei és szubjektív tapasztalatai vannak”. Lemoine is mondta A LaMDA szeretné "előtérbe helyezni az emberiség jólétét", és "a Google alkalmazottjaként kell elismerni, nem pedig ingatlan."
A beszélgetés teljes szövegét elolvashatja a címen Lemoine közepes posztja, amelyet azután tett közzé, hogy a Google vezetői elutasították állításait.
A keresőóriás cáfolta Lemoine állításait. Az Android Centralnak adott nyilatkozatában a Google szóvivője, Brian Gabriel azt mondta, a vállalat "nincs tudomása arról, hogy bárki más végezte volna a széleskörű fejlesztést. állításokat, vagy antropomorfizálja a LaMDA-t, ahogy Blake tette" – utalva arra a több száz kutatóra és mérnökre, akik LaMDA.
"Csapatunk – beleértve az etikusokat és a technológusokat is – felülvizsgálta Blake aggodalmait az AI-elveink szerint, és tájékoztatta őt arról, hogy a bizonyítékok nem támasztják alá állításait" – tette hozzá Gabriel.
A Google szóvivője megemlítette a "szigorú kutatást és tesztelést", valamint azt a 11 AI-elvből álló áttekintést, amelyen a LaMDA keresztülment. Gabriel elmondta, hogy ezek az értékelések "a minőség, a biztonság és a rendszer azon képességén alapulnak, hogy tényeken alapuló kijelentéseket készítsenek".
"Természetesen a szélesebb mesterségesintelligencia-közösségben néhányan fontolgatják az érző vagy általános mesterséges intelligencia hosszú távú lehetőségét, de ennek nincs értelme a mai társalgási modellek antropomorfizálásával, amelyek nem érzőek" mondott. "Ezek a rendszerek a mondatok millióiban található cseretípusokat utánozzák, és bármilyen fantasztikus témát képesek riffelni - ha megkérdezed, milyen fagylaltdinoszaurusznak lenni, szöveget generálhatnak az olvadásról és az ordításról stb. tovább."
Lemoine-t ezt követően fizetett adminisztratív szabadságra helyezték, mert megsértette a Google titoktartási szabályzatát – írja a The Post. Állítólag ügyvédet is keresett a LaMDA képviseletében, sőt a képviselőház igazságügyi bizottságának tagjaival is beszélt a Google állítólagos etikátlan tevékenységeiről.
Ennek ellenére a felfüggesztés valószínűleg megvizsgálja a Google mesterséges intelligenciáját.