Vad du behöver veta
- Google har placerat en av sina ingenjörer på betald ledighet efter att ha uttryckt oro för AI-etik inom företaget.
- Blake Lemoine har hävdat att Googles LaMDA chatbot-system har fått en nivå av uppfattning som är jämförbar med människor.
- Google säger att det inte finns några bevis för att backa upp Lemoines påståenden.
En Google-ingenjör som arbetar för företagets Ansvarsfulla AI-organisation har ställts på betald ledighet efter att han uttryckte farhågor om att LaMDA-chatbotsystemet har blivit kännande.
Blake Lemoine har hävdat att LaMDA (Language Model for Dialogue Applications) tänker som ett "7-årigt, 8-årigt barn som råkar kunna fysik", enligt Washington Post. Google introducerade LaMDA vid sitt I/O-evenemang förra året att göra Google Assistant mer konverserande.
I höstas testade Lemoine om AI använde diskriminerande eller hatretorik. Efter sitt samtal med LaMDA drog ingenjören slutsatsen att det var mycket mer än ett system för att generera chatbots. Han eskalerade senare sin oro till Googles chefer i april genom ett dokument som innehöll en utskrift av hans samtal med LaMDA.
Lemoine sa att han har samtalat med LaMDA om olika ämnen, såsom rättigheter, religion och robotteknikens lagar. AI har beskrivit sig själv som en "person" eftersom den har "känslor, känslor och subjektiv upplevelse." Lemoine sa också LaMDA vill "prioritera mänsklighetens välbefinnande" och "bli erkänd som en anställd hos Google snarare än som fast egendom."
Du kan läsa hela utskriften av samtalet via Lemoines Medium-inlägg, som han publicerade efter att Googles chefer avfärdat hans påståenden.
Sökjätten har förnekat Lemoines påståenden. I ett uttalande till Android Central sa Googles talesperson Brian Gabriel att företaget "inte är medveten om att någon annan gör det omfattande påståenden, eller antropomorfisera LaMDA, på det sätt som Blake har gjort", med hänvisning till de hundratals forskare och ingenjörer som har samtalat med LaMDA.
"Vårt team - inklusive etiker och teknologer - har granskat Blakes farhågor enligt våra AI-principer och har informerat honom om att bevisen inte stöder hans påståenden," tillade Gabriel.
Googles talesperson framhöll också den "rigorösa forskningen och testningen" samt serien av 11 AI-principgranskningar som LaMDA har gått igenom. Gabriel sa att dessa utvärderingar är "baserade på nyckelmått för kvalitet, säkerhet och systemets förmåga att producera påståenden grundade på fakta."
"Naturligtvis överväger vissa i det bredare AI-samhället den långsiktiga möjligheten av kännande eller allmän AI, men det är inte meningsfullt att göra det genom att antropomorfiera dagens konversationsmodeller, som inte är kännande," han sa. "Dessa system imiterar de typer av utbyten som finns i miljontals meningar och kan riffa om vilket fantastiskt ämne som helst — om du frågar hur det är att vara en glassdinosaurie kan de generera text om smältning och vrålande och så på."
Lemoine sattes därefter på betald administrativ ledighet för att ha brutit mot Googles sekretesspolicy, rapporterar The Post. Han ska också ha försökt anställa en advokat för att representera LaMDA och pratade till och med med medlemmar av parlamentets rättsutskott om Googles påstådda oetiska aktiviteter.
Som sagt, avstängningen kommer sannolikt att inbjuda till granskning av Googles AI.