Hvad du behøver at vide
- Google har sat en af sine ingeniører på betalt orlov efter at have rejst bekymringer om AI-etik i virksomheden.
- Blake Lemoine har hævdet, at Googles LaMDA chatbot-system har opnået et niveau af opfattelse, der kan sammenlignes med mennesker.
- Google siger, at der ikke er noget bevis for at understøtte Lemoines påstande.
En Google-ingeniør, der arbejder for virksomhedens ansvarlige AI-organisation, er blevet sat på betalt orlov, efter at han rejste bekymring for, at LaMDA-chatbot-systemet er blevet sansende.
Blake Lemoine har hævdet, at LaMDA (Language Model for Dialogue Applications) tænker som et "7-årigt, 8-årigt barn, der tilfældigvis kan fysik," ifølge Washington Post. Google introducerede LaMDA ved sit I/O-arrangement sidste år at lave Google Assistant mere samtale.
Sidste efterår testede Lemoine, om AI brugte diskriminerende eller hadefuld tale. Efter sin samtale med LaMDA konkluderede ingeniøren, at det var langt mere end et system til at generere chatbots. Han eskalerede senere sine bekymringer til Googles ledere i april gennem et dokument, der indeholdt et udskrift af hans samtaler med LaMDA.
Lemoine sagde, at han har talt med LaMDA om forskellige emner, såsom rettigheder, religion og robotteknologiens love. AI har beskrevet sig selv som en "person", fordi den har "følelser, følelser og subjektiv oplevelse." Lemoine sagde også LaMDA ønsker at "prioritere menneskehedens velfærd" og "blive anerkendt som en medarbejder hos Google snarere end som ejendom."
Du kan læse hele udskriften af samtalen via Lemoines Medium indlæg, som han offentliggjorde, efter at Googles ledere afviste hans påstande.
Søgegiganten har afvist Lemoines påstande. I en erklæring til Android Central sagde Google-talsmand Brian Gabriel, at virksomheden "ikke er klar over, at nogen andre laver den omfattende påstande eller antropomorfiserende LaMDA, som Blake har gjort," med henvisning til de hundredvis af forskere og ingeniører, der har talt med LaMDA.
"Vores team - inklusive etikere og teknologer - har gennemgået Blakes bekymringer i henhold til vores AI-principper og har informeret ham om, at beviserne ikke understøtter hans påstande," tilføjede Gabriel.
Googles talsmand udråbte også den "strenge forskning og testning" samt rækken af 11 AI-principper, som LaMDA har gennemgået. Gabriel sagde, at disse evalueringer er "baseret på nøglemålinger af kvalitet, sikkerhed og systemets evne til at producere udsagn baseret på fakta."
"Selvfølgelig overvejer nogle i det bredere AI-samfund den langsigtede mulighed for sansende eller generel AI, men det giver ikke mening at gøre det ved at antropomorfisere nutidens samtalemodeller, som ikke er sansende," han sagde. "Disse systemer efterligner de typer af udvekslinger, der findes i millioner af sætninger, og kan riffe om ethvert fantastisk emne - hvis du spørger, hvordan det er at være en isdinosaur, kan de generere tekst om smeltning og brøl og så på."
Lemoine blev efterfølgende sat på betalt administrativ orlov for at have overtrådt Googles fortrolighedspolitik, rapporterer The Post. Han søgte også efter sigende at hyre en advokat til at repræsentere LaMDA og talte endda med medlemmer af husets retsudvalg om Googles påståede uetiske aktiviteter.
Når det er sagt, vil suspensionen sandsynligvis invitere til undersøgelse af Googles AI.