O que você precisa saber
- O Google colocou um de seus engenheiros em licença remunerada depois de levantar preocupações sobre a ética da IA dentro da empresa.
- Blake Lemoine afirmou que o sistema de chatbot LaMDA do Google ganhou um nível de percepção comparável aos humanos.
- O Google diz que não há evidências para apoiar as afirmações de Lemoine.
Um engenheiro do Google que trabalha para a organização de IA responsável da empresa foi colocado em licença remunerada depois de levantar preocupações de que o sistema de chatbot LaMDA se tornou senciente.
Blake Lemoine afirmou que o LaMDA (Modelo de Linguagem para Aplicações de Diálogo) está pensando como um "garoto de 7 e 8 anos que conhece física", de acordo com The Washington Post. Google apresentou o LaMDA em seu evento I/O no ano passado fazer Assistente do Google mais coloquial.
No outono passado, Lemoine estava testando se a IA usava discurso discriminatório ou de ódio. Após a conversa com o LaMDA, o engenheiro concluiu que se tratava de muito mais do que um sistema de geração de chatbots. Posteriormente, ele escalou suas preocupações aos executivos do Google em abril por meio de um documento contendo a transcrição de suas conversas com o LaMDA.
Lemoine disse que conversou com o LaMDA sobre vários tópicos, como direitos, religião e as leis da robótica. A IA se descreve como uma "pessoa" porque tem "sentimentos, emoções e experiências subjetivas". Lemoine também disse A LaMDA quer "priorizar o bem-estar da humanidade" e "ser reconhecida como funcionária do Google e não como propriedade."
Você pode ler a transcrição completa da conversa via Lemoine's Medium post, que ele publicou depois que os executivos do Google rejeitaram suas afirmações.
O gigante das buscas negou as alegações de Lemoine. Em uma declaração ao Android Central, o porta-voz do Google, Brian Gabriel, disse que a empresa "não tem conhecimento de mais ninguém fazendo o amplo afirmações, ou antropomorfizando o LaMDA, como Blake fez", referindo-se às centenas de pesquisadores e engenheiros que conversaram com LaMDA.
“Nossa equipe – incluindo especialistas em ética e tecnólogos – revisou as preocupações de Blake de acordo com nossos Princípios de IA e o informou que as evidências não apóiam suas alegações”, acrescentou Gabriel.
O porta-voz do Google também elogiou a “pesquisa e testes rigorosos”, bem como a série de 11 revisões de princípios de IA pelas quais o LaMDA passou. Gabriel disse que essas avaliações são "baseadas em métricas-chave de qualidade, segurança e capacidade do sistema de produzir declarações baseadas em fatos".
"Claro, alguns na comunidade de IA mais ampla estão considerando a possibilidade de longo prazo de IA senciente ou geral, mas não faz sentido fazê-lo antropomorfizando os modelos de conversação de hoje, que não são sencientes", ele disse. "Esses sistemas imitam os tipos de trocas encontrados em milhões de frases e podem abordar qualquer tópico fantástico - se você perguntar como é ser um dinossauro de sorvete, eles podem gerar um texto sobre derreter e rugir e assim sobre."
Lemoine foi posteriormente colocado em licença administrativa remunerada por violar a política de confidencialidade do Google, relata o The Post. Ele também procurou contratar um advogado para representar o LaMDA e até conversou com membros do comitê judiciário da Câmara sobre as supostas atividades antiéticas do Google.
Dito isso, é provável que a suspensão seja um convite ao escrutínio da IA do Google.