Au milieu de Google déjà batailles juridiques troublantes autour de la façon dont il gère la recherche et les annonces, Google fait toujours face à des difficultés internes sur son Gestion de l'ancien co-responsable Ethical AI, départ de Timnit Gebru. Après avoir présenté son document de recherche sur les préoccupations des modèles de langage IA largement non contrôlés, tels que ceux utilisés dans les outils de recherche de Google et le meilleurs téléphones Android, la société a rejeté son article en disant qu'il ne tenait pas compte des nouveaux efforts de Google pour répondre à ces préoccupations, et a donc rejeté Gebru. C'est clair, car la situation s'est présentée un peu plus compliquée, mais certains informations de Reuters met en lumière la manière dont Google a abordé le papier.
Offres VPN: licence à vie pour 16 $, forfaits mensuels à 1 $ et plus
Selon les changements de politique internes qui sont entrés en vigueur en juin, Google a commencé à exiger ses recherches le personnel de consulter les équipes juridiques et de relations publiques avant d'aborder certains sujets qui pourraient être considérés comme sensible. Ces sujets comprennent la race, le sexe, l'affiliation politique et l'analyse du visage, avec la politique déclarant que ces «projets apparemment inoffensifs soulèvent des problèmes éthiques, de réputation, réglementaires ou juridiques problèmes."
"Cela ne signifie pas que nous devons nous cacher des vrais défis."
De plus, il a été demandé aux chercheurs de "prendre grand soin de donner un ton positif". Selon les employés de Google La recherche, les articles qui critiquaient ouvertement les pratiques de Google ont fait l'objet d'un examen beaucoup plus minutieux que ceux qui ne pas.
"Il est présenté comme les optimistes de l'IA et les gens qui construisent vraiment les trucs [contre] le reste d'entre nous Nellies négatifs, pleuvant sur leur défilé," dit un expert en IA extérieur. C'est là qu'intervient l'article de Gebru.
Depuis 2016, l'industrie de la technologie était de plus en plus préoccupée par les pratiques éthiques entourant l'utilisation de l'IA. Google a créé le groupe Ethical AI en 2018, à peu près au même moment où il recrutait Gebru avec la promesse d'une liberté académique totale. Déjà assez bien considérée dans son domaine, elle a pris le poste et, avec l'aide de la linguiste de l'Université de Washington, Emily M. Bender, a présenté un projet sur le papier qui a ensuite conduit à son licenciement.
Google affirme qu'il ne l'a pas licenciée, mais "a accepté sa démission". Mais le tollé des employés de Google, ainsi que les sénateurs américains, demandent des détails complets sur une enquête interne sur la question. Le document de Gebru a depuis été accepté par la Conférence sur l'équité, la responsabilité et la transparence.