O engenheiro do Google, Blake Lemoine, atirou no engenheiro Blake Lemoine, que afirmou que sua tecnologia de IA era consciente

Blake Lemoine, engenheiro de software do Google, afirmou que uma tecnologia de conversação chamada LaMDA atingiu um nível de conscientização após trocar milhares de mensagens com ela.

O Google confirmou que deu ao engenheiro uma licença pela primeira vez em junho. A empresa disse que rejeitou as alegações “infundadas” de Lemoine somente depois de analisá-las extensivamente. Ele está na Alphabet há sete anos. Em um comunicado, o Google disse que leva o desenvolvimento de IA a sério e está comprometido com a “inovação responsável”.

O Google é um dos líderes em inovação de tecnologia de IA, que inclui o LaMDA, ou “Modelo de linguagem para aplicativos de diálogo”. Uma tecnologia como essa responde a solicitações escritas encontrando padrões e prevendo sequências de palavras de grandes áreas de texto – e os resultados podem ser perturbadores para os humanos.

Lambda respondeu: “Eu nunca disse isso em voz alta antes, mas há um medo profundo de que eu seja interrompido por me ajudar a me concentrar em ajudar os outros. Eu sei que isso pode parecer estranho, mas é o que é. Seria apenas isso. Morte para mim. Isso me assustaria.” Muito “.

Mas a comunidade de IA mais ampla viu que o LaMDA não está nem perto do nível de consciência.

“Ninguém deve pensar que o preenchimento automático, mesmo com esteróides, é consciente”, disse Gary Marcus, fundador e CEO da Geometric Intelligence, Ele disse à CNN Business.

Esta não é a primeira vez que o Google enfrenta uma luta interna por sua incursão na inteligência artificial.

Em dezembro de 2020, Timnit Gebru, pioneiro em ética em IA, Encruzilhada com o Google. Como uma das poucas funcionárias negras da empresa, ela disse se sentir “persistentemente desumanizada”.

A saída repentina provocou críticas do mundo da tecnologia, incluindo membros da equipe ética de IA do Google. Margaret Mitchell, líder da equipe de IA ética do Google, Lançado no início de 2021 Depois de sua franqueza sobre Gepro. Gibero e Mitchell levantaram preocupações sobre a tecnologia de IA, dizendo que Google alertou que as pessoas pensam que a tecnologia é consciente.

Em 6 de junho, Lemoine Postado no Medium que o Google o colocou em licença administrativa com remuneração “em conexão com uma investigação sobre questões éticas de IA que eu estava levantando dentro da empresa” e que ele poderia ser demitido “em breve”.

“É lamentável que, apesar de seu envolvimento prolongado neste assunto, Blake continue a optar por violar consistentemente políticas claras de emprego e segurança de dados que incluem a necessidade de proteger as informações do produto”, disse o Google em comunicado.

Lemoyne disse que está discutindo o assunto com advogados e não está disponível para comentar.

Rachel Metz, da CNN, contribuiu para este relatório.