O padrinho da inteligência artificial, Geoffrey Hinton, alerta para os riscos ao deixar o Google

Um homem amplamente visto como o padrinho da inteligência artificial (IA) deixou o emprego, alertando sobre os perigos crescentes dos desenvolvimentos no campo.

Jeffrey Hinton, 75, anunciou sua demissão do Google em um comunicado ao New York Times, dizendo que agora se arrepende de seu trabalho.

Ele disse à BBC que alguns dos riscos do chatbot eram “muito assustadores”.

“No momento, eles não são mais espertos do que nós, pelo que sei. Mas acho que em breve poderão ser.”

Hinton também concordou que sua idade influenciou sua decisão de deixar a gigante da tecnologia, dizendo à BBC: “Tenho 75 anos, então é hora de me aposentar”.

A pesquisa pioneira do Dr. Hinton sobre redes neurais e aprendizagem profunda abriu o caminho para os atuais sistemas de IA, como o ChatGPT.

Na inteligência artificial, as redes neurais são sistemas semelhantes ao cérebro humano na forma como aprendem e processam informações. Ele permite que os sistemas de IA aprendam com a experiência, como uma pessoa faria. Isso é chamado de aprendizado profundo.

Um psicólogo cognitivo britânico-canadense e cientista da computação disse à BBC que os chatbots podem em breve ultrapassar o nível de informação transportado pelo cérebro humano.

“Neste momento, o que estamos vendo é que coisas como GPT-4 superam uma pessoa na quantidade de conhecimento geral que ela tem e superam muito uma pessoa. Em termos de pensamento, não é muito bom, mas realmente faz simples pensamento.”

“E, dada a taxa de progresso, esperamos que as coisas melhorem muito rapidamente. Portanto, temos que nos preocupar com isso.”

Em um artigo do New York Times, o Dr. Hinton se referiu a “maus atores” que tentariam usar IA para “coisas ruins”.

Quando questionado pela BBC para elaborar sobre isso, ele respondeu: “Este é apenas um cenário de pior caso, um tipo de cenário de pesadelo.

“Você pode imaginar, por exemplo, alguns atores ruins como [Russian President Vladimir] Putin decidiu dar aos bots a capacidade de criar seus próprios sub-alvos.

Em última análise, isso poderia “criar sub-objetivos como ‘preciso ficar mais poderoso'”, alertou o cientista.

Ele acrescentou: “Cheguei à conclusão de que o tipo de inteligência que desenvolvemos é muito diferente da inteligência que temos.

“Somos sistemas biológicos e estes são sistemas digitais.A grande diferença é que com os sistemas digitais você tem muitas cópias do mesmo conjunto de pesos, do mesmo modelo do mundo.

“E todos esses clones podem aprender separadamente, mas compartilham seu conhecimento instantaneamente. Portanto, é como se você tivesse 10.000 pessoas e sempre que alguém aprendesse algo, todos saberiam automaticamente. E assim esses chatbots podem saber muito mais do que qualquer pessoa.”

Matt Clifford, chefe da Agência de Pesquisa e Invenção Avançada do Reino Unido, falando em caráter pessoal, disse à BBC que o anúncio do Dr. Hinton “destaca a taxa em que as capacidades de IA estão acelerando”.

“Há uma enorme vantagem nessa tecnologia, mas é imperativo que o mundo invista forte e urgentemente em segurança e controle de IA”, disse ele.

Hinton enfatizou que não queria criticar o Google e que o gigante da tecnologia era “muito responsável”.

“Na verdade, quero dizer algumas coisas boas sobre o Google. Seria mais confiável se eu não trabalhasse para o Google.”

Em um comunicado, o cientista-chefe do Google, Jeff Dean, disse: “Continuamos comprometidos com uma abordagem responsável da IA. Estamos constantemente aprendendo a entender os riscos emergentes e, ao mesmo tempo, inovando com ousadia”.