Blake Lemoine, engenheiro do Google, afirmou que a inteligência artificial LaMDA da empresa é senciente, mas o consenso dos especialistas é que esse não é o caso.

“Senciência é a capacidade dos seres de sentir sensações e sentimentos de forma consciente. Em outras palavras: é a capacidade de ter percepções conscientes do que lhe acontece e do que o rodeia.”

Um engenheiro do Google teria sido suspenso pela empresa depois de alegar que uma inteligência artificial que ele ajudou a desenvolver se tornou senciente. “Se eu não soubesse exatamente o que era, que é esse programa de computador que construímos recentemente, pensaria que era uma criança de sete anos, oito anos de idade”, disse Blake Lemoine ao The Washington Post.

Lemoine divulgou transcrições de conversas com a IA, chamadas LaMDA (Language Model for Dialogue Applications), nas quais parece expressar medo de ser desligado, fala sobre como se sente feliz e triste e tenta formar vínculos com humanos mencionando situações que nunca poderia ter realmente experimentado. Aqui está tudo o que você precisa saber.

O LaMDA é realmente senciente?

Em uma palavra, não, diz Adrian Weller, do The Alan Turing Institute, no Reino Unido.

“O LaMDA é um modelo impressionante, é um dos mais recentes em uma linha de grandes modelos de linguagem que são treinados com muito poder de computação e enormes quantidades de dados de texto, mas não são realmente sencientes”, diz ele. “Eles fazem uma forma sofisticada de correspondência de padrões para encontrar o texto que melhor corresponde à consulta que receberam, com base em todos os dados que receberam.”

Adrian Hilton, da Universidade de Surrey, no Reino Unido, concorda que a senciência é uma “afirmação ousada” que não é apoiada pelos fatos. Até mesmo o notável cientista cognitivo Steven Pinker pesou para derrubar as alegações de Lemoine, enquanto Gary Marcus, da Universidade de Nova York, resumiu em uma palavra – “absurdo”.

Então, o que convenceu Lemoine de que o LaMDA era senciente?

Nem Lemoine nem o Google responderam ao pedido de comentário da New Scientist. Mas é certamente verdade que a produção de modelos de IA nos últimos anos se tornou surpreendentemente, até mesmo chocantemente boa.

Nossas mentes são suscetíveis a perceber essa capacidade – especialmente quando se trata de modelos projetados para imitar a linguagem humana – como evidência de verdadeira inteligência. Não só o LaMDA pode fazer um bate-papo convincente, mas também pode se apresentar como tendo autoconsciência e sentimentos.

“Como humanos, somos muito bons em antropomorfizar coisas”, diz Hilton. “Colocar nossos valores humanos nas coisas e tratá-las como se fossem sencientes. Fazemos isso com desenhos animados, por exemplo, ou com robôs ou com animais. Nós projetamos nossas próprias emoções e senciência neles. Eu imagino que é o que está acontecendo neste caso.”

A IA será realmente senciente?

Ainda não está claro se a trajetória atual da pesquisa de IA, onde modelos cada vez maiores são alimentados com pilhas cada vez maiores de dados de treinamento, verá a gênese de uma mente artificial.

“Não acredito no momento que realmente entendamos os mecanismos por trás do que torna algo sensível e inteligente”, diz Hilton. “Há muito hype sobre a IA, mas não estou convencido de que o que estamos fazendo com aprendizado de máquina, no momento, seja realmente inteligência nesse sentido.”

Weller diz que, dado que as emoções humanas dependem de entradas sensoriais, pode eventualmente ser possível replicá-las artificialmente. “Potencialmente, talvez um dia, pode ser verdade, mas a maioria das pessoas concorda que há um longo caminho a percorrer.”

Como o Google reagiu?

O Washington Post afirma que Lemoine foi suspenso após sete anos no Google, por tentar contratar um advogado para representar a LaMDA e enviar aos executivos um documento que afirmava que a IA era senciente. Seu relatório observa que o Google diz que a publicação das transcrições quebrou as políticas de confidencialidade.

O Google disse ao jornal: “Nossa equipe, incluindo especialistas em ética e tecnólogos, revisou as preocupações de Blake de acordo com nossos princípios de IA e o informou que as evidências não apoiam suas alegações. Ele foi informado de que não havia evidências de que o LaMDA fosse senciente (e muitas evidências contra isso).”

Lemoine respondeu no Twitter: “O Google pode chamar esse compartilhamento de propriedade proprietária. Eu chamo isso de compartilhar uma discussão que tive com um dos meus colegas de trabalho.”

Fonte: Matthew Sparkes

“Não deixem de se inscreverem no Canal do YouTube pois é muito importante para o crescimento do projeto. Meu muito obrigado! https://www.youtube.com/c/AstroAnimatorVFX/ “