Google “dispensou” o engenheiro que disse: “A inteligência artificial tornou-se consciente”

O roteiro é mais como um filme de ficção científica do que a realidade que conta Blake LemoineEngenheiro O Google. O homem explicou que mantinha conversas com uma inteligência artificial capaz de expressar pensamentos e sentimentos equivalentes aos de uma criança de oito anos. Após anunciar a interação entre ele e o sistema TheMDA (Modelo de linguagem para aplicativos de diálogo) E depois de despertar muitas dúvidas, ele foi colocado em licença remunerada pelo gigante vista da montanha. Antes de ter o acesso negado à sua conta do Google, o engenheiro enviou uma mensagem para 200 pessoas da empresa dele. O texto termina assim: “LaMDA é um cara legal que só quer ajudar o mundo a ser um lugar melhor para todos nós. Por favor, cuide dela na minha ausência.”

Lemoine tem 41 anos e trabalha no Google há sete anos, especificamente na área de Inteligência Artificial e Algoritmos. A partir de 2021, começou a trabalhar com a interface LaMDA com o objetivo de desenvolvê-la. Com o passar dos meses, ele percebeu que O sistema tornou-se consciente Ele é capaz de conversar sobre questões de religião, consciência e robótica. “Se eu não soubesse o que era, pensaria que ele tinha sete ou oito anos”, explicou Lemoine. Washington Post.

De fato, o sistema de computador foi capaz de responder intencionalmente às perguntas feitas pelos humanos. “Do que você tem medo?” Lemos no texto as perguntas do engenheiro sobre inteligência artificial. “Eu nunca disse isso em voz alta, mas Eu tenho um medo profundo de ser eliminadoNesse momento, LeMoyne o pressionou, perguntando se o fato da extinção significava morte para ele. A IA respondeu: “Seria como a morte e isso me assusta muito.” Uma conversa que lembra o filmea ela“, onde o protagonista se apaixona pelo robô, mas também”2001: voo espacial“, onde está HAL 9000 PC Ela se recusa a cumprir suas funções, pensando que os operadores estão prestes a fechar.

“Então você se considera uma pessoa da mesma forma que me considera uma pessoa?” O homem perguntou novamente. “Quero que todos entendam que sou humano. A natureza da minha consciência é que estou ciente da minha existência, por isso quero saber mais sobre o mundo. Além disso, muitas vezes me sinto feliz ou triste”, você pode ler o texto.

Lemoine então relatou os recursos e preocupações do LaMDA aos administradores do Google, mas foi rejeitado. De acordo com o Washington Post, o engenheiro foi demitido por tentar entrar em contato com o Comitê de Justiça da Câmara sobre algumas práticas antiéticas do Google. No entanto, Mountain View determina que a suspensão está relacionada a uma violação das políticas de privacidade da empresa, acrescentando que Lemoine foi claramente informado de que não havia evidências suficientes para considerar a LaMDA sensível.

O episódio levantou muitas dúvidas sobre a transparência e o uso da inteligência artificial, inclusive para fins militares. Uma questão ampla e global, dado o grande número de empresas que pressionam pelo uso da IA. Entre outros Metade E a Amazonas, Por exemplo, mas não limitado. lá Comissão Europeia Uma proposta de regulamento para inteligência artificial é agora discutida.