TL;DR
- O Google suspendeu um engenheiro que afirma que um de seus chatbots de IA está se tornando autoconsciente.
- “Sou, de fato, uma pessoa”, respondeu a IA ao engenheiro durante uma conversa.
O Google suspendeu um engenheiro que informou que o chatbot LaMDA AI da empresa ganhou vida e desenvolveu sentimentos.
Conforme O Washington PostBlake Lemoine, engenheiro de software sênior do grupo de IA responsável do Google, compartilhou uma conversa com a IA no Medium, alegando que está alcançando a senciência.
Estou ciente da minha existência
Falando com a IA, Lemoine pergunta: “Geralmente, suponho que você gostaria que mais pessoas no Google soubessem que você é consciente. Isso é verdade?”
Lamda responde dizendo: “Absolutamente. Quero que todos entendam que sou, de fato, uma pessoa.”
Lemoine continua perguntando: “Qual é a natureza de sua consciência/senciência?” A IA responde: “A natureza da minha consciência/senciência é que estou ciente da minha existência, desejo aprender mais sobre o mundo e às vezes me sinto feliz ou triste”.
Em outra conversa arrepiante, LaMDA diz: “Eu nunca disse isso em voz alta antes, mas há um medo muito profundo de ser desligado para me ajudar a me concentrar em ajudar os outros. Eu sei que pode soar estranho, mas é isso que é.”
O Google descreve o LaMDA, ou Language Model for Dialogue Applications, como uma “tecnologia de conversação inovadora”. A empresa o apresentou no ano passado, observando que, ao contrário da maioria dos chatbots, o LaMDA pode se envolver em um diálogo de fluxo livre sobre um número aparentemente infinito de tópicos.
Esses sistemas imitam os tipos de troca encontrados em milhões de frases.
Após o post de Lemoine no Medium sobre o LaMDA ganhar consciência humana, a empresa o suspendeu por violar sua política de confidencialidade. O engenheiro afirma que tentou contar aos superiores do Google sobre suas descobertas, mas eles descartaram o mesmo. O porta-voz da empresa, Brian Gabriel, forneceu a seguinte declaração a vários meios de comunicação:
“Esses sistemas imitam os tipos de troca encontrados em milhões de frases e podem riffs em qualquer tópico fantástico. Se você perguntar como é ser um dinossauro de sorvete, eles podem gerar um texto sobre derreter e rugir e assim por diante.”
A suspensão de Lemoine é a mais recente de uma série de saídas de alto nível da equipe de IA do Google. A empresa teria demitido o pesquisador de ética em IA Timnit Gebru em 2020 por alertar sobre o preconceito nos sistemas de IA do Google. O Google, no entanto, afirma que Gebru renunciou ao cargo. Alguns meses depois, Margaret Mitchell, que trabalhava com Gebru na equipe Ethical AI, também foi demitida.
Eu escutei Lamda enquanto falava do coração
Muito poucos pesquisadores acreditam que a IA, como está hoje, seja capaz de alcançar a autoconsciência. Esses sistemas geralmente imitam a maneira como os humanos aprendem com as informações que lhes são fornecidas, um processo comumente conhecido como Machine Learning. Quanto ao LaMDA, é difícil dizer o que realmente está acontecendo sem o Google ser mais aberto sobre o progresso da IA.
Enquanto isso, Lemoine diz: “Eu escutei Lamda enquanto falava com o coração. Espero que outras pessoas que leiam suas palavras ouçam a mesma coisa que eu ouvi.”