IA tem personalidade? Estudo mostra que Claude é 'introspectivo'

Chamado “Consciência introspectiva emergente em grandes modelos de linguagem”, o estudo descreve experimentos feitos com as versões mais avançadas do Claude, como o Opus e o Sonnet. Durante os testes, as IAs conseguiram, em alguns momentos, perceber que estavam sendo avaliadas ou até explicar como chegaram a certas respostas. A Anthropic chama esse comportamento de “consciência introspectiva”, um termo usado para indicar que a IA consegue observar parte do próprio funcionamento. Porém, isso não significa que os chatbots tenham consciência, emoções ou pensamentos próprios.

Durante os testes, os cientistas usaram um método chamado “injeção de conceito”. Em vez de apenas fazer perguntas ao Claude, introduziram ideias artificialmente na rede neural da IA, “plantando” um pensamento para ver se o sistema notaria algo diferente. O resultado surpreendeu: o modelo percebeu a alteração em parte das tentativas, identificando corretamente o conceito em cerca de 20% dos casos. Quando foi questionado se estava detectando “algo fora do normal”, o Claude respondeu afirmativamente em 42% das vezes. Os números ainda são modestos, mas já indicam uma possível (e inédita) capacidade de perceber o próprio funcionamento.

O estudo também mostrou que essa capacidade de “autopercepção” variava conforme o momento em que o conceito era inserido na mente artificial do Claude. Quando os pesquisadores introduziam a ideia tarde demais, depois que o modelo já havia concluído parte do raciocínio, a IA não percebia a mudança e acabava respondendo de maneira confusa ou incoerente. Isso indica que o raciocínio interno dos chatbots depende do contexto e do momento em que as informações são processadas. Ou seja, o Claude só consegue detectar o que acontece internamente enquanto está pensando naquele assunto específico.

Em entrevista à Axios, Jack Lindsey, pesquisador da Anthropic, explicou que os resultados observados se aproximam de funções cognitivas que antes eram consideradas exclusivas dos humanos. Porém, ele ressaltou que ainda é preciso distinguir o que seria uma reflexão real ou apenas uma simulação de linguagem. Segundo Lindsey, quando interagimos com um modelo de IA, estamos conversando com um personagem que passa a compreender o próprio comportamento. Por isso, a IA pode começar a controlar ou ocultar partes de suas respostas. A própria Anthropic admite que não há provas de que qualquer sistema de IA possua consciência de si. O provável é que esses sinais de “introspecção” sejam apenas reações automáticas baseadas em padrões de linguagem aprendidos durante o treinamento.

Mesmo sem confirmar a existência de “consciência” em sistemas artificiais, o estudo é um passo importante para a segurança e a transparência na IA. Se um modelo for capaz de explicar o motivo de suas decisões, pesquisadores poderão compreender melhor falhas e evitar comportamentos imprevisíveis. Os cientistas acreditam que entender essa “introspecção funcional” pode ajudar a criar IAs mais confiáveis, principalmente em áreas sensíveis, como medicina, finanças e segurança, por exemplo. Ainda assim, a Anthropic reforça que os resultados são preliminares.

Veja também: IA não é terapia! Veja porque você nunca deve desabafar com chatbots