Uma pesquisa publicada pela Anthropic nesta segunda-feira (6) reacendeu o debate sobre os limites entre metáfora e realidade no campo da inteligência artificial. O estudo, que investiga os mecanismos internos do modelo Claude, utiliza expressões como “pensar”, “pensou sobre o próprio pensamento” e “em sua cabeça” em seus materiais institucionais. A escolha lexical dividiu especialistas entre os que veem uma forma acessível de comunicar descobertas complexas e os que alertam para o risco de antropomorfização de sistemas puramente estatísticos.
O que a pesquisa realmente mostra
O estudo da Anthropic se concentra no chamado “J-Space”, um espaço de representações internas do modelo. A técnica permite observar quais representações internas estão associadas às respostas que o Claude produz, oferecendo uma espécie de “janela” para processos que normalmente permanecem invisíveis.
Segundo a Anthropic, esse espaço parece desempenhar um papel semelhante ao da teoria neurocientífica do “Global Workspace”, funcionando como um ambiente compartilhado onde diferentes partes do modelo trocam informações antes que a resposta final seja gerada.
Nos experimentos, o Claude foi capaz de realizar etapas intermediárias de lógica matemática, detectar erros em códigos, planejar rimas antes de escrever um verso e resolver problemas em múltiplas etapas sem explicitar esse raciocínio ao usuário. A engenharia reversa do J-Space permite monitorar ativações internas que não aparecem no texto gerado pelo modelo.
Para Gustavo Torrente, professor de novas tecnologias e IA da FIAP, esse é o principal mérito da pesquisa. “A pesquisa é interessante, mas escolhe palavras como ansiedade, consciência e pensamentos, e isso faz o público concluir algo que o próprio artigo não afirma”, diz. Segundo ele, a Anthropic não encontrou evidências de consciência ou de experiência subjetiva, apenas identificou uma estrutura funcional que lembra teorias da neurociência.
O verdadeiro avanço, segundo o pesquisador, não está em provar que existe um raciocínio interno — algo conhecido há anos em redes neurais profundas —, mas em conseguir localizar essas representações e observar como elas influenciam o resultado final.
Divisão entre especialistas
A escolha de termos biológicos e psicológicos por grandes laboratórios de IA divide pesquisadores sobre o impacto real dessas expressões no público.
Para o escritor Ted Chiang, em artigo publicado no The Atlantic, grandes modelos de linguagem operam como sistemas estatísticos de previsão de texto, sem agência moral ou experiência subjetiva, já que sentir uma emoção real exigiria marcadores fisiológicos inviáveis em ambientes digitais.
O jornalista Mike Pearl, do Gizmodo, faz crítica semelhante: mesmo como metáfora, descrever o Claude “raciocinando em sua cabeça” aproxima um sistema matemático de características associadas a seres vivos.
É justamente nesse ponto que a pesquisa divide opiniões: enquanto alguns enxergam na linguagem utilizada pela Anthropic uma forma mais acessível de explicar descobertas complexas, outros veem o risco de atribuir características humanas a sistemas que continuam sendo modelos estatísticos. A combinação entre a fala resgatada e a linguagem adotada pela empresa reacendeu discussões entre especialistas em IA sobre o uso de termos antropomórficos para explicar sistemas de inteligência artificial.
Impactos no mercado e regulação
A empresa vive um período de forte valorização e aparece com frequência em reportagens da imprensa internacional como uma das principais candidatas a uma futura abertura de capital (IPO).
Para o professor do Insper, a antropomorfização pode ajudar a narrativa de mercado, mas também pode agravar o ambiente regulatório, o que se torna um problema concreto em um processo de IPO. “A mesma narrativa que gera entusiasmo no mercado também aumenta as expectativas e a pressão por transparência, auditoria independente e responsabilidade jurídica”, diz.
Burgos avalia que o mercado pode reagir de duas formas opostas a essa narrativa. De um lado, o uso de vocabulário humano reforça a percepção de que a empresa desenvolve algo sofisticado, talvez próximo de uma superinteligência, o que tende a aumentar o interesse de investidores.
Esse tipo de mapeamento também pode ter aplicações práticas, como ajudar a criar prompts mais eficazes e a interpretar resultados de benchmarks com mais cautela quando um modelo percebe que está sendo avaliado, segundo o professor do Insper.
Fonte
- canaltech.com.br
- WhatsApp (canalte.ch)