Desde a época em que a inteligência artificial parecia mais ficção do que ciência, uma ideia fascina os principais pesquisadores da área. Hoje, quem comanda os laboratórios de IA acredita que essa ideia pode transformar o setor, a economia global e talvez o destino da humanidade. O cientista-chefe da OpenAI disse que ela é a única maneira de continuar na fronteira. Um cofundador da Anthropic afirma que ela “talvez seja a tendência técnica mais importante do mundo”.
E, a menos que você trabalhe com IA, é provável que nunca tenha ouvido falar dela.
É um fenômeno conhecido como “autoaperfeiçoamento recursivo”, ou RSI na sigla em inglês, o que, grosso modo, quer dizer IA construindo IAs mais inteligentes. A Anthropic chama isso de “fechar o ciclo”: cada melhoria deixa as máquinas melhores e mais rápidas em melhorar a si mesmas. Os melhores dados sobre essa mudança profunda vêm da Anthropic, que publicou recentemente um gráfico mostrando quanto da sua pesquisa e desenvolvimento em IA está sendo feito pela própria IA.
Gráfico revela avanço surpreendente na Anthropic
Agora olhe de novo para o gráfico e você vai notar que algo extraordinário está acontecendo dentro da Anthropic. As barras mais reveladoras são as em azul escuro, de “IA lidera”, que indicam que ela faz a maior parte da P&D enquanto um humano supervisiona. É o quinto dos seis níveis. Um ano atrás, a IA não liderava nada desse trabalho. Até março, liderava só 1%. Em agosto, o Claude já liderava 26% do trabalho sobre os futuros Claudes. E esse número quase certamente é maior hoje.
“Ainda não chegamos lá, e o autoaperfeiçoamento recursivo não é inevitável”, escreveu a Anthropic recentemente. “Mas ele pode chegar antes do que a maioria das instituições está preparada para enfrentar.” A declaração reflete um reconhecimento de que o ritmo de progresso pode superar as expectativas atuais.
Empresas temem o sucesso da própria tecnologia
As empresas de IA dizem que ter modelos treinando, testando e ajustando a próxima geração de modelos é essencial para o seu sucesso. Elas também morrem de medo do que esse sucesso pode significar. Catastrofistas largaram os laboratórios e alertaram que uma IA capaz de se autoaperfeiçoar pode acabar matando todos nós. Os pesquisadores mais proeminentes da área pediram mais supervisão, e CEOs defenderam uma desaceleração antes que essa tecnologia, que avança tão rápido, chegue ao RSI pleno.
“Sem controle, ele pode superar nossa capacidade de entender e controlar esses sistemas, e por isso deve ser buscado com muito cuidado”, escreveu o CEO da Anthropic, Dario Amodei, “se é que deve ser buscado.” A frase sintetiza a tensão entre o potencial transformador e os riscos existenciais associados à tecnologia.
Raízes históricas do autoaperfeiçoamento
Mas a ideia de uma IA que se autoaperfeiçoa seduz os humanos desde o início da história da IA. Quando pesquisadores pioneiros se reuniram em Dartmouth para um projeto de verão em 1956, já tinham curiosidade sobre como as máquinas poderiam melhorar a si mesmas. Por coincidência, um dos cientistas que propuseram aquele workshop seminal era um Claude: o brilhante matemático Claude Shannon. Em menos de uma década, os cientistas já sonhavam com máquinas mais inteligentes que nós em tudo, inclusive no projeto de máquinas.
“Assim”, escreveu I.J. Good, outro matemático brilhante, “a primeira máquina ultrainteligente é a última invenção que o homem precisará fazer, desde que a máquina seja dócil o bastante para nos dizer como mantê-la sob controle.” A citação, de décadas atrás, antecipa o dilema atual sobre como garantir que sistemas superinteligentes permaneçam alinhados aos interesses humanos.
Surpresa até para os fundadores
“Não sei como processar isso”, escreveu recentemente Jack Clark, cofundador da Anthropic. Clark começou a carreira como jornalista de tecnologia, até ficar tão obcecado pela história que cobria que quis fazer parte dela. Foi trabalhar num laboratório de pesquisa ainda incipiente chamado OpenAI e, mais tarde, saiu com um pequeno grupo de colegas para fundar a Anthropic. Poucos meses atrás, esse momento parecia estar a alguns anos de distância. Chegou antes até do que Clark esperava.
Depois de tirar licença-paternidade em novembro do ano passado, ele voltou em fevereiro para uma empresa muito diferente. Enquanto ele trocava fraldas, a Anthropic tinha mudado. A observação pessoal ilustra a velocidade com que o autoaperfeiçoamento recursivo passou de conceito teórico a realidade mensurável dentro da organização.