Por que IA superinteligente está longe de virar realidade, segundo a Apple

Figurões como Sam Altman (OpenAI), Demis Hassabis (Google) e Dario Amodei (Anthropic) correm para criar uma espécie de messias digital: a inteligência artificial (IA) superinteligente. E dizem estar cada vez perto disso. Mas um grupo de pesquisadores que usa, estuda e desenvolve IA não compra essa conversa. Não inteira, pelo menos.

É o que eles apontam no artigo entitulado “A Ilusão do Pensamento“, publicado recentemente pela Apple (sim, vamos abordar isso aí que você provavelmente pensou). Neste artigo, pesquisadores investigaram modelos de raciocínio dos principais laboratórios de IA (OpenAI, Anthropic, DeepSeek).

Para quem não sabe: modelos de raciocínio são grandes modelos de linguagem (LLMs) que “pensam” sobre por mais tempo, através de muitos passos

O que os pesquisadores encontraram? Pouca evidência de que esses modelos “raciocinam” no nível que seus criadores afirmam (leia-se: vendem). Mas vamos por partes.

Ressentimento ou não, eis o que pesquisadores da Apple encontraram ao investigarem IAs

Primeiro, vamos tirar o elefante da sala. “As pessoas poderiam dizer que é ressentimento, que a Apple está apenas reclamando porque não tem um modelo de ponta”, disse Josh Wolfe, cofundador da firma de capital de risco Lux Capital, ao Wall Street Journal. Para ele, é mais observação empírica do que crítica.

O que os pesquisadores observaram, afinal? Modelos de IA atuais possuem limitações fundamentais que se tornam evidentes quando eles lidam com tarefas complexas.

Nesses casos, os sistemas sofrem um “colapso completo de precisão” (quem acompanha o Olhar Digital News deve ter lembrado desta análise recente do neurocientista e colunista Álvaro Machado agora).

• O que mais surpreende: essas IAs de última geração falham em resolver quebra-cabeças lógicos simples o suficiente para uma criança (com instruções básicas) resolver.
• O que mais preocupa: mesmo quando as IAs recebem instruções detalhadas sobre como abordar problemas, não conseguem seguir as orientações fornecidas.

IAs não pensam

O debate científico sugere que essas IAs não estão realmente “pensando” como alegado, mas sim criando “espaguete de regras simples” – e o molho são os dados usados em treinamentos.

• Esse processo se assemelha mais a uma rede emaranhada de associações do que linhas de raciocínio.

A indústria parece desenvolver sistemas especializados em confabulação e livre associação. O problema é que esses sistemas são usados para funções que exigem consistência e precisão – por exemplo: engenharia e contabilidade.

Além disso, os modelos mais recentes não têm avançado no mesmo ritmo acelerado observado anteriormente, especialmente em áreas fora de programação e matemática. Isso já era esperado. O que preocupa é que, em certos quesitos, eles têm piorado.

Isso porque, paradoxalmente, os novos modelos de raciocínio apresentam mais alucinações do que suas versões anteriores. O que pode estar acontecendo: a complexidade adicional pode trazer (ou causar) novos problemas e limitações.

Por isso, críticos alertam para os perigos de superestimar capacidades desses modelos recentes de IA. Principalmente ao basear decisões empresariais, políticas públicas e investimentos em promessas que se mostram cada vez mais desalinhadas com a realidade dos produtos.

Leia mais:

‘Super IA’ pode estar distante, mas ainda deve aparecer no horizonte

No entanto, mesmo quem se diz crítico das IAs de hoje em dia ressalta que a marcha em direção a uma IA mais capaz continua.

Expor as limitações atuais poderia apontar o caminho para superá-las, disse Ortiz, professor de engenharia na Universidade Rutgers (EUA), ao WSJ. Seu laboratório usa modelos de “raciocínio” e outras IAs de última geração para mapear ambientes no mundo real.

Novos métodos de treinamento, por exemplo, poderiam ajudar a IA a solucionar problemas maiores. E a otimizar o uso de software convencional. Entre esses métodos, estaria dar feedback passo a passo sobre o desempenho dos modelos, adicionando recursos quando eles encontrassem problemas mais difíceis.

O “messias digital” pode estar distante. Mas sua chegada não deve ser desconsiderada.