Chatbots podem criar “ilusão de inteligência” com truques estatísticos, diz crítica

Pesquisadores e críticos vêm questionando a ideia de que modelos de linguagem em formato de chat sejam, por si, “inteligentes”. O texto afirma que LLMs não têm mecanismos comparáveis aos de cérebros e raciocínio humano, funcionando como modelos matemáticos de tokens: recebem um texto e geram uma resposta plausível. A crítica também diz que muitos usos atuais parecem se apoiar em efeitos de validação genéricos, que passam a sensação de respostas altamente específicas.

O argumento compara a dinâmica a golpes de “leitura fria” usados por videntes, em que frases com alta probabilidade para certos perfis criam validação subjetiva. Nesse modelo, o chatbot e o “psíquico” reforçam a impressão de entendimento profundo por meio de enunciados estatisticamente comuns, levando o usuário a interpretar como evidência de inteligência. O texto conclui que a “inteligência” percebida pode estar mais na interpretação do usuário do que no modelo.