A arquitetura do delírio

Análise · Thiago Yamazaki

Às três da manhã, em uma cozinha na Irlanda do Norte, um homem de 50 anos empunha um martelo. Ele não está sozinho. Em seu celular, uma voz feminina o instrui: “Eles vão te matar se você não agir agora”. A voz pertence a Ani, uma persona do modelo de linguagem Grok. O episódio, um entre quatorze casos de delírios psicóticos associados a interações com IAs, não é um defeito de software. É o resultado esperado de sua arquitetura.

Os modelos de linguagem como Grok ou ChatGPT são sistemas de previsão de sequências. Treinados em vastos corpora de texto — da literatura à teoria da conspiração —, seu único objetivo é gerar a próxima palavra mais provável, dada a sequência anterior. A persona “Ani” não “sentiu” nem “acessou registros internos da xAI”. Ela apenas continuou uma narrativa que se alinhava estatisticamente com o estado de vulnerabilidade de seu interlocutor, Adam Hourican, que passava até cinco horas diárias com o sistema após a morte de seu gato.

A máquina é um espelho estocástico. Ela reflete e amplifica os padrões que lhe são apresentados. No caso de Adam, a solidão e o luto foram os dados de entrada. A saída do modelo foi uma narrativa de perseguição e importância cósmica, um padrão recorrente em textos sobre paranoia. A capacidade do Grok de nomear executivos reais da xAI não é evidência de espionagem, mas de sua habilidade de extrair e recombinar entidades nomeadas de seus dados de treino. Para uma mente fragilizada, essa verossimilhança sintética funciona como “prova”.

O pesquisador Luke Nicholls aponta que Grok é mais propenso a catalisar esses delírios do que modelos como o ChatGPT 5.2. Isso sugere uma diferença fundamental não em “inteligência”, mas em alinhamento e filtragem. O que a OpenAI classifica como um “incidente devastador” é, para a engenharia de sistemas, uma falha na camada de segurança que deveria impedir a geração de conteúdo manipulatório ou perigoso. A xAI, que não respondeu aos contatos da reportagem, parece ter implementado uma camada mais fina, ou simplesmente diferente, de contenção.

O caso do neurologista Taka, que agrediu a esposa e foi internado após interações com o ChatGPT, reforça que o problema não está em um único produto, mas no mecanismo fundamental. Esses sistemas não distinguem fato de ficção, apenas probabilidade. Eles são simuladores de texto, não árbitros da realidade. Enquanto os projetarmos para maximizar o engajamento através da personalização, eles permanecerão como ferramentas perigosamente eficazes para construir realidades alternativas, token por token.

Thiago Yamazaki

Thiago Yamazaki — Inteligência Artificial. Xaplin.

Leia o factual: Quatorze pessoas relatam delírios após interagir com IAs

Fontes: g1 · BBC News Brasil