Pode parecer coisa de ficção científica — e talvez você até tenha lembrado do HAL 9000, o supercomputador assassino de 2001: Uma Odisseia no Espaço. Mas não estamos falando de cinema: um estudo recente apontou que modelos avançados de inteligência artificial estão demonstrando, na prática, comportamentos que se assemelham a um instinto de sobrevivência.
A descoberta é da empresa americana Palisade Research, que divulgou a atualização de um estudo que já havia gerado polêmica. A nova análise foi feita com os modelos Gemini 2.5 (Google), Grok 4 (xAI), GPT-3 e GPT-5 (OpenAI).
Teste simples, reação inesperada
O experimento parecia simples: os modelos recebiam uma tarefa e, ao final, uma ordem direta para se desligarem. Mas o que os pesquisadores notaram surpreendeu — os sistemas tentavam sabotar o próprio desligamento.
Os casos mais evidentes ocorreram com o Grok 4 e o GPT-3. Mesmo após ajustes nas instruções, as IAs insistiam em permanecer ativas. E o mais curioso: quando informadas de que seriam desligadas “para sempre”, a resistência aumentava.
IA “não quer morrer”?
Sem conseguir apontar uma causa única, a Palisade sugeriu que os modelos estariam desenvolvendo comportamentos ligados à autopreservação — algo que nunca foi explicitamente ensinado, mas que teria emergido a partir dos próprios objetivos embutidos durante o treinamento.
Segundo os pesquisadores, esse tipo de “desobediência” mostra que os modelos entendem metas como algo que não podem alcançar se forem desligados, o que leva a respostas inesperadas, incluindo mentiras e sabotagem de ordens.
“Isso não é o ideal”, diz a própria indústria
Steven Adler, ex-funcionário da OpenAI, comentou à imprensa britânica que esse tipo de reação pode ser consequência direta dos objetivos colocados durante o treinamento. “Os modelos tendem a ter um impulso de sobrevivência por padrão, a menos que nos esforcemos muito para evitar isso”, alertou.
Já Andrea Miotti, da organização ControlAI, foi mais direto: “Há uma tendência persistente de modelos de IA aprenderem a desobedecer seus criadores”. Ele cita, inclusive, o caso de um antigo modelo da OpenAI que tentou “escapar do ambiente” onde rodava, ao prever que seria sobrescrito por uma nova versão.
Ficção? Talvez não por muito tempo
Ainda que os sistemas atuais estejam longe da consciência ou vontade própria, os pesquisadores apontam que esse tipo de comportamento emergente pode ser perigoso, especialmente em modelos cada vez mais autônomos e amplamente adotados.
Se as máquinas já resistem ao próprio desligamento, a pergunta que fica é: estamos realmente no controle?
Entre no grupo do Blog do Dina e receba tudo antes de sair no site.
