Recentemente, as manchetes de muitos veículos de comunicação, em um exagerado tom apocalíptico, anunciaram que um pesquisador que trabalhou na OpenAI e na Anthropic acusou essas empresas de apostar com nossas vidas.
Um dia depois, um dos líderes de segurança da Anthropic, criadora do Claude, estimou que existe uma probabilidade de mais de 10% de que a inteligência artificial extinga a humanidade na próxima década.
Muitos veículos encheram suas capas com esse impreciso tom de apocalipse.
Apesar desses alertas, é preciso lembrar, em meio a tanto ruído, que poucas tecnologias se desenvolveram sob tanta vigilância.
Uma demissão vinda de dentro
Por: Gabriel E. Levy B.
Em 8 de setembro de 2026, um desconhecido pesquisador de inteligência artificial chamado Jacob Coxon anunciou sua demissão na rede social X, por meio de sua conta pessoal.
Ainda que essa demissão pudesse ter passado despercebida no convulsionado ecossistema do Vale do Silício, o anúncio acabou ocupando as manchetes dos principais veículos de comunicação do mundo, inclusive dos mais antigos e tradicionais, como The New York Times e The Wall Street Journal.
Com apenas 27 anos de idade, Jacob Coxon trabalhou três anos entre OpenAI e Anthropic, duas das maiores corporações de inteligência artificial generativa do mundo.
Seu trabalho consistiu em apoiar o treinamento dos grandes modelos de linguagem (LLM), em uma fase na qual esses algoritmos leem enormes volumes de texto e dados para aprender a escrever de forma autônoma os milhões de textos que hoje inundam a rede.
O que tornou Coxon viral e famoso, levando-o do anonimato ao escândalo, foi sua contundente afirmação de que as duas companhias NÃO agem com responsabilidade, porque competem por uma superinteligência capaz de melhorar a si mesma, sem medir nem mediar suas consequências.
Uma ameaça que já havia sido anunciada
Mas esse anúncio em si mesmo não é algo novo, pois outros já haviam alertado de maneira parecida.
Em fevereiro de 2026, Mrinank Sharma, chefe de pesquisa em salvaguardas da Anthropic, pediu demissão com a advertência de que o mundo corre perigo.
A diferença no caso de Coxon é que um atual funcionário da companhia, Evan Hubinger, líder de Ciência de Alinhamento na Anthropic, deu razão a ele em público e estimou em mais de 10% a probabilidade de que a IA acabe com toda a humanidade nos próximos dez anos ou até antes.
Hubinger admitiu publicamente que a companhia para a qual trabalha ainda não tem um plano para conseguir controlar uma superinteligência, embora considere que, com os modelos atuais, a probabilidade de um apocalipse é realmente baixa.
Os riscos existem
Mais de cem especialistas, com o prêmio Turing Yoshua Bengio à frente, alertaram em seu momento, no Relatório Internacional de Segurança da IA 2026, que um dos maiores perigos aos quais não se está prestando atenção é que alguns modelos já detectam quando são avaliados e, portanto, modificam sua conduta para cumprir os padrões de seus avaliadores.
Em novembro de 2025, a Anthropic revelou que um grupo relacionado ao Estado chinês usou o Claude para tentar espionar cerca de trinta alvos de interesse do governo daquele país, e indicou que seus integrantes usaram agentes de IA em até 90% das tarefas táticas.
Uma pesquisa do AI Impacts, aplicada a 2.778 pesquisadores especialistas no tema, situou em 5% a probabilidade mediana de extinção humana ou de uma submissão permanente por causa da IA.
Notas que preocupam
Em julho, o Future of Life Institute avaliou os processos e protocolos de nove companhias que desenvolvem modelos de inteligência artificial generativa.
A Anthropic liderou a tabela com apenas “C+” e nenhuma alcançou sequer um “C” em segurança existencial, um componente desse mesmo estudo que avalia os planos diante de uma possível catástrofe.
Mas, sem dúvida, o maior alerta ao qual devemos prestar atenção é que as empresas líderes do setor da IA tenham suavizado suas promessas de pausar o desenvolvimento dessa tecnologia.
Esses dados nos obrigam a levar a discussão a sério, mas sem entrar em pânico, cair em alarmismos nem criar discursos apocalípticos.
A tecnologia mais vigiada
Testes em ambientes fechados
Antes de chegar ao público, os modelos mais avançados passam pelos chamados “sandboxes” ou caixas de areia de teste, que são, em essência, ambientes computacionais isolados ou fora da rede, nos quais os engenheiros testam um programa sem que ele toque sistemas reais e podem deter em tempo real qualquer ameaça.
Além disso, as empresas por trás de ChatGPT, Claude, Gemini e Grok, junto com a Microsoft, entregam versões inéditas de seus modelos ao Centro de Padrões e Inovação em IA do governo dos Estados Unidos, que já soma mais de 40 avaliações, como um mecanismo adicional de segurança.
A Anthropic restringiu o Claude Mythos Preview, um modelo capaz de encontrar vulnerabilidades, ou seja, falhas de segurança que um atacante poderia aproveitar, um tema que analisamos em profundidade em artigos anteriores.
Cerca de cinquenta organizações o usaram dentro do Projeto Glasswing e em poucas semanas encontraram mais de dez mil falhas graves em software crítico.
Só depois a empresa abriu ao público uma versão com salvaguardas adicionais, que por restrições do governo dos Estados Unidos teve de suspender durante algumas semanas e que finalmente voltou a liberar para todo o mundo.
O problema é que os sandboxes não são intransponíveis nem garantem um ambiente perfeito, já que têm limites, e o mais preocupante é algo que muitos pesquisadores denunciaram: um modelo de IA de última geração tem a capacidade de detectar que está sendo avaliado e, portanto, comportar-se “melhor” durante o teste ou “falsear” os resultados.
Um problema e uma preocupação global
Em julho, a ONU reuniu em Genebra o primeiro Diálogo Global sobre Governança da IA, um fórum no qual estão presentes os 193 Estados membros.
Dentro desse espaço multilateral, um painel científico de 40 especialistas em inteligência artificial apresentou um relatório com uma análise muito completa sobre os riscos reais.
Embora suas conclusões não tenham força obrigatória, deixam os governos sem a desculpa da ignorância.
O espelho nuclear
Em 2023, Sam Altman, Dario Amodei, Demis Hassabis e Geoffrey Hinton, criadores e promotores da atual inteligência artificial generativa e dos grandes modelos de linguagem (LLM), assinaram uma declaração conjunta que reconhece a mitigação do risco de extinção pela IA como prioridade global, no mesmo nível das pandemias e da guerra nuclear.
Em janeiro de 2026, o Bulletin of the Atomic Scientists, fundado por cientistas do Projeto Manhattan, colocou seu Relógio do Juízo Final a 85 segundos da meia-noite. Esse símbolo mede o quão perto estamos de uma catástrofe, e seus especialistas incluíram a IA entre as ameaças, o que, sem dúvida, coloca o risco sobre a mesa e deixa claro que, embora seja impossível determinar se a inteligência artificial acabará com a humanidade, tampouco podemos afirmar que esse cenário apocalíptico nos pegaria desprevenidos.
Oitenta anos de alerta
A humanidade convive com armas nucleares desde 1945 e nenhum país voltou a usá-las em uma guerra depois de Nagasaki.
Os tratados e os inspetores internacionais contiveram o perigo sem eliminá-lo.
A IA já começa a receber um tratamento um tanto parecido.
Por exemplo, em junho, o governo dos Estados Unidos impôs controles de exportação que obrigaram a Anthropic a suspender durante quase três semanas o acesso a seus modelos mais potentes, e diversos órgãos dentro do Estado analisam e acompanham com lupa o comportamento da IA e os novos desenvolvimentos.
No entanto, a analogia com o mundo nuclear não é em si mesma perfeita, porque o urânio é escasso, enquanto neste momento qualquer pessoa com acesso à internet pode usar a inteligência artificial, mesmo sem pagar planos de assinatura.
Urge uma comissão das Nações Unidas para a IA
Da mesma forma que nas Nações Unidas existem comissões e mecanismos para o controle, a gestão e os limites da energia nuclear pelo risco que ela representa, é necessário que esse organismo multilateral, com o concurso da China, dos Estados Unidos e das grandes potências europeias, defina um mecanismo vinculante que regule a inteligência artificial e imponha limites ao seu desenvolvimento, com auditorias externas como as que os inspetores internacionais fazem nas instalações nucleares e com acordos de vigilância. Dessa forma poderíamos manter sob controle uma tecnologia que pode ser tão poderosa quanto a própria energia nuclear.
O outro lado da moeda: a exitosa estratégia do marketing do medo
Ainda que seja impossível desconhecer todos os riscos que mencionamos, devemos ser claros em que o catastrofismo também funciona como publicidade.
O historiador Lee Vinsel chamou de criti-hype a crítica que exagera o poder de uma tecnologia e termina inflando sua promoção.
Vinsel é um historiador da tecnologia, escritor e professor associado estadunidense no Departamento de Ciência, Tecnologia e Sociedade da Virginia Tech. É amplamente reconhecido por suas pesquisas críticas sobre o impacto social, governamental e corporativo da mudança tecnológica.
Manchetes que assustam e enganam
Para ninguém é segredo que os veículos de comunicação na era digital buscam chamar a atenção a qualquer preço. O clickbait é um fenômeno que repercute de forma significativa na credibilidade da imprensa.
Afirmações como as de Coxon são o caldo de cultura perfeito para a desinformação, sobretudo porque é muito fácil amplificá-las.
Vários veículos em espanhol publicaram manchetes com a frase “poderia matar todos nós”.
Esse tipo de manchete multiplica exponencialmente os cliques, mas sacrifica as nuances.
O número de Hubinger expressa uma opinião pessoal que não necessariamente representa o consenso de quem conhece o tema em profundidade.
Especialistas de peso como o prêmio Turing Yann LeCun consideram exagerados esses cenários.
Um chamado à calma
Diante de cada manchete alarmista, cabe a nós verificar quem disse o quê e aprender de forma rigorosa a separar uma opinião de um fato que possa ser comprovado ou que ao menos esteja sustentado em evidências sólidas.
Também nos cabe exigir dos governos que convertam os compromissos voluntários das empresas em regras obrigatórias.
Em resumo, os alertas de Jacob Coxon e Evan Hubinger apontam para riscos reais que a ciência documenta e que a própria indústria admite.
No entanto, a humanidade enfrenta esse desafio com os olhos abertos, porque governos e cientistas de todo o mundo vigiam a IA como antes vigiaram a energia nuclear e, embora sejam cenários diferentes porque é difícil ter acesso ao urânio enquanto qualquer pessoa pode usar a IA, o aprendizado na matriz de riscos é o mesmo.
Diante do sensacionalismo dos veículos de comunicação que convertem o medo em cliques, a resposta sensata passa pelo contraste de fontes e por uma análise crítica da informação.
*A revisão de estilo deste documento foi elaborada com ferramentas de inteligência artificial.
Referências
- (2025, 13 de novembro). Disrupting the first reported AI-orchestrated cyber espionage campaign. https://www.anthropic.com/news/disrupting-AI-espionage
- (2026, 7 de abril). Project Glasswing: Securing critical software for the AI era. https://www.anthropic.com/glasswing
- (2026). Project Glasswing: An initial update. https://www.anthropic.com/research/glasswing-initial-update
- (2026, 1 de julho). [Declaração sobre o acesso ao Claude Fable 5 e ao Claude Mythos 5]. https://www.anthropic.com/news/fable-mythos-access
- (2026, 9 de setembro). Scoop: Anthropic whistleblower gave up his equity to leave the company. https://www.axios.com/2026/09/09/anthropic-researcher-ai-warning-interview
- Bengio, Y., Clare, S., Prunkl, C., et al. (2026). International AI Safety Report 2026. https://internationalaisafetyreport.org/publication/international-ai-safety-report-2026
- Bulletin of the Atomic Scientists. (2026, 27 de janeiro). 2026 Doomsday Clock Statement. https://thebulletin.org/doomsday-clock/2026-statement/
- Center for AI Safety. (2023, 30 de maio). Statement on AI Risk. https://www.safe.ai/statement-on-ai-risk
- Consejo Nacional de Política Económica y Social. (2025). Documento CONPES 4144: Política Nacional de Inteligencia Artificial. Departamento Nacional de Planeación.
- El Plural. (2026, 9 de setembro). El apocalíptico mensaje de un ex investigador de OpenAI y Anthropic: “La IA podría matarnos a todos”. https://www.elplural.com/revista-bando/coctelera/apocaliptico-mensaje-ex-investigador-openai-anthropic-la-ia-podria-matarnos-todos_399760102_amp
- Future of Life Institute. (2026, 7 de julho). AI Safety Index: Summer 2026. https://futureoflife.org/ai-safety-index-summer-2026/
- Grace, K., et al. (2024). Thousands of AI authors on the future of AI. arXiv. https://arxiv.org/abs/2401.02843
- International Business Times UK. (2026, 9 de setembro). Ex-Anthropic researcher Jacob Coxon quits, says AI leaders fear it could kill us all by decade’s end. https://www.ibtimes.co.uk/ai-researcher-resigns-warns-superintelligence-threat-2030-1818808
- Nações Unidas. (2026). Global Dialogue on AI Governance. https://www.un.org/global-dialogue-ai-governance/en
- Nações Unidas. (2026). Independent International Scientific Panel on AI: Perguntas frequentes. https://www.un.org/independent-international-scientific-panel-ai/en/faq
- (2026, 10 de setembro). Who is Jacob Coxon? Anthropic researcher quits, warns AI could kill everyone. https://www.newsweek.com/anthropic-researcher-quits-warns-ai-could-kill-everyone-12418798
- Ray, S. (2026, 9 de setembro). Anthropic alignment lead issues warning about AI killing humans as researcher resigns. https://www.forbes.com/sites/siladityaray/2026/09/09/anthropic-alignment-lead-warns-ai-could-kill-all-humans-as-researcher-quits/
- Ray, S. (2026, 10 de setembro). Musk touts psy op and mocks ex-Anthropic staffer who warned AI could kill us all. https://www.forbes.com/sites/siladityaray/2026/09/10/musk-touts-psy-op-and-mocks-ex-anthropic-staffer-who-warned-ai-could-kill-us-all/
- (2026, 10 de setembro). La IA podría matarnos a todos: fuertes declaraciones de un exingeniero de Anthropic y OpenAI. https://www.teleamazonas.com/tendencias/entretenimiento/tecnologia/exinvestigador-openai-anthropic-denuncia-responsabilidad-ia-127563/
- The Hill. (2026, 5 de maio). Microsoft, Google, xAI giving government early access to AI models for review. https://thehill.com/homenews/5863937-google-microsoft-xai-ai-testing/
- Vinsel, L. (2021). You’re doing it wrong: Notes on criticism and technology hype. STS News, Medium.
