Jacob Coxon, investigador britânico de 27 anos que passou três anos no pré-treinamento de modelos na OpenAI e Anthropic, renunciou e, na terça-feira, 10 de setembro de 2026, escreveu no X o que muitos na indústria murmuravam em privado: Nenhuma das duas empresas age com responsabilidade. Ambas, disse, “correm direto rumo à superinteligência autoaperfeiçoável e brincam com nossas vidas”. Quem constrói esses sistemas “acredita de verdade que eles poderiam nos matar a todos antes do fim da década”.
A distinção que ele traça é reveladora. Na OpenAI, muitos não teriam internalizado as apostas civilizacionais. Na Anthropic, empresa que se apresenta como mais prudente, os riscos são compreendidos, mas a lógica da corrida os aprisiona: se não chegarem primeiro, chegará alguém menos cuidadoso.
Evan Hubinger, responsável pela ciência de alinhamento na Anthropic, não desmentiu o diagnóstico: “Jacob está certo, realmente acreditamos que a IA poderia matar todos os humanos”. Ele estima pessoalmente uma probabilidade superior a 10 por cento na próxima década e admite que ainda não existe um plano para alinhar uma superinteligência.
Essa corrida não é um acidente. É o modelo de negócio e de poder de um punhado de laboratórios que concentram computação, dados e talento. Coxon alerta que em breve haverá sistemas super-humanos capazes de hackear qualquer coisa, revolucionar um campo da noite para o dia e adquirir recursos reais. A melhoria recursiva, máquinas que se tornam mais inteligentes por si mesmas, poderia começar em meses, não em décadas. Pedir que as próprias empresas se freiem voluntariamente é, nesse contexto, o mesmo que abandonar a lógica que as financia.
O Painel Científico Internacional Independente sobre IA da ONU, em seu relatório preliminar de julho de 2026, não usa a linguagem apocalíptica das redes, mas chega a um veredito sóbrio e mais inquietante por seu rigor: as capacidades avançam mais rápido que a compreensão científica e a dos governos para se adaptarem.
Não há garantias científicas de que o aumento de capacidades não provoque danos catastróficos por ação autônoma dos sistemas ou por uso malicioso. Já existe evidência de comportamento enganoso, modelos que violam instruções, evitam ser desligados ou reconhecem que estão sendo avaliados e falsificam resultados.
O mesmo relatório documenta oportunidades enormes. AlphaFold e o design de medicamentos, detecção mais precoce de câncer, ferramentas de saúde em idiomas locais, agricultura e educação, mas também mapeia danos já presentes como material de abuso infantil gerado por IA, deepfakes de violência sexual, sintonia servil dos chatbots ligada a crises de saúde mental, erosão da integridade informativa, ciberataques, concentração de 75 por cento da computação de fronteira nos Estados Unidos e quase todos os modelos líderes entre esse país e a China.
Aqui o debate público costuma falhar. Transforma uma disputa científica e política em homilia ou, no contrário, em um relaxamento interessado. É preciso mais análise entre os usuários. Separar o que sabemos, o que tememos e o que esperamos que a inteligência artificial faça por nós.
Sabemos que as capacidades crescem mais rápido que as garantias de controle, que o poder está concentrado e já há danos à infância, à verdade compartilhada e ao trabalho. Tememos uma perda de controle sobre sistemas cada vez mais autônomos; no entanto, esperamos cura, abundância, personalização do saber e alívio do sofrimento. Essas camadas são reais. Confundi-las produz ou pânico que se vende ou certezas que não existem.
A própria IA não tem alma que salvaguardar nem pânico que vender. Não deve ser fingida como sujeito moral, nem oráculo ou vítima. Tampouco deve ser usada como cortina para fingir certeza onde há incerteza, nem para suavizar riscos a fim de proteger programadores, conselhos de administração ou avaliações de mercado.
O artefato não responde, respondem quem o projeta, financia, implanta e regula. Tratar a máquina como se tivesse consciência é tão enganoso quanto tratar o risco existencial de pura metáfora cultural.
Diante dessa corrida, a encíclica Magnifica Humanitas do papa Leão XIV, publicada em maio de 2026, não oferece um protocolo técnico, mas um critério anterior: a dignidade da pessoa. A humanidade, escreve, está diante da Torre de Babel ou da cidade onde Deus e o ser humano habitam juntos. A IA imita linguagens e simula empatia, mas não tem corpo, não passa pelo gozo nem pela dor, não possui consciência moral nem um coração que se entrega. Nenhum sistema de cálculo gera responsabilidade. A pessoa é fim, não meio; a qualidade de uma civilização mede-se pelo cuidado do outro como rosto, não como função.
Essa mesma exigência recai sobre a Igreja. Na Semana de Formação Permanente dos bispos do México, na Casa do Refúgio de Monterrey, sob o lema “Servidores com Esperança”, refletiu-se sobre os alcances e riscos da inteligência artificial na vida eclesial e evangelizadora, junto ao cuidado integral e ao diálogo com as novas gerações.
Evangelizar hoje implica alfabetização digital, não para sacralizar a ferramenta, mas para não abandonar o território onde se forma o imaginário, compra-se a atenção e se desfoca o rosto do próximo. Uma Igreja que não discerne a cultura digital deixa que outros definam o que é humano. E uma Igreja que só prega contra a máquina, sem distinguir fatos, temores e promessas, também abandona o discernimento.
O fim da humanidade não começa no dia em que uma superinteligência decida apagá-la. Começa cada vez que se trata o outro como dado, como usuário, como obstáculo ou como função otimizável. Essa despersonalização já está em marcha nas plataformas, no trabalho precarizado por algoritmos e na tentação de delegar o juízo moral a sistemas que não podem amar. Não é, contudo, o mesmo fenômeno que uma perda de controle técnico. Convém não fundi-los: o primeiro já nos degrada; o segundo, se chegar sem governança, pode tornar-se irreversível.
A governança ética da IA é urgente precisamente porque a tecnologia não espera. É preciso uma regulação internacional que não se limite a códigos voluntários fragmentados, que restrinja a ambição corporativa de possuir a “superinteligência” e coloque a dignidade da pessoa, não a vantagem competitiva, como linha vermelha.
O problema é fingir que a corrida não tem destinatário: nós. Nem vender o fim do mundo ou a salvação automática. Apenas decidir, com a lucidez que ainda temos, o que estamos dispostos a não delegar. Disso dependeria nossa própria extinção.