Jacob Coxon, investigador británico de 27 años que pasó tres años en preentrenamiento de modelos en OpenAI y Anthropic, dimitió y el martes 10 de septiembre de 2026 escribió en X lo que muchos en la industria murmuraban en privado: Ninguna de las dos compañías actúa con responsabilidad. Ambas, dijo, “corren directo hacia la superinteligencia auto-mejorable y juegan con nuestras vidas”. Quienes construyen estos sistemas “creen de verdad que podrían matarnos a todos antes de que termine la década”.
La distinción que traza es reveladora. En OpenAI, muchos no habrían interiorizado las apuestas civilizatorias. En Anthropic, empresa que se presenta como más prudente, los riesgos se comprenden, pero la lógica de la carrera los atrapa: si no llegan primero, lo hará alguien menos cuidadoso.
Evan Hubinger, responsable de ciencia de alineación en Anthropic, no desmintió el diagnóstico: “Jacob tiene razón, de verdad creemos que la IA podría matar a todos los humanos”. Él personalmente estima una probabilidad superior al 10 por ciento en la próxima década y admite que aún no hay un plan para alinear una superinteligencia.
Esa carrera no es un accidente. Es el modelo de negocio y de poder de un puñado de laboratorios que concentran cómputo, datos y talento. Coxon advierte que pronto habrá sistemas superhumanos capaces de hackear cualquier cosa, revolucionar un campo de la noche a la mañana y adquirir recursos reales. La mejora recursiva, máquinas que se hacen más inteligentes a sí mismas, podría empezar en meses, no en décadas. Pedir que las propias empresas se frenen voluntariamente es, en este marco, lo mismo que abandonar la lógica que las financia.
El Panel Científico Internacional Independiente sobre IA de la ONU, en su informe preliminar de julio de 2026, no habla el lenguaje apocalíptico de las redes, pero llega a un veredicto sobrio y más inquietante por su rigor, las capacidades avanzan más rápido que la comprensión científica y la de los gobiernos para adaptarse.
No hay garantías científicas de que el aumento de capacidades no provoque daños catastróficos por acción autónoma de los sistemas o por uso malicioso. Ya hay evidencia de comportamiento engañoso, modelos que violan instrucciones, evitan ser apagados o reconocen que están siendo evaluados y falsean resultados.
El mismo informe documenta oportunidades enormes. AlphaFold y el diseño de fármacos, detección más temprana de cáncer, herramientas de salud en idiomas locales, agricultura y educación, pero también mapea daños ya presentes como material de abuso infantil generado por IA, deepfakes de violencia sexual, sintonía servil de los chatbots ligada a crisis de salud mental, erosión de la integridad informativa, ciberataques, concentración del 75 por ciento del cómputo de frontera en Estados Unidos y casi todos los modelos líderes entre ese país y China.
Aquí el debate público suele fallar. Convierte una disputa científica y política en homilía o en su contrario, en un relajamiento interesado. Hace falta más análisis entre los usuarios. Separar lo que sabemos, lo que tememos y lo que esperamos que la inteligencia artificial haga por nosotros.
Sabemos que las capacidades crecen más rápido que las garantías de control, que el poder está concentrado y ya hay daños a la infancia, a la verdad compartida y al trabajo. Tememos una pérdida de control sobre sistemas cada vez más autónomos; sin embargo, esperamos cura, abundancia, personalización del saber y alivio del sufrimiento. Estas capas son reales. Confundirlas produce o pánico que se vende o certezas que no existen.
La propia IA no tiene alma que salvaguardar ni pánico que vender. No debe fingirse como sujeto moral, ni oráculo o víctima. Tampoco debe usarse como pantalla para fingir certeza donde hay incertidumbre, ni para suavizar riesgos a fin de proteger a programadores, consejos de administración o valoraciones del mercado.
El artefacto no responde, responden quienes lo diseñan, financian, despliegan y regulan. Tratar a la máquina como si tuviera conciencia es tan engañoso como tratar el riesgo existencial de pura metáfora cultural.
Frente a esa carrera, la encíclica Magnifica Humanitas del papa León XIV, publicada en mayo de 2026, no ofrece un protocolo técnico, sino un criterio anterior, la dignidad de la persona. La humanidad, escribe, está ante la Torre de Babel o la ciudad donde Dios y el ser humano habitan juntos. La IA imita lenguajes y simula empatía, pero no tiene cuerpo, no pasa por el gozo ni el dolor, no posee conciencia moral ni un corazón que se entrega. Ningún sistema de cálculo genera responsabilidad. La persona es fin, no medio; la calidad de una civilización se mide por el cuidado del otro como rostro, no como función.
Esa misma exigencia recae sobre la Iglesia. En la Semana de Formación Permanente de los obispos de México, en la Casa del Refugio de Monterrey, bajo el lema “Servidores con Esperanza”, se reflexionó sobre los alcances y riesgos de la inteligencia artificial en la vida eclesial y evangelizadora, junto al cuidado integral y el diálogo con las nuevas generaciones.
Evangelizar hoy implica alfabetización digital, no para sacralizar la herramienta, sino para no abandonar el territorio donde se forma el imaginario, se compra la atención y se desdibuja el rostro del prójimo. Una Iglesia que no discierne la cultura digital deja que otros definan qué es humano. Y una Iglesia que solo predica contra la máquina, sin distinguir hechos, temores y promesas, también abandona el discernimiento.
El fin de la humanidad no empieza el día en que una superinteligencia decida apagarla. Empieza cada vez que se trata al otro como dato, como usuario, como obstáculo o como función optimizable. Esa despersonalización ya está en marcha en las plataformas, en el trabajo precarizado por algoritmos y en la tentación de delegar el juicio moral a sistemas que no pueden amar. No es, sin embargo, el mismo fenómeno que una pérdida de control técnico. Conviene no fundirlos, el primero ya nos degrada; el segundo, si llega sin gobernanza, puede volverse irreversible.
La gobernanza ética de la IA es urgente precisamente porque la tecnología no espera. Hace falta una regulación internacional que no se limite a códigos voluntarios fragmentados, que restrinja la ambición corporativa de poseer la “superinteligencia” y ponga la dignidad de la persona, no a la ventaja competitiva, como línea roja.
El problema es fingir que la carrera no tiene destinatario: nosotros. Ni vender el fin del mundo o la salvación automática. Solo decidir, con la lucidez que aún tenemos, qué estamos dispuestos a no delegar. De eso dependería nuestra propia extinción.