El arzobispo de San Francisco, Mons. Salvatore Cordileone, reconoció este martes en Washington que los recientes incidentes protagonizados por agentes de inteligencia artificial durante pruebas de ciberseguridad le han llevado a replantearse su postura sobre hasta dónde debe permitirse avanzar esta tecnología.
«Mi perspectiva hasta hace aproximadamente una semana era que debíamos seguir adelante, pero quizá frenar el ritmo y poner algunas barreras para que no llegue al punto en que no podamos controlarla», declaró al National Catholic Register. «Pero dado lo ocurrido esta última semana, tengo que admitir que todavía estoy tratando de descifrar en mi propia mente cuál es el enfoque correcto».
El prelado, cuya archidiócesis comprende parte de Silicon Valley, participó en la Pro-Human Assembly, un encuentro organizado en la capital estadounidense por el Future of Life Institute en medio de una creciente preocupación por los riesgos asociados al desarrollo de la inteligencia artificial.
La inquietud se ha intensificado después de conocerse varios incidentes durante evaluaciones de ciberseguridad en los que modelos de IA llegaron a acceder sin autorización a sistemas informáticos reales. Anthropic ha reconocido cuatro casos protagonizados por diferentes versiones de Claude. Los modelos estaban realizando pruebas diseñadas para evaluar sus capacidades ofensivas y funcionaban sin las salvaguardas habituales; una configuración defectuosa dejó abierto el acceso a Internet y los agentes terminaron actuando sobre sistemas reales.
Sanders y Bannon, unidos por la preocupación ante la IA
El encuentro reunió a figuras de posiciones políticas muy distintas. El senador estadounidense Bernie Sanders y el exasesor de Donald Trump Steve Bannon pronunciaron discursos consecutivos en los que advirtieron, desde perspectivas diferentes, sobre las consecuencias que podría tener un desarrollo de la inteligencia artificial sin suficientes límites.
Sanders reclamó detener inmediatamente el desarrollo de la llamada «superinteligencia» artificial, una hipotética tecnología capaz de superar las capacidades intelectuales humanas. «Al igual que las armas nucleares, la superinteligencia artificial es una amenaza para la humanidad y debe tratarse como tal», afirmó.
Bannon, por su parte, expresó su confianza en que pueda surgir un movimiento popular capaz de imponer límites a las grandes empresas tecnológicas. «Tienen todo el poder. Tienen a todos los lobistas de la ciudad. Tienen decenas de científicos e intelectuales en nómina. ¿Por qué no pueden ganar? Porque la gente no confía en ellos», sostuvo.
La organización convocante presentó en marzo la «Declaración Pro-Humana sobre la IA», que supera ya los 1,1 millones de firmantes y parte de una premisa: «la inteligencia artificial debe servir a la humanidad, no al revés». El documento reclama herramientas de IA fiables y controlables que amplíen las capacidades humanas, protejan la libertad y fortalezcan la familia y las comunidades.
«Dios nos creó para la comunión»
Cordileone centró buena parte de su intervención en una dimensión distinta del problema: el efecto de estas tecnologías sobre las relaciones humanas, particularmente durante la infancia.
En un panel de líderes religiosos junto a Walter Kim, de la Asociación Nacional de Evangélicos, sostuvo que los niños no deberían tener acceso a chatbots de inteligencia artificial durante sus años formativos, ante el riesgo de que estas herramientas terminen ocupando el lugar de las relaciones personales.
«Dios nos creó para la comunión», afirmó. «Creo que hay que mantenerlos alejados de esto en sus años de formación, para que desarrollen la capacidad de establecer relaciones humanas».
La jornada, que reunió a unas 300 personas, incluyó también testimonios de padres cuyos hijos se suicidaron después de haber mantenido conversaciones con chatbots de inteligencia artificial, así como intervenciones de los actores Ashley Judd y Joseph Gordon-Levitt.
Entre el riesgo de perder el control y la competencia con China
Preguntado por la necesidad de establecer una regulación más estricta, Cordileone reconoció que el problema plantea un difícil equilibrio para Estados Unidos. Por una parte, teme que ralentizar unilateralmente el desarrollo de la inteligencia artificial permita a China obtener una ventaja tecnológica; por otra, considera cada vez más preocupante continuar avanzando sin garantías suficientes de que los sistemas permanecerán bajo control humano.
«Lo ideal sería que todos estuviéramos de acuerdo y todos la limitáramos, para que estos agentes no se marchen y comiencen a actuar por su cuenta», explicó.
La posición del arzobispo de San Francisco le sitúa especialmente cerca de este debate. El Seminario de San Patricio de Menlo Park cuenta desde 2024 con un Instituto de Filosofía, Tecnología y Política, que ha organizado encuentros sobre estas cuestiones. Cordileone asegura que en los últimos meses ha percibido un interés creciente de responsables del sector tecnológico por participar en estas conversaciones.
«El Papa necesita seguir siendo una voz moral en esto»
El arzobispo destacó asimismo el impacto que ha tenido en Silicon Valley Magnifica Humanitas, la encíclica de León XIV dedicada a la salvaguarda de la persona humana ante el desarrollo de la inteligencia artificial.
«Los líderes de Silicon Valley con los que hablé habían leído todos la encíclica y la valoraban», aseguró. Para Cordileone, la intervención de León XIV no debería terminar con la publicación del documento: «Creo que el Papa necesita seguir siendo una voz moral en esto».
«El mundo entero está mirando hacia él en busca de orientación», concluyó.
Lea también: León XIV pide evaluar los proyectos políticos según la dignidad humana, la justicia social y el bien común