Por Francis X. Maier
Los lectores aficionados a la historia quizá recuerden el caso del Millennium Challenge 2002 (MC02). Para quienes no lo recuerden: fue una simulación militar de alto nivel realizada hace un par de décadas por el ya desaparecido Comando de Fuerzas Conjuntas de Estados Unidos. Presentada como «la clave de la transformación militar», costó unos 250 millones de dólares, un gasto enorme para algo así en aquella época. La premisa del ejercicio era un conflicto armado con un Estado rebelde del golfo Pérsico.
El equipo Azul era una fuerza estadounidense combinada que ponía a prueba el concepto de RDO, las «Operaciones Rápidas y Decisivas». Se basaba en la doctrina de la «guerra centrada en redes» y contaba con el apoyo de una amplia gama de tecnologías de la información, herramientas analíticas y sensores electrónicos.
El equipo Rojo, los malos, era en gran medida obra de un solo hombre: un teniente general retirado del Cuerpo de Marines, Paul Van Riper. Se le dio total libertad para conducir su bando en el conflicto.
Comenzó el juego de guerra, y el equipo Rojo enseguida hundió un portaaviones, varios cruceros y buena parte de la flota Azul con ataques de enjambre de baja tecnología. En los dos primeros días del ejercicio mató a miles de militares estadounidenses simulados. Además, eludió una y otra vez la vigilancia del equipo Azul mediante tácticas poco convencionales e impredecibles, y aprovechando las vulnerabilidades técnicas del equipo Azul.
Al equipo Rojo le fue tan bien que la simulación se detuvo, se reinició y, según un muy público y muy enojado Van Riper, se la obligó a ajustarse a un marco y a un desenlace proyectados por computadora que favorecían al equipo Azul.
Los militares cuestionaron partes del relato de Van Riper, pero el MC02 sigue siendo una vergüenza duradera y una lección sobre el costo de nuestra adicción a la tecnología. Peor aún, es una lección aprendida a medias. Hoy, 24 años después, nuestras tecnologías, y muy especialmente la IA, son mucho más sofisticadas, potentes y precisas. También son más caras. Y siguen teniendo vulnerabilidades técnicas. Pueden causar muchísimo más daño en la guerra. Pero no pueden, por sí solas, destruir a un adversario decidido y de baja tecnología, por más malvado que sea el enemigo y por más merecido que sea el castigo.
Irán es la prueba número uno.
El armamento de alta tecnología, por muy «inteligente» que sea, nunca reemplaza el mando humano maduro y moralmente formado. Es cierto que matar a un enemigo a distancia refuerza la propia seguridad. Pero también vuelve más impersonal el acto de matar, y mucho más fácil la decisión de matar. Que drones de combate autónomos elijan sus propios blancos no es una idea edificante. Pero esa realidad ya forma parte del campo de batalla actual.
La cuestión es esta: cuanto más avanzadas son nuestras herramientas, más se vuelven un arma de doble filo. George Parkin Grant, el gran filósofo cristiano canadiense, señaló que la civilización norteamericana es adicta a la tecnología de un modo único, que se asemeja a una religión secular. Esto proviene de los colonos europeos del continente y de sus raíces calvinistas, vaciadas de su marco cristiano original.
En el fondo, somos un pueblo de conquista: la conquista y la reconstrucción de la naturaleza, incluida la naturaleza humana. Eso explica nuestro genio para la innovación y las herramientas. Pero a medida que usamos nuestras herramientas, ellas nos usan y nos remodelan, y todo termina en una especie de soberbia que implica ceguera ante la naturaleza, rechazo de los límites, escepticismo frente a todo lo «sagrado» y esclavitud al poder de la técnica. No tiene por qué ser así. Podemos elegir otra cosa. Pero con demasiada frecuencia, y con demasiada facilidad, caminamos dormidos hacia la catástrofe.
El MC02 nos recuerda el costo de no ver más allá de nuestros supuestos dominados por la tecnología, y las consecuencias que de ello se siguen. Por eso, en lo que respecta a la inteligencia artificial, si no queremos una versión real de Skynet, nunca podremos prescindir de una previsión humana rigurosa ni de un control humano riguroso de la IA, de su desarrollo y de sus aplicaciones.
La IA está aquí y no se va a ir. ¿Cómo debemos proceder, entonces? La Escritura nos dice decenas de veces «no tengan miedo». No es una sugerencia. Es un mandato. Hay un Dios; Él nos ama, y está íntimamente implicado en nuestros asuntos. Palabras como «apocalipsis» y «crisis» salpican nuestro discurso público sobre la inteligencia artificial, y tienen un efecto de cuco que invita a un miedo injustificado. Pero en el griego original, apocalipsis significa simplemente «revelación»: el descubrimiento de algún hecho o verdad antes oculto. Y «crisis» viene de la palabra griega krinein, que significa decidir o juzgar.
A pesar de nuestras angustias y de los errores del pasado, no hay nada fatal, condenado ni inevitablemente catastrófico en el auge de la IA. La IA es una herramienta, una herramienta muy poderosa y problemática, pero una herramienta al fin. Dios nos hizo criaturas racionales con libre albedrío. No somos impotentes. Lo cual significa que tenemos que abordar la IA con la sabiduría de la experiencia y la claridad de un pensamiento moralmente fiel.
Si procedemos así, los efectos beneficiosos de la IA para la medicina, la educación, la ayuda a las personas con discapacidad y la investigación en casi todos los campos serán enormes. Y necesitamos hacerlo con urgencia, porque es probable que la IA supere con creces el impacto social, político, cultural y psicológico de la imprenta, de la Revolución Industrial y de cualquier otra reconfiguración profunda de la vida cotidiana que la haya precedido. Piénsese en los resultados que relatan La gran transformación, de Karl Polanyi, y Reformations, de Carlos Eire, y multiplíquense sus consecuencias.
Podemos encontrar algún consuelo (muy) modesto en la experiencia de la humanidad con la fisión nuclear. Tenemos armas nucleares desde hace más de 80 años sin haberlas usado. Y eso, a pesar de guerras regionales incesantes y de períodos de intensa rivalidad entre superpotencias. Claro que antes ya habíamos calcinado a 120.000 personas en Hiroshima y Nagasaki, y otras 130.000 murieron después por las heridas sufridas. Un recuerdo así graba a fuego la prudencia en el cerebro. Con la IA no hemos tenido todavía ningún acontecimiento devastador semejante. Aún tenemos tiempo, aunque no mucho, para asegurarnos de que nunca lo tengamos.
Al fin y al cabo, las máquinas no son humanas, por inteligentes que parezcan y por más fácilmente que las antropomorficemos. Las máquinas no son humanas, y nunca podrán serlo. Hay algo precioso y absolutamente único en la naturaleza de la criatura humana. Tenemos que recordarlo, afirmarlo y defenderlo, incluso de nosotros mismos, de nuestras herramientas y de nuestras fantasías de llegar a ser, de algún modo, pequeños diosecillos.
Sobre el autor
Francis X. Maier es investigador sénior de estudios católicos del Ethics and Public Policy Center. Es autor de True Confessions: Voices of Faith from a Life in the Church.