Por Francis X. Maier
Os leitores interessados em história talvez se lembrem do caso do Millennium Challenge 2002 (MC02). Para quem não se lembra: foi uma simulação militar de alto nível realizada há cerca de duas décadas pelo já extinto Comando de Forças Conjuntas dos Estados Unidos. Apresentada como «a chave da transformação militar», custou cerca de 250 milhões de dólares, um gasto enorme para algo assim naquela época. A premissa do exercício era um conflito armado com um Estado rebelde do Golfo Pérsico.
A equipe Azul era uma força combinada norte-americana que testava o conceito de RDO, as «Operações Rápidas e Decisivas». Baseava-se na doutrina da «guerra centrada em redes» e contava com o apoio de uma ampla gama de tecnologias da informação, ferramentas analíticas e sensores eletrônicos.
A equipe Vermelha, os maus, era em grande parte obra de um único homem: um tenente-general aposentado do Corpo de Fuzileiros Navais, Paul Van Riper. Foi-lhe dada total liberdade para conduzir o seu lado no conflito.
O jogo de guerra começou, e a equipe Vermelha logo afundou um porta-aviões, vários cruzadores e grande parte da frota Azul com ataques de enxame de baixa tecnologia. Nos dois primeiros dias do exercício, matou milhares de militares norte-americanos simulados. Além disso, evitou repetidamente a vigilância da equipe Azul por meio de táticas não convencionais e imprevisíveis, aproveitando as vulnerabilidades técnicas da equipe Azul.
A equipe Vermelha teve tanto sucesso que a simulação foi interrompida, reiniciada e, segundo um Van Riper muito público e muito irritado, foi forçada a se ajustar a um quadro e a um desfecho projetados por computador que favoreciam a equipe Azul.
Os militares questionaram partes do relato de Van Riper, mas o MC02 continua sendo uma vergonha duradoura e uma lição sobre o custo do nosso vício em tecnologia. Pior ainda, é uma lição aprendida apenas parcialmente. Hoje, 24 anos depois, nossas tecnologias, e especialmente a IA, são muito mais sofisticadas, poderosas e precisas. Também são mais caras. E continuam tendo vulnerabilidades técnicas. Podem causar muito mais danos na guerra. Mas não podem, por si só, destruir um adversário determinado e de baixa tecnologia, por mais maligno que seja o inimigo e por mais merecido que seja o castigo.
O Irã é a prova número um.
O armamento de alta tecnologia, por mais «inteligente» que seja, nunca substitui o comando humano maduro e moralmente formado. É verdade que matar um inimigo à distância reforça a própria segurança. Mas também torna mais impessoal o ato de matar, e muito mais fácil a decisão de matar. Que drones de combate autônomos escolham seus próprios alvos não é uma ideia edificante. Mas essa realidade já faz parte do campo de batalha atual.
A questão é esta: quanto mais avançadas são nossas ferramentas, mais se tornam uma arma de dois gumes. George Parkin Grant, o grande filósofo cristão canadense, observou que a civilização norte-americana é viciada em tecnologia de um modo único, que se assemelha a uma religião secular. Isso vem dos colonos europeus do continente e de suas raízes calvinistas, esvaziadas de seu quadro cristão original.
No fundo, somos um povo de conquista: a conquista e a reconstrução da natureza, incluindo a natureza humana. Isso explica nosso gênio para a inovação e as ferramentas. Mas à medida que usamos nossas ferramentas, elas nos usam e nos remodelam, e tudo termina em uma espécie de soberba que implica cegueira diante da natureza, rejeição dos limites, ceticismo em relação a tudo o que é «sagrado» e escravidão ao poder da técnica. Não precisa ser assim. Podemos escolher outra coisa. Mas com muita frequência, e com muita facilidade, caminhamos sonolentos em direção à catástrofe.
O MC02 nos lembra o custo de não ver além de nossas suposições dominadas pela tecnologia, e as consequências que daí decorrem. Por isso, no que diz respeito à inteligência artificial, se não queremos uma versão real de Skynet, nunca poderemos prescindir de uma previsão humana rigorosa nem de um controle humano rigoroso da IA, de seu desenvolvimento e de suas aplicações.
A IA está aqui e não vai embora. Como devemos proceder, então? A Escritura nos diz dezenas de vezes «não tenham medo». Não é uma sugestão. É um mandamento. Há um Deus; Ele nos ama, e está intimamente envolvido em nossos assuntos. Palavras como «apocalipse» e «crise» salpicam nosso discurso público sobre a inteligência artificial, e têm um efeito de cuco que convida a um medo injustificado. Mas no grego original, apocalipse significa simplesmente «revelação»: a descoberta de algum fato ou verdade antes oculto. E «crise» vem da palavra grega krinein, que significa decidir ou julgar.
Apesar de nossas angústias e dos erros do passado, não há nada fatal, condenado nem inevitavelmente catastrófico no surgimento da IA. A IA é uma ferramenta, uma ferramenta muito poderosa e problemática, mas uma ferramenta afinal. Deus nos fez criaturas racionais com livre-arbítrio. Não somos impotentes. O que significa que temos que abordar a IA com a sabedoria da experiência e a clareza de um pensamento moralmente fiel.
Se procedermos assim, os efeitos benéficos da IA para a medicina, a educação, a ajuda às pessoas com deficiência e a pesquisa em quase todos os campos serão enormes. E precisamos fazer isso com urgência, porque é provável que a IA supere em muito o impacto social, político, cultural e psicológico da imprensa, da Revolução Industrial e de qualquer outra reconfiguração profunda da vida cotidiana que a tenha precedido. Pense nos resultados que relatam A grande transformação, de Karl Polanyi, e Reformations, de Carlos Eire, e multipliquem-se suas consequências.
Podemos encontrar algum consolo (muito) modesto na experiência da humanidade com a fissão nuclear. Temos armas nucleares há mais de 80 anos sem tê-las usado. E isso, apesar de guerras regionais incessantes e de períodos de intensa rivalidade entre superpotências. Claro que antes já tínhamos calcinado 120.000 pessoas em Hiroshima e Nagasaki, e outras 130.000 morreram depois pelos ferimentos sofridos. Uma lembrança assim grava a fogo a prudência no cérebro. Com a IA não tivemos ainda nenhum acontecimento devastador semelhante. Ainda temos tempo, embora não muito, para garantir que nunca o tenhamos.
No final das contas, as máquinas não são humanas, por inteligentes que pareçam e por mais facilmente que as antropomorfizemos. As máquinas não são humanas, e nunca poderão ser. Há algo precioso e absolutamente único na natureza da criatura humana. Temos que lembrar disso, afirmar e defender, mesmo de nós mesmos, de nossas ferramentas e de nossas fantasias de nos tornarmos, de algum modo, pequenos deuses.
Sobre o autor
Francis X. Maier é pesquisador sênior de estudos católicos do Ethics and Public Policy Center. É autor de True Confessions: Voices of Faith from a Life in the Church.