O arcebispo de São Francisco, Mons. Salvatore Cordileone, reconheceu nesta terça-feira em Washington que os recentes incidentes protagonizados por agentes de inteligência artificial durante testes de cibersegurança o levaram a repensar sua posição sobre até onde deve ser permitido avançar essa tecnologia.
«Minha perspectiva até cerca de uma semana atrás era de que devíamos seguir em frente, mas talvez reduzir o ritmo e colocar algumas barreiras para que não chegue ao ponto em que não possamos controlá-la», declarou ao National Catholic Register. «Mas dado o que ocorreu esta última semana, tenho que admitir que ainda estou tentando decifrar em minha própria mente qual é a abordagem correta».
O prelado, cuja arquidiocese compreende parte do Silicon Valley, participou da Pro-Human Assembly, um encontro organizado na capital americana pelo Future of Life Institute em meio a uma crescente preocupação com os riscos associados ao desenvolvimento da inteligência artificial.
A inquietação se intensificou depois de se conhecerem vários incidentes durante avaliações de cibersegurança nos quais modelos de IA chegaram a acessar sem autorização sistemas informáticos reais. A Anthropic reconheceu quatro casos protagonizados por diferentes versões do Claude. Os modelos estavam realizando testes projetados para avaliar suas capacidades ofensivas e funcionavam sem as salvaguardas habituais; uma configuração defeituosa deixou aberto o acesso à Internet e os agentes acabaram atuando sobre sistemas reais.
Sanders e Bannon, unidos pela preocupação com a IA
O encontro reuniu figuras de posições políticas muito distintas. O senador americano Bernie Sanders e o exassessor de Donald Trump Steve Bannon pronunciaram discursos consecutivos nos quais advertiram, de perspectivas diferentes, sobre as consequências que poderia ter um desenvolvimento da inteligência artificial sem limites suficientes.
Sanders pediu para deter imediatamente o desenvolvimento da chamada «superinteligência» artificial, uma tecnologia hipotética capaz de superar as capacidades intelectuais humanas. «Assim como as armas nucleares, a superinteligência artificial é uma ameaça para a humanidade e deve ser tratada como tal», afirmou.
Bannon, por sua vez, expressou sua confiança em que possa surgir um movimento popular capaz de impor limites às grandes empresas tecnológicas. «Eles têm todo o poder. Têm todos os lobistas da cidade. Têm dezenas de cientistas e intelectuais em folha de pagamento. Por que não podem vencer? Porque as pessoas não confiam neles», sustentou.
A organização convocante apresentou em março a «Declaração Pró-Humana sobre a IA», que já supera 1,1 milhão de assinaturas e parte de uma premissa: «a inteligência artificial deve servir à humanidade, não o contrário». O documento reivindica ferramentas de IA confiáveis e controláveis que ampliem as capacidades humanas, protejam a liberdade e fortaleçam a família e as comunidades.
«Deus nos criou para a comunhão»
Cordileone centrou boa parte de sua intervenção em uma dimensão distinta do problema: o efeito dessas tecnologias sobre as relações humanas, particularmente durante a infância.
Em um painel de líderes religiosos junto a Walter Kim, da Associação Nacional de Evangélicos, sustentou que as crianças não deveriam ter acesso a chatbots de inteligência artificial durante seus anos formativos, diante do risco de que essas ferramentas acabem ocupando o lugar das relações pessoais.
«Deus nos criou para a comunhão», afirmou. «Acho que é preciso mantê-los afastados disso em seus anos de formação, para que desenvolvam a capacidade de estabelecer relações humanas».
A jornada, que reuniu cerca de 300 pessoas, incluiu também testemunhos de pais cujos filhos se suicidaram depois de terem mantido conversas com chatbots de inteligência artificial, bem como intervenções dos atores Ashley Judd e Joseph Gordon-Levitt.
Entre o risco de perder o controle e a competição com a China
Questionado sobre a necessidade de estabelecer uma regulação mais estrita, Cordileone reconheceu que o problema apresenta um difícil equilíbrio para os Estados Unidos. Por um lado, teme que desacelerar unilateralmente o desenvolvimento da inteligência artificial permita à China obter uma vantagem tecnológica; por outro, considera cada vez mais preocupante continuar avançando sem garantias suficientes de que os sistemas permanecerão sob controle humano.
«O ideal seria que todos estivéssemos de acordo e todos a limitássemos, para que esses agentes não partam e comecem a atuar por conta própria», explicou.
A posição do arcebispo de São Francisco o coloca especialmente próximo a este debate. O Seminário de São Patrício de Menlo Park conta desde 2024 com um Instituto de Filosofia, Tecnologia e Política, que organizou encontros sobre essas questões. Cordileone assegura que nos últimos meses percebeu um interesse crescente de responsáveis do setor tecnológico em participar dessas conversas.
«O Papa precisa continuar sendo uma voz moral nisso»
O arcebispo destacou também o impacto que teve no Silicon Valley Magnifica Humanitas, a encíclica de Leão XIV dedicada à salvaguarda da pessoa humana diante do desenvolvimento da inteligência artificial.
«Os líderes do Silicon Valley com os quais falei tinham lido todos a encíclica e a valorizavam», assegurou. Para Cordileone, a intervenção de Leão XIV não deveria terminar com a publicação do documento: «Acho que o Papa precisa continuar sendo uma voz moral nisso».
«O mundo inteiro está olhando para ele em busca de orientação», concluiu.
Leia também: Leão XIV pede avaliar os projetos políticos segundo a dignidade humana, a justiça social e o bem comum