L’arcivescovo di San Francisco, Mons. Salvatore Cordileone, ha riconosciuto questo martedì a Washington che i recenti incidenti provocati da agenti di intelligenza artificiale durante test di cybersecurity lo hanno portato a riconsiderare la sua posizione su fino a che punto debba essere permesso avanzare questa tecnologia.
«La mia prospettiva fino a circa una settimana fa era che dovessimo andare avanti, ma forse rallentare il ritmo e mettere alcune barriere affinché non arrivi al punto in cui non possiamo controllarla», ha dichiarato al National Catholic Register. «Ma dato quanto accaduto questa ultima settimana, devo ammettere che sto ancora cercando di decifrare nella mia mente quale sia l’approccio corretto».
Il prelato, la cui arcidiocesi comprende parte di Silicon Valley, ha partecipato alla Pro-Human Assembly, un incontro organizzato nella capitale statunitense dal Future of Life Institute in mezzo a una crescente preoccupazione per i rischi associati allo sviluppo dell’intelligenza artificiale.
L’inquietudine si è intensificata dopo che sono stati resi noti diversi incidenti durante valutazioni di cybersecurity in cui modelli di IA sono riusciti ad accedere senza autorizzazione a sistemi informatici reali. Anthropic ha riconosciuto quattro casi provocati da diverse versioni di Claude. I modelli stavano effettuando test progettati per valutare le loro capacità offensive e funzionavano senza le consuete salvaguardie; una configurazione difettosa ha lasciato aperto l’accesso a Internet e gli agenti hanno finito per agire su sistemi reali.
Sanders e Bannon, uniti dalla preoccupazione per l’IA
L’incontro ha riunito figure di posizioni politiche molto diverse. Il senatore statunitense Bernie Sanders e l’ex consigliere di Donald Trump Steve Bannon hanno pronunciato discorsi consecutivi in cui hanno avvertito, da prospettive diverse, sulle conseguenze che potrebbe avere uno sviluppo dell’intelligenza artificiale senza sufficienti limiti.
Sanders ha chiesto di fermare immediatamente lo sviluppo della cosiddetta «superintelligenza» artificiale, una tecnologia ipotetica capace di superare le capacità intellettuali umane. «Come le armi nucleari, la superintelligenza artificiale è una minaccia per l’umanità e deve essere trattata come tale», ha affermato.
Bannon, da parte sua, ha espresso la sua fiducia che possa emergere un movimento popolare capace di imporre limiti alle grandi aziende tecnologiche. «Hanno tutto il potere. Hanno tutti i lobbisti della città. Hanno decine di scienziati e intellettuali in busta paga. Perché non possono vincere? Perché la gente non si fida di loro», ha sostenuto.
L’organizzazione convocante ha presentato a marzo la «Dichiarazione Pro-Umana sull’IA», che supera già 1,1 milioni di firmatari e parte da una premessa: «l’intelligenza artificiale deve servire l’umanità, non il contrario». Il documento chiede strumenti di IA affidabili e controllabili che amplino le capacità umane, proteggano la libertà e rafforzino la famiglia e le comunità.
«Dio ci ha creati per la comunione»
Cordileone ha concentrato gran parte del suo intervento su una dimensione diversa del problema: l’effetto di queste tecnologie sulle relazioni umane, particolarmente durante l’infanzia.
In un panel di leader religiosi insieme a Walter Kim, dell’Associazione Nazionale degli Evangelici, ha sostenuto che i bambini non dovrebbero avere accesso a chatbot di intelligenza artificiale durante i loro anni formativi, di fronte al rischio che questi strumenti finiscano per occupare il posto delle relazioni personali.
«Dio ci ha creati per la comunione», ha affermato. «Credo che sia necessario tenerli lontani da questo nei loro anni di formazione, affinché sviluppino la capacità di stabilire relazioni umane».
La giornata, che ha riunito circa 300 persone, ha incluso anche testimonianze di genitori i cui figli si sono suicidati dopo aver mantenuto conversazioni con chatbot di intelligenza artificiale, così come interventi degli attori Ashley Judd e Joseph Gordon-Levitt.
Tra il rischio di perdere il controllo e la competizione con la Cina
Interrogato sulla necessità di stabilire una regolamentazione più rigorosa, Cordileone ha riconosciuto che il problema pone un difficile equilibrio per gli Stati Uniti. Da una parte, teme che rallentare unilateralmente lo sviluppo dell’intelligenza artificiale permetta a Cina di ottenere un vantaggio tecnologico; dall’altra, considera sempre più preoccupante continuare ad avanzare senza garanzie sufficienti che i sistemi rimangano sotto controllo umano.
«L’ideale sarebbe che tutti fossimo d’accordo e tutti la limitassimo, affinché questi agenti non se ne vadano e comincino ad agire per conto proprio», ha spiegato.
La posizione dell’arcivescovo di San Francisco lo colloca particolarmente vicino a questo dibattito. Il Seminario di San Patrizio di Menlo Park conta dal 2024 con un Istituto di Filosofia, Tecnologia e Politica, che ha organizzato incontri su queste questioni. Cordileone assicura che negli ultimi mesi ha percepito un interesse crescente da parte di responsabili del settore tecnologico a partecipare a queste conversazioni.
«Il Papa deve continuare a essere una voce morale in questo»
L’arcivescovo ha sottolineato inoltre l’impatto che ha avuto a Silicon Valley Magnifica Humanitas, l’enciclica di Leone XIV dedicata alla salvaguardia della persona umana di fronte allo sviluppo dell’intelligenza artificiale.
«I leader di Silicon Valley con cui ho parlato avevano tutti letto l’enciclica e la apprezzavano», ha assicurato. Per Cordileone, l’intervento di Leone XIV non dovrebbe terminare con la pubblicazione del documento: «Credo che il Papa debba continuare a essere una voce morale in questo».
«Il mondo intero sta guardando a lui in cerca di orientamento», ha concluso.
Leggi anche: Leone XIV chiede di valutare i progetti politici secondo la dignità umana, la giustizia sociale e il bene comune