Di Francis X. Maier
Gli appassionati di storia forse ricorderanno il caso del Millennium Challenge 2002 (MC02). Per chi non lo ricorda: si trattò di una simulazione militare di alto livello condotta un paio di decenni fa dal defunto Comando delle Forze Congiunte degli Stati Uniti. Presentata come «la chiave della trasformazione militare», costò circa 250 milioni di dollari, una spesa enorme per un simile esercizio in quell’epoca. Il presupposto dell’esercitazione era un conflitto armato con uno Stato ribelle del Golfo Persico.
Il team Blu era una forza statunitense combinata che metteva alla prova il concetto di RDO, le «Operazioni Rapide e Decisive». Si basava sulla dottrina della «guerra centrata sulle reti» e contava sul supporto di un’ampia gamma di tecnologie dell’informazione, strumenti analitici e sensori elettronici.
Il team Rosso, i cattivi, era in gran parte opera di un solo uomo: un tenente generale in pensione del Corpo dei Marines, Paul Van Riper. Gli fu data totale libertà di condurre la sua parte nel conflitto.
Iniziò il wargame e il team Rosso affondò rapidamente una portaerei, diversi incrociatori e gran parte della flotta Blu con attacchi a sciame a bassa tecnologia. Nei primi due giorni dell’esercitazione uccise migliaia di militari statunitensi simulati. Inoltre, eluse ripetutamente la sorveglianza del team Blu mediante tattiche non convenzionali e imprevedibili, sfruttando le vulnerabilità tecniche del team Blu.
Al team Rosso andò così bene che la simulazione fu interrotta, riavviata e, secondo un Van Riper molto pubblico e molto arrabbiato, fu costretta ad adeguarsi a un quadro e a un esito previsti dal computer che favorivano il team Blu.
I militari contestarono parti del racconto di Van Riper, ma l’MC02 rimane una vergogna duratura e una lezione sul costo della nostra dipendenza dalla tecnologia. Peggio ancora, è una lezione imparata solo a metà. Oggi, 24 anni dopo, le nostre tecnologie, e in particolare l’IA, sono molto più sofisticate, potenti e precise. Sono anche più costose. E continuano ad avere vulnerabilità tecniche. Possono causare molto più danno in guerra. Ma non possono, da sole, distruggere un avversario determinato e a bassa tecnologia, per quanto malvagio sia il nemico e per quanto meritata sia la punizione.
L’Iran è la prova numero uno.
L’armamento ad alta tecnologia, per quanto «intelligente» sia, non sostituisce mai il comando umano maturo e moralmente formato. È vero che uccidere un nemico a distanza rafforza la propria sicurezza. Ma rende anche più impersonale l’atto di uccidere e molto più facile la decisione di uccidere. Che droni da combattimento autonomi scelgano i propri bersagli non è un’idea edificante. Ma questa realtà fa già parte del campo di battaglia attuale.
La questione è questa: quanto più avanzati sono i nostri strumenti, tanto più diventano un’arma a doppio taglio. George Parkin Grant, il grande filosofo cristiano canadese, osservò che la civiltà nordamericana è dipendente dalla tecnologia in modo unico, simile a una religione secolare. Questo deriva dai coloni europei del continente e dalle loro radici calviniste, svuotate del loro quadro cristiano originale.
In fondo, siamo un popolo di conquista: la conquista e la ricostruzione della natura, inclusa la natura umana. Questo spiega il nostro genio per l’innovazione e gli strumenti. Ma man mano che usiamo i nostri strumenti, essi ci usano e ci rimodellano, e tutto finisce in una sorta di superbia che implica cecità verso la natura, rifiuto dei limiti, scetticismo verso tutto ciò che è «sacro» e schiavitù al potere della tecnica. Non deve essere così. Possiamo scegliere qualcos’altro. Ma troppo spesso, e troppo facilmente, camminiamo addormentati verso la catastrofe.
L’MC02 ci ricorda il costo del non vedere oltre le nostre supposizioni dominate dalla tecnologia e le conseguenze che ne derivano. Per questo, per quanto riguarda l’intelligenza artificiale, se non vogliamo una versione reale di Skynet, non potremo mai fare a meno di una previsione umana rigorosa né di un controllo umano rigoroso dell’IA, del suo sviluppo e delle sue applicazioni.
L’IA è qui e non se ne andrà. Come dobbiamo procedere, allora? La Scrittura ci dice decine di volte «non abbiate paura». Non è un suggerimento. È un mandato. C’è un Dio; Egli ci ama ed è intimamente coinvolto nei nostri affari. Parole come «apocalisse» e «crisi» punteggiano il nostro discorso pubblico sull’intelligenza artificiale e hanno un effetto di cuculo che invita a una paura ingiustificata. Ma in greco originale, apocalisse significa semplicemente «rivelazione»: la scoperta di qualche fatto o verità prima nascosta. E «crisi» deriva dalla parola greca krinein, che significa decidere o giudicare.
Nonostante le nostre angosce e gli errori del passato, non c’è nulla di fatale, condannato o inevitabilmente catastrofico nell’ascesa dell’IA. L’IA è uno strumento, uno strumento molto potente e problematico, ma pur sempre uno strumento. Dio ci ha resi creature razionali con libero arbitrio. Non siamo impotenti. Il che significa che dobbiamo affrontare l’IA con la saggezza dell’esperienza e la chiarezza di un pensiero moralmente fedele.
Se procediamo così, gli effetti benefici dell’IA per la medicina, l’istruzione, l’aiuto alle persone con disabilità e la ricerca in quasi tutti i campi saranno enormi. E dobbiamo farlo con urgenza, perché è probabile che l’IA superi di gran lunga l’impatto sociale, politico, culturale e psicologico della stampa, della Rivoluzione Industriale e di qualsiasi altra profonda riconfigurazione della vita quotidiana che l’abbia preceduta. Si pensi ai risultati raccontati da La grande trasformazione, di Karl Polanyi, e Reformations, di Carlos Eire, e si moltiplichino le loro conseguenze.
Possiamo trovare un certo (molto) modesto conforto nell’esperienza dell’umanità con la fissione nucleare. Abbiamo armi nucleari da più di 80 anni senza averle usate. E questo, nonostante guerre regionali incessanti e periodi di intensa rivalità tra superpotenze. Certo, prima avevamo già incenerito 120.000 persone a Hiroshima e Nagasaki, e altre 130.000 morirono in seguito per le ferite subite. Un ricordo del genere imprime la prudenza nel cervello. Con l’IA non abbiamo ancora avuto alcun evento devastante simile. Abbiamo ancora tempo, anche se non molto, per assicurarci che non lo avremo mai.
Dopotutto, le macchine non sono umane, per quanto intelligenti possano sembrare e per quanto facilmente le antropomorfizziamo. Le macchine non sono umane, e non potranno mai esserlo. C’è qualcosa di prezioso e assolutamente unico nella natura della creatura umana. Dobbiamo ricordarlo, affermarlo e difenderlo, anche da noi stessi, dai nostri strumenti e dalle nostre fantasie di diventare, in qualche modo, piccoli dèi.
Sull’autore
Francis X. Maier è ricercatore senior di studi cattolici dell’Ethics and Public Policy Center. È autore di True Confessions: Voices of Faith from a Life in the Church.