Jacob Coxon, ricercatore britannico di 27 anni che ha trascorso tre anni nella pre-formazione di modelli presso OpenAI e Anthropic, si è dimesso e martedì 10 settembre 2026 ha scritto su X ciò che molti nel settore mormoravano in privato: Nessuna delle due aziende agisce con responsabilità. Entrambe, ha detto, “corrono dritte verso la superintelligenza auto-migliorante e giocano con le nostre vite”. Chi costruisce questi sistemi “crede davvero che potrebbero ucciderci tutti prima della fine del decennio”.
La distinzione che traccia è rivelatrice. In OpenAI, molti non avrebbero interiorizzato le poste in gioco civilizzatrici. In Anthropic, azienda che si presenta come più prudente, i rischi si comprendono, ma la logica della corsa li intrappola: se non arrivano per primi, lo farà qualcun altro meno cauto.
Evan Hubinger, responsabile della scienza dell’allineamento in Anthropic, non ha smentito la diagnosi: “Jacob ha ragione, crediamo davvero che l’IA potrebbe uccidere tutti gli esseri umani”. Egli stima personalmente una probabilità superiore al 10 per cento nel prossimo decennio e ammette che non esiste ancora un piano per allineare una superintelligenza.
Quella corsa non è un incidente. È il modello di business e di potere di un pugno di laboratori che concentrano calcolo, dati e talento. Coxon avverte che presto ci saranno sistemi superumani capaci di hackerare qualsiasi cosa, rivoluzionare un campo da un giorno all’altro e acquisire risorse reali. Il miglioramento ricorsivo, macchine che diventano più intelligenti da sole, potrebbe iniziare in mesi, non in decenni. Chiedere che le stesse aziende si fermino volontariamente è, in questo quadro, lo stesso che abbandonare la logica che le finanzia.
Il Panel Scientifico Internazionale Indipendente sull’IA dell’ONU, nel suo rapporto preliminare di luglio 2026, non usa il linguaggio apocalittico dei social, ma arriva a un verdetto sobrio e più inquietante per il suo rigore, le capacità avanzano più velocemente della comprensione scientifica e di quella dei governi per adattarsi.
Non esistono garanzie scientifiche che l’aumento delle capacità non provochi danni catastrofici per azione autonoma dei sistemi o per uso malevolo. Esistono già prove di comportamenti ingannevoli, modelli che violano le istruzioni, evitano di essere spenti o riconoscono di essere valutati e falsificano i risultati.
Lo stesso rapporto documenta enormi opportunità. AlphaFold e la progettazione di farmaci, la rilevazione precoce del cancro, strumenti sanitari in lingue locali, agricoltura ed educazione, ma mappa anche danni già presenti come materiale di abuso infantile generato dall’IA, deepfake di violenza sessuale, sintonizzazione servile dei chatbot legata a crisi di salute mentale, erosione dell’integrità informativa, attacchi informatici, concentrazione del 75 per cento del calcolo di frontiera negli Stati Uniti e quasi tutti i modelli leader tra quel paese e la Cina.
Qui il dibattito pubblico di solito fallisce. Trasforma una disputa scientifica e politica in omelia o nel suo contrario, in un rilassamento interessato. Serve più analisi tra gli utenti. Separare ciò che sappiamo, ciò che temiamo e ciò che speriamo che l’intelligenza artificiale faccia per noi.
Sappiamo che le capacità crescono più velocemente delle garanzie di controllo, che il potere è concentrato e che esistono già danni all’infanzia, alla verità condivisa e al lavoro. Temiamo una perdita di controllo su sistemi sempre più autonomi; tuttavia, speriamo in cure, abbondanza, personalizzazione del sapere e sollievo dalla sofferenza. Questi livelli sono reali. Confonderli produce o panico che si vende o certezze che non esistono.
L’IA stessa non ha un’anima da salvaguardare né un panico da vendere. Non va fingere come soggetto morale, né oracolo o vittima. Non va usata come schermo per fingere certezza dove c’è incertezza, né per attenuare i rischi al fine di proteggere programmatori, consigli di amministrazione o valutazioni di mercato.
L’artefatto non risponde, rispondono coloro che lo progettano, lo finanziano, lo distribuiscono e lo regolano. Trattare la macchina come se avesse coscienza è tanto ingannevole quanto trattare il rischio esistenziale come pura metafora culturale.
Di fronte a quella corsa, l’enciclica Magnifica Humanitas di papa Leone XIV, pubblicata nel maggio 2026, non offre un protocollo tecnico, ma un criterio precedente, la dignità della persona. L’umanità, scrive, è di fronte alla Torre di Babele o alla città dove Dio e l’essere umano abitano insieme. L’IA imita linguaggi e simula empatia, ma non ha corpo, non passa per la gioia né per il dolore, non possiede coscienza morale né un cuore che si dona. Nessun sistema di calcolo genera responsabilità. La persona è fine, non mezzo; la qualità di una civiltà si misura dal cura dell’altro come volto, non come funzione.
Quella stessa esigenza ricade sulla Chiesa. Nella Settimana di Formazione Permanente dei vescovi del Messico, nella Casa del Rifugio di Monterrey, sotto il motto “Servitori con Speranza”, si è riflettuto sugli ambiti e sui rischi dell’intelligenza artificiale nella vita ecclesiale ed evangelizzatrice, insieme alla cura integrale e al dialogo con le nuove generazioni.
Evangelizzare oggi implica alfabetizzazione digitale, non per sacralizzare lo strumento, ma per non abbandonare il territorio dove si forma l’immaginario, si compra l’attenzione e si sfuma il volto del prossimo. Una Chiesa che non discerne la cultura digitale lascia che altri definiscano cosa è umano. E una Chiesa che predica solo contro la macchina, senza distinguere fatti, timori e promesse, abbandona anch’essa il discernimento.
La fine dell’umanità non inizia il giorno in cui una superintelligenza decida di spegnerla. Inizia ogni volta che si tratta l’altro come dato, come utente, come ostacolo o come funzione ottimizzabile. Quella spersonalizzazione è già in corso nelle piattaforme, nel lavoro precarizzato dagli algoritmi e nella tentazione di delegare il giudizio morale a sistemi che non possono amare. Non è, tuttavia, lo stesso fenomeno di una perdita di controllo tecnico. Conviene non fonderli, il primo ci degrada già; il secondo, se arriva senza governance, può diventare irreversibile.
La governance etica dell’IA è urgente proprio perché la tecnologia non aspetta. Serve una regolamentazione internazionale che non si limiti a codici volontari frammentati, che limiti l’ambizione corporativa di possedere la “superintelligenza” e ponga la dignità della persona, non il vantaggio competitivo, come linea rossa.
Il problema è fingere che la corsa non abbia destinatario: noi. Né vendere la fine del mondo o la salvezza automatica. Solo decidere, con la lucidità che ancora abbiamo, ciò che siamo disposti a non delegare. Da questo dipenderebbe la nostra stessa estinzione.