di Maria PappiniDalla nuova enciclica di Papa Leone XIV al regolamento europeo AI Act, la scienziata Mirella Mastretti riflette sull’etica per i sistemi informatici dal punto di vista cristiano. Spiega come la diffusione di avatar emotivi, la profilazione digitale di massa rendano necessarie nuove regole per difendere il pensiero critico dei giovani. E sottolinea la necessità di una governance capace di tutelare la dignità della persona.IN BREVEQuestione antropologica L’intelligenza artificiale non è più solo una tematica tecnica: riapre la domanda su cosa significhi restare umani.Persona o funzione? Per la tradizione cristiana, l’uomo non è solo cognizione o comportamento, ma coscienza, libertà e relazione.Rischio profilazione Gli algoritmi classificano, prevedono e profilano comportamenti. Il rischio è ridurre la persona a dato statistico.Pensiero critico Delegare scrittura e ragionamento all’IA può indebolire autonomia di giudizio, analisi e capacità critica delle nuove generazioni.Relazioni artificiali Avatar e companion IA creano legami emotivi simulati. La sfida è non sostituire l’incontro umano con relazioni algoritmiche.Governare la tecnologia La vera sfida non è essere contro l’IA, ma mantenerla al servizio della dignità e della libertà della persona.Con l’odierna pubblicazione della nuova enciclica di Papa Leone XIV, Magnifica Humanitas, dedicata alla persona nel tempo dell’intelligenza artificiale, il rapporto tra tecnologia, coscienza e dignità umana è ormai entrato al centro del dibattito globale. Non più soltanto una questione tecnica, economica o geopolitica, ma una domanda radicalmente antropologica: cosa significa restare umani nell’epoca degli algoritmi? E soprattutto: chi decide cosa deve restare umano, e chi ha già smesso di esserlo?Krisis ne ha parlato con Mirella Mastretti, ricercatrice indipendente, attiva dal 1988 nel campo dell’intelligenza artificiale e della systems engineering. Fisica cibernetica, ha iniziato lavorando nei laboratori di ricerca avanzata di Italtel, per poi ricoprire posizioni manageriali in diverse aziende tecnologiche e insegnare in varie università, fra cui il Politecnico di Milano. Ha partecipato all’iniziativa «Una vita da scienziata» e ha fondato AlgoRadar, un gruppo multidisciplinare di scienziati indipendenti che mirano a promuovere un’intelligenza artificiale trasparente, antropocentrica e orientata al bene comune. Cattolica praticante, collabora con istituzioni vaticane e reti universitarie legate alla Chiesa. Ha scritto il capitolo conclusivo del libro Artificial Intelligence and care of common home, che ha presentato assieme ai coautori a papa Leone XIV il 5 dicembre 2025.Esiste uno scontro tra antropologia cristiana e IA?«Più che uno scontro frontale, direi che stiamo entrando in una tensione culturale tra modi diversi di concepire l’essere umano. Oggi parliamo genericamente di “intelligenza artificiale”, ma in realtà esistono paradigmi differenti. I sistemi che utilizziamo quotidianamente sono forme di IA ristretta, specializzate nell’elaborazione di dati, schemi e probabilità e modelli di IA generativa, capaci di produrre testi, immagini e contenuti che appaiano sempre più simili a quelli creati dall’uomo. La ricerca, però, si sta evolvendo verso modelli più complessi – neurosimbolici, neuromorfici e cognitivi – che cercano di simulare processi decisionali, inferenze e funzioni cognitive sempre più avanzate. Anche considerando questi sviluppi, però, rimane una distanza profonda rispetto all’antropologia cristiana. La dottrina sociale della Chiesa si fonda infatti su una concezione personalistica e relazionale della persona, radicata nell’idea di imago Dei. L’essere umano non è soltanto cognizione o comportamento. È coscienza, libertà, responsabilità morale, corporeità, relazione, esperienza vissuta. La persona è molto di più delle sue funzioni computazionali».Quale rischio culturale introduce l’IA?«La vera questione non è semplicemente tecnica, ma antropologica: quale idea di uomo guiderà lo sviluppo dell’intelligenza artificiale? Ed è qui che entra in gioco il tema della governance etica. Se costruiamo la tecnologia dentro una visione puramente tecnocratica o funzionalista, il rischio è quello di impoverire l’umano, soprattutto il pensiero critico delle nuove generazioni. Se invece l’intelligenza artificiale resta al servizio della persona, può diventare uno strumento straordinario: nella medicina, nell’educazione, nell’accesso alla conoscenza e nella promozione del bene comune».Le normative attualmente in vigore sono sufficienti?«Normative europee come l’AI Act rappresentano certamente un passo importante, perché introducono principi di trasparenza, gestione del rischio e tutela dei diritti fondamentali. Tuttavia, dal punto di vista della dottrina sociale della Chiesa, questo non basta ancora. La domanda decisiva resta: cosa significa rimanere umani nell’epoca dell’intelligenza artificiale? Per questo credo siano necessari anche strumenti concreti di governance etica. Nel mio lavoro ho proposto, ad esempio, l’idea di una sorta di “etichetta etica” capace di identificare applicazioni e sistemi che rispettino determinati valori antropologici e sociali. Non si tratta di uno strumento giuridico, ma culturale: un modo per riportare al centro la dignità della persona umana».L’Occidente post-cristiano sembra aver smesso di cercare la salvezza in Dio per cercarla nella tecnologia. L’IA è una nuova promessa di salvezza secolare?«In parte sì. Alcune narrazioni contemporanee sembrano aver trasferito nella tecnologia aspettative che un tempo appartenevano alla religione: il desiderio di superare il limite umano, eliminare la sofferenza, controllare l’incertezza e persino vincere la morte. Esistono correnti transumaniste – penso ad esempio al singularitarianism di Ray Kurzweil e Vernor Vinge – che parlano apertamente della tecnologia come mezzo per superare l’uomo biologico. Si arriva persino all’idea dell’upload della mente, della fusione uomo-macchina o di una sorta di immortalità digitale.In queste visioni, la coscienza viene interpretata soprattutto come elaborazione di informazioni. Ma qui emerge una domanda decisiva: la coscienza umana è davvero riducibile a un processo computazionale?»Una macchina può davvero avere coscienza?«Anche un’intelligenza artificiale molto avanzata può elaborare informazioni, simulare linguaggio, emozioni o ragionamenti. Ma questo non significa necessariamente possedere una coscienza nel senso pieno del termine, cioè legata all’esperienza soggettiva, morale e corporea della persona.Recentemente Anil Seth ha usato un’immagine molto efficace: il confronto tra gli scacchi e il meteo. Gli scacchi sono completamente computabili, governati da regole precise; per questo una macchina può superare l’essere umano. Il meteo, invece, è dinamico, emergente, immerso in processi fisici reali. La coscienza somiglia molto più al meteo che agli scacchi. Emerge da processi biologici, dall’interazione col corpo e con l’ambiente. Possiamo simulare un uragano, ma la simulazione non sente il vento. Per questo il vero tema non è scegliere tra fede e tecnologia. La domanda è se useremo l’intelligenza artificiale come strumento al servizio dell’uomo oppure se finiremo per cercare nella tecnologia una forma di salvezza esistenziale che nessuna macchina può realmente offrire».La tradizione cristiana distingue tra conoscenza, intelligenza e sapienza. Come ricorda il Siracide: «Tutta la sapienza viene dal Signore ed è con lui per sempre». Un sistema artificiale può elaborare informazioni, ma può davvero avvicinarsi a ciò che la Bibbia chiama sapienza?«La sapienza implica coscienza, esperienza vissuta, discernimento morale, interiorità e relazione. Un sistema artificiale può descrivere il dolore senza provarlo, parlare del bene senza desiderarlo, discutere della morte senza avere coscienza della propria fine. Su questo credo sia ancora molto attuale l’esperimento mentale della Chinese Room di John Searle. Immaginiamo una persona chiusa in una stanza che non conosce il cinese. Riceve simboli dall’esterno e possiede soltanto un enorme manuale di istruzioni che le dice come combinare quei simboli per produrre risposte corrette. Chi sta fuori dalla stanza penserà che quella persona comprenda il cinese. In realtà non comprende nulla: sta semplicemente manipolando simboli. Allo stesso modo, un sistema artificiale può elaborare informazioni, riconoscere schemi complessi e produrre risposte sempre più sofisticate. Una futura IA potrebbe persino simulare forme avanzate di ragionamento. Ma comprendere davvero, avere coscienza e consapevolezza, è un’altra cosa. La sapienza, infatti, non coincide semplicemente con l’intelligenza: implica coscienza, esperienza morale e consapevolezza dell’esistenza».Quali rischi per la dignità umana emergono quando algoritmi classificano, profilano e predicono comportamenti su scala planetaria?«Gli algoritmi tendono inevitabilmente a classificare, profilare, attribuire punteggi e prevedere comportamenti. Questo può produrre forme di discriminazione, esclusione, sorveglianza e manipolazione comportamentale, soprattutto nei sistemi basati sulla raccolta massiva di dati. Il rischio emerge quando la previsione algoritmica diventa più importante della libertà personale. In quel momento l’essere umano rischia di essere trattato come un oggetto da ottimizzare, ridotto a un profilo statistico o a una sequenza di comportamenti prevedibili».Come può la tradizione dell’imago Dei offrire una forma di resistenza culturale?«L’idea cristiana di imago Dei ricorda che l’essere umano non è soltanto cognizione o comportamento. È coscienza, libertà, responsabilità morale, corporeità, relazione ed esperienza vissuta. Per questo il valore della persona non dipende dall’efficienza, dalla produttività o dalla ca

Voci narranti: Elisabetta Burba, Giulio Bellotto, Andrea Pincin
Krisis – Rivista di politica globale iscritta nel Pubblico Registro Stampa n. 21/2024 del Tribunale Ordinario di Milano.
Editore e direttrice rresponsabile: Elisabetta Burba
Codice ISSN: 3035-2797