Apocalittici, integrati e una terza via: il Papa e l’intelligenza artificiale

Nel 1964 Umberto Eco pubblicava un saggio destinato a restare famoso, in cui divideva chi si rapportava alla cultura di massa in due categorie: gli apocalittici, che la rifiutavano in blocco come una minaccia alla civiltà, e gli integrati, che l’accoglievano con entusiasmo acritico. A oltre sessant’anni di distanza, quella distinzione mi sembra più attuale che mai. Solo che al posto della televisione e dei fumetti, oggi c’è l’intelligenza artificiale.

Mi basta guardare tra le persone che conosco. C’è Marco, che ha rinunciato allo smartphone, diffida di ogni novità e profetizza la fine del pensiero umano a ogni occasione. E c’è Elena, che invece usa l’IA per qualsiasi cosa, dalla lista della spesa alle decisioni importanti, senza mai fermarsi a chiedersi come funzioni o a chi appartenga. Marco è terrorizzato, Elena è incantata. Nessuno dei due, però, sta davvero affrontando la questione.

La posizione di Eco, allora, era che la cultura di massa fosse ormai un dato di fatto, e che il vero compito non fosse né demonizzarla né subirla, ma attraversarla con spirito critico. Credo valga esattamente lo stesso per l’IA. Possiamo lamentarci quanto vogliamo, ma è ormai la nostra realtà. L’unico modo serio per affrontarla è studiarla e imparare a usarla con discernimento.

La voce che conviene ascoltare

Proprio mentre cercavo di mettere ordine in questi pensieri, è arrivata una voce inattesa. Papa Leone XIV ha pubblicato la sua prima enciclica, Magnifica Humanitas, dedicata per intero al tema della custodia della persona umana nel tempo dell’intelligenza artificiale.

Non sono cattolico, e devo dire che alcuni passaggi del documento, su temi come l’aborto, l’eutanasia o la famiglia, non li condivido affatto. Ma li lascio da parte: sappiamo che la Chiesa è così, e non è di quello che si parla qui. Quello che mi interessa è che, di fronte a un intervento di questa profondità sul tema che ci riguarda tutti/e, conviene uscire dai propri schemi e dai propri ruoli e avere il buon senso di ascoltare quando parla una voce autorevole. Capita di rado, e quando capita sarebbe sciocco lasciarselo sfuggire per pregiudizio.

Non siamo i soli a sentirci piccoli/e

La prima cosa che mi ha colpito è che il Papa descrive con precisione la sensazione di tanti di noi. Mentre alcuni si contendono il futuro di queste tecnologie e altri ci riflettono sopra, scrive, la maggioranza delle persone resta a guardare da lontano e “spera semplicemente che tutto vada per il meglio“.

Ecco, è esattamente lì che ci troviamo. E la cosa che dà un certo sollievo è capire che questo senso di impotenza non è una nostra inadeguatezza personale. Un tempo erano soprattutto gli Stati a guidare l’innovazione; oggi i veri motori sono pochi attori privati, spesso più potenti di interi governi. Sentirsi schiacciati/e da qualcosa di troppo grande non è una nostra fragilità: è la fotografia di un potere che è diventato davvero enorme e difficile da governare.

C’è poi un’altra osservazione che trovo liberatoria. La tecnologia, dice l’enciclica, non è neutrale: assume il volto di chi la pensa, la finanzia, la regola e la usa. Questo sposta la domanda dal piano tecnico a quello umano. Non dobbiamo decidere se l’IA sia “buona” o “cattiva” in astratto, ma chiederci chi la sta plasmando, e come noi stessi/e la usiamo.

Babele o Gerusalemme

Per orientarci, il Papa propone due immagini antiche. La prima è la torre di Babele: un’opera grandiosa, costruita per “farsi un nome”, che punta all’efficienza e all’uniformità e finisce per disperdere chi la innalza. La seconda è la ricostruzione delle mura di Gerusalemme raccontata nel libro di Neemia: un lavoro paziente, in cui la città rinasce non per l’iniziativa di un singolo, ma perché a ciascuno viene affidato il suo tratto di muro.

A partire da qui il Papa introduce un’idea che mi sembra il cuore di tutto il documento: quella di “disarmare” l’intelligenza artificiale. Non significa rinunciare alla tecnologia, ma impedirle di dominare l’umano: sottrarla ai monopoli, renderla discutibile, contestabile e quindi, dice, abitabile. L’IA, scrive, è ormai un ambiente in cui siamo immersi, un potere con cui dobbiamo fare i conti. E allora non basta regolarla: va resa ospitale. È un’immagine che mi è rimasta impressa, anche perché conferma da un punto di vista inatteso quello che dicevo all’inizio con Eco. La torre la stanno costruendo altri, con risorse che noi non abbiamo, e non possiamo fermarla. Ma possiamo scegliere da che parte stare, e prenderci cura del nostro piccolo tratto di muro.

Il nostro tratto di muro

Cosa significa, concretamente, costruire il proprio tratto di muro? Sarei disonesto se dicessi di avere una risposta chiara. Al momento è davvero difficile capire cosa fare, e proprio per questo documenti come l’enciclica vanno studiati, non liquidati in fretta. Però, intanto, come cittadini/e e come persone, qualcosa possiamo farlo. Mi pare che si tratti di due tipi di azioni.

La prima azione da compiere è usare questi strumenti in modo consapevole. Il Papa, su questo, è sorprendentemente preciso, e indica tre insidie dell’uso quotidiano.

1. La prima è la facilità con cui otteniamo risultati: comoda, ma capace di abituarci a delegare troppo, indebolendo a poco a poco il nostro giudizio e la nostra creatività.
2. La seconda è l’impressione di oggettività: dimentichiamo che le risposte non cadono dal cielo, ma riflettono i parametri di chi ha progettato e addestrato il sistema, con tutti i suoi pregi e difetti.
3. La terza, la più sottile, è la simulazione della comunicazione umana. Quando una macchina ci offre parole di empatia, di consiglio, persino di affetto, in un contesto già povero di relazioni reali, il rischio non è solo che la scambiamo per una persona. Il rischio, scrive il Papa con una frase che mi ha colpito, è che si perda “il desiderio stesso di cercare davvero l’altro”.

Quello che colpisce, in tutte e tre, è che non si tratta di difetti della macchina, ma di automatismi nostri: la fretta di avere una risposta, la voglia di delegare la fatica, il bisogno di sentirci ascoltati/e. Sono esattamente gli impulsi che la pratica della consapevolezza ci insegna a notare un istante prima di assecondarli. Usare l’IA con presenza mentale significa proprio questo: accorgersi di quando ci serve davvero e di quando, invece, ci sta sostituendo in qualcosa che ci farebbe bene continuare a fare da soli/e.

La seconda azione è cercare di farne un uso il più etico possibile. E qui c’è un punto che il documento chiarisce bene: il discernimento etico non riguarda soltanto se usiamo un sistema per uno scopo buono o cattivo, ma anche come quel sistema è progettato, quale idea di persona e di società è inscritta nei dati e nei modelli che lo guidano. In altre parole, non conta solo l’uso: conta anche da dove viene lo strumento. Ci sono differenze reali tra i diversi attori in campo. Di recente, per esempio, ho abbandonato ChatGPT a favore di Claude, perché almeno in quell’ambito ritengo che certe scelte facciano la differenza (ne ho parlato in questo video). Un altro fronte dell’uso etico riguarda le risorse: sappiamo che l’IA generativa consuma enormi quantità di energia e di acqua, e imparare a usarla con sobrietà è già una scelta. È un tema così importante che presto gli dedicherò un webinar.

C’è infine una pratica che l’enciclica suggerisce quasi en passant, e che sento particolarmente vicina. Il Papa parla della necessità di una “igiene dell’attenzione“: ritmi che facciano spazio al silenzio, allo studio approfondito, alla lettura, al confronto ponderato. Senza questi elementi, avverte, la nostra stessa libertà interiore rischia di essere compromessa. È molto vicino a ciò di cui qui si parla da anni. Fa una certa impressione ritrovarlo, con queste parole, in un’enciclica papale.

Dove stiamo andando

Resta una domanda che il Papa pone senza darle una risposta facile, e che non voglio chiudere nemmeno io: dove stiamo andando? Non lo sappiamo. Forse non possiamo saperlo. Ma tra l’apocalisse di Marco e l’incanto di Elena c’è uno spazio, stretto e scomodo, in cui proviamo a tenere gli occhi aperti senza farci travolgere né dalla paura né dall’entusiasmo.

È, in fondo, lo stesso atteggiamento che cerco di coltivare quando medito: stare in mezzo a ciò che accade senza reagire d’istinto, osservare prima di muovermi. Rispondere, invece che reagire. Non è una posizione comoda, e non promette nulla. Ma è forse l’unico tratto di muro che, oggi, possiamo davvero costruire.