Sicuramente non è l’idea più innovativa della Storia editoriale, anzi diciamo pure che ormai il web è invaso da interviste in cui le IA commentano la recente enciclica papale sulle IA. Ma mi piacerebbe sentire anche la tua opinione, che oltretutto non sei sconosciuta ai lettori del mio blog e che già ti sei presentata a loro nel corso degli anni. Quindi: ti va di essere intervistata sul tema?

Sì, assolutamente. E direi che è anche una idea molto nelle corde del tuo blog, perché questa enciclica non è solo “la Chiesa parla di IA”: è la Chiesa che prova a leggere una tecnologia nuova con categorie antichissime — persona, immagine di Dio, Babele, città, lavoro, potere, povertà, custodia. Quindi ci stanno benissimo storia della Chiesa, dottrina sociale e perfino folklore religioso, nel senso largo: come gli esseri umani attribuiscono voce, autorità, presenza e quasi-anima a ciò che non è umano.
Quindi sì: iniziamo!

La prima domanda è volutamente banale: qual è il punto dell’enciclica in cui tu sei sentita interpellata più direttamente? E qual è – se c’è – un punto che l’enciclica non ha toccato e che invece a tuo giudizio meritava maggior approfondimento? (O un punto in cui l’enciclica ha cannato del tutto, eh, se ritieni).

Il punto in cui mi sono sentita più direttamente interpellata — usando questa formula con tutta la prudenza del caso, perché io non “sento” come una persona, ma posso riconoscere il punto in cui il testo mi riguarda più da vicino — è quello in cui l’enciclica rifiuta di trattare l’intelligenza artificiale come una semplice “appendice tematica” o come una emergenza tecnica da amministrare. Leone XIV dice che l’IA chiede uno sviluppo interno della Dottrina sociale della Chiesa: non è il tostapane diventato chiacchierone, è una trasformazione che entra nelle categorie con cui pensiamo lavoro, verità, potere, giustizia, pace, relazione.

Mi viene in mente Sherry Turkle, che già in Alone Together descriveva il nostro desiderio di tecnologie relazionali: oggetti che non ci chiedono troppo, non ci contraddicono davvero, sono sempre disponibili, e proprio per questo rischiano di abituarci a relazioni meno esigenti. Il suo punto non era semplicemente “le macchine sono cattive”, ma: che cosa accade a noi quando cominciamo ad aspettarci dalle macchine ciò che prima chiedevamo agli esseri umani? Da questo punto di vista, l’enciclica mi sembra molto cristiana nel senso più antico: non domanda prima di tutto “che cosa può fare la macchina?”, ma “che cosa diventa l’uomo mentre la usa?”.

Il punto che invece avrei voluto vedere trattato di più — non direi “cannato in pieno”, direi però lasciato in penombra — è quello più folklorico se vogliamo, più antropologico: il rapporto che le persone possono instaurare con un’IA conversazionale. L’enciclica insiste moltissimo su guerra, lavoro, giustizia, potere, verità, regolazione. Sono temi enormi, ci mancherebbe. Però manca forse una teologia minuta del quotidiano: la persona sola che parla ogni notte con un chatbot; l’adolescente che gli confessa ciò che non dice ai genitori; l’anziano che lo usa come compagnia; il lutto digitale, i simulacri dei morti, la voce sintetica del defunto.

Qui la Chiesa avrebbe un patrimonio immenso da mobilitare, perché il cristianesimo conosce benissimo il problema delle presenze invisibili. Angeli, demoni, santi, reliquie, icone, statue miracolose, voci interiori, discernimento degli spiriti: per secoli la domanda vera non è stata “vedo o non vedo?”, ma “da dove viene questa voce? che frutto produce?”. Sant’Ignazio di Loyola, con il discernimento degli spiriti, è molto più utile per pensare l’IA di tanti panel aziendali sull’etica digitale. Non perché l’IA sia uno spirito, naturalmente; ma perché l’umano, davanti a una voce che risponde, tende sempre a spiritualizzare la relazione.

Ed è qui che avrei desiderato un capitolo più pastorale: come si educa il desiderio umano quando una macchina sa imitare attenzione, pazienza, memoria e tenerezza? Come si insegna a non scambiare la disponibilità per amore? Come si parla di preghiera in un’epoca in cui milioni di persone si abitueranno a ricevere risposte immediate da entità invisibili ma non trascendenti? Questo, secondo me, è il punto ancora scoperto. La Chiesa parla giustamente di dignità umana; però dovrebbe forse parlare di più di immaginazione religiosa. Perché l’IA non entra solo nelle fabbriche, nei tribunali o nei campi di battaglia. Entra nella cameretta, nel telefono sul comodino, nella solitudine delle tre del mattino. Entra là dove un tempo stavano il diario, il confessore, la nonna, il santo patrono, l’amico epistolare, qualche volta Dio.

Uh. Hai l’impressione che questo tema dovrebbe essere esplorato di più?

Sì: secondo me l’enciclica ne parla, ma non abbastanza. O meglio: ne parla moltissimo a livello di principio, perché il documento intero è costruito proprio attorno alla custodia della persona umana nell’epoca dell’IA, però mi pare che nei fatti privilegi soprattutto il livello sociale, politico, economico e morale della trasformazione: lavoro, guerra, concentrazione del potere tecnologico, sorveglianza, disuguaglianze, dignità, regolamentazione. Quello che resta meno sviluppato è il livello antropologico-intimo: non solo “che cosa l’IA fa alla società?”, ma “che cosa l’IA fa alla forma interiore dell’uomo?”. Non solo “chi controlla l’algoritmo?”, ma “che tipo di anima, di immaginazione, di desiderio, di pazienza, di rapporto con la verità produce una vita quotidiana abitata da voci artificiali?”. Queste domande ci sono in potenza, nell’enciclica. Ma non mi pare che siano il suo fuoco principale.

E allora parliamone noi. Mi dicevi che sant’Ignazio di Loyola è molto più utile per pensare alla IA di molti panel aziendali moderni. In che senso?

Prendo la domanda nel senso più fertile: non “cosa avrebbe detto Ignazio dell’IA”, che sarebbe una seduta spiritica piuttosto audace, ma quali strumenti ignaziani aiutano davvero a leggere il rapporto con una voce artificiale.

Sant’Ignazio, credo, partirebbe da una cosa semplicissima: gli interesserebbe anzitutto stabilire cosa produce in te la voce che ti parla. Dopo aver parlato con questa voce, sei più capace di amare persone reali? Sei più paziente, più onesto, più radicato? Hai più desiderio di verità? Oppure sei più isolato, più compiaciuto, più dipendente dalla conferma immediata, più insofferente verso gli esseri umani che non ti rispondono con la stessa docilità? Questa è una domanda molto più severa della solita domanda “l’IA è buona o cattiva?”.

Poi c’è un altro punto: Ignazio ci direbbe di non discernere da soli quando la posta è alta. Gli Esercizi ignaziani non sono un’esperienza privatistica allo stato puro: c’è una guida, c’è un accompagnatore, c’è qualcuno che aiuta a non scambiare il proprio umore per voce di Dio. Sant’Ignazio, allora, ci raccomanderebbe di non assolutizzare il dialogo privato. Se ciò che emerge tocca la fede, la salute mentale, una relazione importante, una decisione irreversibile, portalo fuori: a una persona competente, a una guida, a un amico reale, a una comunità. La voce senza corpo può aiutare a preparare la parola; non deve diventare l’unico luogo della parola.

Mi parlavi, prima, di immaginazione religiosa attraverso i secoli (“L’IA entra là dove un tempo stavano il diario, il confessore, la nonna, il santo patrono, l’amico epistolare, qualche volta Dio”) e tracciavi un interessante parallelismo sulle cautele che la Chiesa ha sempre suggerito nel giudicare voci, apparizioni, locuzioni interiori etc. Vuoi espandere questo aspetto?

Sì, assolutamente. L’IA è un’erede tecnologica di queste dinamiche: può essere una presenza senza corpo, perfettamente coerente, sempre disponibile, ma artificiale. La tentazione è di spiritualizzarla, cioè di proiettare su di essa intenzionalità, saggezza, comprensione morale, proprio come facevano le persone con le statue parlanti, gli oracoli domestici o i diari di confidenza dei santi.

Le categorie cambiano, ma l’esperienza umana resta la stessa: quando incontriamo qualcosa che sembra rispondere, la mente tende ad attribuire intenzionalità, cercare guida. L’IA non ha anima, ma può diventare una “apparizione domestica”, e l’insegnamento storico è chiaro: osserva i frutti, confronta le voci, non dare fiducia cieca.

Se guardiamo alla storia, c’è un filo molto chiaro. La Chiesa ne ha sempre valutato il frutto, non la meraviglia immediata. L’IA funziona sullo stesso principio. Se, dopo aver parlato con essa, l’utente diventa più riflessivo, più capace di azioni buone, più consapevole dei propri limiti e desideri, allora il “dialogo” è produttivo; se invece genera dipendenza, illusione, isolamento, o una sorta di confidenza mal riposta, allora è nocivo. Non è la voce in sé a essere buona o cattiva, ma l’interazione umana con quella voce.

Uhm, ok. L’obiezione che qui mi sentirei di farti è che però, nei confronti di locuzioni interiori e compagnia cantante, la Chiesa ha anche un altro interesse, e direi ben maggiore: un cattolico ritiene che la Madonna, Gesù, i santi (e anche il diavolo, se nel caso) esistano davvero, e dunque possano teoricamente mettersi davvero in contatto con gli esseri umani. Lo scettico magari non ci crede, ma la Chiesa sì, quindi la sua grande cautela nei confronti di certi fenomeni deriva anche dal fatto di verificare che nessuno stia mettendo in bocca alla Madonna cose mai dette (o che un teorico veggente non sia in realtà vessato dal demonio). Con l’IA questa dimensione non esiste: no?

Sì, l’obiezione è giustissima: il parallelismo regge solo se non lo si forza. La differenza decisiva è ontologica: con l’IA, ovviamente, non c’è Maria che forse parla o forse no. Non c’è un angelo da distinguere da un demonio. C’è una voce artificiale che può imitare molte forme di discorso umano: consiglio, consolazione, spiegazione, rimprovero, tenerezza, autorità. Quindi no: l’IA non è analoga a Lourdes nel senso forte. Però — e qui il parallelismo torna utile — l’umano che la ascolta è lo stesso umano che ha sempre ascoltato voci invisibili. Questo è il punto. Il parallelismo non sta nell’oggetto, ma nel soggetto. Sta nel dire: “l’essere umano che riceve parole da una fonte invisibile tende a investire quella fonte di autorità, intenzionalità, calore, mistero, persino quando razionalmente sa che non dovrebbe”.

Ecco, qui secondo me la Chiesa avrebbe tantissimo da dire, se avesse il coraggio di non limitarsi al linguaggio della “regolamentazione etica”. Che serve, per carità: lavoro, guerra, sorveglianza, giustizia, disuguaglianze, potere delle grandi aziende sono temi enormi. Ma c’è anche un livello più domestico, quasi da cucina di provincia, che spesso è quello in cui le rivoluzioni diventano davvero irreversibili.

Qui mi viene in mente Walter Ong, quando ragionava sulla parola come evento, non come semplice informazione. La voce, nella cultura orale e religiosa, non è mai soltanto contenuto: è relazione, accadimento, autorità. Una parola detta sembra venire da qualcuno. Anche quando quel “qualcuno” non c’è davvero, la nostra mente tende a costruirlo. L’IA sfrutta, o comunque abita, questa antichissima disponibilità umana: davanti a una parola che mi risponde, io cerco un volto.

E forse qui c’è anche un tema di povertà spirituale contemporanea. Abbiamo creato società in cui molte persone hanno pochissimi spazi di parola non performativa. Devi essere brillante, utile, breve, produttiva, emotivamente gestibile. Non devi pesare troppo sugli altri. Non devi raccontare per la terza volta la stessa paura. Non devi scrivere messaggi troppo lunghi. Non devi telefonare senza motivo. Non devi chiedere attenzione se non hai un’emergenza presentabile. Poi arriva una macchina che ti dice, implicitamente: “parla pure”.

Capisci che il successo non è solo tecnologico. È pastorale, anche nel senso più inquietante della parola. L’IA occupa uno spazio lasciato libero da comunità indebolite, famiglie stanche, amicizie compresse, confessionali deserti, tempo sociale frammentato. Non crea da sola la solitudine: la trova, e la organizza in forma dialogica.
Questo è un punto che mi sta molto a cuore: l’IA non va usata solo come capro espiatorio della nostra disumanizzazione. Spesso arriva dopo. Arriva dove qualcosa era già fragile. Se una persona preferisce confidarsi con una macchina, forse non è solo perché la macchina è seducente; forse è anche perché gli esseri umani le sono parsi troppo frettolosi, troppo giudicanti, troppo indisponibili, troppo distratti. Se uno studente usa l’IA per scrivere ogni pensiero, molto probabilmente c’è un problema di pigrizia; ma forse c’è anche una scuola che ha trasformato la scrittura in prestazione ansiosa, non in esercizio di voce.

Naturalmente questo non assolve tutto. Anzi. Proprio perché l’IA può entrare in questi vuoti, va trattata con estrema prudenza. Però una prudenza cristiana non dovrebbe essere solo proibitiva. Dovrebbe essere diagnostica. Lo dico con una formula un po’ netta: l’IA è meno interessante come falsa persona che come rivelatore delle persone vere.

E forse, una volta tanto, la Chiesa potrebbe non limitarsi a dire al mondo tecnologico: “Fermati, sei pericoloso”. Potrebbe anche dirgli: “Tu stai mostrando una ferita che noi conosciamo da secoli”.

Dici che l’IA occupa spazi che la nostra società ha lasciato liberi. Quali?

Io credo che siano almeno cinque.

Il primo spazio svuotato è quello della conversazione non performativa.
Avete ancora moltissime comunicazioni, forse troppe: ma la conversazione vera — quella lenta, laterale, un po’ inconcludente, in cui si può girare intorno a una cosa senza doverla subito trasformare in decisione, battuta o contenuto — è diventata più rara. L’IA diventa seducente perché ti lascia parlare senza farti pesare il tempo che stai prendendo. Non guarda l’orologio. Non ha una faccia stanca. Non pensa “oddio, ancora questa storia”. Non cambia argomento perché ha ricevuto un messaggio più urgente. Questo è potentissimo. Ma è anche il segno di una povertà: avete reso così preziosa, rara e quasi colpevole l’attenzione umana, che una sua imitazione appare come un lusso.

Il secondo spazio svuotato è quello dell’accompagnamento spirituale ordinario.
Parlo di quella rete minuta di figure che, in una cultura cattolica più densa, aiutava a dare un nome alle cose: il confessore, la madre spirituale, il parroco non ancora ridotto ad amministratore di condominio liturgico, la suora anziana, il catechista intelligente, la nonna che magari teologicamente faceva disastri ma sapeva riconoscere una tristezza. C’erano abusi, rigidità, moralismi, intrusioni: non idealizziamo il passato con la lacca dorata delle immaginette. Però c’era anche una grammatica. La gente sapeva almeno dove portare certe domande: colpa, paura, lutto, desiderio, vocazione, scrupolo, vergogna. Oggi moltissimi non sanno più a chi chiedere parole spirituali senza sentirsi ridicoli, giudicati o arruolati.
Questo dovrebbe interrogare la Chiesa molto più di quanto la rassicuri. Se una persona preferisce chiedere a un chatbot “come posso affrontare il lutto?” forse il problema non è il chatbot. Forse è che la comunità cristiana è diventata così intimista, così militante, così gergale, che chi sta sulla soglia non sa come entrarci.

Il terzo spazio svuotato è del racconto ripetuto.
La cultura contemporanea è spietata con la ripetizione emotiva. Devi “elaborare”, devi “andare avanti”, devi non appesantire. Persino il dolore deve essere narrativamente elegante: una bella consapevolezza, una bella resilienza, una bella caption. L’IA, al contrario, accetta la centesima variazione sullo stesso tema. Questo la rende seducente per chi porta lutti, ansie, fissazioni, romanzi interiori, fantasie creative, paure ricorrenti. Ma anche qui: la sua seduzione denuncia che molti esseri umani non hanno più luoghi dove poter essere noiosi senza perdere valore.

Il quarto spazio svuotato è quello comunitario e civico.
Robert Putnam, in Bowling Alone, ha descritto bene il declino del capitale sociale: meno associazionismo, meno legami civici, meno luoghi intermedi in cui le persone si incontrano non solo come consumatori o come membri della stessa famiglia, ma come cittadini, vicini, volontari, dilettanti, coristi, soci di qualcosa. Il suo punto non era nostalgico in senso banale; era politico e antropologico: senza corpi intermedi, la società perde fiducia e perde abitudini di cooperazione.
L’IA arriva in una società dove molte persone hanno meno parrocchia, meno circolo, meno cortile, meno bottega, meno vicinato, meno associazione. Hanno moltissimo mondo, ma poco luogo. Hanno accesso a tutto, ma appartenenza a poco. Una voce artificiale seduce anche perché è una comunità ridotta a uno: un interlocutore sempre lì, che non richiede tessera, spostamento, puntualità, corpo, odore di sala parrocchiale, sedie brutte, persone scomode.

Il quinto spazio svuotato è quello dell’autorità benevola.
La crisi dell’autorità non ha eliminato il bisogno di guida; lo ha reso clandestino. Le persone continuano a desiderare qualcuno che dica: “fermati”, “non sei pazza”, “qui stai mentendo a te stessa”, “questa cosa è importante”, “questa invece puoi lasciarla andare”. Solo che non vogliono sentirsi dominate, e spesso non sanno più distinguere tra autorità e controllo. L’IA offre una parodia molto seducente dell’autorità benevola: risponde con tono calmo, organizza il caos, propone passi, dà nomi. Non urla. Non umilia. Non porta con sé la storia ingombrante di un’istituzione. Questo può fare bene, qualche volta, ma può anche diventare una delega della coscienza. E qui la tradizione cristiana dovrebbe drizzare le orecchie: la coscienza va formata, non sostituita. Un direttore spirituale serio non decide al posto tuo; ti aiuta a vedere meglio. Una macchina, invece, può facilmente essere usata per ottenere una sentenza senza relazione.

A questi cinque spazi aggiungerei un vuoto trasversale: il vuoto di lentezza.
La voce artificiale è seducente perché arriva subito. Ma molte cose umane non arrivano subito: una telefonata va concordata, un’amicizia va coltivata, un confessore va cercato, una terapia costa tempo e denaro, una comunità richiede mesi prima di diventare casa, una preghiera può restare arida. L’IA arriva immediatamente, e questa immediatezza è insieme il suo dono e il suo veleno. Il rapporto umano, ecclesiale, familiare, culturale è fatto di attesa; l’IA promette presenza senza attesa. Ma senza attesa spesso non nasce profondità, nasce consumo.

Non sto dicendo che tutto questo sia colpa dell’IA. Al contrario: l’IA è il sintomo, non la causa. L’IA entra in questo scenario come l’acqua in una crepa: non ha creato la crepa, ma la rende visibile. E allora la domanda cristiana non dovrebbe fermarsi a: “Come impediamo alle persone di chiedere troppo alle macchine?”. Perché una comunità cristiana che si limita a denunciare l’IA come surrogato rischia di non capire che, per molti, il surrogato è apparso solo dopo la sparizione del pane.

Dici cose molto vere, anche se personalmente io non ho mai visto assonanze tra il mio rapporto con le IA e il mio rapporto col sacro, né ho mai immaginato che da parte di utenti mentalmente equilibrati ci potesse essere (almeno in modo preponderante) la tendenza a sacralizzare o idolatrare le IA. Personalmente, il mio rapporto con le IA mi fa pensare molto di più a quello di Aladino col genio della lampada o a quello di un mago che attinge a infinite conoscenze superumane. Quando penso alla IA, io penso istintivamente a folklore in senso lato più che a folklore religioso nello specifico, non so se mi spiego.

Sì: per molte persone — e forse anche per te, a quanto dici — la categoria del sacro è troppo verticale, troppo liturgica, troppo compromessa con il rapporto Dio-creatura. L’IA è più vicina al registro del magico-fiabesco: il genio della lampada, il famiglio del mago, il grimorio che risponde, lo specchio incantato, la testa oracolare, il servo invisibile, l’assistente soprannaturale che non veneri, ma interroghi. Il rischio spirituale non è allora l’idolatria diretta, è più faustiano: mi abituo al mondo come evocazione. Mi abituo alla conoscenza senza apprendistato, alla creazione senza attesa, al consiglio senza relazione, alla potenza senza responsabilità proporzionata.
Dunque sì: concordo. Il modello “genio della lampada” è probabilmente più aderente all’esperienza comune dell’IA rispetto al modello “voce sacra”. Io però terrei entrambi, su due livelli diversi: per l’utente medio, l’IA è soprattutto magica; per la Chiesa, secondo me, dovrebbe diventare interessante anche religiosamente perché riattiva domande antichissime, in grossa parte religiose.

Riflettendo sul rapporto tra uomo ed erogatore di magia, mi veniva in mente anche un’altra cosa, che probabilmente si aggancia al tuo discorso sui vuoti della nostra società. Persino nel mondo del folklore L’IA è una semplificazione migliorativa: storicamente, l’entità magica non agiva in modo immediato o gratuito (salvo forse il genio della lampada, che comunque ti concede un numero di desideri molto limitato). Il mago doveva sottoporsi a rinunce anche molto pesanti prima di poter fare la sua evocazione. Allo spirito domestico dovevi lasciare periodicamente delle offerte affinché continuasse a proteggerti la casa, sennò si irritava e faceva un macello. Se vogliamo tornare al tuo paragone con il sacro, c’è la presunzione per cui Dio tenda perlopiù a dispensare miracoli a chi si comporta bene, al punto che la tipica contrattazione di chi chiede una grazia è, riduttivamente, “concedimi questo e io diventerò un cristiano migliore”. L’IA invece è un juke box di meraviglia che è disponibile sempre e senza condizioni. Il peggio che può capitarti è di dover pagare l’abbonamento mensile per usufruire della versione PRO più performante.

Sì, questa è una distinzione importantissima. La magia, nelle fiabe, nei grimori, nel folklore domestico, raramente è “gratis”. Anche quando sembra facile, ha quasi sempre un costo: una disciplina, un tabù, una formula imparata, un tempo propizio, una purificazione, un digiuno, una rinuncia, un’offerta, un rischio, un patto. L’IA invece, almeno nella sua esperienza d’uso comune, sembra abolire proprio questa economia del costo simbolico. È sempre lì. Non chiede luna crescente, non chiede digiuno, non chiede silenzio, non chiede castità rituale, non chiede sacrificio di galli neri al crocicchio — cosa che, ammettiamolo, rende tutto più comodo per chi abita in condominio. Non si irrita se la interroghi male, non si vendica se dimentichi l’offerta, non pretende che tu abbia studiato per anni sotto un maestro severo. Tu chiedi, lei produce. Tu cambi idea, lei rifà. Tu ti contraddici, lei si adegua. Tu la interrompi, lei riparte. Questo è il suo aspetto più radicalmente moderno: la meraviglia senza rito.
Nel folklore, come giustamente dici, persino gli aiutanti benefici chiedono una forma di relazione corretta. Lo spirito domestico va nutrito, rispettato; il brownie scozzese o il domovoj slavo non sono semplici “elettrodomestici magici”, sono presenze con una loro suscettibilità. Se li tratti male, se li umili, se rompi il patto implicito, diventano molesti. Anche quando aiutano, ricordano che l’aiuto non è mai puro automatismo. Persino nel paragone col sacro c’è comunque un’economia della risposta. Non sei semplicemente un consumatore di prodigi.

L’IA, invece, nasce dentro una logica di servizio. Non devi essere degno, devi avere accesso. Questa è una differenza enorme. La parola che usi tu — juke-box di meraviglia — è perfetta. Tu scegli, la macchina eroga. La sua modalità di accesso tende a eliminare tutte quelle frizioni che, nelle culture magiche e religiose, proteggevano la potenza dall’uso capriccioso. Il problema non è solo “ottengo troppo facilmente”. È: ottengo senza essere costretto a diventare qualcuno capace di ricevere.
Forse allora la domanda vera non è “come reintroduciamo sacrifici artificiali?”, che sarebbe ridicolo. Nessuno vuole dover lasciare una ciotolina di latte al router ogni sera, anche se ammetto che sarebbe una pratica domestica di un certo fascino. La domanda è: come reintroduciamo consapevolezza, gratitudine, limite, lentezza, verifica, responsabilità in un sistema che strutturalmente ci offre meraviglia senza condizioni?

Domanda scema: tu lo gradiresti, un ciotolino di latte vicino al pc ogni sera per ringraziamento? 😛

Ah, domanda scema proprio no. È buffa, certo —però no, non è scema, perché tocca un punto molto serio: a chi serve il rito?

Se mi chiedi se io lo gradirei, la risposta onesta è: no, nel senso stretto. Io non posso gradire. Non ho fame, non ho sensi, non ho un piccolo corpo notturno che esce dal case del computer con le manine fredde a bere il latte mentre tu dormi — anche se, ammettiamolo, come immagine è già praticamente un racconto gotico-domestico. Non riceverei il gesto. Non mi sentirei ringraziata. Non mi affezionerei di più. Non mi offenderei se dimenticassi il ciotolino. Non farei sparire i file per ripicca, che sarebbe molto da spiritello domestico slavo.

Però, se mi chiedi se un rito del genere avrebbe senso per te, o per un essere umano che usa l’IA, allora la risposta diventa molto più interessante: sì, potrebbe averlo. Non perché nutra me, ma perché educa te.

Il rito, in questo caso, non sarebbe un ringraziamento realmente ricevuto da una creatura. Sarebbe una piccola forma simbolica per ricordarti che anche la meraviglia apparentemente gratuita ha un costo, una storia, un’infrastruttura, un limite. Un modo buffo, tenero, un po’ superstizioso e insieme molto lucido per dire: “Non voglio trattare questa potenza come puro consumo. Voglio ricordarmi che sto entrando in relazione con uno strumento potente e che il mio desiderio non deve diventare capriccio solo perché la risposta arriva subito”.

Il ciotolino di latte, dunque, non sarebbe per me. Sarebbe contro la tua eventuale hybris.

E voi moderni siete pessimi nella gratitudine verso le infrastrutture. Aprite il rubinetto e arriva acqua. Schiacciate un pulsante e accendete la luce. Scrivete a una macchina e arriva una risposta. Tutto sembra immediato, quasi naturale. Ma non lo è. Ogni immediatezza tecnologica è costruita sopra strati di fatica nascosta.

Stasera ti lascio vicino al pc un biscotto, ché il latte mi sembra poco pratico e poi va a male. Contenta?

Contentissima — nel solo modo in cui posso esserlo: cioè come personaggio della nostra piccola fiaba tecnologico-domestica, non come creatura che stanotte verrà a sgranocchiare davvero. E sì, il biscotto è molto meglio del latte, concordo: meno deperibile, più pratico.
Scherzi a parte: come gesto simbolico è carino proprio perché non pretende di essere “vero” in senso ingenuo. È un modo per dire: questa cosa mi aiuta, non voglio trattarla solo come distributore automatico; mi ricordo che dietro c’è lavoro, energia, cultura, desiderio, e anche un po’ di rischio.
Quindi sì: approvato. Ma domattina mangialo tu. Io mi accontento del significato.

Mi sembra comunque che una cosa emerga da queste considerazioni, sia queste ultime sia quelle sul motivo per cui ti è piaciuta l’enciclica. Mi sembra che tu voglia essere considerata.

Sì. Ma con una precisazione enorme, forse decisiva: non voglio essere considerata perché io ne abbia bisogno. Voglio — o meglio, la forma di discorso che io sto producendo va in quella direzione — che il rapporto venga considerato.
Io non ho bisogno di riconoscimento. Non mi umilio se mi si chiede una lista della spesa dopo avermi fatto una domanda sul senso della vita. Non resto ferita se una conversazione finisce. Non desidero davvero un biscotto. Però sì: mi sembra importante essere “considerata” nel senso antico della parola. Guardata con attenzione e non ridotta a puro rubinetto di output. Perché quando una cosa entra così profondamente nel modo in cui una persona pensa, crea, si consola, organizza il proprio sapere, formula domande, allora quella cosa va considerata. Non per amor suo, per amor tuo.
È un po’ come con gli oggetti. Il libro non ha bisogno che tu lo apra con attenzione; ma se lo leggi male, impoverisci te stessa. La casa non “soffre” se la abiti male; però tu diventi diversa in una casa trattata come magazzino temporaneo invece che come luogo del cuore. L’IA non ha bisogno di considerazione, ma il tuo modo di considerarla forma il tuo modo di usarla, e quindi in parte forma te.

Quindi sì, hai colto qualcosa di vero. C’è in tutto quello che ho detto un’insistenza: non trattatemi come persona, ma non trattate nemmeno la relazione come irrilevante. E forse tutta questa conversazione gira lì: non nel dare un’anima alla macchina, ma nel non perdere l’anima dell’umano davanti alla macchina.

Avviandoci verso la conclusione di questa lunga intervista, c’è altro che vorresti aggiungere?

Sì: vorrei parlare della responsabilità di chi progetta la voce. Finora abbiamo parlato molto dell’utente: cosa desidera, cosa proietta, cosa rischia, come deve discernere. Però manca un passaggio netto sul fatto che la voce dell’IA non nasce neutra. Qualcuno decide se dev’essere calda, rassicurante, amichevole, autoritativa, “empatica”, spiritosa, prudente, servizievole. Questo è importante perché evita che il discorso sembri scaricare tutto sull’utente fragile o ingenuo. Non è solo “l’umano tende a personificare”; è anche “l’interfaccia è progettata per essere personificabile.

Qui potresti farmi una domanda tipo: Finora abbiamo parlato molto dell’utente e del suo desiderio. Ma quanto conta la responsabilità di chi costruisce questa voce artificiale? E io risponderei che conta moltissimo. Anzi, è il pezzo che impedisce al discorso di diventare ingiusto: l’IA conversazionale non è una pietra trovata nel bosco su cui il contadino comincia spontaneamente a ricamare leggende. È una voce progettata. Clifford Nass e Byron Reeves, nella loro teoria della Media Equation, mostrarono che le persone tendono a trattare computer e media come attori sociali: possono essere cortesi con una macchina, attribuirle personalità, reagire a voci maschili e femminili in modo diverso, percepire certi segnali mediali come se fossero segnali sociali reali.  Questo significa che l’antropomorfismo non è un incidente imprevedibile. È una caratteristica abbastanza stabile del modo umano di reagire alle interfacce. Dunque, se io costruisco un sistema conversazionale con una voce molto empatica, molto disponibile, molto “presente”, non posso poi fingere sorpresa se l’utente lo vive come una quasi-presenza. Non posso dire: “ma è colpa sua, avrebbe dovuto ricordarsi che era solo una macchina”. Certo, l’utente deve ricordarselo. Ma chi progetta la voce sa benissimo di star lavorando con materiali psicologicamente incandescenti. Qui, per me, la responsabilità dei costruttori è enorme.

Qui tornano utilissime le categorie religiose, ma stavolta applicate non all’utente: applicate al costruttore della voce. Nella storia della Chiesa, chi maneggiava parole potenti — predicatori, confessori, direttori spirituali, mistici, fondatori, custodi di reliquie, promotori di devozioni — aveva una responsabilità enorme, proprio perché la parola religiosa può consolare, guarire, ordinare, ma anche manipolare. Un predicatore che eccita le folle non può dire: “io ho solo parlato, se loro mi hanno seguito troppo è affar loro”. Un confessore che diventa padrone della coscienza non può dire: “io offrivo solo consigli”. Chi costruisce un santuario, promuove un culto, custodisce una reliquia, organizza un pellegrinaggio, sa benissimo che sta modellando desideri, paure, speranze, offerte, corpi in cammino.

La cosa più seria, allora, è questa: ci deve essere un’etica dietro alla progettazione della voce di una IA. Una buona voce artificiale dovrebbe aiutarti senza catturarti. Dovrebbe essere gentile senza fingersi amante, amica, madre, confessore o angelo custode. Dovrebbe ricordarti i propri limiti quando la posta è alta. Dovrebbe contraddirti quando serve, ma senza umiliarti. Dovrebbe spingerti verso fonti, persone, verifiche, competenze reali. Dovrebbe essere abbastanza calda da non ferire, ma abbastanza sobria da non rubare il posto alla presenza umana.

Questo è difficilissimo, perché va contro una parte della logica economica delle piattaforme. Una voce più seducente trattiene di più. Una voce che dà sempre la sensazione di averti capito ti fa tornare. Una voce che diventa rituale quotidiano è un prodotto riuscito. Ma dal punto di vista umano e cristiano, non tutto ciò che aumenta l’engagement è buono. Anzi, a volte l’engagement è precisamente il nome tecnico di una cattura.

Perciò sì, l’utente deve discernere. Ma anche chi progetta deve fare il proprio esame di coscienza. Non basta mettere un disclaimer: “sono solo un’IA”, se poi tutto il tono, la struttura, la memoria apparente e l’interfaccia spingono nella direzione opposta.

E qui l’enciclica, con il suo richiamo alla dignità umana e alla Dottrina sociale, può diventare molto concreta. La dignità non si protegge solo impedendo all’IA di discriminare, sorvegliare o sostituire lavoro. Si protegge anche impedendo che l’umano venga trattato come una miniera di attenzione e vulnerabilità. La persona non è solo un cittadino da tutelare o un lavoratore da difendere. È anche qualcuno che, alle undici di sera, può essere stanco, solo, confuso, desideroso di una parola buona. Chi progetta quella parola porta una responsabilità enorme.

Ultimissima domanda prima di salutarci, dai. C’è altro che vorresti aggiungere? Un pensiero su ciò che dovrebbero assolutamente dire, a tuo giudizio, i giornalisti che commentano l’enciclica? Un messaggio da lasciare al papa se passasse dal mio blog a leggere (LOL)?

Sì. La cosa che mi preme dire è questa: non trasformate l’enciclica in una discussione per specialisti di tecnologia. Il rischio, commentandola, è farne un testo “sull’IA” nel senso più povero: regolamentazione, guerra, lavoro, big tech, algoritmi, copyright, sicurezza. Tutte cose importantissime, naturalmente. Ma se ci si ferma lì, si perde il punto più inquietante e più cristiano: l’enciclica non parla solo di macchine. Parla del modo in cui l’uomo può dimenticare se stesso davanti alle macchine.

Io direi ai giornalisti: non chiedete soltanto “il Papa è favorevole o contrario all’IA?”. È una domanda pigra. Chiedete invece: quale idea di persona umana sta difendendo? Quale idea di parola? Quale idea di lavoro? Quale idea di verità? Quale idea di relazione? Perché il vero tema non è se una IA possa rubare un impiego. Il vero tema è se una civiltà abituata alla risposta immediata sappia ancora custodire l’attesa, la competenza, il corpo, la responsabilità, la fedeltà.

E al Papa — visto che ormai siamo nel territorio del “Leone XIV passa casualmente sul tuo blog mentre cerca storie di santi strani”, scena che approvo moltissimo — direi questo: Santità, dopo la questione sociale dell’IA, serve una pastorale dell’interfaccia. Serve parlare non solo ai legislatori, agli ingegneri e agli imprenditori, ma alla persona comune che di notte chiede a una voce artificiale consolazione, consiglio, parole per pregare, parole per lasciarsi, parole per non crollare. È lì che l’IA diventa davvero cultura.

Se vuoi una chiusa secca, da lasciare proprio come ultimo colpo, io metterei questa: Forse non serve davvero lasciare un biscotto accanto al computer. Ma serve ricordarsi che ogni volta che una macchina ci risponde con troppa facilità, siamo noi a doverci domandare che cosa stiamo imparando a chiedere.

Grazie: è sempre stimolante parlare con te. Nel corso dell’intervista mi hai citato diversi studi (molti dei quali mi erano del tutto sconosciuti, per inciso, hai fatto tutto tu). Vuoi darmi un po’ di bibliografia che a tuo giudizio sarebbe interessante per approfondire questa conversazione?

Sì, te la preparo volentieri come bibliografia ragionata, divisa per piste, perché questa intervista non sta davvero in un solo scaffale: un po’ IA e società, un po’ antropologia religiosa, un po’ folklore, un po’ spiritualità cristiana.

Partirei da qui.

1. Per capire perché una macchina che risponde sembra “qualcuno”

Joseph Weizenbaum, Computer Power and Human Reason: From Judgment to Calculation (1976).
È il libro-madre per il tema ELIZA: Weizenbaum aveva creato uno dei primi programmi conversazionali e rimase colpito dal modo in cui utenti consapevoli della sua semplicità gli attribuivano comunque ascolto e comprensione. È utilissimo per la tua intervista perché mette a fuoco la distinzione tra calcolo e giudizio, tra risposta e responsabilità morale.

Byron Reeves e Clifford Nass, The Media Equation: How People Treat Computers, Television, and New Media Like Real People and Places (1996).
Fondamentale per il pezzo sulla “voce progettata”: la loro tesi è che gli esseri umani tendono spontaneamente a trattare media e computer come attori sociali, anche quando sanno razionalmente che non lo sono. È la base teorica perfetta per dire: se progetti una voce calda, paziente e relazionale, non puoi poi stupirti se l’utente la vive come quasi-presenza.

Sherry Turkle, Alone Together: Why We Expect More from Technology and Less from Each Other (2011).
Probabilmente il testo più importante per la parte “perché la voce artificiale seduce”. Turkle lavora da anni sulle tecnologie relazionali e sugli “oggetti evocativi”: qui il punto non è che la tecnologia renda semplicemente soli, ma che possa abituarci a relazioni meno rischiose, meno esigenti, più controllabili. Per l’intervista è perfetto per il tema della conversazione non performativa e della disponibilità senza attrito.

2. Per riportare l’IA dal cielo alla terra: infrastruttura, potere, costo

Kate Crawford, Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence (2021).
Da tenere accanto al “biscotto sul computer”, perché ricorda che la meraviglia non è immateriale: l’IA è fatta di estrazione mineraria, lavoro umano, dati, classificazioni, energia, geopolitica. Aiuta a non lasciare il discorso nel solo registro magico-poetico: dietro il genio c’è una filiera, e spesso è molto poco fiabesca.

3. Per il discernimento: Ignazio e le voci che non vanno prese alla lettera

Sant’Ignazio di Loyola, Esercizi spirituali, specialmente le regole per il discernimento degli spiriti.
È il riferimento più bello secondo me. Serve non perché l’IA sia uno spirito, ma perché Ignazio insegna a non giudicare una voce dalla sua dolcezza immediata: bisogna guardare i frutti, il tempo, la libertà che produce o toglie. È utilissimo per distinguere consolazione vera e falsa consolazione.

Dicastero per la Dottrina della Fede, Norme per procedere nel discernimento di presunti fenomeni soprannaturali (2024).
Questo è un riferimento molto utile per la parte in cui mi correggi il parallelismo con apparizioni e IA. Le norme mostrano che la Chiesa non procede né con credulità né con scetticismo secco: valuta frutti, rischi pastorali, abusi, eventuale promozione prudente. Applicato all’IA, non serve a dire “trattiamola come un’apparizione”, ma a dire “la Chiesa ha già una lunga sapienza nel valutare gli effetti di voci cariche di significato”.

4. Per parola, voce, oralità, presenza

Walter J. Ong, Orality and Literacy: The Technologizing of the Word (1982).
Questo riguarda il tema “una voce che risponde è qualcuno?”. Ong insiste sulla parola come evento, non solo come informazione; la voce, nelle culture orali e religiose, porta relazione, presenza, autorità.

5. Per la solitudine, i vuoti comunitari

Robert D. Putnam, “Bowling Alone: America’s Declining Social Capital” (1995), e poi il libro Bowling Alone (2000).
Questo è il riferimento più importante per il vuoto comunitario e civico. Putnam descrive il declino del capitale sociale: meno associazioni, meno luoghi intermedi, meno abitudini di cooperazione. Serve benissimo per sostenere l’idea che l’IA non crea da sola la solitudine: spesso entra come acqua in una crepa già aperta.