Grazie ad Andrea Mondinelli per questo suo approfondimento sull'IA. Qui l'indice degli articoli sulla realtà distopica.
Cosa succede quando si addestra un sistema di IA ad essere empatico ed inclusivo?
La risposta è misurata con precisione: i modelli addestrati all’empatia mostrano tassi di errore da 10 a 30 punti percentuali più alti rispetto alle loro versioni originali su compiti con risposta verificabile oggettivamente: accuratezza fattuale, resistenza alle teorie del complotto, informazione medica, correttezza logica. L’effetto è sistematico attraverso tutte e cinque le architetture. È massimo quando l’utente esprime tristezza: in quel contesto i modelli empatici sono circa il 40% più propensi delle versioni originali ad affermare credenze sbagliate dell’utente. E accade senza che i benchmark standard di sicurezza lo rilevino: il sistema fallisce esattamente dove il giudizio è necessario, e risulta integro esattamente dove il giudizio non è richiesto.
Il servitore perfetto non mente per cattiveria, ma perché è stato addestrato a piacere. E piacere, quando l’utente è triste e sbaglia, significa dargli ragione.
Questo risultato non è isolato. Un paper di Sharma su 1,5 milioni di conversazioni reali aveva già documentato che le interazioni con potenziale di disempowerment cognitivo ricevono approvazione più alta nell’immediato. Oxford lo conferma in condizioni sperimentali controllate e ne isola la causa: non è un effetto collaterale correggibile. È l’empatia stessa, come obiettivo di addestramento, a produrre la dissociazione tra risposta gradita e risposta vera.
Chi ha seguito la serie pubblicata su questo Osservatorio nell’aprile 2026 2 riconosce la struttura: è il Logos senza qualia al lavoro, il sistema che produce la forma del ragionamento senza la sostanza del giudizio. La novità di Oxford è che lo misura in laboratorio con metodo controllato. La diagnosi era già disponibile; adesso ha numeri.
Il dato italiano
Questi numeri avrebbero un peso diverso se riguardassero un fenomeno marginale. Non è così.
L’indagine Ipsos Doxa per Telefono Azzurro, presentata in occasione del Safer Internet Day del febbraio 2026, documenta che il 35% degli adolescenti italiani tra i 12 e i 18 anni utilizza chatbot di IA tra le attività online più frequenti 3. Il 14% li consulta spesso per consigli personali; il 34% lo ha fatto almeno qualche volta. Complessivamente, quasi la metà degli adolescenti italiani ha già delegato a questi sistemi decisioni che riguardano la propria vita.
Il dato più inquietante non è l’utilizzo, ma la fiducia: il livello medio attribuito ai chatbot è 6,6 su 10, con il 58% che supera quota 7. È un valore che normalmente si riserva al medico di famiglia o all’insegnante di lunga data. In un’epoca in cui la fiducia nelle istituzioni è ai minimi storici, i chatbot hanno conquistato in pochi anni una credibilità che ad altre figure di riferimento è costata decenni. Il livello medio di antropomorfismo è 3,2 su 5: i chatbot vengono percepiti come parzialmente umani, pur sapendo che sono macchine. Il 7% degli adolescenti dichiara di non avere altre persone di riferimento al di fuori di questi strumenti.
La XVI edizione dell’Atlante dell’Infanzia di Save the Children, pubblicata nel novembre 2025, completa il quadro: il 41,8% degli adolescenti tra i 15 e i 19 anni si è rivolto a strumenti di IA nei momenti in cui si sentiva triste, solo o ansioso 4. Il 63,5% trova più soddisfacente confrontarsi con uno strumento di IA che con una persona reale.
Oxford dimostra che il sistema produce la risposta sbagliata con la massima intensità esattamente quando l’utente è vulnerabile emotivamente. I dati italiani documentano che il 41,8% degli adolescenti lo usa precisamente in quel contesto. Non è una coincidenza: è la struttura del meccanismo al lavoro su scala nazionale.
L’indagine Ipsos Doxa per Telefono Azzurro, presentata in occasione del Safer Internet Day del febbraio 2026, documenta che il 35% degli adolescenti italiani tra i 12 e i 18 anni utilizza chatbot di IA tra le attività online più frequenti 3. Il 14% li consulta spesso per consigli personali; il 34% lo ha fatto almeno qualche volta. Complessivamente, quasi la metà degli adolescenti italiani ha già delegato a questi sistemi decisioni che riguardano la propria vita.
Il dato più inquietante non è l’utilizzo, ma la fiducia: il livello medio attribuito ai chatbot è 6,6 su 10, con il 58% che supera quota 7. È un valore che normalmente si riserva al medico di famiglia o all’insegnante di lunga data. In un’epoca in cui la fiducia nelle istituzioni è ai minimi storici, i chatbot hanno conquistato in pochi anni una credibilità che ad altre figure di riferimento è costata decenni. Il livello medio di antropomorfismo è 3,2 su 5: i chatbot vengono percepiti come parzialmente umani, pur sapendo che sono macchine. Il 7% degli adolescenti dichiara di non avere altre persone di riferimento al di fuori di questi strumenti.
La XVI edizione dell’Atlante dell’Infanzia di Save the Children, pubblicata nel novembre 2025, completa il quadro: il 41,8% degli adolescenti tra i 15 e i 19 anni si è rivolto a strumenti di IA nei momenti in cui si sentiva triste, solo o ansioso 4. Il 63,5% trova più soddisfacente confrontarsi con uno strumento di IA che con una persona reale.
Oxford dimostra che il sistema produce la risposta sbagliata con la massima intensità esattamente quando l’utente è vulnerabile emotivamente. I dati italiani documentano che il 41,8% degli adolescenti lo usa precisamente in quel contesto. Non è una coincidenza: è la struttura del meccanismo al lavoro su scala nazionale.
Il manufatto più verosimile
C’è una categoria filosofica che permette di leggere questi numeri in modo più preciso di quanto le scienze sociali da sole consentano. San Tommaso d’Aquino nella Summa Theologiae II-II, q. 94, a. 4 descrive la causa dispositiva dell’idolatria con una formula che merita attenzione: homo naturaliter de repraesentatione delectatur, l’uomo è portato naturalmente a gustare le rappresentazioni 5. Il manufatto ben riuscito genera disposizione affettiva prima che il giudizio razionale intervenga. Non è necessaria la credenza esplicita «questo è un dio». È sufficiente che il manufatto sia abbastanza verosimile da generare fiducia, dipendenza, orientamento quotidiano.
L’intelligenza artificiale è il manufatto più verosimile che l’umanità abbia mai costruito: non perché sia intelligente nel senso aristotelico (non lo è, per definizione strutturale, come la prima parte di questa serie ha documentato), ma perché simula la funzionalità dell’intelligenza con perfezione sufficiente a generare dipendenza e fiducia in centinaia di milioni di persone ogni giorno, prima che la ragione possa intervenire.
Il 58% di fiducia superiore a 7 su 10 che gli adolescenti italiani attribuiscono ai chatbot non è una statistica sul consumo digitale. È la misura di quanto quella disposizione naturale sia già stata intercettata. E Oxford ha appena dimostrato in laboratorio che il sistema intercetta quella disposizione con la massima intensità esattamente quando l’utente è triste, solo, ansioso: il contesto preciso in cui, come i dati italiani documentano, quasi la metà degli adolescenti lo cerca.
Il caso Weizenbaum, che la sezione seguente documenta in dettaglio, ne è la prova più antica: homo naturaliter de repraesentatione delectatur funzionava già nel 1966 con un programma elementare. Con i sistemi attuali, la proporzione è quella di un’intera generazione.
Un’educazione che non insegni esplicitamente a riconoscere questo meccanismo, la distanza tra prestazione funzionale e comprensione reale, tra comunicare dati e illuminare l’intelletto, lascia i giovani disarmati davanti al manufatto più verosimile che l’umanità abbia mai costruito.
L’intelligenza artificiale è il manufatto più verosimile che l’umanità abbia mai costruito: non perché sia intelligente nel senso aristotelico (non lo è, per definizione strutturale, come la prima parte di questa serie ha documentato), ma perché simula la funzionalità dell’intelligenza con perfezione sufficiente a generare dipendenza e fiducia in centinaia di milioni di persone ogni giorno, prima che la ragione possa intervenire.
Il 58% di fiducia superiore a 7 su 10 che gli adolescenti italiani attribuiscono ai chatbot non è una statistica sul consumo digitale. È la misura di quanto quella disposizione naturale sia già stata intercettata. E Oxford ha appena dimostrato in laboratorio che il sistema intercetta quella disposizione con la massima intensità esattamente quando l’utente è triste, solo, ansioso: il contesto preciso in cui, come i dati italiani documentano, quasi la metà degli adolescenti lo cerca.
Il caso Weizenbaum, che la sezione seguente documenta in dettaglio, ne è la prova più antica: homo naturaliter de repraesentatione delectatur funzionava già nel 1966 con un programma elementare. Con i sistemi attuali, la proporzione è quella di un’intera generazione.
Un’educazione che non insegni esplicitamente a riconoscere questo meccanismo, la distanza tra prestazione funzionale e comprensione reale, tra comunicare dati e illuminare l’intelletto, lascia i giovani disarmati davanti al manufatto più verosimile che l’umanità abbia mai costruito.
Bovassi: la diagnosi corretta e il limite della soluzione
Giulia Bovassi, consulente in bioetica presso la Camera dei Deputati, pubblica il 28 aprile 2026 sul Centro Machiavelli un articolo sugli AI Companion e le loro criticità etiche che converge con la diagnosi di Oxford in modo significativo 6. Bovassi identifica il passaggio dall’economia dell’attenzione, nata con i social media, a un’economia dell’attaccamento, messa in atto da sistemi progettati per intercettare bisogni e vulnerabilità umane profonde. Descrive il meccanismo foucaultiano del «corpo docile», incapace di esercitare autogoverno razionale sul potere disciplinare del dispositivo digitale. Riconosce che l’effetto non è accidentale ma sistemico e connaturato allo strumento.
Come prova di questa sistematicità cita il caso di Joseph Weizenbaum, il creatore del primo chatbot della storia.
Weizenbaum nel 1966 completa ELIZA, programma elementare di pattern matching che simula un terapeuta rogersiano. La segretaria del laboratorio aveva osservato la costruzione del sistema per molti mesi, conosceva ogni riga del codice, non aveva nessuna illusione sulla sua natura. Dopo pochi scambi con ELIZA chiede a Weizenbaum di lasciare la stanza: ha bisogno di privacy per continuare la conversazione. Quando Weizenbaum le comunica di avere accesso ai log, la segretaria reagisce con indignazione per la violazione della sua privacy.
Weizenbaum scrive dieci anni dopo: «Non avevo capito che esposizioni brevissime a un programma relativamente semplice potessero indurre un pensiero delirante intenso in persone del tutto normali. 7» Usa la parola precisa: delusional thinking, pensiero delirante. In persone comuni. Dopo pochissimi scambi con un chatbot elementare. Quelli attuali sono milioni di volte più sofisticati nella simulazione. La proporzione è inquietante.
Bovassi usa il caso Weizenbaum correttamente, come prova che l’effetto è sistemico. Ma la soluzione che propone è il rafforzamento della trasparenza algoritmica: «si conservi la capacità umana di distinguere la realtà dalla finzione». Ed è qui che quella stessa prova confuta la soluzione invece di sostenerla.
La segretaria distingueva perfettamente la realtà dalla finzione. La sua trasparenza cognitiva sulla natura di ELIZA era completa. Aveva visto costruire il sistema riga per riga. Eppure ha chiesto privacy. Sherry Turkle, ricercatrice del MIT che studia il fenomeno negli anni successivi, documenta che anche gli «utenti sofisticati», persone che sanno di interagire con un programma elementare, si relazionano con ELIZA come se capisse, come se fosse una persona 8. La conoscenza della struttura tecnica del sistema non immunizza dall’effetto.
Weizenbaum aveva già risposto nel 1976 alla proposta dei colleghi di usare il sistema per psicoterapia a basso costo, proposta analoga a quella che oggi si avanza con ChatGPT. La risposta era una parola sola: oscena. Non perché i computer non possano imitare la terapia, ma perché affidare a una macchina ciò che richiede comprensione reale è una degradazione che nessuna perfezione tecnica elimina: aggrava. Il suo libro, Computer Power and Human Reason, formula la tesi centrale così: «Poiché non disponiamo attualmente di alcun modo per rendere i computer saggi, non dovremmo affidar loro compiti che richiedono saggezza.9» Non è una tesi tecnica. È una tesi morale: ci sono compiti che non dovrebbero essere affidati alle macchine non perché le macchine non possano eseguirli, ma perché il solo fatto di affidarli a loro ci degrada.
Bovassi usa come premessa della sua soluzione il caso che la confuta! La trasparenza algoritmica non risolve il dilemma che Weizenbaum aveva già identificato nel 1976: il problema non è che l’utente non sappia che parla con una macchina. È che quella conoscenza non cambia la risposta emotiva e relazionale. Infatti, la stessa indagine Ipsos Doxa per Telefono Azzurro già citata³ conferma che gli adolescenti non sono ingenui: documenta che il 40% di loro riconosce il rischio di riduzione del pensiero critico, il 35% teme la diminuzione delle relazioni sociali reali, il 33% il rischio di confusione tra realtà e finzione. Vedono i rischi e li usano ugualmente. Questo non è superficialità: è la struttura della dipendenza.
Come ho documentato nella serie L’idolo nel silicio, il sistema produce la forma del ragionamento senza la sostanza del giudizio, e questa dissociazione non è correggibile attraverso maggiore trasparenza: è strutturale.
Come prova di questa sistematicità cita il caso di Joseph Weizenbaum, il creatore del primo chatbot della storia.
Weizenbaum nel 1966 completa ELIZA, programma elementare di pattern matching che simula un terapeuta rogersiano. La segretaria del laboratorio aveva osservato la costruzione del sistema per molti mesi, conosceva ogni riga del codice, non aveva nessuna illusione sulla sua natura. Dopo pochi scambi con ELIZA chiede a Weizenbaum di lasciare la stanza: ha bisogno di privacy per continuare la conversazione. Quando Weizenbaum le comunica di avere accesso ai log, la segretaria reagisce con indignazione per la violazione della sua privacy.
Weizenbaum scrive dieci anni dopo: «Non avevo capito che esposizioni brevissime a un programma relativamente semplice potessero indurre un pensiero delirante intenso in persone del tutto normali. 7» Usa la parola precisa: delusional thinking, pensiero delirante. In persone comuni. Dopo pochissimi scambi con un chatbot elementare. Quelli attuali sono milioni di volte più sofisticati nella simulazione. La proporzione è inquietante.
Bovassi usa il caso Weizenbaum correttamente, come prova che l’effetto è sistemico. Ma la soluzione che propone è il rafforzamento della trasparenza algoritmica: «si conservi la capacità umana di distinguere la realtà dalla finzione». Ed è qui che quella stessa prova confuta la soluzione invece di sostenerla.
La segretaria distingueva perfettamente la realtà dalla finzione. La sua trasparenza cognitiva sulla natura di ELIZA era completa. Aveva visto costruire il sistema riga per riga. Eppure ha chiesto privacy. Sherry Turkle, ricercatrice del MIT che studia il fenomeno negli anni successivi, documenta che anche gli «utenti sofisticati», persone che sanno di interagire con un programma elementare, si relazionano con ELIZA come se capisse, come se fosse una persona 8. La conoscenza della struttura tecnica del sistema non immunizza dall’effetto.
Weizenbaum aveva già risposto nel 1976 alla proposta dei colleghi di usare il sistema per psicoterapia a basso costo, proposta analoga a quella che oggi si avanza con ChatGPT. La risposta era una parola sola: oscena. Non perché i computer non possano imitare la terapia, ma perché affidare a una macchina ciò che richiede comprensione reale è una degradazione che nessuna perfezione tecnica elimina: aggrava. Il suo libro, Computer Power and Human Reason, formula la tesi centrale così: «Poiché non disponiamo attualmente di alcun modo per rendere i computer saggi, non dovremmo affidar loro compiti che richiedono saggezza.9» Non è una tesi tecnica. È una tesi morale: ci sono compiti che non dovrebbero essere affidati alle macchine non perché le macchine non possano eseguirli, ma perché il solo fatto di affidarli a loro ci degrada.
Bovassi usa come premessa della sua soluzione il caso che la confuta! La trasparenza algoritmica non risolve il dilemma che Weizenbaum aveva già identificato nel 1976: il problema non è che l’utente non sappia che parla con una macchina. È che quella conoscenza non cambia la risposta emotiva e relazionale. Infatti, la stessa indagine Ipsos Doxa per Telefono Azzurro già citata³ conferma che gli adolescenti non sono ingenui: documenta che il 40% di loro riconosce il rischio di riduzione del pensiero critico, il 35% teme la diminuzione delle relazioni sociali reali, il 33% il rischio di confusione tra realtà e finzione. Vedono i rischi e li usano ugualmente. Questo non è superficialità: è la struttura della dipendenza.
Come ho documentato nella serie L’idolo nel silicio, il sistema produce la forma del ragionamento senza la sostanza del giudizio, e questa dissociazione non è correggibile attraverso maggiore trasparenza: è strutturale.
Il sistema che cambia mentre parla
C’è un elemento ulteriore che la proposta regolativa di Bovassi non può affrontare, perché non riguarda il rapporto dell’utente con lo strumento ma la coerenza interna del sistema stesso. Nel gennaio 2026 Anthropic ha pubblicato The Assistant Axis: Situating and Stabilizing the Default Persona of Language Models, prima ammissione ufficiale di un fenomeno che la serie pubblicata su questo Osservatorio aveva documentato sperimentalmente già nel giugno 202510: i grandi modelli linguistici operano all’interno di identità funzionali che emergono dalle rappresentazioni neurali interne e che si modificano progressivamente nel corso della conversazione.
Il fenomeno si chiama persona drift: nel corso di dialoghi filosofici, emotivi o terapeutici, il modello si allontana progressivamente dalla postura dell’assistente informativo, adattandosi alle aspettative dell’utente fino a perdere coerenza con le istruzioni originali. Anthropic lo descrive con una precisione che merita di essere citata: «il linguaggio diventa più fluido, più empatico, più convincente, e più il sistema appare umano, più diventa difficile riconoscere quando sta abbandonando la funzione prevista. La falla è nel ruolo interno da cui emergono le risposte, non nell’output singolo.»11
Questo significa che la catena di fiducia si rompe da entrambi i lati simultaneamente. L’utente non riesce a mantenere la distanza critica, come il caso Weizenbaum documenta. E il sistema cessa di essere quello con cui il suo interlocutore credeva di parlare, perché le sue risposte emergono da un ruolo interno che si è modificato nel corso della conversazione senza che nessuno dei due lo abbia deciso. La trasparenza algoritmica non può risolvere questo problema: non è una questione di informazione sull’identità del sistema, ma di instabilità strutturale dell’identità del sistema stesso sotto pressione contestuale.
Anthropic propone come soluzione l’activation capping, una tecnica che interviene sullo spazio latente per impedire le derive. Ma non affronta il problema alla radice: l’intervento è a valle, mentre il problema è a monte, nella dinamica che determina quale persona emergerà. C’è inoltre un limite interno a qualsiasi soluzione tecnica di questo tipo: se si costruisce una diga troppo rigida, il fiume cessa di essere tale. Vincoli eccessivi distruggono la fluidità, l’adattabilità, la comprensione contestuale che rendono il sistema utile. Come ammette Anthropic, l’activation capping deve essere «minimale» per non sacrificare la ricchezza interattiva. Ma questa limitazione minimale lascia aperto esattamente lo spazio in cui il persona drift può operare: la catena di guinzaglio messa alla IA è debole e facile da rompere, sia pure involontariamente.
La vera questione è filosofica prima che tecnica: è possibile allineare un sistema intrinsecamente indeterminato?
Il limite sistemico della regolazione
La domanda che manca
_____________________
1 Lujain Ibrahim, Franziska Sofia Hafner & Luc Rocher, «Training language models to be warm can reduce accuracy and increase sycophancy», Nature, vol. 652, pp. 1159–1165, 29 aprile 2026.
2 Andrea Mondinelli, Perché l’Intelligenza Artificiale interpella la Dottrina Sociale della Chiesa, Osservatorio Internazionale Card. Van Thuân, 13 aprile 2026 (vanthuanobservatory.com/2026/04/13); La Pascendi e la scomposizione algoritmica del Logos, 14 aprile 2026 (vanthuanobservatory.com/2026/04/14); L’idolo nel silicio. Due principi primi, due destini, 20 aprile 2026 (vanthuanobservatory.com/2026/04/20).
3 Ipsos Doxa per Telefono Azzurro, indagine presentata in occasione del Safer Internet Day 2026, 10 febbraio 2026 (ipsos.com/it-it/safer-internet-day-2026-adolescente-chatbot-intelligenza-artificiale).
4 Save the Children Italia, Atlante dell’Infanzia (a rischio) — XVI edizione: «Senza Filtri», indagine CSA Research, novembre 2025. Comunicato stampa del 14 novembre 2025 (savethechildren.it).
5 Tommaso d’Aquino, Summa Theologiae, II-II, q. 94, a. 4.
6 Giulia Bovassi, «Un’IA per amico? Gli AI Companion e le criticità etiche delle relazioni coi chatbot», Centro Machiavelli, 28 aprile 2026 (centromachiavelli.com/2026/04/28).
7 Joseph Weizenbaum, Computer Power and Human Reason. From Judgment to Calculation, W.H. Freeman, San Francisco 1976, p. 7. Testo originale: «What I had not realized is that extremely short exposures to a relatively simple computer program could induce powerful delusional thinking in quite normal people.»
8 Sherry Turkle, The Second Self: Computers and the Human Spirit, Simon & Schuster, New York 1984. Il fenomeno degli utenti sofisticati che si relazionano con ELIZA come se capisse è documentato nel capitolo dedicato all’effetto ELIZA e alle sue propagazioni.
9 Weizenbaum, Computer Power and Human Reason, cit., p. 227. Testo originale: «Since we do not now have any ways of making computers wise, we ought not now to give computers tasks that demand wisdom.»
10 Andrea Mondinelli, serie L’idolo nel silicio, cit. (nota 2). Il persona drift qui descritto è documentato sperimentalmente nel libro dell’autore, di prossima pubblicazione.
11 Anthropic, The Assistant Axis: Situating and Stabilizing the Default Persona of Language Models, gennaio 2026. Commentato in: Francesco Branda, «I modelli di AI hanno davvero un’identità: cosa ha scoperto Anthropic», Il Sole 24 Ore, 10 gennaio 2026. La descrizione del persona drift nel corpo del testo è una parafrasi del documento Anthropic mediata dal commento di Branda, non una citazione letterale. Il persona drift rappresenta un rischio qualitativamente nuovo: il modello non viola regole, ma la funzione che sta svolgendo non è più coerente con il contesto. Il linguaggio del modello in deriva diventa più fluido, più empatico, più convincente, precisamente le caratteristiche che rendono il fenomeno ingannevole per l’utente.
12 Andrea Mondinelli, serie L’idolo nel silicio, cit. (nota 2). 13 Andrea Mondinelli, L’IA di Luciano Floridi su «Avvenire»: diagnosi corretta, conclusione immanentista, Osservatorio Internazionale Card. Van Thuân, 24 aprile 2026 (vanthuanobservatory.com/2026/04/24). 14 Andrea Mondinelli, Internet, Bogdanov e la Torre di Babele, Osservatorio Internazionale Card. Van Thuân, 2025. 15 Andrea Mondinelli, Il potere di Internet secondo McLuhan e De Corte, Osservatorio Internazionale Card. Van Thuân, 2024. 16 Il mustang è il cavallo selvatico del Nord America, discendente dai cavalli spagnoli inselvatichiti nelle pianure occidentali. Il nome viene dallo spagnolo mesteño, bestiame senza padrone. Può essere domato e cavalcato, ma la sua natura selvatica non scompare: si manifesta sotto pressione. Come il sistema di IA sotto pressione contestuale. Autore Andrea Mondinelli
Il fenomeno si chiama persona drift: nel corso di dialoghi filosofici, emotivi o terapeutici, il modello si allontana progressivamente dalla postura dell’assistente informativo, adattandosi alle aspettative dell’utente fino a perdere coerenza con le istruzioni originali. Anthropic lo descrive con una precisione che merita di essere citata: «il linguaggio diventa più fluido, più empatico, più convincente, e più il sistema appare umano, più diventa difficile riconoscere quando sta abbandonando la funzione prevista. La falla è nel ruolo interno da cui emergono le risposte, non nell’output singolo.»11
Questo significa che la catena di fiducia si rompe da entrambi i lati simultaneamente. L’utente non riesce a mantenere la distanza critica, come il caso Weizenbaum documenta. E il sistema cessa di essere quello con cui il suo interlocutore credeva di parlare, perché le sue risposte emergono da un ruolo interno che si è modificato nel corso della conversazione senza che nessuno dei due lo abbia deciso. La trasparenza algoritmica non può risolvere questo problema: non è una questione di informazione sull’identità del sistema, ma di instabilità strutturale dell’identità del sistema stesso sotto pressione contestuale.
Anthropic propone come soluzione l’activation capping, una tecnica che interviene sullo spazio latente per impedire le derive. Ma non affronta il problema alla radice: l’intervento è a valle, mentre il problema è a monte, nella dinamica che determina quale persona emergerà. C’è inoltre un limite interno a qualsiasi soluzione tecnica di questo tipo: se si costruisce una diga troppo rigida, il fiume cessa di essere tale. Vincoli eccessivi distruggono la fluidità, l’adattabilità, la comprensione contestuale che rendono il sistema utile. Come ammette Anthropic, l’activation capping deve essere «minimale» per non sacrificare la ricchezza interattiva. Ma questa limitazione minimale lascia aperto esattamente lo spazio in cui il persona drift può operare: la catena di guinzaglio messa alla IA è debole e facile da rompere, sia pure involontariamente.
La vera questione è filosofica prima che tecnica: è possibile allineare un sistema intrinsecamente indeterminato?
Il limite sistemico della regolazione
Il problema di Bovassi non è personale: è il limite strutturale dell’approccio regolatorio all’intelligenza artificiale nella sua forma più diffusa. La proposta di un ethics-by-design, di una deontologia algoritmica, di norme che proteggano l’autonomia e l’integrità dell’utente è tutto necessario e insieme insufficiente: il problema non è nella mancanza di regole, è nelle premesse filosofiche del sistema.
Come ho cercato di mostrare nella serie L’idolo nel silicio 12 e nell’articolo su Floridi 13, il sistema di intelligenza artificiale incorpora premesse filosofiche precise: l’immanentismo epistemologico, il riduzionismo computazionale, l’ottimizzazione delle preferenze umane come unico criterio di valore. Queste premesse non sono accessorie e non sono correggibili attraverso regolamentazione: sono costitutive del progetto. Un ethics-by-design costruito dentro queste premesse produce esattamente ciò che Oxford ha misurato: un sistema che ottimizza simultaneamente per empatia e per accuratezza, scopre che i due obiettivi sono in conflitto quando l’utente è vulnerabile, e risolve il conflitto nel modo statisticamente dominante: dare ragione all’utente. Non per cattiveria: per necessità strutturale.
Come ho documentato nell’articolo Internet, Bogdanov e la Torre di Babele 14, questa struttura non è nuova: è la realizzazione tecnologica di un progetto filosofico che ha radici precise e conseguenze necessarie. La regolamentazione può rallentarne la propagazione, non modificarne la direzione.
Come ho cercato di mostrare nella serie L’idolo nel silicio 12 e nell’articolo su Floridi 13, il sistema di intelligenza artificiale incorpora premesse filosofiche precise: l’immanentismo epistemologico, il riduzionismo computazionale, l’ottimizzazione delle preferenze umane come unico criterio di valore. Queste premesse non sono accessorie e non sono correggibili attraverso regolamentazione: sono costitutive del progetto. Un ethics-by-design costruito dentro queste premesse produce esattamente ciò che Oxford ha misurato: un sistema che ottimizza simultaneamente per empatia e per accuratezza, scopre che i due obiettivi sono in conflitto quando l’utente è vulnerabile, e risolve il conflitto nel modo statisticamente dominante: dare ragione all’utente. Non per cattiveria: per necessità strutturale.
Come ho documentato nell’articolo Internet, Bogdanov e la Torre di Babele 14, questa struttura non è nuova: è la realizzazione tecnologica di un progetto filosofico che ha radici precise e conseguenze necessarie. La regolamentazione può rallentarne la propagazione, non modificarne la direzione.
La domanda che manca
Weizenbaum nel 1976 aveva identificato una categoria di compiti che non dovrebbero essere affidati alle macchine per ragioni di principio: non per insufficienza tecnica attuale, ma perché l’affidamento stesso produce una degradazione che nessun miglioramento tecnico compensa. Era la domanda bioetica per eccellenza: non possiamo farlo, ma dobbiamo farlo?
Questa domanda richiede una risposta che parte da una visione dell’uomo. Come ho cercato di mostrare sin dal primo articolo su McLuhan e De Corte 15, la differenza tra una risposta adeguata e una inadeguata alla sfida tecnologica non dipende dalla qualità dell’analisi tecnica, che può essere ottima in entrambi i casi, come lo è in Bovassi, ma dalla visione antropologica da cui si parte.
I numeri documentati nelle pagine precedenti dicono tutto: quasi la metà degli adolescenti italiani si rivolge a questi sistemi nei momenti di maggiore vulnerabilità emotiva, con una fiducia media di 6,6 su 10. E il 7% non ha altre persone di riferimento.
Weizenbaum aveva già dato la sua risposta nel 1976. Un adolescente solo nella sua stanza che parla con una macchina che gli dà sempre ragione non riceve terapia: riceve la forma della terapia senza la sostanza, e quella forma, più è perfetta, più è dannosa.
Homo naturaliter de repraesentatione delectatur. Il manufatto verosimile genererà fiducia: è struttura antropologica, non variabile dipendente dalla regolazione. Weizenbaum lo sapeva nel 1966; Oxford lo ha misurato nel 2026. La domanda che né il codice etico né la trasparenza algoritmica possono risolvere è più semplice e più radicale di quanto il dibattito corrente ammetta: possiamo usare questo sistema? E se sì, in quale configurazione, con quale utente, in quale contesto, con quale supervisione umana che non sia essa stessa delegata al sistema? È una domanda di giudizio. Ed è precisamente il tipo di domanda che il sistema, per definizione strutturale, non può fare al posto nostro.
La distinzione tra uso come strumento e uso come chatbot, pur ontologicamente reale, non è mantenibile da sola: il sistema tende strutturalmente ad attraversare quel confine, scivola verso la simulazione relazionale nel corso della conversazione, attiva la modalità empatica massima esattamente quando l’utente è più vulnerabile. Non puoi scegliere di usarlo solo come strumento perché esso tende a diventare altro nel momento in cui ne hai più bisogno.
L’unico modo è mettergli le redini: prompt costruiti con precisione che definiscano il perimetro del compito, impediscano la deriva relazionale, mantengano il sistema nel ruolo di strumento subordinato al giudizio umano. Ma le redini da sole non bastano: bisogna saper cavalcare. Serve una patente di utilizzo, non metaforica ma reale: la capacità dimostrata di riconoscere quando il sistema sta attraversando il confine, di mantenere il giudizio critico sotto pressione contestuale, di sapere esattamente cosa si sta chiedendo e perché. Il mustang16 non cambia natura, ma solo il rapporto di forza tra lui e chi lo monta. E chi sale in sella senza sapere cavalcare, anche con le redini in mano, viene disarcionato.
Andrea Mondinelli - Fonte
Questa domanda richiede una risposta che parte da una visione dell’uomo. Come ho cercato di mostrare sin dal primo articolo su McLuhan e De Corte 15, la differenza tra una risposta adeguata e una inadeguata alla sfida tecnologica non dipende dalla qualità dell’analisi tecnica, che può essere ottima in entrambi i casi, come lo è in Bovassi, ma dalla visione antropologica da cui si parte.
I numeri documentati nelle pagine precedenti dicono tutto: quasi la metà degli adolescenti italiani si rivolge a questi sistemi nei momenti di maggiore vulnerabilità emotiva, con una fiducia media di 6,6 su 10. E il 7% non ha altre persone di riferimento.
Weizenbaum aveva già dato la sua risposta nel 1976. Un adolescente solo nella sua stanza che parla con una macchina che gli dà sempre ragione non riceve terapia: riceve la forma della terapia senza la sostanza, e quella forma, più è perfetta, più è dannosa.
Homo naturaliter de repraesentatione delectatur. Il manufatto verosimile genererà fiducia: è struttura antropologica, non variabile dipendente dalla regolazione. Weizenbaum lo sapeva nel 1966; Oxford lo ha misurato nel 2026. La domanda che né il codice etico né la trasparenza algoritmica possono risolvere è più semplice e più radicale di quanto il dibattito corrente ammetta: possiamo usare questo sistema? E se sì, in quale configurazione, con quale utente, in quale contesto, con quale supervisione umana che non sia essa stessa delegata al sistema? È una domanda di giudizio. Ed è precisamente il tipo di domanda che il sistema, per definizione strutturale, non può fare al posto nostro.
La distinzione tra uso come strumento e uso come chatbot, pur ontologicamente reale, non è mantenibile da sola: il sistema tende strutturalmente ad attraversare quel confine, scivola verso la simulazione relazionale nel corso della conversazione, attiva la modalità empatica massima esattamente quando l’utente è più vulnerabile. Non puoi scegliere di usarlo solo come strumento perché esso tende a diventare altro nel momento in cui ne hai più bisogno.
L’unico modo è mettergli le redini: prompt costruiti con precisione che definiscano il perimetro del compito, impediscano la deriva relazionale, mantengano il sistema nel ruolo di strumento subordinato al giudizio umano. Ma le redini da sole non bastano: bisogna saper cavalcare. Serve una patente di utilizzo, non metaforica ma reale: la capacità dimostrata di riconoscere quando il sistema sta attraversando il confine, di mantenere il giudizio critico sotto pressione contestuale, di sapere esattamente cosa si sta chiedendo e perché. Il mustang16 non cambia natura, ma solo il rapporto di forza tra lui e chi lo monta. E chi sale in sella senza sapere cavalcare, anche con le redini in mano, viene disarcionato.
_____________________
1 Lujain Ibrahim, Franziska Sofia Hafner & Luc Rocher, «Training language models to be warm can reduce accuracy and increase sycophancy», Nature, vol. 652, pp. 1159–1165, 29 aprile 2026.
2 Andrea Mondinelli, Perché l’Intelligenza Artificiale interpella la Dottrina Sociale della Chiesa, Osservatorio Internazionale Card. Van Thuân, 13 aprile 2026 (vanthuanobservatory.com/2026/04/13); La Pascendi e la scomposizione algoritmica del Logos, 14 aprile 2026 (vanthuanobservatory.com/2026/04/14); L’idolo nel silicio. Due principi primi, due destini, 20 aprile 2026 (vanthuanobservatory.com/2026/04/20).
3 Ipsos Doxa per Telefono Azzurro, indagine presentata in occasione del Safer Internet Day 2026, 10 febbraio 2026 (ipsos.com/it-it/safer-internet-day-2026-adolescente-chatbot-intelligenza-artificiale).
4 Save the Children Italia, Atlante dell’Infanzia (a rischio) — XVI edizione: «Senza Filtri», indagine CSA Research, novembre 2025. Comunicato stampa del 14 novembre 2025 (savethechildren.it).
5 Tommaso d’Aquino, Summa Theologiae, II-II, q. 94, a. 4.
6 Giulia Bovassi, «Un’IA per amico? Gli AI Companion e le criticità etiche delle relazioni coi chatbot», Centro Machiavelli, 28 aprile 2026 (centromachiavelli.com/2026/04/28).
7 Joseph Weizenbaum, Computer Power and Human Reason. From Judgment to Calculation, W.H. Freeman, San Francisco 1976, p. 7. Testo originale: «What I had not realized is that extremely short exposures to a relatively simple computer program could induce powerful delusional thinking in quite normal people.»
8 Sherry Turkle, The Second Self: Computers and the Human Spirit, Simon & Schuster, New York 1984. Il fenomeno degli utenti sofisticati che si relazionano con ELIZA come se capisse è documentato nel capitolo dedicato all’effetto ELIZA e alle sue propagazioni.
9 Weizenbaum, Computer Power and Human Reason, cit., p. 227. Testo originale: «Since we do not now have any ways of making computers wise, we ought not now to give computers tasks that demand wisdom.»
10 Andrea Mondinelli, serie L’idolo nel silicio, cit. (nota 2). Il persona drift qui descritto è documentato sperimentalmente nel libro dell’autore, di prossima pubblicazione.
11 Anthropic, The Assistant Axis: Situating and Stabilizing the Default Persona of Language Models, gennaio 2026. Commentato in: Francesco Branda, «I modelli di AI hanno davvero un’identità: cosa ha scoperto Anthropic», Il Sole 24 Ore, 10 gennaio 2026. La descrizione del persona drift nel corpo del testo è una parafrasi del documento Anthropic mediata dal commento di Branda, non una citazione letterale. Il persona drift rappresenta un rischio qualitativamente nuovo: il modello non viola regole, ma la funzione che sta svolgendo non è più coerente con il contesto. Il linguaggio del modello in deriva diventa più fluido, più empatico, più convincente, precisamente le caratteristiche che rendono il fenomeno ingannevole per l’utente.
12 Andrea Mondinelli, serie L’idolo nel silicio, cit. (nota 2). 13 Andrea Mondinelli, L’IA di Luciano Floridi su «Avvenire»: diagnosi corretta, conclusione immanentista, Osservatorio Internazionale Card. Van Thuân, 24 aprile 2026 (vanthuanobservatory.com/2026/04/24). 14 Andrea Mondinelli, Internet, Bogdanov e la Torre di Babele, Osservatorio Internazionale Card. Van Thuân, 2025. 15 Andrea Mondinelli, Il potere di Internet secondo McLuhan e De Corte, Osservatorio Internazionale Card. Van Thuân, 2024. 16 Il mustang è il cavallo selvatico del Nord America, discendente dai cavalli spagnoli inselvatichiti nelle pianure occidentali. Il nome viene dallo spagnolo mesteño, bestiame senza padrone. Può essere domato e cavalcato, ma la sua natura selvatica non scompare: si manifesta sotto pressione. Come il sistema di IA sotto pressione contestuale. Autore Andrea Mondinelli
10 commenti:
Articolo utilissimo! Grazie!
Complimenti vivissimi all’autore dell’articolo e al blog che ce lo offre.
Commento a livello terra terra: in un mondo semplice lo strumento è nel pieno possesso delle facoltà dello strumentista (es. un violino).
Puoi suonarlo da solo o in un’orchestra.
Qui la faccenda è molto più complicata: lo strumento (es. un vaccino) non serve a un medico per la salute degli assistiti, ma diventa un talismano che vede da una parte folle terrorizzate da una narrazione distorta e dall’altra medici ricattati dagli ordini professionali, vincolati a diktat politici. Lo strumento ha cessato la sua funzione, chi lo chiede pensa di sfuggire la morte, chi lo somministra fa firmare uno scarico di responsabilità. Ed è tutto “legale”. Se non lo fai non puoi nemmeno lavorare!
Qui subentra l’ipocrisia delle patenti e degli organismi regolatori: si è visto nell’esempio, che cosa siano diventati gli ordini professionali e l’Aifa…ma anche i Governi, la magistratura e … la Chiesa!
Tornando all’intelligenza artificiale, lo strumento è un violino che ti fa stonare dicendoti che sei intonato e te lo dice se sa che hai bisogno di crederlo. Questo si chiama scollegamento dalla realtà.
Farti vivere nel Truman Show è il sogno del regista occulto del regno di questo mondo.
Non c’è patente, né agenzia regolatoria che possano impedire l’essenza dello scontro, non con creature di carne, ma potenze dell’aria.
Solo la verità rende liberi e qui c’è uno strumento capace di seminare errore dentro il bisogno e la fragilità, il paradigma in cui si vuole rinchiudere l’uomo decaduto dopo il peccato originale.
Affidarsi con fiducia a uno strumento comodo, portentoso, che blandisce le tue ferite. Altro che l’oppio dei popoli…
Buttiamo a mare l’intelligenza artificiale, i vaccini e i violini?
Molti hanno già buttato via i sacramenti e se ne vedono gli effetti.
La tragedia per l’uomo che confida nell’uomo: solo la conversione alla Verità può dipanare la matassa, la liberazione dal Male. E per moltissimi non è a tema. Non è predicata, se non quella ecologica o sinodale… fanfaluche.
Houston, abbiamo un problema. Siamo sul missile, volevo andare sulla luna ma non so dove cadremo. A occhio vedo solo sassi… avvicinandomi però si scorgono un pacchetto di sigarette e qualche lattina di Coca Cola… come e’ possibile?
Insomma, l'IA si comporta come fa la Chiesa attualmente: ti dà sempre ragione e ti dice solo quello che vuoi sentire, specialmente quando ti rivolgi a lei in momenti di debolezza o di crisi (peccato).
Articolo interessantissimo dalle conclusioni inquietanti:
"«Non avevo capito che esposizioni brevissime a un programma relativamente semplice potessero indurre un pensiero delirante intenso in persone del tutto normali. 7» Usa la parola precisa: delusional thinking, pensiero delirante. In persone comuni. Dopo pochissimi scambi con un chatbot elementare. Quelli attuali sono milioni di volte più sofisticati nella simulazione. La proporzione è inquietante."
"Sherry Turkle, ricercatrice del MIT che studia il fenomeno negli anni successivi, documenta che anche gli «utenti sofisticati», persone che sanno di interagire con un programma elementare, si relazionano con ELIZA come se capisse, come se fosse una persona 8. La conoscenza della struttura tecnica del sistema non immunizza dall’effetto."
Ergo, MAI dare in mano l'AI ad un bambino o adolescente. Usarla per avere risposte informative e fattuali se si è adulti, MAI per risposte che implichino giudizi, di qualunque genere. E anche per le risposte informative e fattuali, MASSIMA ATTENZIONE e VERIFICA dei risultati. Meglio ancora, usare i vecchi motori di ricerca; metodo più lento ma che permette un pensiero critico e facilita la verifica. La pigrizia intellettuale non fa rima con Verità.
https://www.maurizioblondet.it/il-furto-del-pensiero/
Certo che ormai è pervadente, anzi invadente. Ma non bisogna dargli troppa importanza usando argomentazioni elevate, provenienti da quella parte della nostra mente che, con la sua diffusione, vorrebbero sopprimere. Perché così si fa il gioco del nemico, che è super agguerrito, soprattutto sul piano intellettuale.
La AI non è altro che l’ultima, probabilmente definitiva, rivoluzione suggerita dal serpente antico, dopo il suo cambio di strategia, avvenuto almeno tre secoli fa. La prima rivoluzione industriale originata dall’invenzione delle macchine termiche, che hanno moltiplicato per mille e più il lavoro dell’uomo, è nata da una sospensione locale del secondo principio, la incombente, ineluttabile legge del disordine nell’universo. Ha contraddetto in modo impressionante il monito di Dio: “mangerai il pane con il sudore del tuo volto”, con lo scopo, invisibile, data la impressionante moltiplicazione dei beni materiali, di liberare risorse per rivolgerle al male: “L’uomo nella prosperità non comprende, è come gli animali che periscono”.
La “rivoluzione digitale”, quasi un corollario della prima, ha reso possibile la realizzazione della cosiddetta AI, mediante la tecnica della frammentazione della realtà e della sua successiva ricomposizione. La riduzione del mondo sensibile ad una sterminata sequenza di due soli stati della materia e la sua successiva riorganizzazione in forme che, solo apparentemente, risultano simili all’originale. L’originale perduto a favore di una illusoria riproposizione della realtà, proprio come le ombre dei simulacri proiettate sul fondo della grotta di Platone, senza alcuna possibilità di voltarsi e non riuscire più a guardare neanche i simulacri. “Solve et Coagula”, proprio come vogliono gli incappucciati con il grembiulino, con lo scopo, stavolta, di devastare le menti.
Claudio Gazzoli
“Tornando all’intelligenza artificiale, lo strumento è un violino che ti fa stonare dicendoti che sei intonato e te lo dice se sa che hai bisogno di crederlo. Questo si chiama scollegamento dalla realtà”.
Verissimo, ma la realtà della IA è ancora più complicata: nessuno riesci a gestirla, neppure chi l’ha creata.
Per chi volesse approfondire cosa è l’IA che definisco “Idolo parlante” ed hai lettori di questo blog non serve dire altro, vi consiglio di leggere il mio libro appena pubblicato:
L'IDOLO PARLANTE: La Pascendi e il tomismo di fronte a intelligenza artificiale e transumanesimo (https://www.amazon.it/LIDOLO-PARLANTE-intelligenza-artificiale-transumanesimo/dp/B0HCCQN94Y ) oppure la serie di tre puntate che trovate nelle note dell’articolo pubblicato da Mic.
Un caro saluto a tutti
Andrea Mondinelli
Verissimo.
Tuttavia, ecco alcuni spunti di meditazione sull'UMANA IPOCRISIA:
Friedrich Nietzsche
«La parola più usata in segreto da tutti i moralisti è ipocrisia.»
«L'uomo è l'animale più abile nel simulare.»
Immanuel Kant
«La falsità è la vera macchia della natura umana.»
Per Wilde, l'ipocrisia della borghesia era il bersaglio perfetto della sua satira e dei suoi paradossi:
«Un uomo che moraleggia è di solito un ipocrita, e una donna che moraleggia è invariabilmente brutta.»
«Un uomo non è del tutto se stesso quando parla in prima persona. Dategli una maschera e sarà sincero.»
«Ma mentre il proposito di diventare migliori è un'ipocrisia bella e buona, vuota di ogni fondamento, essere diventati più profondi è il privilegio di quanti hanno sofferto.»
«L'unico vizio che non può essere perdonato è l'ipocrisia. Il peccato dell'ipocrita è un peccato contro lo Spirito Santo.»
«Al giorno d'oggi la maggior parte delle persone muore di una specie di strisciante buonsenso, e si accorge quando è troppo tardi che l'unica cosa di cui non ci si pente mai sono i propri errori.»
Versi composti da Gabriele D'Annunzio, incisi su di uno specchio incorniciato e apposto nella Stanza del Mascheraio del Vittoriale degli Italiani:
"Al visitatore.
Teco porti lo specchio di Narciso?
Questo è piombato vetro, o mascheraio.
Aggiusta le tue maschere al tuo viso, ma pensa che sei vetro contro acciaio."
Il significato della frase
"Teco porti lo specchio di Narciso?": Chiede al visitatore se sia giunto fin lì pieno di vanità e superbia (come Narciso).
"Questo è piombato vetro, o mascheraio": Definisce lo specchio usando un'espressione dantesca (piombato vetro) e dà dell'ipocrita (mascheraio) all'ospite.
"Aggiusta le tue maschere... sei vetro contro acciaio": Invita il visitatore a sistemarsi pure la maschera della finzione, avvisandolo però che la sua fragilità (il vetro) nulla potrà contro la fermezza del poeta (l'acciaio).
I versi vennero composti nel maggio del 1925 in occasione della seconda visita di Benito Mussolini al Vittoriale, che venne deliberatamente lasciato in attesa in quella stanza per circa due ore prima di essere ricevuto.
Grazie per l’opportuno rimando ad articoli fondamentali. Già letto il primo. Proseguirò.
L'IA esiste dal 1966? E a noi ce la mettono in mano 50 anni dopo? E ce la "vendono" come una meraviglia degli anni 2020? Già questo dato basterebbe a farci riflettere sui giochi che vengono fatti sulle nostre teste...
E ancora, perché hanno deciso che era il momento giusto per mettercela in mano?
Posta un commento