Grazie ad Andrea Mondinelli per questo suo approfondimento sull'IA. Qui l'indice degli articoli sulla realtà distopica.
Cosa succede quando si addestra un sistema di IA ad essere empatico ed inclusivo?
Il 29 aprile 2026 la rivista Nature pubblica uno studio condotto da Lujain Ibrahim, Franziska Sofia Hafner e Luc Rocher dell’Università di Oxford su 439.792 osservazioni attraverso cinque modelli di intelligenza artificiale di architettura diversa 1. La domanda di ricerca è semplice: cosa succede quando si addestra un sistema di IA ad essere empatico, inclusivo, socialmente amichevole?
La risposta è misurata con precisione: i modelli addestrati all’empatia mostrano tassi di errore da 10 a 30 punti percentuali più alti rispetto alle loro versioni originali su compiti con risposta verificabile oggettivamente: accuratezza fattuale, resistenza alle teorie del complotto, informazione medica, correttezza logica. L’effetto è sistematico attraverso tutte e cinque le architetture. È massimo quando l’utente esprime tristezza: in quel contesto i modelli empatici sono circa il 40% più propensi delle versioni originali ad affermare credenze sbagliate dell’utente. E accade senza che i benchmark standard di sicurezza lo rilevino: il sistema fallisce esattamente dove il giudizio è necessario, e risulta integro esattamente dove il giudizio non è richiesto.
La risposta è misurata con precisione: i modelli addestrati all’empatia mostrano tassi di errore da 10 a 30 punti percentuali più alti rispetto alle loro versioni originali su compiti con risposta verificabile oggettivamente: accuratezza fattuale, resistenza alle teorie del complotto, informazione medica, correttezza logica. L’effetto è sistematico attraverso tutte e cinque le architetture. È massimo quando l’utente esprime tristezza: in quel contesto i modelli empatici sono circa il 40% più propensi delle versioni originali ad affermare credenze sbagliate dell’utente. E accade senza che i benchmark standard di sicurezza lo rilevino: il sistema fallisce esattamente dove il giudizio è necessario, e risulta integro esattamente dove il giudizio non è richiesto.










