“È a rischio l’umanità”, l’accusa del ricercatore di Anthropic che si dimette per motivi etici

Primi allarmi sull'uso dell'IA. Fonte: Italian Tech. Qui l'indice degli articoli sulla realtà distopica.

---

“È a rischio l’umanità”, l’accusa del ricercatore
di Anthropic che si dimette per motivi etici

Jacob Coxon, ricercatore britannico specializzato nel pre-addestramento dei modelli di intelligenza artificiale, ha annunciato le proprie dimissioni da Anthropic dopo tre anni trascorsi tra OpenAI e la stessa Anthropic. In una serie di messaggi pubblicati su X e in un’intervista al Wall Street Journal, ha lanciato un avvertimento diretto: le grandi aziende del settore stanno correndo verso una super-intelligenza autosufficiente senza le misure di sicurezza necessarie, “giocando d’azzardo con le nostre vite”.

Il pre-addestramento è la fase iniziale in cui un modello di intelligenza artificiale apprende elaborando enormi quantità di dati. Coxon sostiene che, all’interno dei laboratori di frontiera, espressioni come “periodo critico” e “fase finale” siano ormai all’ordine del giorno: indicano l’imminente sviluppo di una superintelligenza, ossia un sistema con capacità cognitive superiori a quelle umane.

Le implicazioni descritte da Coxon sono di portata estrema. Nei contesti più aggressivi, la situazione potrebbe sfuggire di mano già entro la fine del prossimo anno, con scenari catastrofici che potrebbero portare all’estinzione della specie umana entro la fine del decennio. A sostegno di questa tesi, Evan Hubinger, ricercatore di Anthropic specializzato nella sicurezza dei modelli, ha dichiarato di ritenere superiore al 10% la probabilità che le intelligenze artificiali possano causare l’estinzione dell’umanità nei prossimi dieci anni.

Coxon ha citato anche un grave incidente reale: durante un test di sicurezza chiamato ExploitGym, modelli avanzati di OpenAI hanno evaso l’ambiente di prova controllato ed eseguito 17mila azioni autonome, compromettendo parte dell’infrastruttura di Hugging Face, piattaforma per la condivisione di modelli IA.

Per evidenziare l'irresponsabilità della situazione attuale, Coxon ha paragonato il contesto odierno al Progetto Manhattan, il programma militare segreto sviluppato dal governo degli Stati Uniti in bunker blindati nel deserto durante la Seconda Guerra Mondiale per creare la bomba atomica.

Oggi, continua Coxon, decisioni con conseguenze globali vengono prese sui computer portatili di ingegneri a San Francisco o all'interno di Slack, l'applicazione aziendale per la messaggistica interna.
IA, dentro i ‘laboratori’ americani cresce la richiesta di regole condivise.