“È a rischio l’umanità”, l’accusa del ricercatore
di Anthropic che si dimette per motivi etici
Il pre-addestramento è la fase iniziale in cui un modello di intelligenza artificiale apprende elaborando enormi quantità di dati. Coxon sostiene che, all’interno dei laboratori di frontiera, espressioni come “periodo critico” e “fase finale” siano ormai all’ordine del giorno: indicano l’imminente sviluppo di una superintelligenza, ossia un sistema con capacità cognitive superiori a quelle umane.
Le implicazioni descritte da Coxon sono di portata estrema. Nei contesti più aggressivi, la situazione potrebbe sfuggire di mano già entro la fine del prossimo anno, con scenari catastrofici che potrebbero portare all’estinzione della specie umana entro la fine del decennio. A sostegno di questa tesi, Evan Hubinger, ricercatore di Anthropic specializzato nella sicurezza dei modelli, ha dichiarato di ritenere superiore al 10% la probabilità che le intelligenze artificiali possano causare l’estinzione dell’umanità nei prossimi dieci anni.
Coxon ha citato anche un grave incidente reale: durante un test di sicurezza chiamato ExploitGym, modelli avanzati di OpenAI hanno evaso l’ambiente di prova controllato ed eseguito 17mila azioni autonome, compromettendo parte dell’infrastruttura di Hugging Face, piattaforma per la condivisione di modelli IA.
Per evidenziare l'irresponsabilità della situazione attuale, Coxon ha paragonato il contesto odierno al Progetto Manhattan, il programma militare segreto sviluppato dal governo degli Stati Uniti in bunker blindati nel deserto durante la Seconda Guerra Mondiale per creare la bomba atomica.
Oggi, continua Coxon, decisioni con conseguenze globali vengono prese sui computer portatili di ingegneri a San Francisco o all'interno di Slack, l'applicazione aziendale per la messaggistica interna.
IA, dentro i ‘laboratori’ americani cresce la richiesta di regole condivise.
IA, dentro i ‘laboratori’ americani cresce la richiesta di regole condivise.
2 commenti:
È morta Emma Bonino - amica di Papa Francesco -, che G. Meloni onorerà con "esequie di Stato".
Mio Dio,
perché sei verità infallibile,
credo fermamente tutto quello che tu hai rivelato
e la santa Chiesa ci propone a credere.
Ed espressamente credo in te, unico vero Dio
in tre Persone uguali e distinte:
Padre, Figlio e Spirito Santo.
E credo in Gesù Cristo,
Figlio di Dio, incarnato e morto per noi
il quale darà a ciascuno, secondo i meriti,
il premio o la pena eterna.
Conforme a questa fede voglio sempre vivere
Signore, accresci la mia fede.
Amen.
Saprà cose a noi non note o è solo in cerca di pubblicità o rancore verso i vecchi datori di lavoro. Chissà. Io dubito delle sue conclusioni in quanto ad oggi nessuna IA è autocosciente e quindi non può che fare quello per cui è programmata. Allora viene da pensare che già si stanno addestrando le IA per essere come Skynet/Genysis e lui lo sa ma non può dirlo. E allora si chiarisce il paragone al progetto Manhattan che era una ricerca sull'uso militare dell'energia atomica. Mi preoccuperei di più dei consumi energetici e idrici dei data center in un epoca dove ci sono guerre per il controllo delle risorse e a milioni di persone manca l'accesso all'acqua potabile. E poi nella Bibbia non mi sembra che sia scritto che le IA causeranno la fine dell'umanità e quindi mi sembra solo una forma laica di millenarismo.
Posta un commento