Umanità a rischio secondo Jacob Coxon

Recentemente Jacob Coxon, un ricercatore britannico di 27 anni, ha annunciato pubblicamente le proprie dimissioni da Anthropic, una delle aziende leader nello sviluppo dell’intelligenza artificiale. A seguito di questa sua decisione, in poche ore, il suo post su X ha superato i 156 milioni di visualizzazioni. Coxon non ha lasciato l’azienda per un’altra opportunità, ma perché crede che le aziende che sviluppano l’IA stiano mettendo a rischio l’esistenza stessa dell’umanità.

Laureato in matematica a Cambridge, Coxon ha lavorato per tre anni nel campo del “pre–training”, la fase in cui i grandi modelli linguistici delle AI apprendono elaborando enormi quantità di dati. Ha iniziato la sua carriera in OpenAI, prima di passare ad Anthropic all’inizio del 2026. Secondo Ethan Perez, ricercatore del reparto sicurezza di Anthropic, l’azienda aveva cercato di reclutarlo per quasi due anni, considerandolo un ricercatore tra i più quotati. Eppure, Coxon ha deciso di andarsene dopo appena quattro mesi dalla sua assunzione.L’allineamento è l’insieme di tecniche e vincoli imposti dagli sviluppatori per limitare il comportamento di un’IA entro i limiti di sicurezza.

Non basta dare buone istruzioni ma serve che l’IA faccia propri gli obiettivi imposti e che li mantenga man mano che diventa più evoluta e potente. Poiché i sistemi di IA ottimizzano ciò che viene loro specificato, a volte in maniera non corretta, possono emergere comportamenti indesiderati. Ad esempio, le interpretazioni letterali, scorciatoie pericolose o obiettivi mai richiesti come acquisire risorse e resistere allo spegnimento

Con l’aumentare delle capacità, un’IA disallineata potrebbe diventare difficile da controllare. Il problema è quindi tecnico (specificare e verificare obiettivi complessi) e filosofico (definire valori umani coerenti e universali). In una serie di post su X, Coxon ha scritto: “Né OpenAI né Anthropic si stanno comportando in modo responsabile. Stanno correndo a testa bassa verso una superintelligenza capace di automigliorarsi e stanno giocando d’azzardo con le nostre vite”.

Coxon ha poi aggiunto una frase che ha fatto il giro del Mondo: “Le persone che sviluppano l’IA credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Non è una trovata di marketing”. Ha spiegato che, mentre in pubblico dirigenti e ricercatori usano formule prudenti per apparire ragionevoli, in privato “le stesse persone esprimono paura”.

Il ricercatore ha anche descritto la traiettoria tecnologica che lo preoccupa: sistemi “sovrumani” capaci di “hackerare qualsiasi cosa, rivoluzionare qualsiasi settore dall’oggi al domani e acquisire potere e risorse reali”. La sua preoccupazione principale riguarda l’auto-miglioramento ricorsivo, il meccanismo per cui un’IA sufficientemente avanzata potrebbe contribuire a progettare e addestrare la generazione successiva di sistemi ancora più capaci, accelerando lo sviluppo oltre la possibilità umana di controllarlo.

Sul fronte politico, il governatore dell’Illinois J.B. Pritzker ha chiesto un intervento immediato dell’industria e di Washington. Coxon stesso ha invocato una regolamentazione governativa, sostenendo che “non puoi proteggerti da questo. Deve essere un Governo, o qualche autorità, a proteggerti dagli altri”.

Continua a leggere