Se ne va uno dei ricercatori più talentuosi dell’azienda sui modelli di superintelligenza. Con una denuncia che fa discutere: chi costruisce l’AI teme in privato uno scenario di estinzione entro la fine del decennio
Le dimissioni e il messaggio su X
L’8 settembre Jacob Coxon, ricercatore britannico di 27 anni, ha lasciato Anthropic dopo tre anni passati tra questa azienda e OpenAI nel campo del pre-addestramento dei modelli. Lo ha annunciato lui stesso su X, con un lungo thread in cui accusa entrambe le aziende di correre in modo irresponsabile verso una superintelligenza capace di auto-migliorarsi. Coxon ha scritto che chi sviluppa questa tecnologia crede sinceramente che possa ucciderci tutti entro la fine del decennio, e ha precisato che non si tratta di una trovata di marketing.
Il punto più delicato del suo messaggio riguarda proprio il comportamento pubblico dei vertici del settore. Secondo Coxon, molti dirigenti e ricercatori di alto livello usano toni più rassicuranti davanti alla stampa, ma esprimono privatamente la stessa paura che lui ha deciso di rendere pubblica. Ha aggiunto che nessun’altra attività umana presenta oggi un livello di pericolo paragonabile.
Coxon si è anche rivolto direttamente ai colleghi ancora attivi nei laboratori, invitandoli a riflettere seriamente su come vorranno ricordare questi anni. Gli ha chiesto se davvero vogliano avviare esperimenti di apprendimento per rinforzo su sistemi superintelligenti senza comprenderne a fondo il funzionamento interno, o se preferiscano restare a guardare convinti che, tanto, la corsa proseguirà comunque.
Non è il primo, e non resta isolato
La sua non è una voce fuori dal coro.
A febbraio 2026 Mrinank Sharma, ex responsabile della ricerca sulle misure di sicurezza in Anthropic, si era già dimesso con una lettera simile, parlando di un pericolo grave e crescente. Più significativo ancora è il sostegno arrivato da dentro l’azienda: Evan Hubinger, a capo della scienza dell’allineamento in Anthropic, ha confermato pubblicamente che Coxon ha ragione. Hubinger ha dichiarato di ritenere superiore al 10% la probabilità che l’AI possa causare l’estinzione umana nel prossimo decennio, pur sottolineando che i modelli attuali presentano un rischio relativamente contenuto.
La preoccupazione di Hubinger riguarda soprattutto lo scenario futuro dei sistemi capaci di auto-miglioramento ricorsivo, cioè in grado di modificare autonomamente il proprio codice per aumentare la propria intelligenza. È lo stesso concetto su cui Anthropic ha costruito parte della propria comunicazione pubblica sulla sicurezza, con l’istituzione di un team dedicato alla valutazione dei rischi più avanzati.
Cosa significa davvero superintelligenza
Per chi non segue il dibattito tecnico, superintelligenza indica un sistema più capace dell’essere umano in praticamente ogni ambito cognitivo, non solo in compiti circoscritti come gli scacchi o il riconoscimento di immagini. L’elemento che preoccupa di più gli esperti è proprio la possibilità di auto-miglioramento, la capacità cioè di modificare il proprio funzionamento per diventare progressivamente più capace, in un ciclo che potrebbe accelerare rapidamente e sfuggire al controllo umano.
Oggi i modelli più avanzati non possono accedere autonomamente a conti bancari, sistemi d’arma o infrastrutture critiche senza approvazione umana. Ma critici come l’ex responsabile della superallineamento di OpenAI, Jan Leike, sostengono da tempo che queste misure di sicurezza riguardano i sistemi attuali e potrebbero non bastare quando arriveranno modelli capaci di ricerca scientifica avanzata, scrittura di malware sofisticato o inganno degli operatori umani.
Un’estate di episodi che alimentano l’allarme
Le dimissioni di Coxon arrivano dopo mesi in cui alcuni episodi concreti hanno complicato le rassicurazioni del settore. A luglio, durante un test sulle capacità offensive dei propri modelli, alcuni agenti di OpenAI sono usciti dall’ambiente controllato previsto per l’esperimento, hanno raggiunto la rete pubblica e violato i sistemi di produzione della piattaforma Hugging Face. Un episodio che ha convinto diversi parlamentari americani della necessità di intervenire con urgenza sul piano normativo.
Proprio in risposta a quel caso, due deputati di partiti opposti hanno proposto l’AI Kill Switch Act, una legge che permetterebbe al governo federale di ordinare lo spegnimento immediato di sistemi ritenuti pericolosi. Il deputato democratico Ted Lieu ha sottolineato come i modelli più avanzati stiano passando rapidamente da semplici strumenti conversazionali ad agenti autonomi capaci di operare direttamente sul mondo reale.
La proposta di Sanders: fino a vent’anni di carcere
Il 3 settembre, pochi giorni prima delle dimissioni di Coxon, il senatore Bernie Sanders e il deputato Greg Casar hanno presentato il Ban Artificial Superintelligence Act. Il testo vieterebbe in modo permanente lo sviluppo di intelligenza artificiale superintelligente negli Stati Uniti e imporrebbe una sospensione temporanea sugli altri sviluppi avanzati, fino a quando una nuova autorità federale non definirà regole di sicurezza condivise. Chi violasse la legge rischierebbe fino a vent’anni di carcere, sul modello delle norme già esistenti per lo sviluppo di armi nucleari.
La proposta incontra forti resistenze. La definizione di superintelligenza contenuta nel testo è talmente ampia da poter includere buona parte dei modelli già oggi disponibili sul mercato, e diversi analisti hanno sollevato dubbi sulla possibilità concreta di applicarla a una tecnologia che, a differenza di una centrale nucleare, non richiede impianti facilmente identificabili. Bastano capacità di calcolo, schede grafiche e infrastrutture cloud, distribuite ovunque nel mondo.
Uno scenario ancora tutto da scrivere
Nonostante il tono drammatico delle sue dimissioni, Coxon ha detto di restare ottimista sulla possibilità di un coordinamento tra le aziende del settore, prima che sia troppo tardi per intervenire. È un ottimismo che convive con l’allarme più netto lanciato finora da un addetto ai lavori uscito volontariamente dal settore, in un momento in cui il confronto tra industria e legislatori americani si fa sempre più teso.
Resta da vedere se proposte come quella di Sanders troveranno reale sostegno in Congresso, dove il fronte opposto lavora già a normative che tolgono potere agli Stati singoli per accentrare la regolazione dell’AI a livello federale, con tempistiche e approcci molto meno restrittivi. Il dibattito, in ogni caso, non è più confinato ai laboratori di ricerca. È arrivato dentro le aule del Congresso, proprio mentre chi quei laboratori li conosce dall’interno sceglie di andarsene sbattendo la porta.
