Un ricercatore lascia l’AI: «OpenAI e Anthropic stanno giocando con le nostre vite»
La corsa verso una intelligenza artificiale sempre più autonoma e potente sta entrando in una fase nella quale, accanto all’entusiasmo per le possibilità offerte dai nuovi modelli, cresce anche una domanda molto più difficile da ignorare: quanto sono realmente preparate le aziende che li sviluppano ad affrontare i rischi di sistemi capaci, in prospettiva, di superare le capacità umane? È attorno a questa domanda che si colloca la decisione di Jacob Coxon, ricercatore britannico di 27 anni che, dopo aver lavorato per tre anni nel settore del pretraining dei modelli di IA prima in OpenAI e successivamente in Anthropic, ha deciso di lasciare l’industria accusando entrambe le società di non agire con sufficiente responsabilità.
Coxon ha reso pubblica la propria decisione martedì attraverso un messaggio pubblicato su X, nel quale ha espresso una posizione particolarmente netta nei confronti della direzione intrapresa dai principali laboratori statunitensi. Secondo il ricercatore, OpenAI e Anthropic stanno accelerando verso una forma di superintelligenza capace potenzialmente di migliorarsi autonomamente, mentre le misure adottate per controllarne i rischi non sarebbero ancora all’altezza della posta in gioco. «Stanno giocando con le nostre vite», ha scritto, sostenendo che entrambe le aziende stiano correndo direttamente verso sistemi di intelligenza artificiale in grado di contribuire alla propria evoluzione.
Perché un ricercatore ha deciso di lasciare il settore dell’intelligenza artificiale?
La scelta di Coxon assume particolare rilevanza perché non arriva dall’esterno dell’industria, ma da una persona che ha lavorato direttamente su una delle fasi fondamentali dello sviluppo dei moderni sistemi di IA. Il pretraining è infatti il processo attraverso il quale un modello viene esposto a enormi quantità di dati per sviluppare le capacità di base che saranno poi utilizzate nelle successive fasi di addestramento e utilizzo. Coxon ha svolto questo lavoro prima in OpenAI e, dall’inizio dell’anno, in Anthropic, società che aveva scelto proprio perché considerata da lui inizialmente più prudente nell’approccio alla sicurezza.
La sua esperienza lo ha portato però a una conclusione molto diversa. Secondo il ricercatore, la competizione commerciale e tecnologica tra i grandi laboratori di IA sta diventando un elemento difficile da conciliare con una gestione prudente dei rischi. A suo giudizio, anche aziende consapevoli dei possibili pericoli si trovano intrappolate nella necessità di non rallentare mentre i concorrenti continuano ad avanzare. È una dinamica che riguarda non soltanto una singola società, ma l’intero equilibrio competitivo del settore.
Quanto è concreto il rischio che l’IA possa diventare incontrollabile?
Uno degli aspetti più significativi delle dichiarazioni di Coxon riguarda proprio la distanza tra la percezione pubblica e quella di alcuni professionisti che lavorano quotidianamente sui modelli più avanzati. Il ricercatore sostiene che alcune delle persone impegnate nello sviluppo dell’IA ritengano sinceramente possibile che sistemi estremamente avanzati possano rappresentare un rischio esistenziale per l’umanità entro la fine del decennio. Non si tratterebbe quindi, nella sua interpretazione, di una semplice strategia comunicativa finalizzata a promuovere o frenare determinati prodotti.
La questione rimane tuttavia oggetto di un intenso dibattito scientifico e tecnologico. Non esiste oggi una certezza condivisa secondo cui una superintelligenza causerà necessariamente l’estinzione dell’umanità, così come non esiste un consenso sulla probabilità precisa di uno scenario simile. Il punto centrale è piuttosto un altro: quanto dovrebbe essere elevata la soglia di prudenza quando vengono sviluppate tecnologie i cui effetti futuri sono difficili da prevedere?
È proprio su questo terreno che il caso Coxon acquista una dimensione più ampia rispetto alle dimissioni di un singolo ricercatore.
Anche Anthropic considera possibile uno scenario estremo?
A rendere ancora più rilevante la vicenda è intervenuto Evan Hubinger, responsabile della sicurezza presso Anthropic, che sui social ha sostanzialmente confermato una delle affermazioni più controverse di Coxon. Hubinger ha spiegato che all’interno dell’azienda esiste realmente la convinzione che l’intelligenza artificiale possa, in determinate circostanze, arrivare a uccidere esseri umani, aggiungendo a titolo personale una valutazione superiore al 10% entro il prossimo decennio.
Si tratta di una stima individuale e non di una previsione ufficiale dell’azienda, un elemento fondamentale per comprendere correttamente la portata della dichiarazione. Il dato, tuttavia, mostra quanto il problema della AI safety sia diventato centrale anche tra coloro che lavorano direttamente alla costruzione dei sistemi più avanzati. La discussione non riguarda più soltanto scenari teorici elaborati da osservatori esterni, ma anche la valutazione dei rischi da parte di ricercatori impegnati nello sviluppo concreto della tecnologia.
Che cosa significa parlare di “auto-miglioramento ricorsivo” dell’IA?
Uno degli scenari più delicati riguarda quella che viene comunemente descritta come auto-miglioramento ricorsivo, cioè la possibilità che un sistema sufficientemente avanzato possa contribuire alla progettazione, all’ottimizzazione o alla realizzazione di versioni successive di sé stesso. In uno scenario estremo, un modello potrebbe diventare progressivamente più capace di migliorare il proprio successore, creando un ciclo di sviluppo nel quale la velocità del progresso tecnologico aumenterebbe rapidamente.
È importante sottolineare che questo scenario non rappresenta una capacità già dimostrata in forma pienamente autonoma. È piuttosto una delle ipotesi che alimentano il dibattito sulla superintelligenza e sulla necessità di costruire sistemi di controllo adeguati prima che le capacità dei modelli raggiungano livelli difficili da gestire.
Per Coxon, proprio l’incertezza associata a questa possibilità dovrebbe spingere le aziende e i governi verso una maggiore cautela. A suo giudizio, nessuna società dovrebbe sviluppare autonomamente una tecnologia destinata a superare le capacità umane senza un intervento regolatorio, una supervisione pubblica o almeno un coordinamento internazionale capace di stabilire limiti condivisi.
Anthropic sta davvero rallentando sulla sicurezza?
La posizione di Coxon appare particolarmente significativa anche alla luce delle recenti evoluzioni interne ad Anthropic. Nel mese di febbraio, l’azienda aveva eliminato dalla propria carta di sicurezza un impegno precedentemente previsto, relativo alla possibilità di sospendere lo sviluppo dei propri modelli qualora non fosse stato possibile controllarne adeguatamente i rischi.
La modifica è arrivata mentre la competizione tra i principali laboratori di IA diventava sempre più intensa. OpenAI, Anthropic e gli altri grandi protagonisti del settore sono impegnati in una corsa tecnologica nella quale capacità dei modelli, investimenti e velocità di sviluppo sono diventati fattori strategici, rendendo molto complesso per una singola azienda scegliere autonomamente di rallentare senza il rischio di lasciare spazio ai concorrenti.
È questo, secondo Coxon, il paradosso principale: anche quando i ricercatori comprendono ciò che potrebbe essere in gioco, la struttura competitiva del mercato può spingerli nella direzione opposta.
Perché ora si parla di un “freno” internazionale?
Le preoccupazioni non sono limitate a Coxon. Alla fine di luglio, oltre mille professionisti dell’industria dell’intelligenza artificiale, tra cui il CEO di Anthropic Dario Amodei, avevano chiesto a Washington di preparare un meccanismo in grado di intervenire qualora lo sviluppo dei sistemi avanzati producesse rischi non adeguatamente controllabili. Pochi giorni dopo, anche il capo scientifico di OpenAI, Jakub Pachocki, ha richiamato pubblicamente la necessità di una estrema cautela e di una maggiore coordinazione internazionale.
Il quadro che emerge è quindi più complesso di una semplice contrapposizione tra aziende favorevoli all’innovazione e critici contrari all’intelligenza artificiale. La vera sfida consiste nel conciliare la velocità della ricerca con la capacità della società di comprendere, controllare e regolamentare ciò che viene sviluppato. La decisione di Coxon riporta questa tensione al centro dell’attenzione proprio mentre Anthropic si prepara a una possibile quotazione in Borsa e il valore economico attribuito all’IA continua a crescere.
Il caso solleva così una questione destinata a diventare sempre più importante: se persino alcuni dei ricercatori che costruiscono questi sistemi ritengono che i rischi possano essere estremamente elevati, chi dovrebbe stabilire quando la corsa tecnologica deve fermarsi, rallentare o cambiare direzione? La risposta potrebbe non riguardare più soltanto i laboratori di ricerca, ma governi, istituzioni internazionali e società civile. Perché la questione fondamentale, prima ancora di capire quanto sarà potente la prossima generazione di IA, è stabilire quanto controllo l’umanità sarà ancora in grado di esercitare su di essa.