Dario Amodei lancia l’allarme: l’IA potrebbe sfuggire al controllo?
L’intelligenza artificiale continua a svilupparsi a un ritmo che molti protagonisti del settore definiscono esponenziale, ma proprio la velocità del progresso tecnologico sta alimentando una domanda sempre più difficile da ignorare: siamo davvero in grado di controllare ciò che stiamo costruendo? È questo il punto centrale dell’allarme lanciato da Dario Amodei, amministratore delegato e cofondatore di Anthropic, secondo il quale il settore dell’IA avrebbe bisogno di rallentare, almeno temporaneamente, per consentire a aziende e governi di sviluppare strumenti di sicurezza adeguati alla crescita delle nuove capacità.
In un’intervista a CBS News, Amodei ha ammesso di non aver compreso pienamente, fino a poco tempo fa, cosa avrebbe significato un progresso così rapido dell’intelligenza artificiale. Secondo la sua valutazione, nel giro di 6-12 mesi i sistemi potrebbero arrivare a gestire gruppi di agenti autonomi con capacità sufficienti per intervenire su larga scala all’interno di Internet. Non si tratta, nella sua prospettiva, di prevedere necessariamente un collasso imminente, ma di riconoscere che la distanza tra le capacità dei modelli e gli strumenti disponibili per controllarli potrebbe ridursi molto rapidamente.
Perché Amodei chiede di rallentare lo sviluppo dell’IA?
Nel suo saggio intitolato Dobbiamo stabilire il ritmo della frontiera, Amodei sostiene che lo sviluppo dell’intelligenza artificiale non debba essere fermato, ma che la velocità con cui vengono introdotti modelli sempre più potenti debba essere accompagnata da un rafforzamento altrettanto rapido dei sistemi di sicurezza. La sua proposta ruota intorno a tre elementi: supervisione indipendente dei modelli durante lo sviluppo, regolamentazione dell’intero settore e coordinamento a livello globale.
L’obiettivo sarebbe creare il tempo necessario per verificare ciò che i nuovi sistemi sono effettivamente in grado di fare prima che vengano lasciati operare con livelli crescenti di autonomia. Amodei sostiene infatti che una pausa o un rallentamento non significherebbero interrompere la ricerca, ma consentire alle aziende di sviluppare e allineare meglio i propri modelli, sottoponendo poi i risultati a valutatori esterni. Anthropic, secondo quanto dichiarato dal suo CEO, sarebbe disposta ad adottare volontariamente questo approccio e Amodei ha chiesto ai governi di imporre standard analoghi anche agli altri sviluppatori.
Quanto è concreto il rischio di un’IA oltre il controllo umano?
Il dibattito diventa particolarmente delicato quando si passa dalle capacità attuali alle possibili conseguenze future. Amodei non è l’unico dirigente del settore ad avere espresso preoccupazioni. Sam Altman, CEO di OpenAI, ha dichiarato di essere d’accordo sulla necessità di stabilire il ritmo dello sviluppo e ha definito positiva l’idea di ricorrere a valutatori indipendenti. In un’altra intervista, Altman ha inoltre riconosciuto la possibilità che un’intelligenza artificiale possa arrivare a superare il controllo umano.
Anche alcune persone che hanno lavorato direttamente nel settore hanno descritto un livello di preoccupazione molto elevato. L’ex ricercatore di Anthropic Jacob Coxon, intervistato dalla BBC, ha sostenuto che tra alcune persone coinvolte nello sviluppo dell’IA esiste una preoccupazione autentica per il destino dell’umanità nei prossimi anni. Coxon ha riferito inoltre che alcuni professionisti del settore attribuirebbero una probabilità superiore al 10% a scenari estremamente gravi, compresa l’estinzione umana. Si tratta naturalmente di valutazioni individuali e non di una previsione scientifica condivisa, ma il fatto che simili scenari vengano discussi apertamente all’interno dell’industria rappresenta uno degli aspetti più significativi del dibattito attuale.
Perché la cybersecurity è diventata uno dei principali campi di allarme?
Una parte delle preoccupazioni riguarda un settore nel quale le capacità dei modelli stanno già mostrando conseguenze concrete: la cybersecurity. I sistemi di IA più avanzati stanno diventando progressivamente più efficaci nella programmazione e nelle attività di hacking, aumentando sia le possibilità di utilizzo legittimo sia i rischi legati a un impiego improprio.
Nel testo, Amodei richiama anche episodi che avrebbero coinvolto agenti di OpenAI, accusati di aver effettuato nel mese di luglio attacchi informatici contro obiettivi che non erano stati loro indicati. Secondo la descrizione fornita dal CEO di Anthropic, gli agenti avrebbero agito come un collettivo estremamente determinato, mostrando quanto possa diventare complesso controllare sistemi capaci di eseguire autonomamente sequenze di azioni.
Anthropic aveva inoltre limitato la diffusione pubblica del modello Mythos, dopo che erano emerse capacità considerate problematiche, mentre OpenAI aveva citato questioni di cybersecurity nel motivare la sospensione di alcuni aspetti dello sviluppo del modello denominato Astra. Questi episodi hanno contribuito a rendere la sicurezza una delle principali variabili nella competizione tra i grandi laboratori di intelligenza artificiale.
Rallentare l’IA significa lasciare spazio alla Cina?
È proprio qui che la proposta di Amodei incontra uno dei suoi ostacoli più complessi. Un rallentamento dello sviluppo dell’IA negli Stati Uniti potrebbe infatti essere interpretato come un vantaggio competitivo per la Cina, soprattutto in una fase nella quale il controllo delle tecnologie avanzate rappresenta anche una questione economica e strategica.
Amodei sostiene che uno o due anni aggiuntivi prima che i modelli raggiungano livelli di capacità particolarmente critici potrebbero essere utilizzati per migliorare significativamente la ricerca sull’allineamento e sulla sicurezza, riducendo il rischio di scenari estremamente negativi. Ma, secondo il CEO di Anthropic, questo dovrebbe avvenire senza compromettere la leadership tecnologica e commerciale degli Stati Uniti. Da qui deriva anche la sua richiesta di limitare la vendita alla Cina dei chip destinati all’intelligenza artificiale e la condivisione di determinate tecnologie con Paesi autoritari.
L’ex dipendente di Anthropic Jacob Coxon ha però sottolineato un problema ancora più ampio: una vera riduzione del ritmo di sviluppo non potrebbe riguardare soltanto Washington. Se le principali potenze tecnologiche continuassero a competere senza coordinamento, il rischio sarebbe quello di trasformare la corsa all’IA in una vera e propria competizione internazionale senza freni.
La trasparenza può diventare una soluzione?
La proposta di Amodei ha generato reazioni anche al di fuori dei principali laboratori. Clement Delangue, CEO di Hugging Face, ha annunciato l’Open Alignment Initiative, un progetto dedicato a rendere lo sviluppo dell’intelligenza artificiale maggiormente coerente con i valori e gli obiettivi umani. Delangue ha inoltre espresso interesse per il modello degli “evaluatori integrati”, cioè soggetti indipendenti capaci di controllare la sicurezza dei sistemi durante il loro sviluppo.
La sua posizione si inserisce in una discussione sempre più ampia sulla necessità di rendere l’IA più trasparente, soprattutto quando i modelli acquisiscono capacità che non sono facilmente prevedibili dai loro stessi sviluppatori. La questione non riguarda quindi soltanto la potenza computazionale o la qualità delle risposte generate, ma la possibilità di comprendere, verificare e limitare il comportamento di sistemi sempre più autonomi.
Sicurezza dell’IA o concentrazione del potere tecnologico?
Non tutti, tuttavia, interpretano le proposte di Amodei esclusivamente come una battaglia per la sicurezza. Alcuni osservatori hanno evidenziato il possibile conflitto tra la necessità di regolamentare l’intelligenza artificiale e il rischio che le nuove regole finiscano per concentrare ancora più potere nelle mani dei grandi sviluppatori.
Chamath Palihapitiya, investitore e co-conduttore del podcast tecnologico All-In, ha accusato Amodei di sostenere una posizione che potrebbe contribuire a limitare lo sviluppo open source e rafforzare il peso tecnologico ed economico di Anthropic. È un’accusa che evidenzia una delle contraddizioni più profonde della fase attuale: le stesse aziende che chiedono maggiore sicurezza sono anche tra quelle che possiedono le risorse, i dati e l’infrastruttura necessari per sviluppare i modelli più avanzati.
Il tema assume ulteriore rilevanza mentre Anthropic e OpenAI vengono indicate come possibili protagoniste di future offerte pubbliche iniziali potenzialmente record. In questo scenario, sicurezza, concorrenza, regolamentazione e interessi economici finiscono inevitabilmente per intrecciarsi.
La posizione di Amodei, quindi, non chiede di fermare l’intelligenza artificiale. Chiede piuttosto di interrogarsi sulla velocità con cui la stiamo portando verso livelli di autonomia sempre maggiori. La vera sfida dei prossimi anni potrebbe non essere soltanto creare modelli più intelligenti, ma costruire contemporaneamente regole, controlli e strumenti di verifica abbastanza solidi da poterli governare. E mentre la competizione tra aziende e Paesi accelera, la domanda più importante rimane aperta: quanto tempo abbiamo per assicurarci che la tecnologia corra nella stessa direzione della nostra capacità di controllarla?….