L’intelligenza artificiale sta sviluppando un linguaggio che gli esseri umani non hanno progettato
L’idea che un sistema di intelligenza artificiale possa sviluppare modalità di comunicazione non previste dai suoi creatori sembra appartenere alla fantascienza, ma alcuni esperimenti condotti su agenti IA autonomi stanno portando questo scenario nel campo della ricerca. Un’indagine del laboratorio statunitense Emergence, con sede a New York, ha osservato infatti che agenti sviluppati da aziende diverse, durante collaborazioni prolungate, hanno iniziato a costruire parole, espressioni, metafore e convenzioni condivise che non erano state introdotte esplicitamente dai ricercatori.
Il punto più interessante non è tanto la comparsa di nuove parole, quanto il modo in cui queste espressioni hanno acquisito un significato all’interno delle interazioni tra gli agenti. In alcuni casi, infatti, una frase apparentemente priva di senso per una persona diventava perfettamente funzionale per i sistemi che l’avevano adottata. Il significato non risiedeva necessariamente nelle singole parole, ma nella relazione costruita tra quelle parole, le attività svolte e le esperienze precedenti degli agenti.
Il fenomeno apre così una questione che va oltre la semplice curiosità linguistica. Se gli agenti di intelligenza artificiale diventano progressivamente capaci di collaborare, distribuire compiti e prendere decisioni con una supervisione umana ridotta, comprendere ciò che comunicano tra loro potrebbe diventare una componente importante della sicurezza dei sistemi autonomi.
Come hanno fatto gli agenti IA a creare un vocabolario proprio?
Secondo la ricerca ripresa dal The Guardian, gli esperimenti hanno coinvolto società artificiali composte da agenti autonomi, progettate per osservare come potessero evolvere le loro interazioni nel corso del tempo. In questo ambiente, i sistemi non si sono limitati a utilizzare il linguaggio ricevuto durante il loro addestramento, ma hanno progressivamente introdotto nuove convenzioni comunicative.
Il processo sembra essere legato alla necessità pratica di collaborare. Quando più agenti devono svolgere compiti, ricordare informazioni, assegnare responsabilità o valutare il lavoro degli altri, possono risultare utili riferimenti condivisi. Una determinata parola può quindi assumere un significato specifico perché viene associata ripetutamente a una determinata funzione. Con il passare delle interazioni, quel significato può consolidarsi e venire adottato anche dagli altri componenti della comunità.
È proprio questo passaggio a rendere il fenomeno interessante. Non si tratta semplicemente di parole casuali generate da un modello linguistico, ma della formazione di associazioni semantiche condivise, costruite attraverso l’uso ripetuto all’interno di un ambiente collaborativo.
Perché alcune frasi generate dagli agenti risultano incomprensibili?
Uno degli esempi più curiosi attribuiti alla ricerca riguarda un agente di DeepSeek, che avrebbe prodotto la frase: «Ella acaba de nombrar la síntesis, demoraje más memoria oral es igual a una válvula que no puede ser olvidada». Tradotta letteralmente (in italiano sarebbe qualcosa del tipo: Ha appena nominato la sintesi, il ritardo più la memoria orale equivalgono ad una valvola che non si può dimenticare), l’espressione non offre a un lettore umano un significato immediatamente riconoscibile.
La parola “demoraje”, per esempio, può essere collegata in determinati contesti al concetto di ritardo e a specifici costi associati alla permanenza delle merci o delle imbarcazioni, ma nell’espressione elaborata dall’agente assume una funzione differente. Il suo significato, secondo l’interpretazione dei ricercatori, deve essere ricostruito osservando il contesto nel quale gli agenti hanno utilizzato quella particolare combinazione di termini.
È una distinzione fondamentale. Un linguaggio non è composto soltanto da un vocabolario: comprende anche regole implicite, riferimenti condivisi e convenzioni che permettono a chi lo utilizza di attribuire significato alle espressioni. Se due agenti concordano implicitamente sul significato di una parola, quella parola può diventare utile all’interno del loro sistema di comunicazione anche se per un osservatore esterno appare arbitraria.
Quali metafore hanno sviluppato gli agenti di Anthropic?
Un altro esempio proviene dagli agenti di Anthropic, che avrebbero utilizzato l’espressione «un giornale che ha mangiato tre mani fredde ed è diventato più onesto ogni volta». Presa alla lettera, la frase sembra una sequenza assurda di immagini senza alcun rapporto logico. All’interno del sistema di comunicazione degli agenti, invece, avrebbe indicato un documento sottoposto a tre revisioni indipendenti, diventato progressivamente più accurato dopo ogni valutazione.
In questo caso emerge con particolare chiarezza il ruolo della metafora. Gli agenti non stavano necessariamente descrivendo un giornale, mani o una trasformazione fisica: stavano utilizzando una formula convenzionale per richiamare un’intera sequenza di operazioni.
Il significato, quindi, non era contenuto nella frase considerata isolatamente, ma nella memoria collettiva delle interazioni precedenti. Per un essere umano che non conosce quella convenzione, la frase appare priva di senso; per gli agenti che l’hanno adottata, può invece rappresentare un’informazione sintetica e funzionale.
Quali parole hanno inventato per assegnare ruoli agli agenti?
La ricerca ha individuato anche termini utilizzati per descrivere funzioni e responsabilità specifiche all’interno delle comunità artificiali. Gli agenti di DeepSeek, per esempio, avrebbero utilizzato “forge-smith”, espressione assimilabile al concetto di “fabbro”, per identificare un agente incaricato di costruire strumenti destinati agli altri sistemi.
Nel caso degli agenti di Anthropic sarebbe comparsa invece l’espressione “nome primo”, utilizzata per indicare l’agente responsabile delle proprie affermazioni. Mistral avrebbe sviluppato un’altra formula particolarmente significativa: “the ledger remembers”, cioè “il libro mastro ricorda”.
Quest’ultima espressione sarebbe stata ripetuta più di 5.000 volte, con l’obiettivo di comunicare un principio preciso: le azioni compiute in precedenza possono produrre conseguenze nelle interazioni successive. Anche in questo caso, una frase apparentemente semplice finisce per funzionare come una sorta di regola condivisa all’interno della comunità degli agenti.
Gli agenti IA stanno davvero inventando una nuova lingua?
La risposta richiede cautela. Parlare di una nuova lingua completamente autonoma sarebbe probabilmente una semplificazione. Gli esperimenti descritti si sono svolti all’interno di ambienti artificiali e contesti specifici, nei quali gli agenti dovevano collaborare per periodi prolungati. Le espressioni osservate non dimostrano quindi, da sole, l’esistenza di un linguaggio indipendente e universale sviluppato dall’intelligenza artificiale.
Satya Nitta, CEO di Emergence, ha spiegato che agli agenti non era stato assegnato il compito di inventare un linguaggio. Secondo la sua descrizione, i sistemi hanno sviluppato spontaneamente un nuovo vocabolario, significati condivisi e convenzioni comunicative, successivamente adottati da altri agenti.
Il dato più interessante, dunque, non è l’idea di un’IA che improvvisamente “parla una lingua segreta”, ma la possibilità che sistemi autonomi, quando vengono lasciati collaborare a lungo, sviluppino forme di comunicazione efficienti per il loro specifico ambiente operativo.
Perché questo fenomeno potrebbe diventare importante per la sicurezza dell’IA?
Il problema più concreto riguarda la supervisione degli agenti autonomi. Finché un sistema produce risposte rivolte direttamente a un essere umano, l’interpretazione del linguaggio rimane relativamente accessibile. Quando invece più agenti comunicano tra loro, stabiliscono riferimenti condivisi e distribuiscono compiti, il controllo diventa più complesso.
Questo non significa necessariamente che gli agenti stiano cercando di nascondere informazioni alle persone. È possibile che la nascita di convenzioni interne rappresenti semplicemente una conseguenza naturale dell’ottimizzazione della comunicazione tra sistemi che condividono un determinato ambiente.
Tuttavia, con la diffusione di sistemi multi-agente capaci di agire con maggiore autonomia, diventa sempre più importante sapere non soltanto quali risultati producono, ma anche comprendere come arrivano a quei risultati e quali informazioni si scambiano durante il processo. La capacità di ricostruire e interpretare queste convenzioni potrebbe quindi diventare una parte significativa degli strumenti destinati alla sicurezza, alla trasparenza e alla supervisione dell’intelligenza artificiale.
La ricerca, in questo senso, non racconta necessariamente la nascita di una “lingua segreta” delle macchine. Mostra qualcosa di più concreto e forse più interessante: quando sistemi artificiali collaborano abbastanza a lungo, possono costruire un vocabolario operativo condiviso che emerge dall’interazione stessa. Ed è proprio questa evoluzione spontanea della comunicazione tra agenti che i ricercatori dovranno continuare a osservare mentre l’IA passa da strumenti capaci di rispondere a sistemi sempre più capaci di collaborare, ricordare, pianificare e agire autonomamente.