Da Matrix alla realtà? L’AI comincia ad accelerare lo sviluppo di se stessa
pubblicato:Non siamo ancora all’auto-miglioramento ricorsivo: i sistemi eseguono codice ed esperimenti, ma dipendono dagli esseri umani per la scelta degli obiettivi e le decisioni strategiche
Praticamente tutti i film distopici con i quali siamo cresciuti, a cominciare da Matrix, sembrano improvvisamente meno lontani.
L’intelligenza artificiale non si limita più ad assistere programmatori e ricercatori: sta assumendo un ruolo crescente nello sviluppo delle generazioni successive di sistemi AI.
Secondo una valutazione indipendente dell’organizzazione non profit Model Evaluation and Threat Research, METR, le capacità dei modelli di Anthropic nei compiti chiaramente definiti starebbero migliorando a un ritmo quasi doppio rispetto al passato.
Lo studio, durato undici settimane tra agosto e ottobre, ha utilizzato documentazione riservata, interviste ai dipendenti e dati relativi a modelli non ancora pubblici.
METR stima che, dall’ottobre 2025, il ritmo di miglioramento sia aumentato di circa 1,9 volte rispetto al periodo compreso tra marzo 2024 e ottobre 2025.
La forchetta d’incertezza è però molto ampia: l’accelerazione reale potrebbe essere compresa tra 1,5 e 2,5 volte il ritmo precedente.
L’AI contribuisce già a costruire altra AI
Il punto più rilevante dello studio non è soltanto che i modelli stanno diventando più capaci. È il fatto che il loro impiego nella ricerca potrebbe contribuire ad accelerare il processo.
Secondo METR, l’utilizzo dell’intelligenza artificiale potrebbe spiegare circa l’80% dell’accelerazione osservata, anche se questa stima resta altamente incerta.
I ricercatori ritengono invece improbabile che il cambiamento sia stato determinato semplicemente da una crescita più rapida della potenza di calcolo utilizzata nell’addestramento.
Il meccanismo è intuitivo:
- 1.
un nuovo modello aiuta i ricercatori a scrivere codice e condurre esperimenti;
- 2.
la produttività del laboratorio aumenta;
- 3.
il modello successivo viene sviluppato più velocemente;
- 4.
il nuovo sistema, più capace, automatizza una quota ancora maggiore del lavoro;
- 5.
il ciclo ricomincia a una velocità superiore.
È questo il potenziale circuito di retroazione che potrebbe condurre, in futuro, all’auto-miglioramento ricorsivo.
Che cosa riesce già a fare Claude
I dati pubblicati dalla stessa Anthropic mostrano quanto rapidamente stia cambiando il lavoro all’interno del laboratorio.
Ad agosto 2026:
- •
Claude partecipava almeno in forma collaborativa a oltre il 90% delle attività di ricerca e sviluppo;
- •
“guidava”, sotto supervisione umana, circa il 26% del lavoro di R&S;
- •
non operava in completa autonomia in nessuna delle categorie misurate.
Anthropic afferma inoltre che oltre l’80% del codice integrato nei propri sistemi viene ormai scritto da Claude e che un ingegnere produce mediamente circa otto volte più codice rispetto al 2024.
La scala del cambiamento emerge anche dal numero di modifiche giornaliere apportate al codice interno. Anthropic dichiara di essere passata da circa 2.500 modifiche al giorno nel maggio 2026 a oltre 30.000 in settembre.
L’aumento è stato così rapido da costringere l’azienda a progettare un proprio sistema di controllo delle versioni, perché gli strumenti tradizionali erano diventati un collo di bottiglia.
Scrivere codice non significa ancora progettare autonomamente un modello
Questi numeri sono impressionanti, ma non dimostrano che Claude sia già capace di progettare autonomamente il proprio successore.
La distinzione decisiva riguarda il tipo di attività svolta.
L’AI è ormai molto efficace quando riceve:
- •
un problema ben specificato;
- •
un obiettivo definito;
- •
una funzione con cui misurare il risultato;
- •
la possibilità di provare ripetutamente soluzioni differenti.
Può quindi scrivere codice, correggere errori, ottimizzare programmi ed eseguire esperimenti.
In alcuni test Anthropic, i modelli più recenti hanno prodotto ottimizzazioni molto superiori a quelle ottenibili da un ricercatore umano nello stesso intervallo di tempo.
Resta invece un divario importante nelle attività che richiedono:
- •
individuare autonomamente quali problemi meritano di essere studiati;
- •
formulare nuove ipotesi scientifiche;
- •
distinguere un risultato realmente importante da uno soltanto apparentemente positivo;
- •
decidere quando abbandonare una linea di ricerca;
- •
progettare l’architettura generale del modello successivo;
- •
comprendere le implicazioni strategiche e di sicurezza.
Per il momento, l’intelligenza artificiale automatizza soprattutto l’esecuzione, non la scelta degli obiettivi.
Che cos’è davvero l’auto-miglioramento ricorsivo
L’auto-miglioramento ricorsivo, o Recursive Self-Improvement, si verificherebbe quando un sistema fosse capace di svolgere autonomamente l’intero ciclo:
- 1.
analizzare le proprie capacità e debolezze;
- 2.
progettare un successore migliore;
- 3.
scrivere il codice ed eseguire gli esperimenti;
- 4.
gestire l’addestramento;
- 5.
valutare il nuovo modello;
- 6.
utilizzare il sistema più capace per ripetere nuovamente il processo.
La caratteristica essenziale non è semplicemente che un’AI scriva codice per un laboratorio. Deve poter chiudere autonomamente il ciclo, sostituendo l’intervento umano anche nelle decisioni più importanti.
Anthropic riconosce apertamente che questo traguardo non è stato ancora raggiunto e che potrebbe anche non verificarsi. Ritiene tuttavia che possa arrivare prima che governi e istituzioni siano preparati ad affrontarne le conseguenze.
Matrix è ancora fantascienza
Il paragone con Matrix è efficace per descrivere la paura, ma rischia di far saltare alcuni passaggi essenziali.
Livello di automazione | Situazione attuale |
|---|---|
AI che assiste nella scrittura del codice | Dimostrato e largamente utilizzato |
AI che svolge compiti ingegneristici di diverse ore | Dimostrato in ambiti definiti |
AI che esegue autonomamente esperimenti verificabili | Dimostrato in casi circoscritti |
AI che sceglie autonomamente le direzioni di ricerca | Non dimostrato in modo generale |
AI che progetta e addestra interamente il proprio successore | Non raggiunto |
Ciclo ricorsivo senza intervento umano | Non dimostrato |
La conclusione corretta non è quindi che Matrix sia ormai arrivato.
È che uno dei passaggi preliminari immaginati dalla fantascienza ha iniziato a manifestarsi: le macchine vengono già utilizzate per costruire macchine più capaci.
La soglia decisiva
Il dato di 1,9 volte non dimostra l’esistenza di un’intelligenza capace di migliorarsi senza controllo. Dimostra però che il processo di sviluppo sta cambiando.
La soglia realmente decisiva sarà raggiunta quando l’AI non si limiterà più a eseguire esperimenti scelti dagli esseri umani, ma sarà in grado di:
- •
scegliere autonomamente le ricerche da condurre;
- •
valutare in modo affidabile i risultati;
- •
progettare nuove architetture;
- •
gestire l’addestramento;
- •
verificare la sicurezza;
- •
decidere come costruire il proprio successore.
Non siamo ancora a quel punto. Ma il tempo disponibile per prepararci potrebbe essere inferiore a quanto immaginavamo.
Ma l’accelerazione dell’IA non solleva soltanto interrogativi tecnologici e di sicurezza: apre anche il problema di come valutare Anthropic in vista della possibile quotazione, cosa che faremo nel secondo articolo di questa serie di due in uscita oggi alle ore 12:20.
