addestrare un modello grande fuori da un centro dati ha smesso di essere un esperimento
Il 6 novembre 2025 Bitcoin ha chiuso a 101.346 dollari, −2,4% rispetto al giorno precedente, mentre le notizie della giornata riguardavano l'addestramento distribuito dei modelli di intelligenza artificiale.
cosa è stato finito davvero
a novembre 2024 un gruppo ha chiuso un modello da 10 miliardi di parametri addestrato su 112 schede sparse su tre continenti, tenendo le macchine occupate per il 96 per cento del tempo nelle condizioni migliori. a maggio 2025 lo stesso gruppo ne ha chiuso uno da 32 miliardi con oltre 100 nodi diversi fra loro, oltre 400 ore di addestramento, e il processo intero pubblico e ripetibile da chiunque.
i punteggi di quel primo modello nei test standard non erano da primato — trentasette e mezzo su cento in uno, settantadue nell'altro — e chi lo ha fatto non ha mai sostenuto il contrario. il risultato non era il punteggio: era che dei volontari sparsi per il mondo, con macchine che entravano e uscivano dall'addestramento mentre girava, avessero portato a termine la cosa usando 400 volte meno banda del metodo normale.
nel frattempo un progetto che gira dentro una rete a sottoreti ha in produzione oltre 200 schede, ha finito un modello da 1,2 miliardi di parametri e punta ai 70. sono tutte cifre dichiarate da chi le ha fatte: verificabili nei lavori pubblicati, non rifatte da noi.
il muro era la banda, e come l'hanno abbassato
il primo colpo è stato smettere di sincronizzarsi a ogni passo e farlo ogni 500: le macchine lavorano da sole per un pezzo e si riallineano dopo, e già così le comunicazioni scendono di cinquecento volte. il secondo è stato comprimere quello che si manda — una trasformata più una riduzione a un bit solo — con riduzioni dichiarate fra mille e 10.000 volte rispetto ai metodi standard.
il terzo è ancora più netto: sincronizzare solo lo 0,1 per cento dei parametri a ogni passo, e il modello converge lo stesso. a dicembre 2024 uno di questi metodi ha addestrato un modello da quindici miliardi di parametri su undicimila passi con macchine fornite da quattro operatori diversi. il muro non è caduto per una idea sola: è caduto per tre trucchi impilati.
I passaggi che riducono la banda necessaria: partendo da tutte le correzioni inviate a ogni passo, si passa alla sincronizzazione ogni 500 passi, poi alla compressione degli aggiornamenti fino a un bit, infine all'invio del solo 0,1 per cento dei parametri.
l'altra strada: spezzare il modello, non i dati
a settembre 2024 un gruppo ha completato per la prima volta un addestramento di questo tipo fra partecipanti diversi e macchine disuguali: sette miliardi e mezzo di parametri, tre settimane, trentasei miliardi di parole. un anno dopo hanno mostrato un modello da otto miliardi addestrato con i suoi blocchi in quattro luoghi diversi collegati da internet normale, con risultati alla pari di un impianto centralizzato — cosa che prima di quel lavoro si dava per impossibile.
il pezzo che rende la cosa praticabile è la gestione dei guasti. un altro gruppo ha costruito un sistema che guarda quali strade di calcolo sono libere e salta i nodi lenti o caduti: tiene il 93 per cento della resa anche quando ne cade il 50 per cento. in un centro dati un nodo che sparisce è un guasto; qui è una condizione normale di funzionamento.
perché l'apprendimento per rinforzo cade bene qui
da lì è nato un impianto che separa tre cose che prima stavano insieme: l'addestramento, l'uso del modello per generare risposte, e la consegna dei pesi aggiornati. ogni macchina fa il suo giro per conto proprio e consegna quando ha finito, con un controllo leggero che verifica che abbia davvero imparato da quello che ha visto invece di aver copiato o inventato.
un altro gruppo ha messo in rete di prova un meccanismo a tre tempi: ogni nodo risponde per conto suo, poi i nodi si criticano a vicenda, poi si allineano su una risposta comune, e la ricompensa dipende da quanto uno era vicino a quell'accordo. è una struttura che assomiglia più a una redazione che a un capannone di calcolo, e funziona per la stessa ragione: nessuno deve fidarsi di nessuno.
come si controlla che uno stia lavorando davvero
ci sono quattro risposte diverse in giro, e vale la pena tenerle distinte perché falliscono in modi diversi. la prima è economica: chi lavora deposita una garanzia, chi bara la perde, e chiunque può denunciare. la seconda guarda il comportamento: controlla che le correzioni consegnate siano coerenti con i dati che quella macchina ha visto. la terza fa votare dei validatori sulla qualità di quello che arriva, e punisce anche i validatori che gonfiano i voti.
la quarta, non ancora in funzione, prova a rendere il lavoro stesso la prova: ogni risposta generata porta con sé un timbro che dimostra quale modello l'ha prodotta. nessuna delle quattro è chiusa. una di queste reti ha già subito un attacco vero durante le feste del 2024, e la difesa è la solita rincorsa fra chi attacca e chi protegge.
chi controlla chiI quattro approcci alla verifica: economico, basato su una garanzia depositata che si perde barando; comportamentale, che controlla la coerenza fra dati visti e correzioni consegnate; a voto, dove dei validatori giudicano la qualità e chi gonfia i voti viene penalizzato; a timbro, dove ogni risposta generata porta la prova crittografica di quale modello l'ha prodotta.
i soldi che ci sono dentro
di token vivi, per ora, ce n'è essenzialmente uno: quello della rete a sottoreti, che a dicembre 2024 ha toccato i 5 miliardi di capitalizzazione e che da febbraio 2025 ha token separati per ciascuna delle sue 118 sottoreti. tutti gli altri sono attesi, e chi li aspetta lo dichiara apertamente: sono raccolte di capitale con un token promesso in seguito.
Capitale raccolto dai gruppi citati: nous research, 65 mln $ (valutazione dichiarata 1 mld); gensyn, 43 mln $ (rete di prova, nessun token); prime intellect, 20,5 mln $ (nessun token annunciato); pluralis, 7,6 mln $ (quote del modello, non paga fissa).
la stima che gira attorno a tutto questo è che il mercato dell'intelligenza artificiale valga 15 mila miliardi di dollari entro il 2030. è una stima di parte, fatta da chi in questi progetti ha messo dei soldi, e vale come tutte le stime a cinque anni: dice cosa sperano quelli che l'hanno scritta, non cosa succederà.
cosa non torna, e cosa guardare
il quarto è il più scomodo e riguarda i soldi veri: se i pesi del modello finito sono pubblici, chi paga per averlo addestrato? uno dei gruppi prova a risolverla dando ai partecipanti una quota del modello invece di un compenso, ma quella quota vale qualcosa solo se il modello genera ricavi, e non è affatto garantito che li generi.
da fuori si guardano quattro cose, e sono tutte contabili: quante schede partecipano davvero — duecento oggi nel progetto più avanti, la soglia utile è cinquanta volte tanto; quanti addestramenti arrivano in fondo senza essere abortiti; quanto costa un'unità di calcolo qui rispetto ai fornitori tradizionali; e quanto distano questi modelli dai migliori centralizzati. bitcoin, in mezzo a tutto questo, ha chiuso a 101.346 dollari, -2,4 per cento: le giornate in cui si sposta un pezzo di industria non sono le giornate in cui si muove il prezzo.
Detta male: in un centro dati un nodo che sparisce è un guasto da riparare; in una rete di volontari è la condizione normale, e tutta la ricerca è servita a costruirci sopra invece che a impedirlo.