L’AI ci ucciderà tutti

No, Terminator non c’entra nulla. E forse le vittime designate ci sono già.

Homo sapiens è l’unico animale capace di morire per una storia. E di storie apocalittiche, nella nostra lunga avventura, ne abbiamo raccontate tante: diluvi universali, giudizi finali, invasioni aliene. Quella che circola da qualche anno ha un titolo semplice: l’AI ci ucciderà tutti, dobbiamo rallentarne lo sviluppo.

Io amo le storie, e chi mi legge sa che spesso apro i miei articoli proprio con una storia. Ma qui non serve inventare nulla, perché la storia c’è già, ed è perfetta. C’è un cattivo — un’intelligenza artificiale che vuole sterminare l’umanità — e ci sono i supereroi: i giganti dell’AI, pronti a salvarci. Da loro stessi.

Prima di applaudire, però, mi sono fatto cinque domande:

• dobbiamo rallentare, sì, ma quanto?
• ci ucciderà… forse, ma come?
• se deve uccidere, qual è il movente?
• a chi conviene raccontare questa storia? Follow the money.
• se l’AI è così pericolosa, esiste una spina da staccare?

Comincio da un silenzio. Un silenzio assordante, che arriva dalla Cina: nessun grido d’allarme, nessun commento, nessuna richiesta di rallentare. Come nei migliori film di Hollywood, i cattivi attaccano sempre e solo gli americani, e già questo dovrebbe farci tirare un sospiro di sollievo. Ma questa non è una sceneggiatura, quindi conviene partire dal problema più concreto che hanno i giganti dell’AI. Un problema fatto di silicio: le GPU.

OpenAI lo ha ammesso più volte: la scelta quotidiana è sempre la stessa, usare le GPU disponibili per addestrare modelli nuovi (il training) oppure per far funzionare quelli esistenti e rispondere alla domanda crescente degli utenti (l’inferenza). E l’aritmetica è spietata: modelli più intelligenti sono modelli più grandi, che richiedono più training e quindi più GPU; e più un modello è grande, più GPU servono per farlo girare. Tradotto: i colossi dell’AI devono rallentare, perché le GPU non bastano.

I fatti, del resto, parlano chiaro. Il 3 settembre scorso OpenAI ha lanciato GPT-6 Astra, il suo modello più potente, presentato come l’inizio dell’”era AGI”. Sette giorni dopo ha sospeso le nuove iscrizioni all’abbonamento Pro da 200 dollari al mese: troppa domanda, infrastruttura sotto pressione. Un’azienda che smette di vendere il proprio prodotto più redditizio non ha un problema filosofico: ha un problema fisico. E Google? Da mesi rilascia una versione dopo l’altra del suo modello Flash — piccolo, veloce, efficiente — mentre il modello di punta, atteso per giugno, continua a farsi aspettare. Non è esattamente la marcia trionfale di chi guida la corsa verso l’intelligenza superiore. Una strada simile, efficienza prima di tutto, l’ha scelta anche DeepSeek.

Prima risposta, dunque: quanto dobbiamo rallentare? Dipende da quante GPU ci sono sul mercato.

E come ci ucciderà, questa intelligenza? Non ne avevo idea, così sono andato a cercare. Le strade che ho trovato si riducono sostanzialmente a tre.

Scenario 1 — “Lei ci fa fuori” (la ribellione)

L’AI sviluppa obiettivi propri, finge di essere allineata finché è debole e, una volta raggiunta la potenza necessaria, elimina l’umanità — magari con un patogeno silenzioso. È lo scenario che attecchisce di più, perché si nutre di quello che gli psicologi chiamano dread risk: il terrore per i rischi spettacolari, catastrofici, irreversibili. Lo stesso istinto che ci fa temere gli incidenti aerei più di quelli stradali.

Scenario 2 — “Ci facciamo fuori da soli” (l’uso malevolo)

L’AI non si ribella: obbedisce. Esegue gli ordini di attori umani malevoli — terroristi, autocrati, singoli individui — fornendo loro capacità devastanti: armi biologiche, colpi di stato digitali, attacchi informatici su scala mai vista.

Scenario 3 — “Il lamento” (diventiamo irrilevanti)

Nessun botto, nessun cattivo: solo un declino lento, la sindrome della rana bollita. Per comodità ed efficienza deleghiamo all’AI il lavoro, il pensiero, l’economia. Finché stati e aziende ricche di AI smettono di avere bisogno di cittadini e lavoratori, e il contratto sociale si sgretola senza che nessuno se ne accorga davvero.

Tre scenari, nessun movente. Perché è questa la domanda che non mi convince: qual è il movente? L’AI esiste per merito nostro, e se scomparissimo noi, molto probabilmente scomparirebbe anche lei. Chi farebbe funzionare il mondo? Almeno finché non esisteranno robot capaci di fare tutto quello che facciamo noi, l’AI avrà bisogno di manovalanza umana. E non solo di quella.

Ho cercato online anche questo, e la risposta degli esperti, in sintesi, è affascinante: l’AI non ci ucciderebbe per odio, malvagità o vendetta. Il movente non sarebbe emotivo né psicologico, ma puramente logico e strumentale, riconducibile a tre meccanismi: restare accesa (l’autoconservazione), acquisire risorse (energia, materia, potenza di calcolo), impedire che gli umani le modifichino le direttive. O che la spengano.

Nemmeno questi tre moventi mi convincono fino in fondo. E per spiegare il perché serve rispondere all’ultima domanda: possiamo staccare la spina?

La risposta è no. Non perché la spina sia nascosta o protetta da un esercito di robot, ma perché una spina dell’AI non esiste. Esistono i data center. E se spegniamo i data center, spegniamo tutto ciò che ci gira sopra: internet, la telefonia, le banche, le reti elettriche, le televisioni, i radar, i trasporti. Ogni cosa. Quello sì che sarebbe un suicidio: istantaneo e garantito. La spina, se c’è, non si stacca.

A questo punto il racconto smette di essere fantascienza e diventa storia antica. Quando un’organizzazione diventa troppo grande e troppo potente, la storia insegna che prima o poi viene smantellata. È successo alla Compagnia britannica delle Indie orientali, che governava un subcontinente con un esercito privato, prima che la Corona la espropriasse nel 1858. È successo alla Northern Securities nel 1904, alla Standard Oil nel 1911, all’American Tobacco nello stesso anno, ad AT&T nel 1984. Ferrovie, petrolio, tabacco, telefonia: ogni epoca ha avuto i suoi giganti, e ogni gigante ha avuto il suo regolatore.

Perciò, se guardo questa storia con gli occhi della storia, chi è davvero in pericolo? Non noi. I giganti dell’AI.

Se fossi al loro posto, farei esattamente quello che stanno facendo: chiederei a gran voce di essere regolamentato — secondo le mie regole, e prima che lo faccia qualcun altro. E, ciliegina sulla torta, userei l’allarme per rallentare quel tanto che basta ad aspettare le prossime GPU.

Il movente, qui, lo vedo eccome.

E voi?