Ma davvero l’umanità finirà grazie all’IA?

di Marcello Veneziani - 26/09/2026

Fonte: Marcello Veneziani

Se ho capito bene, l’umanità finirà nel giro di tre anni e tre mesi. Cioè entro la fine del 2029. Salvo ritenere che il decennio in corso si concluda l’anno dopo, il 2030. Ma converrete che la differenza, rispetto alla catastrofe annunziata, è davvero una virgola, un minimo dettaglio. Chi è la fonte di questa previsione o predizione? Non è un invasato mago in cerca di pubblicità o un influencer che vuole massimizzare il numero dei suoi followers ma uno scienziato, un ricercatore britannico, Jacob Coxon, a proposito dell’Intelligenza Artificiale, su cui lavora da anni. Entro questo decennio se non fermeremo l’IA ci sarà la fine dell’umanità. Certo, anche tra i ricercatori ci sono degli stravaganti, degli esagerati, dei maniaco-depressi. Ma la terribile previsione del ricercatore di Anthropic non è un caso isolato, è solo la punta più avanzata di una convinzione catastrofica che coinvolge molti operatori e manager impegnati nei progetti sull’IA. Non teologi, non esorcisti, non filosofi, non poeti e profeti, ma operatori ed esperti di quel mondo. Fece scalpore un documento firmato da 350 scienziati, manager ed esperti dell’IA, guidati da Sam Altman, fondatore e Ceo di Open AI sulla necessità di frenare, se non di fermare, l’IA. Uguale denuncia ha fatto di recente il Ceo di Anthropic, Dario Amodei. Perfino l’ONU si è mobilitata su questa denuncia. L’incredulità, unita a un filo d’ironia ci aiuta a vivere e a non cadere nel terrore di queste previsioni. Però non si può nemmeno far finta di niente, qualcosa al fondo della denuncia ci dev’essere e qualcosa bisogna fare. Oppure non ci resta che sposare, sulla scia di Trump o di Xi Jinping, l’ottimismo e ritenere che i benefici saranno superiori ai malefici dell’IA. O nutrire il sospetto che dietro queste denunce ci sia il timore di un collasso finanziario delle aziende tech per essersi troppo esposte nella scommessa dell’IA e ora cercano protezioni.
Proviamo allora a ragionarci su, non da scienziati e operatori dell’IA, ma in base al contesto e alle reali condizioni in cui ci troviamo. Da dove viene il pericolo, innanzitutto? Viene dalla velocità con cui si propagano gli effetti e i balzi in avanti della tecnologia, a cui la nostra mente, i nostri mezzi e le nostre strutture pubbliche non stanno al passo. A essere più precisi il pericolo viene dal divario, dal gap, tra la rapidità espansiva della corsa tecnologica e la nostra andatura umana, sociale, mentale, più riflessiva, non priva di pause e indugi. I risultati corrono più veloci della capacità di capire e metabolizzare le conseguenze, di suggerire limiti e rimedi, criteri di regolamentazione. 
In secondo luogo il pericolo viene dalla mobilità del punto in cui avvengono questi cambiamenti: non è un luogo ben preciso da monitorare e sorvegliare ma ci sono troppi laboratori in giro per il mondo; se riesci a controllarne uno te ne sfuggono altri, e non tutti sono alla luce del sole. Se metti sotto controllo un progetto rischioso negli States o in Europa, non lo hai fermato in Cina, in Russia o in Corea. E se non lo fai tu, lo fanno gli altri, si avvantaggiano del tuo stop. Nessuno vuol fare il primo passo nel disarmo dell’IA, per usare un’espressione dell’enciclica di Leone XIV, Magnifica humanitas, sull’Intelligenza artificiale. E in questa gara, per ragioni di unità di comando, brevità della filiera, rapidità delle decisioni e maggior cinismo, sono avvantaggiati i regimi autocratici, totalitari, rispetto alle democrazie dei diritti e ai regimi “liberali”. Ma la stessa cosa vale in tema di pubblico e privato: gli “scrupoli” del pubblico, che deve dar conto a cittadini, popoli e rappresentanti, non sono condivisi dal privato, che deve dar conto dei profitti e delle performance e non ha preoccupazioni etiche, sociali, politiche. Anzi, quando propongono che anche per l’IA vi siano trattati di non proliferazione, come quelli sul nucleare, si dimentica quella differenza essenziale: la bomba atomica riguarda gli stati, l’IA riguarda anche i privati e coinvolge nell’uso quotidiano miliardi di uomini. Se il potenziale distruttivo dell’energia nucleare è nelle mani dello stato, a differenza del consumo energetico che invece riguarda tutti, il potenziale distruttivo dell’IA passa anche dall’uso privato. E questo la rende più difficile da controllare. 
Non c’è trasparenza globale sulla ricerca nell’IA, non c’è un arbitro o un garante super partes e non c’è un potere sovraordinato e universale in grado di fermare o modificare i percorsi e gli abusi dell’IA. E non c’è il comune riconoscimento di limiti e norme; differiscono i criteri di giudizio, le culture, le sensibilità, le finalità. Non ci sono le condizioni preliminari per un accordo di base, non c’è concordanza di vedute circa i vantaggi e i danni dell’IA, i pericoli e le opportunità. Non resta che negoziare tra i governi accordi multilaterali, col sottinteso non solo della loro reale osservanza e del reciproco controllo ma anche della possibilità effettiva dei governi di poter esercitare il controllo dell’IA anche nel settore privato nei rispettivi Paesi. E limitare l’uso dell’IA negli utenti.
Insomma, ci aspettiamo dall’IA grandi risultati sul piano della ricerca, della salute e delle condizioni generali di vita e temiamo gravi pericoli sul piano della sicurezza, delle armi e del lavoro. Ma quando si arriva a denunciare un’imminente distruzione dell’umanità, c’è il rischio che si passi dall’inerzia al panico senza passare dall’operosità concreta.