Superintelligenza artificiale: il caso per un divieto globale prima che sia troppo tardi
Può un sistema artificiale costituire una minaccia esistenziale paragonabile all’arsenale nucleare? È la domanda al centro di un intervento pubblicato dal Royal United Services Institute (RUSI) a firma di Lord Des Browne, già Segretario di Stato alla Difesa del Regno Unito, che chiede un divieto esplicito sullo sviluppo della superintelligenza artificiale prima che tale tecnologia diventi incontrollabile.
Browne traccia un parallelo diretto con l’era nucleare: così come i fisici del Progetto Manhattan si interrogarono sui rischi catastrofici della fissione prima del test Trinity del 1945, oggi i principali scienziati dell’intelligenza artificiale avvertono che non esiste alcun mezzo tecnico per controllare sistemi più intelligenti degli esseri umani. La differenza, secondo l’autore, è che nel caso nucleare i calcoli portarono a concludere che il rischio era trascurabile; nel caso della superintelligenza, il verdetto è opposto: il rischio non è stato quantificato come accettabile, semplicemente non è stato risolto.
La distinzione concettuale che Browne propone è netta: un’arma nucleare è uno strumento, non un agente. Non può migliorarsi autonomamente, replicarsi o resistere allo spegnimento. Una superintelligenza sarebbe capace di tutte e tre queste azioni, configurandosi essa stessa come soggetto ostile. Svilupparla significherebbe, nei termini dell’autore, cedere il controllo sull’arma più potente mai concepita all’arma stessa.
A sostenere questa posizione non sono voci marginali: il premio Nobel Geoffrey Hinton e Yoshua Bengio, indicato come il ricercatore informatico più citato al mondo, hanno ripetutamente segnalato il rischio di estinzione legato alla superintelligenza. Anche i vertici delle principali aziende del settore hanno riconosciuto tale rischio, pur tendendo — secondo Browne — a oscurare la questione per evitare interventi regolatori. L’anno scorso l’autore ha sottoscritto, insieme a Hinton, Bengio e oltre 800 altre personalità, un appello per vietare la superintelligenza fino al raggiungimento di un consenso scientifico sulla sua sicurezza e di un consenso pubblico diffuso.
Sul piano istituzionale, il testo segnala che il Regno Unito ha ospitato nel 2023 il primo vertice mondiale sulla sicurezza dell’IA e ha istituito l’AI Security Institute (AISI) prima di qualsiasi altro paese. Tuttavia, l’AISI opera su base volontaria, conducendo ricerche e valutando i modelli delle aziende senza poteri coercitivi: non sarebbe in grado di difendere il paese qualora un qualsiasi soggetto, interno o esterno al territorio britannico, sviluppasse un sistema superintelligente.
La proposta operativa è articolata in due fasi: vietare lo sviluppo della superintelligenza sul suolo britannico, quindi costruire una coalizione di stati disposti ad adottare un divieto globale. L’argomento geopolitico sottostante è che nessuno stato ha interesse a che un qualsiasi attore sviluppi una tecnologia incontrollabile, capace di erodere la sovranità di tutti i governi. In un contesto di instabilità internazionale, questo interesse condiviso potrebbe rappresentare una delle poche basi solide per una cooperazione multilaterale.
Il commento di GrNet.it
Un reparto di pianificazione operativa che si trovi a valutare una minaccia senza dottrina di risposta consolidata, senza catena di comando applicabile e senza precedenti storici diretti si trova in una condizione di vulnerabilità strutturale: è esattamente la situazione che Browne descrive per la superintelligenza. Per l’Italia, che partecipa attivamente ai tavoli NATO sull’intelligenza artificiale e ha interessi industriali nel settore, la questione non è solo etica ma riguarda la tenuta dei meccanismi decisionali in contesti di crisi. Vale la pena distinguere, però, tra ciò che l’analisi documenta — il consenso di ricercatori di primo piano sul rischio — e ciò che resta una proiezione: nessun sistema superintelligente esiste ancora, e la tempistica del suo sviluppo è oggetto di stime molto divergenti nella comunità scientifica. Questo non riduce la pertinenza del dibattito regolatorio, ma suggerisce cautela nel calibrare le risposte politiche su scenari ancora ipotetici. La proposta di un divieto internazionale richiama la logica dei trattati di non proliferazione, ma quell’analogia regge solo se si risolve il problema della verifica: come si accerta che uno stato o un attore privato non stia sviluppando in segreto ciò che ha formalmente vietato?
Fonte: RUSI · Pubblicato il 14 giugno 2026
