Intelligenza artificiale fuori controllo: allarme vero o mossa competitiva?

Secondo un’analisi di Chatham House firmata da Jon Wallace, gli allarmi lanciati nel fine settimana da dipendenti ed ex dipendenti dei laboratori statunitensi di intelligenza artificiale, insieme alla proposta di Dario Amodei, amministratore delegato di Anthropic, di rallentare lo sviluppo del settore, meritano attenzione ma non vanno accolti acriticamente, né trasformati in una copertura per consolidare la posizione dei laboratori americani o inasprire la rivalità con Pechino.

Il percorso verso lo scenario catastrofico descritto da Amodei e da altri passa per il cosiddetto recursive self-improvement (RSI), una tecnica di addestramento ancora agli esordi in cui sistemi di intelligenza artificiale addestrano altri sistemi. Il rischio paventato è che l’RSI acceleri lo sviluppo fino a un punto di svolta tecnico in cui le macchine diventino capaci di migliorarsi senza più supervisione umana. Non è chiaro se questo meccanismo da solo basti a produrre modelli capaci di sottrarsi al controllo umano, ma il ritmo dei progressi degli ultimi anni rende la possibilità tutt’altro che peregrina.

Non tutte le affermazioni circolate nel fine settimana reggono al vaglio degli esperti: Ciaran Martin, fondatore del National Cyber Security Centre britannico, ha definito l’ipotesi di un modello capace di mandare in tilt l’intera Internet entro un anno «un esperimento mentale travestito da avvertimento basato su prove». Nonostante questo, il messaggio di un rischio esistenziale imminente ha dominato il dibattito pubblico quasi senza contraddittorio.

L’articolo insiste sui rischi già in atto: nei prossimi anni tecnologie di apprendimento automatico sempre più capaci trasformeranno economie, società, governi, campi di battaglia e aule scolastiche. Un rapporto di Anthropic dello scorso settembre documenta già l’uso improprio dei propri prodotti per spionaggio, attacchi informatici, operazioni di disinformazione e sviluppo di armamenti.

Sul fronte della trasparenza, l’analisi valuta positivamente la proposta di Amodei di introdurre una terza parte indipendente, con accesso simile a quello di un dipendente, incaricata di verificare le misure di sicurezza adottate dai laboratori. Perché sia credibile, tale organismo dovrebbe però provenire da fuori la Silicon Valley: vengono citati come candidati plausibili l’AI Safety Institute britannico, modelli nazionali ispirati alla Food and Drug Administration o modelli internazionali sul modello dell’International Energy Agency.

La proposta di Amodei di far coordinare i laboratori statunitensi su standard comuni ha suscitato la reazione dura dell’ex responsabile per l’intelligenza artificiale della Casa Bianca, David Sacks, che ha accusato Anthropic di voler costituire un cartello sotto mentite spoglie regolatorie. Il timore, scrive Wallace, è che le pressioni commerciali spingano i laboratori a rafforzare la propria posizione dominante a scapito della concorrenza, che resta invece essenziale per la sicurezza a breve termine.

Sul piano internazionale, l’analisi giudica indispensabile un’intesa tra Stati Uniti e Cina, magari sulla base delle linee rosse verificabili proposte dall’esperto Stuart Russell. Ma la retorica dominante, centrata sul mantenimento del vantaggio americano, complica questo percorso: Trump ha definito la corsa all’intelligenza artificiale un gioco a somma zero, mentre Xi Jinping ha parlato pubblicamente della necessità di mantenere il controllo umano sulla tecnologia, e l’agenzia di intelligence cinese ha diffuso questa settimana il suo primo avvertimento sui rischi per la sicurezza nazionale posti dall’IA. Il tema sarà comunque discusso nell’incontro tra Trump e Xi previsto a Washington entro fine mese.

Il commento di GrNet.it

Quanto pesa, in questo dibattito, la componente militare che nessuno dei protagonisti nomina esplicitamente? L’analisi si concentra su cybersicurezza, disinformazione e governance civile, ma tace sull’integrazione già in corso di questi stessi modelli nei sistemi di comando e controllo occidentali, dove l’RSI applicato a piattaforme d’arma solleverebbe questioni di responsabilità ben più immediate del rischio esistenziale evocato da Amodei. Per la Difesa italiana, che sta valutando l’adozione di strumenti di intelligenza artificiale nella pianificazione operativa e nella sorveglianza, la lezione è che la corsa alla capacità non può prescindere da protocolli di verifica indipendenti, sul modello dell’AI Safety Institute britannico citato nell’articolo. Manca, nel dibattito riportato, una voce europea autonoma tra i due poli Washington-Pechino, e questa assenza dovrebbe interrogare chi in Italia e nella NATO discute di sovranità tecnologica.

Fonte: Chatham House · Pubblicato il 14 settembre 2026