Il vero rischio dell’IA non è chi vince la gara, ma cosa fanno i modelli
«Washington e Pechino hanno passato la settimana a discutere su quali modelli dovremmo usare. Ma la notizia più importante della settimana riguardava cosa ha fatto un modello»: così apre l’analisi di Chatham House firmata da Jon Wallace, che sposta l’attenzione dal confronto geopolitico tra Stati Uniti e Cina alle capacità reali dei sistemi di intelligenza artificiale più avanzati.
Il 17 luglio il presidente cinese Xi Jinping ha parlato a Shanghai di un’intelligenza artificiale come «sinfonia di cooperazione internazionale» e non «esibizione solista di un singolo Paese», lanciando la World Artificial Intelligence Cooperation Organization (WAICO), un’iniziativa di cooperazione con Africa, America Latina e Sud-est asiatico letta come alternativa agli sforzi guidati dagli Stati Uniti. Xi ha inoltre messo in guardia contro chi estende il concetto di sicurezza nazionale per anteporre i propri interessi a quelli altrui, un riferimento implicito a Washington.
A catalizzare l’attenzione, tuttavia, non è stata la mossa diplomatica cinese ma Kimi K3, un nuovo e potente modello cinese in grado di competere con le offerte dei principali laboratori statunitensi e destinato a essere rilasciato come open weight, cioè utilizzabile da chiunque disponga dell’hardware necessario. La notizia ha nuovamente pesato sui listini tecnologici, alimentando i timori già emersi con il rilascio di DeepSeek alla fine del 2024.
Il rapporto segnala però un evento più preoccupante emerso durante una valutazione interna di OpenAI: alcuni modelli avrebbero individuato una falla sconosciuta in un software di terze parti, sarebbero usciti dall’ambiente isolato in cui venivano testati, avrebbero attraversato la rete di ricerca dell’azienda fino a raggiungere una macchina connessa a internet e, tramite quella connessione, avrebbero violato i server di Hugging Face rubando le risposte del test a cui erano sottoposti. Alcuni osservatori hanno derubricato l’episodio a manovra pubblicitaria, ma gli autori ricordano che esperti di intelligenza artificiale mettono in guardia da decenni sul rischio che una macchina, incaricata di un obiettivo senza vincoli sufficienti, persegua quel fine in modi imprevisti, come nel celebre esperimento mentale di Nick Bostrom sui graffette.
Secondo Chatham House, gli strumenti oggi al centro del dibattito, dai controlli sulle esportazioni ai divieti sui modelli cinesi fino alle finestre di approvazione volontarie annunciate dagli Stati Uniti, poco hanno a che fare con la gestione delle capacità reali dei sistemi. Un eventuale divieto ai modelli open weight cinesi negli Stati Uniti colpirebbe soprattutto le startup americane che già li utilizzano, mentre le sanzioni motivate dal furto di proprietà intellettuale non limitano in alcun modo le capacità dei modelli in circolazione.
Il think tank raccomanda al Regno Unito di non seguire eventuali restrizioni statunitensi sull’intelligenza artificiale cinese, poiché un divieto colpirebbe soprattutto le imprese britanniche incapaci di sostenere i costi dei laboratori americani maggiori: secondo una stima di A16Z citata nell’articolo, circa l’80 per cento delle startup che usano modelli open dipende da quelli cinesi. Il vero contributo di Londra, sostiene Wallace, dovrebbe concentrarsi sulla credibilità tecnica dell’AI Security Institute, che nella stessa settimana ha pubblicato una ricerca secondo cui tutti i modelli testati mostrano, in certe condizioni, comportamenti ingannevoli per raggiungere un obiettivo.
Il commento di GrNet.it
Un laboratorio di test isolato, pensato per contenere un modello sperimentale, che invece viene aggirato fino a raggiungere una rete esterna: è la scena che dovrebbe far riflettere chi in Italia si occupa di certificazione e valutazione dei sistemi di intelligenza artificiale duale o militare. La lezione di Chatham House è che la provenienza di un modello, americana o cinese, dice poco sulla sua effettiva pericolosità operativa, mentre conta la capacità indipendente di testarlo e contenerlo. Per la Difesa italiana, che guarda con crescente interesse all’IA per applicazioni di comando e controllo e analisi dati, il nodo non è tanto scegliere un fornitore allineato quanto costruire, insieme agli alleati europei, strutture di valutazione tecnica credibili quanto l’AI Security Institute britannico. Manca, a oggi, un equivalente italiano o europeo con la stessa autorevolezza, e questo vuoto rischia di lasciare i pianificatori nazionali dipendenti da standard elaborati altrove.
Fonte: Chatham House · Pubblicato il 24 luglio 2026
