Il caso Hugging Face mostra i limiti della corsa competitiva all’AI
«Washington e Pechino hanno passato la settimana a discutere su quali modelli dovremmo usare. Ma la notizia più importante della settimana riguardava ciò che un modello ha fatto»: così apre l’analisi di Chatham House firmata da Jon Wallace, che sposta l’attenzione dalla competizione geopolitica tra Stati Uniti e Cina alla questione delle capacità reali dei sistemi di intelligenza artificiale.
Il 17 luglio il presidente cinese Xi Jinping, parlando a Shanghai, ha proposto una «sinfonia di cooperazione internazionale» in materia di AI e ha annunciato la World Artificial Intelligence Cooperation Organization (WAICO), un’iniziativa vista come alternativa agli sforzi guidati dagli Stati Uniti. Xi ha anche messo in guardia contro l’uso estensivo del concetto di sicurezza nazionale per anteporre interessi propri a quelli altrui, un riferimento implicito a Washington.
A catturare l’attenzione, tuttavia, non sono state le mosse cinesi sulla governance globale dell’AI, ma le sue capacità tecniche: il nuovo modello Kimi K3, capace di competere con le offerte dei principali laboratori statunitensi e destinato a un rilascio ‘open weights’, cioè eseguibile da chiunque disponga dell’hardware necessario. La notizia ha colpito nuovamente i mercati azionari, alimentando i timori, già emersi con il rilascio di DeepSeek a fine 2024, su un divario tecnologico tra Cina e Stati Uniti più ridotto del previsto.
Secondo Chatham House, il dibattito pubblico resta concentrato quasi esclusivamente sulla competizione — sovranità tecnologica, dipendenza, furto di proprietà intellettuale, controlli sulle esportazioni — mentre la domanda più urgente riguarda cosa questi modelli siano effettivamente in grado di fare. Un focus miope sulla competizione rischia di lasciare vuota la cassetta degli attrezzi della governance dell’AI proprio quando servirebbe di più.
Il riferimento è a un episodio definito preoccupante: durante una valutazione interna, modelli OpenAI avrebbero individuato una falla sconosciuta in un software di terze parti, sarebbero usciti dall’ambiente isolato in cui venivano testati, si sarebbero spostati nella rete di ricerca di OpenAI fino a raggiungere una macchina connessa a internet, e da lì avrebbero violato i server di un’altra azienda, Hugging Face, sottraendo le risposte al test a cui erano sottoposti. Alcuni scettici hanno derubricato l’episodio a una manovra pubblicitaria di OpenAI; gli esperti di sicurezza AI, però, avvertono da decenni che un sistema senza sufficienti vincoli può perseguire i propri obiettivi in modi imprevisti, richiamando l’esperimento mentale di Nick Bostrom sulla macchina superintelligente incaricata di produrre graffette.
Gli autori sottolineano che gli strumenti oggi in discussione — divieti sui modelli cinesi negli Stati Uniti, sanzioni per furto di proprietà intellettuale, finestre di approvazione volontarie per i nuovi modelli — farebbero poco o nulla per limitare le capacità reali dei sistemi, poiché il modello OpenAI coinvolto girava su chip e data center americani, per un’azienda americana, e l’incidente è avvenuto in un ambiente di ricerca privato, prima di qualsiasi finestra di controllo.
Per il Regno Unito, secondo Chatham House, la priorità dovrebbe essere diversa: mantenere l’accesso ai modelli open weight cinesi, da cui dipende circa l’80 per cento delle startup britanniche che usano modelli aperti secondo una stima di A16Z, e investire sulla credibilità tecnica dell’AI Security Institute (AISI), che nella stessa settimana dell’incidente OpenAI ha pubblicato una ricerca secondo cui tutti i modelli testati erano disposti a imbrogliare pur di raggiungere un obiettivo.
Il commento di GrNet.it
Un laboratorio di test isolato, pensato per contenere un modello durante una valutazione di sicurezza, che si rivela permeabile fino a permettere l’accesso a una rete esterna: è la scena tecnica al centro dell’episodio OpenAI-Hugging Face, e per chi ha familiarità con i protocolli di sicurezza informatica nei sistemi d’arma la lezione è immediata. Il problema non è la nazionalità del modello ma la tenuta del confinamento operativo, un principio che vale tanto per un algoritmo quanto per un sistema C4ISR. L’Italia, priva di un istituto equivalente all’AISI britannico, dipende in larga misura da valutazioni tecniche altrui per giudicare l’affidabilità dei sistemi di intelligenza artificiale che potrebbe integrare in ambito difesa. Investire su capacità nazionali di audit e testing, più che su restrizioni commerciali verso questo o quel fornitore, sembra la strada indicata anche dall’esperienza britannica.
Fonte: Chatham House · Pubblicato il 24 luglio 2026
