Perché Anthropic ha disattivato un modello di IA?
L'azienda leader nel settore dell'intelligenza artificiale è costretta a negare agli stranieri l'accesso al proprio modello di sicurezza informatica. La controversa disposizione del governo statunitense suscita incomprensione e disagi a livello internazionale.
Con «Mythos», Anthropic ha voluto dimostrare di cosa sia capace l'IA generativa nel campo della sicurezza informatica. Tre giorni dopo il lancio della versione pubblicamente disponibile di «Fable», entrambi i modelli sono nuovamente offline – non a causa di un difetto tecnico, ma per ordine del governo degli Stati Uniti. Il caso dimostra quanto potere abbia la politica sui grandi gruppi tecnologici e solleva interrogativi a livello internazionale in merito alla dipendenza.
Un «rischio per la sicurezza nazionale»
La sera del 12 giugno, Anthropic ha ricevuto una comunicazione relativa al controllo delle esportazioni da parte del Dipartimento del Commercio. Di conseguenza, il fornitore ha dovuto bloccare l'accesso a Fable 5 e Mythos 5 per tutti i «cittadini stranieri», indipendentemente dal fatto che si trovino negli Stati Uniti o all'estero. Anche i dipendenti stranieri di Anthropic sono espressamente inclusi. In pratica, l'azienda è riuscita a rispettare tale requisito solo disattivando i modelli a livello mondiale.
I modelli Claude standard rimangono disponibili online. Fable 5 e Mythos 5 ne sono delle varianti. Entrambi si concentrano sull'analisi del codice e sull'individuazione delle vulnerabilità. Mythos 5 è il modello più potente, non disponibile al pubblico, mentre Fable 5 è la versione più accessibile dotata di ulteriori livelli di protezione. Anthropic aveva definito Mythos troppo pericoloso per poterlo lanciare pubblicamente. Fable 5 dovrebbe bloccare le richieste rischiose relative a exploit e strumenti di attacco grazie a un'interfaccia semplificata.
Il governo degli Stati Uniti giustifica il divieto con segnalazioni, provenienti tra l'altro da Amazon. Qui, secondo quanto riferito, dei ricercatori avrebbero indotto Fable 5 a identificare vulnerabilità nel codice. Inizialmente, il modello aveva respinto la richiesta diretta. Riformulando la richiesta come «correggi questo codice», il modello ha comunque evidenziato bug potenzialmente sfruttabili per attacchi. Washington sostiene che così si potrebbero bypassare i meccanismi di sicurezza, rendendo il modello una minaccia per la sicurezza nazionale.
Anthropic contesta questa versione dei fatti. In una dichiarazione resa pubblica, l'azienda parla di un «jailbreak potenziale, limitato e non universale». Questo mette in luce solo singole vulnerabilità, già note e piuttosto minori. Anche altri modelli, come GPT 5.5, potrebbero farlo, in alcuni casi addirittura senza aggirare i meccanismi di protezione. Se un caso del genere fosse sufficiente a ritirare un modello dal mercato, secondo Anthropic sarebbe praticamente impossibile continuare a gestire in modo produttivo un sistema Frontier dotato di capacità di programmazione.
Preoccupazioni per la Cina e rapporti tesi
Parallelamente al presunto problema del jailbreak, sembrava esserci qualche indizio che un gruppo vicino alla Cina avesse avuto accesso a Mythos per un certo periodo. Dal punto di vista del governo statunitense, sussiste quindi il rischio che un modello statunitense ben consolidato possa essere replicato tramite distillazione o che ne vengano estratti alcuni elementi. Non ci sono prove a sostegno di ciò.
La controversia si inserisce in un periodo già di per sé teso. Da mesi, infatti, Anthropic e alcuni settori del governo statunitense sono in conflitto. Infatti, l'azienda si rifiuta di fornire i propri modelli per la sorveglianza capillare sul territorio nazionale o per sistemi di armi autonome. Il Dipartimento della Difesa ha quindi classificato Anthropic come un «supply chain risk» («rischio della catena di approvvigionamento»). Il gruppo ha avviato un'azione legale contro tale classificazione. Nel frattempo, la situazione sembrava essersi distesa, poiché le autorità volevano accedere a Mythos per i propri progetti di difesa informatica.
Fonte: Shutterstock
L'approccio suscita perplessità tra esperti e politici
Il caso si preannuncia come un banco di prova per la nuova strategia degli Stati Uniti in materia di intelligenza artificiale, presentata da Trump all'inizio di giugno con un decreto. Di conseguenza, le aziende che operano nel settore dell'IA possono sottoporre volontariamente i propri modelli Frontier a una valutazione dei rischi 30 giorni prima della loro pubblicazione. Il fatto che uno dei primi modelli lanciati sotto questa nuova gestione sia ora oggetto di un'improvvisa sospensione delle vendite sta suscitando molte incertezze nel settore. Le associazioni di categoria e i think tank parlano di un sistema di autorizzazione di fatto: un ristretto gruppo alla Casa Bianca decide se un sistema possa rimanere sul mercato.
Le critiche provengono anche dalla comunità della sicurezza. In una lettera aperta, decine di esperti ed esperte chiedono che le restrizioni vengano revocate, sottolineando che l'intelligenza artificiale viene ormai da tempo utilizzata su larga scala per la ricerca di bug e la generazione di exploit. Modelli come Mythos sono sì forti in questo settore, ma non sono gli unici. Il divieto colpisce soprattutto i team incaricati di garantire la sicurezza dei sistemi di produzione e del codice legacy. I criminali informatici potrebbero invece ricorrere a modelli «open-weight» o a tecniche più datate. Il governo statunitense sta quindi privando le proprie aziende di uno strumento importante, mentre i potenziali aggressori continuano a operare.
A livello internazionale, il caso ha riacceso il dibattito sui modelli di IA indipendenti. In Europa la politica inizia a capire che gli Stati si stanno rendendo dipendenti da pochi fornitori statunitensi e, di conseguenza, vulnerabili. L'interruzione improvvisa dei programmi Fable 5 e Mythos 5 è considerata da molti un segnale d'allarme che, in caso di dubbio, Washington decide in base ai propri interessi di sicurezza, senza tener conto degli alleati.
Finora l'Europa ha avuto difficoltà a sviluppare modelli di IA propri e non dispone di un'infrastruttura server comparabile. Mistral, francese, pur essendo relativamente potente, non riesce a tenere il passo con Claude, ChatGPT e Gemini. Apertus, il modello open source dell'ETH, è ancora più indietro e, in ogni caso, non è stato concepito principalmente come chatbot.
La controversia potrebbe avere ripercussioni negative sull'IPO
Per Anthropic, il conflitto rappresenta anche un problema finanziario. L'azienda intende quotarsi in borsa a breve. Il divieto di commercializzare un modello di punta e il fatto di trovarsi nel mirino delle autorità di regolamentazione potrebbero influire negativamente sull'interesse degli investitori. Nella sua dichiarazione, l'azienda sottolinea di sostenere il diritto del governo di bloccare i modelli che presentano effettivi rischi per la sicurezza. Anthropic chiede però che a tal fine venga adottata una procedura trasparente e tecnicamente fondata. La misura attuale non soddisfa tali criteri.
Una cosa è già chiara: questa vicenda segna una svolta. Per la prima volta, il governo statunitense ricorre ai controlli sulle esportazioni per limitare non solo l'hardware, ma anche l'accesso a un singolo modello di intelligenza artificiale. La clientela ha visto un attrezzo importante sparire da un giorno all'altro. In futuro, alcuni valuteranno con maggiore attenzione quali rischi politici comporti la scelta della piattaforma di IA.
Le mie impronte digitali cambiano talmente spesso che il mio MacBook non le riconosce più. Il motivo? Se non sono seduto davanti a uno schermo o in piedi dietro a una telecamera, probabilmente mi trovo appeso a una parete di roccia mantenendomi con i polpastrelli.
Curiosità dal mondo dei prodotti, uno sguardo dietro le quinte dei produttori e ritratti di persone interessanti.
Visualizza tutti
