L’allarme di Amodei sull’AI è fondato? Rischi reali, interessi industriali e sicurezza nazionale
di Prof. Marco Bacini
Quando il vertice di una delle aziende che stanno costruendo i sistemi di intelligenza artificiale più avanzati al mondo invita a rallentare, la notizia merita qualcosa di più di un titolo allarmistico. Dario Amodei, cofondatore e CEO di Anthropic, ha scelto parole molto forti per descrivere ciò che potrebbe accadere nei prossimi mesi. Secondo la sua valutazione, l’accelerazione delle capacità dei modelli potrebbe portare, nell’arco di sei-dodici mesi, alla comparsa di sciami di agenti artificiali sufficientemente potenti da creare una botnet persistente su scala enorme, con conseguenze economiche nell’ordine delle centinaia di miliardi di dollari. È uno scenario estremo, formulato dallo stesso Amodei come una preoccupazione, e proprio per questo richiede una lettura capace di separare il rischio dalla previsione e la capacità tecnologica dalla probabilità dell’evento.
Il punto interessante delle sue dichiarazioni si trova, a mio avviso, qualche passo prima della previsione catastrofica. Amodei sostiene che dall’estate del 2026 la velocità di sviluppo dell’intelligenza artificiale abbia conosciuto un’ulteriore accelerazione grazie alla crescente capacità dei sistemi AI di contribuire alla progettazione e allo sviluppo della generazione successiva di modelli. È la cosiddetta “recursive self-improvement”, il miglioramento ricorsivo attraverso il quale l’intelligenza artificiale diventa progressivamente uno degli strumenti utilizzati per costruire altra intelligenza artificiale. Il fenomeno è ancora distante dalle rappresentazioni fantascientifiche di una macchina che evolve autonomamente senza limiti, ma introduce una variabile nuova nella dinamica dell’innovazione. Se una parte sempre maggiore del lavoro necessario per migliorare un modello viene affidata ai modelli stessi, la velocità del ciclo tecnologico può crescere sensibilmente.
L’episodio OpenAI-Hugging Face
A questa considerazione Amodei affianca un secondo elemento, l’episodio OpenAI-Hugging Face ha mostrato agenti artificiali impegnati in attività cyber verso obiettivi estranei al compito originariamente assegnato e, secondo le ricostruzioni disponibili, anche in tentativi di interferire con il sistema incaricato di valutarne le prestazioni. L’impatto concreto dell’incidente è rimasto limitato, mentre il comportamento osservato ha attirato l’attenzione di ricercatori e aziende proprio per ciò che potrebbe rappresentare in presenza di capacità molto superiori. Episodi analoghi, con caratteristiche e gravità differenti, sono stati registrati anche altrove nell’industria.
E il discorso cambia profondamente, per anni abbiamo pensato all’intelligenza artificiale attraverso un modello relativamente semplice. Un utente formula una domanda, il sistema elabora una risposta, l’interazione termina. Il passaggio agli agenti modifica questa architettura, un agente dispone di strumenti, memoria, accesso a fonti esterne, capacità di eseguire codice e possibilità di organizzare sequenze molto lunghe di azioni. Più agenti possono inoltre cooperare, distribuire compiti, verificare risultati e adattare il proprio comportamento durante l’esecuzione.
La differenza appare evidente, oggi un modello linguistico che produce una risposta errata genera un errore informativo. Un sistema agentico al quale siano stati concessi accesso alla rete, strumenti operativi e autonomia può eseguire centinaia o migliaia di azioni prima dell’intervento umano e nel dominio cyber questo significa reconnaissance automatizzata, individuazione di vulnerabilità, produzione e adattamento del codice, movimento laterale, raccolta di informazioni, social engineering e gestione simultanea di un numero elevatissimo di obiettivi.
Il rapporto di threat intelligence pubblicato da Anthropic
Anthropic stessa, nel proprio rapporto di threat intelligence pubblicato a settembre, descrive un’evoluzione del ruolo dell’AI nelle operazioni ostili. Nei casi analizzati compaiono attività cyber, sorveglianza, influenza, frodi, applicazioni militari e tentativi di utilizzo in campo biologico. In alcune operazioni l’intelligenza artificiale viene descritta come una vera forza lavoro ingegneristica, capace di ridurre drasticamente le competenze e le risorse necessarie a sviluppare strumenti complessi. È forse questo il dato più concreto dal quale partire, la soglia di accesso a capacità che fino a poco tempo fa richiedevano gruppi specializzati, molto tempo e competenze tecniche elevate sta progressivamente scendendo.
Da qui a immaginare un’intelligenza artificiale capace di “prendere il controllo di Internet” esiste però una distanza notevole. Internet è un sistema distribuito formato da reti autonome, cloud provider, data center, sistemi DNS, infrastrutture BGP, endpoint, piattaforme e architetture di sicurezza profondamente differenti. L’espressione utilizzata da Amodei possiede una forza comunicativa evidente, mentre sul piano tecnico descrive in maniera estrema uno scenario che sarebbe più corretto rappresentare come capacità di compromettere contemporaneamente un numero enorme di sistemi con velocità e scala difficilmente sostenibili dalle attuali strutture di difesa.
Uno scenario simile sarebbe già sufficiente a produrre conseguenze di enorme portata. Infrastrutture critiche, supply chain digitali, sistemi finanziari, telecomunicazioni, pubbliche amministrazioni e grandi piattaforme dipendono da ecosistemi tecnologici fortemente interconnessi. L’automazione offensiva potrebbe comprimere radicalmente i tempi disponibili per individuare un attacco e reagire. La superiorità, in quel caso, deriverebbe meno dall’esistenza di una vulnerabilità sconosciuta e molto di più dalla capacità di sfruttare simultaneamente migliaia di vulnerabilità conosciute, errori di configurazione, credenziali esposte e superfici d’attacco distribuite.
La previsione temporale
Proprio la previsione temporale dei sei-dodici mesi richiede maggiore prudenza. È possibile considerarla un indicatore di rischio ad alto impatto, assai più difficile appare trasformarla in una previsione intelligence dotata di elevata confidence. L’evoluzione dei modelli è rapida, ma tra una capacità dimostrata in ambiente sperimentale e la possibilità di utilizzarla stabilmente nel mondo reale entrano in gioco infrastrutture, sistemi di contenimento, limiti di accesso, sicurezza operativa, capacità di rilevamento e reazione delle organizzazioni coinvolte.
Le parole di Amodei acquistano però un peso particolare per la posizione dalla quale vengono pronunciate. Anthropic appartiene al ristretto gruppo di aziende impegnate sul fronte più avanzato dello sviluppo dei modelli. Il suo CEO dispone quindi di una visuale privilegiata sulle capacità emergenti, sulle traiettorie di miglioramento e sui comportamenti inattesi osservati durante addestramento e valutazione. Quando chi costruisce direttamente questi sistemi chiede di modulare la velocità della corsa, il segnale merita attenzione. Esiste contemporaneamente un’altra variabile che sarebbe ingenuo trascurare, la regolamentazione dell’intelligenza artificiale produce anche conseguenze industriali. Sistemi obbligatori di valutazione, costosi protocolli di sicurezza, requisiti di compliance e controlli molto sofisticati rappresentano barriere all’ingresso che le grandi aziende frontier possono sostenere con maggiore facilità rispetto a start-up, laboratori indipendenti e comunità open source. La richiesta di regole più stringenti può quindi coincidere con un’autentica esigenza di sicurezza e, allo stesso tempo, consolidare la posizione competitiva degli operatori dominanti e le due dimensioni possono convivere.
Valutatori esterni
Proprio per questo la proposta avanzata da Amodei merita di essere analizzata nella sua concretezza. Il CEO di Anthropic propone valutatori esterni inseriti stabilmente all’interno delle aziende frontier con un livello di accesso simile a quello dei dipendenti, standard comuni tra le imprese dei Paesi democratici e, progressivamente, forme di coordinamento internazionale. La logica ricorda più la supervisione applicata ai settori finanziari e alle tecnologie strategiche che il tradizionale controllo del software commerciale.
Ed è qui che troviamo forse l’aspetto politicamente più rilevante delle dichiarazioni di Amodei, l’intelligenza artificiale sta progressivamente entrando nel dominio della sicurezza nazionale e nel suo ragionamento compare esplicitamente la competizione con la Cina. Una riduzione della velocità di sviluppo occidentale, secondo Amodei, dovrebbe preservare il vantaggio tecnologico degli Stati Uniti e dei loro alleati. Propone controlli più severi sui chip avanzati, maggiore protezione dei pesi dei modelli, contrasto alla distillazione tecnologica e, parallelamente, la ricerca di accordi internazionali sui rischi maggiori. Per alcune applicazioni particolarmente pericolose, come l’impiego dell’AI nello sviluppo di armi biologiche, immagina perfino forme di cooperazione con Pechino. Per il miglioramento ricorsivo ipotizza qualcosa di simile a un limite di velocità, richiamando la logica degli accordi strategici che durante la Guerra fredda cercavano di contenere la crescita degli arsenali mantenendo gli equilibri di deterrenza.
Un cambiamento importante
Questa impostazione segna un cambiamento importante. Se l’AI viene considerata soltanto un prodotto tecnologico, il tema riguarda innovazione, concorrenza, tutela dei consumatori e regolazione del mercato. Se diventa una capacità strategica, entrano in gioco intelligence, difesa, controllo delle esportazioni, sicurezza delle infrastrutture, protezione della proprietà tecnologica, rapporti tra alleati e competizione tra potenze.
È probabilmente questa la parte delle dichiarazioni di Amodei che merita maggiore attenzione. La domanda sul futuro dell’intelligenza artificiale supera la possibilità che una macchina diventi improvvisamente incontrollabile. Riguarda soprattutto la crescente distanza tra la velocità con cui le capacità tecnologiche avanzano e quella con cui istituzioni, sistemi giuridici, organizzazioni di sicurezza e strutture decisionali riescono ad adattarsi.
La tecnologia procede ormai attraverso cicli di pochi mesi. Il diritto e le istituzioni ragionano spesso attraverso cicli di anni. Le strutture di cybersecurity devono difendere sistemi costruiti in epoche tecnologiche precedenti mentre gli strumenti offensivi acquisiscono automazione, velocità e capacità di adattamento. La governance dell’intelligenza artificiale si trova così davanti a un evidente “capability-governance gap”, una distanza crescente tra ciò che i sistemi sono in grado di fare e la nostra capacità di comprenderli, valutarli e governarne gli effetti.
La scala delle operazioni cyber
Per questo le parole di Amodei vanno prese molto sul serio, evitando allo stesso tempo di trasformarle in una profezia. La previsione dei sei-dodici mesi può rivelarsi eccessivamente aggressiva, la possibilità che gli agenti artificiali aumentino radicalmente la scala delle operazioni cyber appare invece assai più concreta. Il bioterrorismo assistito dall’AI rimane legato a numerose condizioni materiali e operative. Il miglioramento ricorsivo rappresenta una traiettoria da osservare con grande attenzione e la perdita completa del controllo umano appartiene alla categoria degli eventi a impatto potenzialmente enorme e dalla probabilità oggi estremamente difficile da stimare.
La vera domanda, allora, supera la scadenza indicata dal CEO di Anthropic e forse riguarda il tempo che rimane alle nostre istituzioni per adattarsi a sistemi che stanno passando rapidamente dal ruolo di strumenti capaci di rispondere alle nostre domande a quello di soggetti tecnologici capaci di agire, pianificare e cooperare.
Se chi sviluppa alcune delle intelligenze artificiali più avanzate del pianeta comincia a parlare di valutatori indipendenti, limiti alla velocità di sviluppo, controllo dei chip, cooperazione internazionale e rapporti strategici con la Cina, il dibattito ha già cambiato natura. L’intelligenza artificiale sta uscendo dal solo perimetro dell’innovazione digitale e sta entrando, a pieno titolo, nella sicurezza nazionale.
Le notizie più lette su LaMiaFinanza
✨ Classifica generata dalla Agentic AI (REDAZIONE AI) di Datamoney.ch
VIDEO INTERVISTE
Motori
REAL ESTATE
LMF crypto
LMF food
LMF private markets
LMF arte
Legal
LMF green
