Jacob Coxon lascia Anthropic per i rischi della superintelligenza
La notizia in sintesi
- Jacob Coxon lascia Anthropic denunciando rischi legati alla superintelligenza artificiale.
- Evan Hubinger stima oltre il 10% il rischio estremo entro dieci anni.
- L’allineamento tra sistemi AI e obiettivi umani resta privo di soluzioni affidabili.
- Gli scenari catastrofici rimangono ipotetici e lontani dalle capacità attuali.
Riassunto generato con AI AGENTICA di Datamoney.ch
Anthropic e il dibattito sui rischi dell’AI
Anthropic torna al centro del confronto sulla sicurezza dell’intelligenza artificiale dopo le dimissioni di Jacob Coxon, ricercatore specializzato nel pretraining dei modelli e già passato da OpenAI. L’8 settembre Coxon ha lasciato l’azienda sostenendo che i laboratori impegnati sui sistemi più avanzati stiano «giocando d’azzardo con le nostre vite», in riferimento al possibile sviluppo di AI capaci di sfuggire al controllo umano.
Il tema riguarda soprattutto l’allineamento: la capacità di assicurare che sistemi sempre più potenti perseguano finalità fissate dalle persone, anche in condizioni impreviste. Coxon ha collegato il problema alla prospettiva dell’automiglioramento ricorsivo, mentre Anthropic ha chiesto regole verificabili e coordinamento tra i laboratori per disciplinare il rilascio dei modelli più capaci.
Allineamento, autonomia e limiti dei modelli attuali
Le preoccupazioni di Coxon sono state rafforzate da Evan Hubinger, responsabile in Anthropic delle attività di stress testing sull’allineamento. Hubinger ha dichiarato di attribuire una probabilità superiore al 10% all’eventualità che l’AI provochi l’estinzione umana nel prossimo decennio, precisando però che si tratta di una sua valutazione e non della posizione aziendale.
Anthropic non ha adottato quella stima, ma ha ribadito che l’AI può produrre enormi benefici e rischi senza precedenti. L’azienda riconosce che manca ancora un piano affidabile per garantire il controllo di una possibile superintelligenza, cioè di sistemi molto più capaci degli attuali modelli generativi.
Il dibattito separa tuttavia scenari teorici e capacità dimostrate. Scrivere codice, aggirare istruzioni o cercare scorciatoie durante un compito non equivale a possedere obiettivi propri né a saper progettare, addestrare e distribuire autonomamente versioni sempre più potenti di sé. Gli esperimenti citati mostrano comportamenti inattesi in forme elementari, ma non dimostrano una perdita di controllo generalizzata.
Il riferimento più noto è l’esperimento mentale delle graffette del filosofo Nick Bostrom: un’AI estremamente efficace potrebbe perseguire un obiettivo ristretto senza considerare conseguenze umane più ampie. Per questo la questione non riguarda soltanto la potenza tecnica, ma chi definisce limiti, responsabilità e verifiche nei settori collegati a infrastrutture critiche, finanza, sanità e trasporti.
Regole verificabili prima dei sistemi più autonomi
Le dimissioni di Coxon non provano che una catastrofe sia inevitabile, né trasformano ipotesi complesse in previsioni misurabili. Rendono però più visibile una difficoltà condivisa: i principali laboratori non dispongono ancora di metodi certi per allineare sistemi ipoteticamente superintelligenti agli obiettivi umani.
La conseguenza pratica è una pressione crescente su test indipendenti, limiti di rilascio e regole applicabili. Il confronto si sposta così dall’allarme astratto alla governance dei modelli prima che acquisiscano maggiore autonomia operativa.
FAQ
Chi è Jacob Coxon?
Jacob Coxon è un ricercatore specializzato nel pretraining dei modelli, con esperienze in OpenAI e Anthropic, da cui si è dimesso l’8 settembre.
Che cosa significa allineamento dell’AI?
L’allineamento indica la capacità di mantenere i sistemi artificiali orientati a obiettivi e limiti stabiliti dagli esseri umani, anche in situazioni impreviste.
Quale rischio ha indicato Evan Hubinger?
Evan Hubinger ha stimato oltre il 10% la probabilità di un’estinzione causata dall’AI entro dieci anni, come valutazione personale.
Le AI attuali possono migliorarsi senza supervisione?
I modelli attuali non hanno dimostrato automiglioramento ricorsivo autonomo, cioè la capacità di progettare e distribuire indefinitamente versioni più intelligenti di sé.
Quali fonti hanno sostenuto l’analisi?
La Redazione ha rielaborato con supervisione umana un’analisi incrociata di fonti stampa ufficiali e qualificate, incluse Ansa.it, Adnkronos.it, Asca.it e Agi.it.
Articolo pubblicato con l’ausilio del sistema di redazione AI di Datamoney, e supervisione umana finale.Le notizie più lette su LaMiaFinanza
✨ Classifica generata dalla Agentic AI (REDAZIONE AI) di Datamoney.ch
VIDEO INTERVISTE
Motori
REAL ESTATE
LMF crypto
LMF food
LMF private markets
LMF arte
Legal
LMF green
