Oltre “GPT-5”: o1, la nuova AI di OpenAI, potrebbe arrivare a creare armi biologiche?

Gli esperti ritengono che l’AI stia avanzando così rapidamente che potrebbe “auto-apprendere” e raggiungere l’intelligenza umana entro tre anni.

“Il nuovo modello di IA GPT-o1 di OpenAI è il primo a dimostrare capacità che potrebbero aiutare gli esperti a riprodurre minacce biologiche note e nuove” ha detto questa settimana William Saunders, ex membro dello staff tecnico di OpenAI, al Comitato giudiziario del Senato degli USA, sottocommissione per la privacy, la tecnologia e la legge. “Il nuovo sistema di IA di OpenAI è il primo sistema a mostrare passi verso il rischio delle armi biologiche, in quanto è in grado di aiutare gli esperti a pianificare la riproduzione di una minaccia biologica nota”. 

Questa capacità, ha avvertito, comporta il potenziale per “danni catastrofici” se i sistemi AGI vengono sviluppati senza le dovute garanzie. Gli esperti hanno anche testimoniato che l’intelligenza artificiale si sta evolvendo così rapidamente che un punto di riferimento potenzialmente insidioso noto come Artificial General Intelligence incombe all’orizzonte. A livello di AGI, i sistemi di intelligenza artificiale possono eguagliare l’intelligenza umana in un’ampia gamma di attività cognitive e apprendere autonomamente. Se un sistema disponibile al pubblico può comprendere la biologia e sviluppare nuove armi senza un’adeguata supervisione, il potenziale per gli utenti malintenzionati di causare gravi danni cresce esponenzialmente

La scorsa settimana, OpenAI ha presentato il suo ultimo modello di AI o1, dopo un’ondata di speculazioni che hanno coinvolto diversi modelli post-GPT4 con nomi criptici tra cui “Strawberry”, “Orion”, presumibilmente “Q*” e l’ovvio “GPT-5”. Questa nuova offerta promette di ampliare i confini dell’intelligenza artificiale con capacità di ragionamento migliorate e abilità di risoluzione scientifica dei problemi. Sviluppatori, esperti di sicurezza informatica e appassionati di intelligenza artificiale sono in fermento per le speculazioni sul potenziale impatto di o1.

AGI – Artificial General Intelligence

“Le aziende di intelligenza artificiale stanno facendo rapidi progressi verso la creazione di AGI”, ha detto Saunders al Comitato del Senato. “È plausibile che un sistema AGI possa essere costruito in appena tre anni”.

Helen Toner, che faceva anche parte del consiglio di OpenAI e ha votato a favore del licenziamento del co-fondatore e CEO Sam Altman, si aspetta anche di vedere AGI prima piuttosto che dopo. “Anche se le stime più brevi si rivelassero sbagliate, l’idea di sviluppare un’intelligenza artificiale di livello umano nei prossimi dieci o vent’anni dovrebbe essere vista come una possibilità reale che richiede un’azione preparatoria significativa ora”, afferma.

Saunders, che ha lavorato presso OpenAI per tre anni, ha evidenziato il recente annuncio dell’azienda di GPT-o1, un sistema di intelligenza artificiale che “ha superato traguardi significativi” nelle sue capacità. Come riportato da Decrypt, anche OpenAI ha affermato di aver deciso di allontanarsi dal tradizionale aumento numerico nelle versioni GPT, perché questo modello mostrava nuove capacità che lo rendevano giusto da vedere non solo come un aggiornamento, ma come un’evoluzione, un nuovissimo tipo di modello con competenze diverse.

Saunders è anche preoccupato per la mancanza di adeguate misure di sicurezza e supervisione nello sviluppo di AGI. Ha sottolineato che “Nessuno sa come garantire che i sistemi AGI siano sicuri e controllati” e ha criticato OpenAI per il suo nuovo approccio allo sviluppo di un’intelligenza artificiale sicura, preoccupandosi più della redditività che della sicurezza.

“o1 pensa prima di rispondere”
OpenAI ha introdotto una nuova famiglia di modelli e li ha resi disponibili giovedì sul suo livello di abbonamento a pagamento ChatGPT Plus, sostenendo che fornisce importanti miglioramenti nelle prestazioni e nelle capacità di ragionamento. “Stiamo introducendo OpenAI o1, un nuovo modello linguistico di grandi dimensioni addestrato con apprendimento per rinforzo per eseguire ragionamenti complessi”, ha affermato OpenAI in un post ufficiale del blog.

o1-preview

Secondo il sito codefinity.com , la preview di OpenAI o1 ha mostrato notevoli miglioramenti in vari compiti impegnativi:
Matematica Nell’esame di qualificazione per l’American Invitational Math Examination (AIME), o1-preview ha risolto l’83% dei problemi, un aumento sostanziale rispetto al 13% di GPT-4o.
Codifica Il modello ha raggiunto l’89° percentile nelle competizioni Codeforces, dimostrando le sue capacità di codifica avanzate.
Scienza Nei compiti di riferimento impegnativi in ​​fisica, chimica e biologia, il modello ha funzionato in modo simile agli studenti di dottorato, ottenendo circa il 75-80% di risposte corrette.