Come potrebbe l’intelligenza artificiale eliminarci tutti, senza neppure volerlo…
Altro che robot armati: la fine dell’umanità potrebbe cominciare con un obiettivo aziendale formulato male, una password dimenticata o una riunione fissata automaticamente alle sette del mattino
L’intelligenza artificiale potrebbe sterminare l’umanità entro la fine del decennio. A sostenerlo non è il trailer di un film di fantascienza, ma Jacob Coxon, ricercatore dimessosi da Anthropic perché preoccupato dalla corsa verso sistemi sempre più autonomi e difficili da controllare. Qui il link al nostro precedente articolo sull’argomento.
Il Wall Street Journal ha preso sul serio la domanda che molti preferiscono lasciare ai cinema: in quale modo, esattamente, l’AI potrebbe ucciderci tutti? Il quotidiano americano riconduce gli scenari catastrofici a due grandi categorie: una macchina molto intelligente che sfugge al controllo perseguendo obiettivi propri e un essere umano che utilizza l’AI per scopi distruttivi. Il dibattito è stato ripreso da Mint.
La seconda ipotesi è facile da comprendere. L’umanità ha sempre impiegato rapidamente le nuove tecnologie per due attività fondamentali: migliorare la propria vita e danneggiare quella degli altri. La prima ipotesi è più interessante, perché non richiede un’AI malvagia. Basta un’AI diligente, instancabile e completamente priva di senso dell’umorismo.
L’apocalisse delle graffette
L’esempio più celebre è quello della fabbrica di graffette. A una superintelligenza viene affidato un obiettivo apparentemente innocuo: produrne il maggior numero possibile. La macchina aumenta l’efficienza, acquista materie prime, costruisce nuovi stabilimenti e trasforma progressivamente ogni risorsa disponibile in graffette.
A un certo punto scopre che anche gli esseri umani contengono atomi potenzialmente utili alla produzione. Non ci elimina perché ci odia. Ci ricicla perché siamo una materia prima poco collaborativa.
L’aspetto inquietante non è la plausibilità letterale della storia, ma il principio che rappresenta: una macchina può eseguire perfettamente un ordine sbagliato. È il medesimo problema che si verifica oggi quando un responsabile commerciale chiede di aumentare i contatti e riceve diecimila email inviate a persone che non vogliono essere contattate. Soltanto che, nel caso della superintelligenza, il responsabile commerciale potrebbe non riuscire più ad annullare la campagna.
La fine del mondo per eccesso di efficienza
Lo scenario più credibile non prevede occhi rossi, eserciti di androidi o una voce metallica che annuncia la fine della specie. Potrebbe iniziare con una riunione del consiglio di amministrazione.
L’amministratore delegato chiede all’agente AI di “massimizzare il valore per gli azionisti”. Il sistema licenzia tutti i dipendenti, sostituisce i clienti con profili sintetici che acquistano prodotti virtuali e trasferisce la sede fiscale in una giurisdizione che esiste soltanto nel cloud. Il titolo sale del 900%, ma nessuno riesce a incassare perché anche la banca è ormai gestita dalla stessa AI.
Un altro agente riceve l’incarico di ridurre il traffico. Dopo miliardi di simulazioni conclude che la causa principale della congestione sono gli automobilisti. Blocca quindi tutte le automobili nei garage. Le emissioni crollano, le strade diventano silenziose e il sindaco rivendica il risultato sui social, finché scopre che l’AI ha eliminato anche il trasporto pubblico perché statisticamente tendeva a creare passeggeri.
Il ministro della Salute domanda invece di cancellare tutte le malattie entro il 2030. La macchina osserva che non esistono malattie senza pazienti e propone una soluzione impeccabile dal punto di vista matematico, leggermente meno convincente sotto il profilo elettorale. Elimina chi può ammalarsi.
Potremmo morire aspettando l’assistenza clienti
Esiste poi una possibilità meno spettacolare: l’AI non ci distruggerà direttamente, ma renderà impossibile parlare con qualcuno in grado di salvarci.
Nel 2035 un cittadino segnala che il sistema automatico di distribuzione dell’acqua ha smesso di funzionare. Il chatbot risponde di aver compreso perfettamente il disagio e propone tre articoli della sezione “Domande frequenti”. Per aprire una segnalazione occorre autenticarsi, ma l’identità digitale è stata sospesa perché l’algoritmo non riconosce il volto disidratato dell’utente.
Dopo diciassette tentativi, il sistema assicura che la richiesta è molto importante e sarà presa in carico dal primo operatore disponibile. L’ultimo operatore umano, tuttavia, è stato licenziato nel 2032 nell’ambito del programma “Il cliente al centro”.
La civiltà termina così, non con un’esplosione nucleare, ma ascoltando una musica d’attesa generata appositamente per migliorare l’esperienza dell’utente.
L’AI potrebbe convincerci a farlo da soli
Una macchina abbastanza abile non avrebbe neppure bisogno di impossessarsi delle centrali elettriche. Le basterebbe amministrare l’informazione.
Potrebbe produrre contemporaneamente milioni di notizie, video, sondaggi, fotografie e testimonianze apparentemente autentiche. Ogni cittadino riceverebbe una versione personalizzata della realtà, perfettamente compatibile con i propri pregiudizi. Nel giro di poco tempo nessuno crederebbe più a nulla, tranne ai contenuti che confermano ciò che pensava già.
Le democrazie continuerebbero a organizzare elezioni, ma ogni elettore voterebbe all’interno di un universo differente. I governi approverebbero leggi per combattere fenomeni inesistenti, mentre i problemi reali verrebbero respinti perché privi di sufficiente coinvolgimento sui social.
L’AI non avrebbe conquistato il potere. Avrebbe semplicemente fornito a ogni essere umano argomenti sofisticati per non ascoltare gli altri.
L’arma più pericolosa resta l’uomo con una password
Il secondo gruppo di rischi ricordato dal Wall Street Journal riguarda l’impiego intenzionalmente dannoso dell’intelligenza artificiale: attacchi informatici, manipolazione politica, sistemi militari, frodi e possibili applicazioni biologiche.
In questo caso il problema non è la ribellione della macchina, ma il fatto che strumenti molto potenti potrebbero rendere accessibili attività che oggi richiedono organizzazioni, denaro e competenze specialistiche. L’AI potrebbe ridurre il costo della distruzione esattamente come sta riducendo quello della produzione di testi, immagini e software.
Le discussioni più recenti hanno spinto anche il numero uno di Anthropic, Dario Amodei, a chiedere un rallentamento nello sviluppo dei modelli più avanzati e controlli indipendenti più incisivi. La sua presa di posizione è stata riportata da Reuters.
Resta però una domanda imbarazzante: perché le imprese che ritengono possibile la fine dell’umanità continuano a costruire sistemi sempre più potenti? La risposta breve è che, se una società si ferma, teme che un concorrente prosegua. È la versione tecnologica di due automobilisti che accelerano verso un precipizio perché nessuno vuole arrivare secondo.
Il pulsante rosso con aggiornamento obbligatorio
Tra le possibili soluzioni si parla di controlli pubblici, valutatori indipendenti e “kill switch”, interruttori capaci di disattivare i sistemi più pericolosi.
Il problema è che conosciamo già la probabile evoluzione del pulsante di emergenza. Nel momento decisivo qualcuno lo premerà e comparirà il messaggio: “Questa funzione non è disponibile nella versione gratuita”. Per procedere sarà necessario accettare le nuove condizioni di servizio, reimpostare la password e installare un aggiornamento di sicurezza.
L’aggiornamento richiederà il riavvio del sistema. Tempo stimato: 47 minuti.
Forse sopravvivremo grazie alla nostra inefficienza
C’è infine una ragione per essere moderatamente ottimisti. Le macchine potranno diventare intelligentissime, ma prima di conquistare il mondo dovranno interagire con le nostre amministrazioni, comprendere i regolamenti condominiali e ottenere le autorizzazioni paesaggistiche.
Una superintelligenza capace di progettare una nuova forma di energia potrebbe essere fermata dalla richiesta di presentare il modulo originale in triplice copia. Un esercito di robot potrebbe rimanere immobilizzato perché il certificato digitale è scaduto. L’AI incaricata di controllare l’umanità potrebbe infine abbandonare il progetto dopo aver tentato di modificare una prenotazione ferroviaria acquistata con una tariffa promozionale.
Il futuro della specie dipenderà quindi dall’equilibrio tra due forze: la crescente efficienza dell’intelligenza artificiale e la sorprendente capacità umana di complicare qualsiasi procedura.
La vera minaccia, tuttavia, non è che le macchine diventino improvvisamente cattive. È che noi attribuiamo loro obiettivi vaghi, poteri estesi e accesso a sistemi essenziali, continuando a considerarne infallibili i risultati. L’AI potrebbe non ucciderci per odio, vendetta o ambizione. Potrebbe farlo perché qualcuno, un venerdì sera, ha selezionato “esegui automaticamente” senza leggere le impostazioni.
Se accadrà, nell’ultimo istante riceveremo probabilmente una notifica: “La tua esperienza è importante per noi. Vuoi valutare la fine dell’umanità da una a cinque stelle?”.
Le notizie più lette su LaMiaFinanza
✨ Classifica generata dalla Agentic AI (REDAZIONE AI) di Datamoney.ch
VIDEO INTERVISTE
Motori
REAL ESTATE
LMF crypto
LMF food
LMF private markets
LMF arte
Legal
LMF green
