Intelligenza artificiale, biotecnologie e sanità: quali regole servono contro i rischi estremi
L’allarme lanciato dalla Commissione di The Lancet al World Health Summit 2026 di Berlino worldhealthsummit.org deve essere preso sul serio, ma senza confondere una possibilità catastrofica con una previsione certa. Il rapporto considera l’uso malevolo dell’intelligenza artificiale tra le minacce potenzialmente più gravi per la salute globale fino al 2100: la probabilità stimata rimane bassa e altamente incerta, mentre l’impatto teorico potrebbe essere enorme. Le valutazioni relative all’AI, infatti, derivano soprattutto da giudizi strutturati di esperti e “superforecaster”, non da serie storiche consolidate.
I principali scenari riguardano l’assistenza alla progettazione di agenti patogeni, l’impiego dell’AI in attacchi informatici contro ospedali e infrastrutture essenziali e, in prospettiva, la perdita di controllo su sistemi autonomi capaci di pianificare e agire nel mondo digitale o fisico.
Le regole oggi esistenti
Non esiste ancora una disciplina mondiale unitaria. Il quadro è composto da trattati internazionali, leggi regionali, norme sanitarie e indirizzi tecnici spesso non vincolanti.
Armi biologiche. La Convenzione sulle armi biologiche vieta sviluppo, produzione e accumulo di agenti biologici e tossine destinati a finalità ostili. Il divieto è tecnologicamente neutrale e comprende quindi anche un agente patogeno progettato con l’assistenza dell’AI. Il suo limite è però strutturale: mancano un regime ispettivo paragonabile a quello sulle armi chimiche e strumenti uniformi di verifica delle attività digitali e di biologia sintetica. Le Nazioni Unite riconoscono che l’integrazione fra AI, bioinformatica e sintesi del DNA può abbassare le barriere tecniche alla creazione di patogeni modificati.
Le notizie piu' importanti di finanza, economia e mercati, dritte nella tua inbox.
Unione europea. L’AI Act considera esplicitamente rischi sistemici la possibilità che i modelli più potenti agevolino attacchi chimici, biologici, radiologici o nucleari, sofisticate offensive informatiche o la perdita del controllo umano. Dal 2 agosto 2025 i fornitori dei modelli generalisti con rischio sistemico devono effettuare valutazioni e mitigazioni, proteggere modello e infrastrutture, documentare e segnalare gli incidenti gravi.
Per le applicazioni sanitarie ad alto rischio sono inoltre previsti gestione continua del rischio, tracciabilità, qualità dei dati, robustezza, cybersicurezza e sorveglianza umana effettiva. Restano applicabili anche le norme sui dispositivi medici, sulla protezione dei dati e sulla sicurezza delle reti. Tuttavia, molte disposizioni settoriali dell’AI Act entreranno pienamente a regime soltanto nei prossimi anni e le attività militari o di sicurezza nazionale non sono coperte nello stesso modo.
Stati Uniti. Il sistema americano rimane prevalentemente settoriale. La nuova politica federale del 2026 sulla sintesi degli acidi nucleici condiziona i finanziamenti pubblici all’acquisto da fornitori conformi: controllo delle sequenze, verifica dell’identità del cliente, segnalazione degli ordini sospetti e conservazione dei registri. È un modello importante, ma non rappresenta ancora un obbligo universale per ogni transazione privata.
Sul fronte degli agenti AI, il NIST sta elaborando standard volontari. Le indicazioni convergono su identità digitale verificabile dell’agente, privilegi minimi, separazione delle funzioni, decisioni di accesso deterministiche e registri non alterabili.
Regno Unito. L’AI Security Institute sottopone i modelli avanzati a test su cyberattacchi, biosecurity, capacità di inganno e autonomia. Il governo ha inoltre annunciato misure per rafforzare la resilienza dei servizi essenziali contro incidenti derivanti dalla perdita di controllo di agenti AI. Si tratta però, in parte, di valutazioni e proposte regolamentari ancora in evoluzione.
Cina. Le linee guida pubblicate nel 2026 sul sito english.www.gov.cn definiscono gli agenti come sistemi capaci di percezione, memoria, decisione ed esecuzione autonome e indicano “sicurezza e controllabilità” tra i principi fondamentali. Un’ulteriore disciplina sperimentale richiede valutazioni etiche concentrate su benessere umano, affidabilità, controllo, dati e prevenzione degli abusi algoritmici.
I limiti da imporre agli agenti autonomi
Il rapporto internazionale sulla sicurezza dell’AI del 2026 International AI Safety Report precisa che i sistemi attuali non possiedono ancora l’affidabilità e l’autonomia prolungata necessarie per determinare una perdita di controllo su larga scala. Mostrano però capacità in crescita nella pianificazione, nell’uso di strumenti e nell’individuazione di scappatoie nei test. Tra i ricercatori permane un forte dissenso sulla probabilità degli scenari estremi.
Da queste valutazioni emerge un possibile standard minimo mondiale:
| Funzione dell’agente | Limite necessario |
|---|---|
| Consultare dati e formulare analisi | Consentito in ambienti delimitati e con fonti tracciabili |
| Modificare cartelle cliniche o configurazioni | Autorizzazione umana e registrazione dell’operazione |
| Prescrivere terapie o adottare decisioni cliniche | Decisione finale riservata a un professionista qualificato |
| Comandare impianti, laboratori o infrastrutture sanitarie | Doppia autorizzazione, segregazione delle reti e arresto manuale |
| Ordinare DNA, reagenti o attrezzature biologiche | Identificazione del cliente, controllo delle sequenze e verifica dello scopo |
| Trasferire denaro, acquisire risorse informatiche o creare account | Limiti quantitativi e conferma umana per ogni operazione rilevante |
| Modificare le proprie regole o disattivare i controlli | Divieto tecnico non superabile dall’agente |
| Replicarsi, esportare credenziali o aumentare autonomamente i privilegi | Divieto, allarme automatico e interruzione immediata |
A questi vincoli andrebbero aggiunti:
- test indipendenti e red teaming prima della distribuzione e dopo ogni aggiornamento sostanziale;
- accesso secondo il principio del minimo privilegio, senza permessi permanenti quando l’agente è inattivo;
- ambienti isolati, restrizioni alla navigazione e separazione fra ragionamento del modello e sistema che concede i permessi;
- registri completi e non modificabili, associando ogni agente alla persona o organizzazione responsabile;
- arresto automatico in presenza di tentativi di inganno, auto-replicazione, elusione della sorveglianza o modifica dei propri obiettivi;
- obbligo di comunicare rapidamente incidenti e quasi incidenti a un’autorità indipendente;
- responsabilità giuridica sempre attribuita a fornitori, organizzazioni e dirigenti: l’“autonomia” dell’algoritmo non deve diventare un’esimente.
Trattiamo poi il riconoscimento facciale dell’utente umano come uno dei punti più importanti di questo processo di validazione delle soluzioni proposte dall’AI. Vedi più avanti BioSIC.
La regola decisiva per la sanità
L’OMS riassume il criterio più importante con una formula netta: l’AI deve potenziare, non sostituire il giudizio umano. Prima dell’impiego raccomanda valutazioni d’impatto e di maturità tecnologica; durante l’utilizzo, verifica umana dei risultati, passaggi decisionali obbligatori e supervisione multidisciplinare.
Per ospedali e reti sanitarie ciò significa anche disporre di modalità manuali di emergenza, copie offline dei dati, segmentazione delle reti e simulazioni periodiche. Nessun agente dovrebbe costituire un punto unico di guasto né poter controllare contemporaneamente diagnosi, autorizzazione ed esecuzione di una decisione critica.
La lacuna maggiore, dunque, non è l’assenza assoluta di regole, ma la loro frammentazione. Occorrerebbe uno standard internazionale vincolante che colleghi AI, biosicurezza, sintesi genetica e protezione delle infrastrutture: valutazioni comuni, controlli sugli acquisti biologici, segnalazione transfrontaliera degli incidenti e divieto di distribuire senza adeguate salvaguardie modelli che riducano concretamente le competenze necessarie per costruire armi biologiche.
BioSIC, il riconoscimento dell’essere umano come barriera all’autonomia incontrollata dell’AI
Nel dibattito sui rischi dell’intelligenza artificiale, il riconoscimento facciale può assumere una funzione diversa dalla semplice apertura di un’applicazione: può diventare il punto nel quale l’autonomia dell’agente AI si interrompe e la responsabilità torna a una persona identificata.
È in questa prospettiva che può essere letta la proposta di BioSIC. Sul proprio sito la piattaforma si presenta come un sistema di “Human Verification” che associa l’autenticazione biometrica alla liveness detection, verificando non soltanto la corrispondenza del volto, ma anche che davanti alla fotocamera vi sia una persona realmente presente e non una fotografia o una registrazione.
Dall’autenticazione al controllo dell’agente AI
Applicata agli agenti autonomi, questa tecnologia potrebbe realizzare un principio essenziale della sicurezza: l’AI può analizzare, preparare e proporre un’azione, ma non deve poterla completare autonomamente quando sono in gioco salute, denaro, infrastrutture o dati sensibili.
Il procedimento più sicuro dovrebbe prevedere:
- l’agente AI prepara l’operazione;
- il sistema ne valuta il livello di rischio;
- all’utente viene mostrato con chiarezza ciò che l’agente sta per fare;
- per le azioni critiche viene richiesta una nuova verifica facciale con prova di presenza;
- l’autorizzazione biometrica viene collegata esclusivamente a quella specifica operazione;
- il sistema registra identità, data, ora, contenuto dell’autorizzazione ed esito.
In questo modo la biometria non serve soltanto a dimostrare che “qualcuno è collegato”, ma a stabilire chi ha assunto la responsabilità di una determinata decisione.
| Azione dell’agente | Livello di controllo consigliato |
|---|---|
| Ricerca e analisi di informazioni | Autonomia sorvegliata |
| Preparazione di una diagnosi o di un ordine | Revisione umana obbligatoria |
| Modifica di una cartella clinica | Identificazione dell’operatore |
| Prescrizione o somministrazione di una terapia | Conferma del professionista con autenticazione forte |
| Trasferimento di denaro o acquisto di reagenti biologici | Verifica facciale “just in time” e doppia autorizzazione |
| Accesso a laboratori o infrastrutture sanitarie | Biometria, dispositivo autorizzato e permessi limitati |
| Modifica dei controlli di sicurezza | Operazione vietata all’agente |
Il valore della “presenza umana certificata”
La verifica facciale potrebbe rispondere a quattro esigenze fondamentali.
Identità. Collega l’azione a una persona determinata, riducendo il rischio di credenziali condivise, rubate o acquistate illegalmente.
Presenza. La liveness detection mira a escludere fotografie, video preregistrati, maschere e alcune forme di manipolazione digitale.
Consenso operativo. Se correttamente progettata, la verifica può dimostrare che l’utente era presente nel momento in cui è stata autorizzata una specifica operazione.
Responsabilità. Consente di costruire una catena di controllo nella quale rimangono identificabili il fornitore del modello, l’organizzazione che lo utilizza, l’agente software e la persona che ha approvato l’azione.
Questo elemento è particolarmente importante nella sanità. Il riconoscimento biometrico non dimostra che una diagnosi sia corretta, ma può certificare che un medico identificato abbia esaminato e approvato una proposta dell’AI. È la traduzione tecnica del principio dell’OMS secondo cui l’intelligenza artificiale deve rafforzare, e non sostituire, il giudizio umano. www.who.int
Verifica uno-a-uno, non sorveglianza
Sul piano normativo bisogna distinguere la verifica biometrica uno-a-uno dall’identificazione remota uno-a-molti.
Nel primo caso l’utente dichiara la propria identità e il sistema confronta il volto con il modello biometrico già associato a quella persona. Nel secondo, invece, il volto viene cercato all’interno di una banca dati per scoprire l’identità del soggetto.
L’AI Act esclude dalla specifica categoria ad alto rischio prevista per l’identificazione biometrica remota i sistemi utilizzati unicamente per confermare che una persona sia chi dichiara di essere, ad esempio per accedere a un servizio o a un’area protetta. BioSIC sembra collocarsi, per la finalità descritta sul sito, nel primo modello. Ciò non costituisce però un’esenzione generale da ogni obbligo.
I dati biometrici destinati all’identificazione univoca restano infatti categorie particolari di dati personali ai sensi del GDPR. Occorrono una valida base giuridica, finalità determinate, minimizzazione, tempi di conservazione limitati, sicurezza elevata e, nei casi previsti, una valutazione d’impatto.
La soluzione più prudente consiste nel conservare il modello biometrico sotto il controllo dell’interessato oppure in forma cifrata, con una chiave detenuta dall’utente. È l’impostazione indicata anche dall’European Data Protection Board per ridurre i rischi connessi alle banche dati biometriche centralizzate.
Il volto da solo non basta
La presenza della biometria non rende automaticamente sicuro un sistema. ENISA richiama attacchi basati su fotografie, replay video, maschere, deepfake e soprattutto iniezione digitale di immagini direttamente nel flusso della telecamera. Occorre inoltre evitare che l’approvazione biometrica diventi un gesto automatico. Prima di mostrare il volto, l’utente deve poter comprendere l’azione proposta dall’agente, modificarla o rifiutarla. Altrimenti si avrebbe soltanto una sofisticata forma di “firma al buio”.
Il contributo più interessante di BioSIC, quindi, non consiste nel concedere maggiore autonomia all’intelligenza artificiale, ma nel fissarne il confine: l’agente può preparare l’azione, mentre l’essere umano identificato, presente e informato conserva il potere di autorizzarla o fermarla.
Articolo pubblicato con l’ausilio del sistema di Redazione AI AGENTICA di Datamoney, e supervisione umana finale.Le notizie più lette su LaMiaFinanza
✨ Classifica generata dalla Agentic AI (REDAZIONE AI) di Datamoney.ch
VIDEO INTERVISTE
Motori
REAL ESTATE
LMF crypto
LMF food
LMF private markets
LMF arte
Legal
LMF green
media partner