Combattere la creazione di video deep fake attraverso reti generative avversarie (GAN)

-

I deep fake sono una preoccupazione crescente nel mondo dell’intelligenza artificiale, in quanto consentono la creazione di foto, audio e video falsi che sono quasi indistinguibili da quelli reali. Mentre i social media sono stati una piattaforma popolare per la distribuzione di deep fake, il boss di Instagram Adam Mosseri ritiene che possano anche svolgere un ruolo nel smentirli.

Il metodo principale utilizzato per creare video deep fake è attraverso reti generative avversarie (GAN Generative Adversarial Networks), in cui un modello di intelligenza artificiale genera un video falso e un altro tenta di identificarlo. La lotta contro i video deepfake può effettivamente beneficiare delle Reti Generative Avversarie (GAN), che sono anche la tecnologia alla base della creazione di deepfake. 

Addestrare Reti GAN per Rilevamento

Si creano modelli discriminatori avanzati che possono identificare caratteristiche impercettibili lasciate dai deepfake. Questi modelli vengono addestrati su grandi dataset di video autentici e deepfake. Le GAN imparano a distinguere dettagli sottili, come incongruenze nei movimenti oculari, ombre irrealistiche o texture della pelle. Una soluzione può essere quella di generare dataset sintetici tramite GAN per simulare vari tipi di deepfake e addestrare modelli di rilevamento più robusti e preparare i modelli a riconoscere tecniche di manipolazione via via che vengono implementate.

Utilizzo di GAN Inverse

Tecnicamente si tratta di analizzare un video sospetto con GAN per determinare se è stato prodotto da un modello generativo. Questo può avvenire invertendo il processo generativo per verificare la presenza di tracce di manipolazione  e permette di risalire a possibili firme o pattern specifici delle tecniche di generazione. Le GAN possono essere combinate con strumenti di analisi forense digitale per rilevare discrepanze nei metadati, analisi dei pixel o flussi di movimento che non corrispondono alla realtà fisica.

Creazione di Modelli di Rilevamento Specifici

Esempi di rilevazione: analisi del battito degli occhi, movimenti del viso, sincronia labiale, o sfumature nei bordi delle immagini. Le GAN aiutano a simulare scenari complessi per migliorare l’accuratezza dei modelli di riconoscimento. A mano a mano che le tecnologie migliorano, i deepfake diventano più difficili da rilevare. È essenziale disporre di dataset rappresentativi e aggiornati. Gli algoritmi devono essere abbastanza veloci per analizzare video in tempo reale. L’utilizzo di GAN per combattere i deepfake rappresenta una corsa agli armamenti tecnologica, in cui ogni miglioramento nella generazione di deepfake spinge anche l’innovazione nei metodi di rilevamento.

Tuttavia, nuovi modelli di diffusione come DALL-E 2 stanno prendendo piede. Questi modelli prendono filmati video reali e apportano modifiche per creare un gran numero di varianti, rendendoli più facili da usare con prompt di testo. Esempi di deep fake includono Morgan Freeman e Tom Cruise, così come Martin Lewis che promuove una truffa nell’ambito delle criptovalute. Mosseri di Instagram ritiene che i social media possano aiutare a segnalare contenuti falsi, ma non sono perfetti e comunque si dovrebbero sempre considerare le fonti. Con il continuo miglioramento della tecnologia, è importante che gli utenti siano esigenti quando fruiscono di contenuti e che le piattaforme Internet etichettino i contenuti generati dall’intelligenza artificiale.