La diffusione dei deepfake – immagini e video falsi ma verosimili realizzati grazie all’intelligenza artificiale – può rappresentare un rischio elevato per la sicurezza delle persone e l’orientamento dell’opinione pubblica

I deepfake rappresentano una delle conseguenze più discusse e potenzialmente pericolose legate all’avanzamento dell’intelligenza artificiale.

L’avvento dei deepfake ha alimentato il dibattito su temi cruciali come l’etica dell’AI, la regolamentazione tecnologica e la protezione dei diritti individuali. La loro diffusione rappresenta una sfida sia per il settore tecnologico, chiamato a sviluppare strumenti di contrasto, sia per i legislatori, che devono trovare un equilibrio tra libertà creativa e tutela della sicurezza.

Questa tecnologia, apparentemente innocua, ha il potenziale di minare la fiducia nelle informazioni digitali e nei media, rendendo essenziale la sensibilizzazione del pubblico e lo sviluppo di strumenti per distinguere il vero dal falso.

Deepfake: significato

Deepfake è un termine che potremmo tradurre in italiano come “profondo falso”, anche se non esiste un equivalente e anche nella nostra lingua si utilizza il termine inglese. Il termine deriva dall’unione di deep learning (un ramo dell’AI) e fake (falso) e si riferisce a contenuti audio, video o immagini manipolati tramite algoritmi avanzati per simulare situazioni mai accadute o alterare la realtà in modo altamente realistico.

I deepfake sono dunque contenuti falsi creati con software di intelligenza artificiale a partire da immagini e video originali. Una tecnica di apprendimento automatico chiamata rete antagonista generativa consente di combinare tra loro e sovrapporre fotografie e filmati dando origine a un terzo contenuto completamente falso ma incredibilmente verosimile.

Gli utilizzi del deepfake sono noti: revenge porn, truffe, fake news, crimini informatici, atti di cyberbullismo. La satira è la più innocente delle declinazioni dei deepfake, anche perché spesso si tratta di contenuti dichiaratamente falsi o comunque poco pericolosi (pensiamo al Papa col suo lungo piumino bianco alla moda). Per completezza ricordiamo che i deepfake possono essere utilizzati anche in modo creativo e positivo (ad esempio nel cinema, nei videogiochi o nella formazione).

Come e quando è nato

Anche se i primi esperimenti lo precedono di molti anni, il termine deepfake è stato coniato nel 2017, quando un utente di Reddit con lo stesso nickname ha condiviso video manipolati utilizzando volti di celebrità sovrapposti a scene di film o contenuti espliciti. Questi video utilizzavano un software open source basato su deep learning e reti GAN. Nel 2018 sono stati rilasciati strumenti come DeepFaceLab e Faceswap, che hanno reso relativamente semplice per chiunque, anche senza competenze avanzate, creare deepfake di alta qualità.

L’accessibilità di queste tecnologie, combinata con la potenza di calcolo delle moderne GPU e il crescente utilizzo dei social media, ha accelerato la loro diffusione. Tra il 2018 e il 2019 sono esplosi i casi di deepfake pornografici, molti dei quali coinvolgevano volti di celebrità, causando indignazione e spingendo piattaforme come Reddit e Twitter a bandire i contenuti deepfake espliciti.

I rischi del deepfake

Il deepfake può essere molto pericoloso in quanto rischia di ledere l’immagine e la dignità di una persona. Come ha sottolineato Scarlett Johansson, uno dei soggetti preferiti dei creatori di deepfake, specialmente a tema pornografico, il pericolo più rilevante riguarda le persone comuni, in quanto star del suo livello sono “protette” dalla loro stessa fama, hanno gli strumenti e le risorse per difendersi. Pensiamo invece a una persona qualunque che da un giorno all’altro si ritrovi protagonista di una scena – di qualunque genere sia – alla quale non ha partecipato, che non la riguarda minimamente.

Le immagini sono potenti e la loro altissima precisione le rende pericolose: come difendersi? Il tema è aperto e la stessa Johansson ha parlato di una partita persa in principio, perché quando ci si muove nello spazio potenzialmente infinito del web andare a cancellare una immagine o un video serve a ben poco. I rischi si estendono poi anche a livello aziendale, sociale, governativo. La creazione di false identità può potenzialmente compromettere la sicurezza a livello nazionale e internazionale.

Inoltre, la circolazione di immagini e video deepfake può influenzare l’opinione pubblica in modo massiccio. L’unico modo per difendersi è rafforzare la fiducia nelle fonti di informazioni ufficiali e nei professionisti dell’informazione. Non si capisce perché una persona qualsiasi debba essere considerata attendibile da buona parte dei fruitori del web, ma ormai sembra che chiunque trasmetta una informazione pubblicamente sia una fonte affidabile. Quando non è così. Bisognerebbe fermarsi un attimo e chiedersi come e perché mai quella persona della quale non si sa nulla possa avere avuto accesso a un contenuto rilevante.

Deepfake software

Esistono numerosi software che permettono di elaborare video e immagini e creare deepfake (anche se non sempre nascono per questo scopo). Eccone alcuni:

• GAN (Generative Adversarial Networks) è la tecnologia alla base di molti software deepfake, sviluppata inizialmente per generare immagini realistiche;
• DeepFaceLab è un software open source che offre strumenti avanzati per il face-swapping (sostituzione dei volti), il rendering e la modifica delle espressioni facciali;
• DeepFakes Web è una piattaforma online che consente agli utenti di creare video deepfake direttamente sul cloud, senza necessità di hardware avanzato;
• Zao è un’app mobile cinese che consente agli utenti di inserire il proprio volto in clip di film famosi in pochi minuti;
• StyleGAN, creato da NVIDIA, genera immagini di volti umani realistici che sembrano fotografici; è utilizzato per applicazioni artistiche, ma può essere impiegato anche per manipolazioni più sofisticate;
• Artbreeder è una piattaforma che permette agli utenti di creare e modificare immagini realistiche di volti e paesaggi usando la combinazione di immagini esistenti;
• Runway ML è una piattaforma versatile per creare arte AI, immagini e video, con strumenti per modifiche rapide e sofisticate.

Come riconoscere i deep fake?

Alcuni deepfake, realizzati magari in modo amatoriale, si possono riconoscere in modo abbastanza facile e intuitivo. Altri, opera di “professionisti” del settore, sono molto difficili da individuare. Ci sono comunque alcuni elementi ai quali occorre prestare attenzione:

• nei video il soggetto non sbatte le palpebre, le sbatte poco o troppo, lo sguardo si muove in modo strano;
• la pelle può apparire sfocata o sgranata;
• luci e ombre non sono realistiche o risultano incompatibili tra loro;
• audio e labiale non combaciano alla perfezione;
• le labbra sembrano troppo grandi in proporzione al volto.

Focus parla inoltre di un programma realizzato da ricercatori dell’Università di Buffalo in grado di analizzare un contenuto e di smascherare i deepfake. Si tratta di un software open source al quale tutti possono accedere con una semplice registrazione. Basta caricare un video o una immagine e il programma ne restituisce un’analisi dettagliata.

In ogni caso, la prevenzione più importante per arginare il fenomeno dei deepfake resta la diffusione di un pensiero critico e un’elevata consapevolezza sul mondo dell’informazione.

Legislazione

La normativa italiana ed europea sui deepfake non prevede ancora una disciplina specifica, ma ci sono diverse leggi e regolamenti che possono essere applicati a seconda del contesto e dell’uso del deepfake, soprattutto considerando i potenziali danni e le implicazioni etiche e legali.

In primo luogo, la diffusione di un deepfake contenente dati personali (come un volto o una voce identificabili) senza il consenso della persona coinvolta costituisce una violazione del diritto alla privacy. A livello europeo la creazione e diffusione di deepfake può violare il Regolamento Generale sulla Protezione dei Dati se implica il trattamento di dati biometrici (come il volto) senza il consenso della persona coinvolta.

Inoltre, l’utilizzo di un deepfake per denigrare o danneggiare la reputazione di una persona può configurare il reato di diffamazione, specialmente se avviene su piattaforme pubbliche come social media. Si possono poi configurare, in base alla specifica situazione, illeciti quali truffa, diffusione di materiale intimo, violazione di copyright.

L’Unione Europea sta lavorando a una legislazione specifica che potrebbe rafforzare il contrasto alla diffusione dei deepfake, attualmente difficile da arginare.