EN
Home Page

Partner per la Conoscenza

EN
Deepfake: cosa sono, come crearli e come riconoscerli

News

Deepfake: cosa sono, come crearli e come riconoscerli

Il deepfake è una tecnica utilizzata per la sintesi di immagini umane basata sull'intelligenza artificiale che sovrappone immagini e video esistenti con video o immagini originali. Vediamo insieme come si creano e come ricoscerli.

Cos'è il Deepfake

Il deepfake è una tecnica utilizzata per la sintesi di immagini umane basata sull'intelligenza artificiale che utilizza la tecnologia di apprendimento automatico chiamata Generative Adversarial Networks per combinare e sovrapporre immagini e video esistenti con video o immagini originali. 

Il termine deepfake deriva dalla tecnologia sottostante "deep learning", che è una forma di intelligenza artificiale. Gli algoritmi di deep learning, che insegnano da soli a risolvere i problemi quando vengono forniti grandi set di dati, vengono utilizzati per scambiare volti nei contenuti video e digitali per creare supporti falsi dall'aspetto realistico.

Viene anche utilizzato per produrre falsi video pornografici di celebrità e revenge porn, ma può anche essere utilizzato per produrre fake news, compiere atti di cyberbullismo o vari altri crimini informatici.

L’evoluzione delle tecnologie deepfake che consentono di creare prove di scene mai accadute fanno ormai parte della realtà. Alcune celebrità si sono purtroppo ritrovate in situazioni davvero spiacevoli a causa di deepfake ed alcuni soggetti politici sono apparsi in alcuni video nei quali sembravano pronunciare parole che in realtà non avevano mai pronunciato.

Le preoccupazioni sui deepfake hanno portato ad una proliferazione di contromisure. Molti paesi stanno cercando di impedire l’uso illegale relativo alla produzione degli stessi. Alcune piattaforme di social media, tra cui Facebook e Twitter, hanno bandito i deepfake dalle loro reti. 

Come viene creato un deepfake?

Esistono diversi metodi per creare deepfake, ma il più comune si basa sull'uso di reti neurali profonde che coinvolgono autoencoder che utilizzano una tecnica di scambio di volti. È necessario avere prima un video target da usare come base del deepfake e poi una raccolta di videoclip della persona che si vuole inserire nel target. 

L'autoencoder è un programma di intelligenza artificiale con il compito di studiare i video clip per capire come appare la persona da una varietà di angolazioni e condizioni ambientali, quindi mappare quella persona sull'individuo nel video di destinazione trovando caratteristiche comuni. 

Un altro tipo di apprendimento automatico è il GAN (Generative Adversarial Networks) che rileva e migliora eventuali difetti nel deepfake in più riprese, rendendo più difficile la decodifica per i rilevatori di deepfake. 

I GAN sono molto usati per la creazione di deepfake in quanto si basano sullo studio di grandi quantità di dati. Esistono diverse app e software di facile utilizzo utili alla creazione di deepfake, come l'app cinese Zao, DeepFace Lab, FaceApp (1), Face Swap e la ormai rimossa DeepNude (2).

Una grande quantità di software deepfake può essere trovata su GitHub, una comunità open source di sviluppo software. Alcune di queste app sono utilizzate per scopi di puro intrattenimento, motivo per cui la creazione di deepfake non è vietata, mentre altre hanno molte più probabilità di essere utilizzate in modo dannoso. 

Molti esperti ritengono che in futuro i deepfake diventeranno molto più sofisticati in proporzione allo sviluppo tecnologico. In tal senso potrebbero verificarsi minacce più gravi per i governi e per l’opinione pubblica in quanto capaci di creare interferenze nelle competizioni elettorali, tensioni politiche ed attività criminali.

Come vengono utilizzati i deepfake?

Sebbene la capacità di scambiare automaticamente i volti per creare video sintetici credibili e realistici abbia alcune interessanti applicazioni apparentemente non nocive come ad esempio nel cinema, questa tecnologia potrebbe rivelarsi molto pericolosa se applicata ad altre situazioni. 

Il video deepfake è stato utilizzato anche in politica al fine di destabilizzare leader politici oppure governi. Gli esperti di politica internazionale si stanno preparando per una futura ondata di fake news basate su video deepfake realizzati molto bene.

Naturalmente non tutti i video deepfake rappresentano una minaccia esistenziale per la democrazia. Non mancano i deepfake usati per l'umorismo e la satira.

I deepfake non si limitano ai soli video. Anche l'audio deepfake è in rapida crescita. Deepfake audio realistici possono essere realizzati utilizzando algoritmi di deep learning e, con poche ore, si riesce a clonare la voce della persona. 

Come riconoscere un deepfake

La società tecnologica dovrà sempre più essere preparata all’individuazione di deepfake, in quanto gli stessi sono sempre più comuni, così come avviene per l’individuazione ed il rilevamento delle fake news. 

Ci sono una serie di indicatori che rivelano i deepfake:

  • Gli attuali deepfake hanno problemi ad animare realisticamente i volti ed il risultato è un video in cui il soggetto non sbatte mai le palpebre, o sbatte le palpebre troppo spesso o in modo innaturale. Tuttavia, dopo che i ricercatori dell'Università di Albany (USA) hanno pubblicato uno studio che rilevava l'anomalia del battito di ciglia, sono stati rilasciati nuovi deepfake che non presentavano più questo problema. 
  • Verificare anomalie per ciò che riguarda la pelle ed i capelli, oppure volti che sembrano essere più sfocati rispetto all'ambiente in cui sono posizionati. La messa a fuoco potrebbe sembrare innaturalmente morbida. 
  • Anomalia relativa alla luce del video. Spesso gli algoritmi di deepfake conservano l'illuminazione delle clip utilizzate come modelli per il video falso. Tutto ciò potrebbe creare un’anomalia nel video di destinazione. 
  • L'audio potrebbe non corrispondere alla persona, soprattutto se il video è stato contraffatto. L'audio originale potrebbe non essere stato manipolato con la stessa attenzione del video.

 

Autore: Claudio Lisi
Senior Security Manager UNI 10459:2017 III° livello
Area Manager Dogma S.p.A.

-------------------
Note:
(1) App di fotoritocco con tecniche di intelligenza artificiale integrate.
(2 ) App che generava false immagini di nudo femminile. 

Chiama il Numero Verde 800.750.751 per ricevere immediatamente un preventivo ed una consulenza riservata e gratuita, oppure, utilizza il modulo presente sulla pagina per inviarci una richiesta.

 

Puoi anche attivare la tua Indagine Online in modo semplice, sicuro e da qualunque luogo. Scopri come sul sito dedicato.

La realtà pone domande.
Noi cerchiamo le risposte.

- Colloquio preliminare GRATUITO
- Massima RISERVATEZZA
- Risposta RAPIDA
confermo di aver preso visione dell'INFORMATIVA
tutti i campi sono obbligatori