Article. What i write

I deepfake: come rilevarli per difendersi dalla disinformazione

Pubblicato il 08 novembre 2024 su CyberSecurity360.it

L’evoluzione dei deepfake

1. analizzare un vasto dataset di immagini o video di una persona;
2. apprendere le caratteristiche distintive del volto, dei movimenti e delle espressioni di quella persona;
3. generare nuovi contenuti video o immagini in cui il volto o il corpo della persona sono sostituiti da quelli di un’altra persona o da un’entità completamente nuova.

1. Effetti speciali: Nel settore cinematografico e dei videogiochi per creare effetti speciali realistici.
2. Formazione: Per creare simulazioni realistiche di situazioni per l’addestramento in vari campi.
3. Arte: Per creare opere d’arte digitali innovative.
Ma anche in contesti criminali:
4. Disinformazione: I deepfake possono essere utilizzati per diffondere notizie false e propaganda.
5. Diffamazione: Possono essere utilizzati per danneggiare la reputazione di individui o organizzazioni.
6. Frode: Possono essere utilizzati per commettere frodi finanziarie o per impersonare altre persone.

1. La manipolazione audio: questa funzionalità è in grado di alterare digitalmente i parametri di una registrazione audio per modificarne il significato. Ciò può comportare la modifica dell’intonazione, della durata, del volume o di altre proprietà del segnale audio. Negli ultimi anni, le reti neurali profonde sono state utilizzate per creare campioni audio, altamente realistici, di persone che dicono cose che in realtà non hanno mai detto.
2. La manipolazione delle immagini: questa peculiarità rappresenta il processo di alterazione digitale degli elementi di un’immagine per modificarne l’aspetto e il significato. Ciò può provocare la variazione dell’aspetto di oggetti o persone rappresentati in un’immagine. Di recente, le reti neurali profonde sono state utilizzate per generare immagini completamente nuove che non si basano su oggetti o scene del mondo reale.
3. La generazione di testo: questa tecnica implica l’uso di reti neurali profonde, come le “recurrent neural networks” e i modelli basati sui “transformer”, per produrre testo dall’aspetto autentico e che sembra essere stato scritto da un essere umano. Queste tecniche possono replicare lo stile di scrittura e di conversazione degli individui, rendendo il testo generato più credibile.

Come si realizza un deepfake

Fasi per la creazione di un Deepfake (Fonte: SEI- Carnegie Mellon University).

1. Gathering del video sorgente (CPU): per realizzare un deepfake ad alta risoluzione (p.e. in formato 4K) è necessario acquisire diversi minuti di un filmato originale. I video devono mostrare frame similari sia in termini di espressioni facciali, che dei movimenti oculari e del capo. È, inoltre, importante che le identità sorgente e destinazione si assomiglino. Devono avere la stessa forma e le stesse dimensioni di testa e viso, capelli e barba similari, la stessa tonalità della pelle e sesso. In caso contrario, il processo di sostituzione mostrerà queste difformità come artefatti visivi e, persino, una post-elaborazione ben fatta non sarà in grado di rimuoverli.
2. Estrazione (CPU/GPU): in questa fase, ogni video è suddiviso in fotogrammi. All’interno di ogni fotogramma, viene identificato il viso (solitamente utilizzando un modello DNN[1]) e vengono identificati circa 30 punti di riferimento facciali che fungeranno da punti di ancoraggio per il posizionamento delle caratteristiche facciali adoperate dal modello di training.
3. Training (GPU): in questa fase, ogni set di facce allineate è immesso nella rete di training. La figura mostra lo schema generale di una rete encoder-decoder utilizzata per il training e per la conversione del modello. Si noti che, dopo la fase di estrazione, tutte le facce di input, allineate e mascherate, vengono immesse nella stessa rete encoder. L’output è una rappresentazione di tutte le facce di input in uno spazio vettoriale di dimensione inferiore, chiamato spazio latente. Successivamente, questi oggetti vengono passati separatamente attraverso le reti decoder per le facce A e B, le quali tentano di generare o ricreare immagini per ogni set di facce. Le facce generate sono, poi, confrontate con le facce originali, viene calcolata la funzione di perdita, si verifica la retro-propagazione e, infine, vengono aggiornati i pesi per le reti decoder ed encoder. Questa ultima azione è utile per i successivi affinamenti. L’utente può decidere di far finire il training dopo aver ispezionato l’output e verificato la qualità, oppure quando il valore di perdita non diminuisce più. Ci sono momenti in cui la risoluzione, o la qualità delle facce in input, impedisce al valore di perdita di raggiungere il valore desiderato. In questo caso, molto probabilmente, nessuna quantità di training o post-elaborazione fornirà un deepfake convincente.
4. Conversione (CPU/GPU): il deepfake è generato nella fase di conversione. Per realizzare uno scambio di facce, in cui la faccia A deve essere scambiata con B, viene utilizzato il flusso mostrato nella parte inferiore del processo. In questa fase, le facce di input A, allineate e mascherate, sono immesse nel codificatore. A questo punto, il codificatore ha appreso una rappresentazione per entrambe le facce A e B. Quando l’output del codificatore è passato al decodificatore per B, tenterà di generare la faccia B scambiata con l’identità di A. In questa fase non viene eseguito nessun apprendimento o addestramento. La conversione rappresenta il passaggio unidirezionale di un set di facce date in input attraverso la rete codificatore-decodificatore. L’output del processo è, a sua volta, un set di frame che deve essere assemblato da altri software per diventare un video.
5. Post-elaborazione (CPU): questo passaggio richiede molto tempo e abilità. In questa fase possono essere rimossi gli artefatti minori, ma non potranno essere corrette le differenze importanti. Sebbene la post-elaborazione si possa eseguire sfruttando le funzioni di “compositing” e “masking” integrate nei software di deepfake, i risultati saranno diversi da ciò che possa essere auspicabile. Per esempio, DeepFaceLabs consente di regolare in modo incrementale la correzione del colore, della posizione, delle dimensioni e della sfumatura della maschera per ogni fotogramma del video, mentre offre una regolazione della granularità limitata. Mentre, per ottenere una post-elaborazione fotorealistica, è necessario sfruttare i tradizionali effetti multimediali, come i filtri per correggere il colore e per applicare il chroma key, oppure le funzioni per inserire/modificare/cancellare le ombre e le luci del target, presenti nei software di editing fotografico v. PhotoShop o Gimp.

1. La risoluzione video di origine e destinazione.
2. La risoluzione del deepfake.
3. La dimensione della codifica automatica.
4. Le dimensioni della codifica.
5. Le dimensioni della decodifica.
6. I parametri di ottimizzazione.
7. La potenza e il tempo di calcolo disponibile.

1. hardware GPU adeguato,
2. immagini con un’illuminazione sufficientemente uniforme e ad alta risoluzione,
3. audio privi di rumore e ad alta risoluzione,
4. illuminazione adeguata e abbinata tra le riprese d’origine e di destinazione,
5. soggetti con un aspetto simile (forma e dimensioni della testa, stile e quantità di peli sul viso, genere e tonalità della pelle) e modelli di barba sul viso,
6. acquisizione video di tutti gli angoli della testa e dell’espressione dei fonemi della bocca,
7. utilizzo del corretto modello di training,
8. esecuzione di editing post-produzione.

Analisi del problema

Numeri di deepfake per Anno (Fonte: AI Incident Database).

Una minaccia in continua evoluzione

Pubblicazioni e Codice open source sul tema della generazione di deepfake (Fonti: WoS e GitHub).

Variational auto encoders (VAE)

Generative adversarial networks (GANs)

Diffusion models (DM)

Transformers

Architetture per la generazione di deepfake: punti di forza e limiti

Un metodo per rilevare i deepfake

Indizi visivi e tecnici

• Anomalie facciali:
• Movimenti innaturali: Occhi che non battono o battono in modo eccessivo, espressioni facciali rigide o esagerate, labbra che si muovono in modo non sincronizzato con l’audio.
• Incongruenze nei dettagli: Ombre anomale intorno agli occhi o alla bocca, mancanza di dettagli come nei o rughe, colori della pelle innaturali.
• Illuminazione e ombre:
• Incongruenze nell’illuminazione: Ombre che non corrispondono alla direzione della luce, luci che sembrano dipinte sul volto piuttosto che naturali.
• Movimento e distorsioni:
• Movimenti innaturali del corpo: Posture innaturali, movimenti a scatti o troppo fluidi.
• Distorsioni ai bordi: Bordi sfocati o pixelati, soprattutto intorno ai capelli o agli oggetti in movimento.
• Artefatti di compressione:
• Artefatti video: Bande verticali o orizzontali, pixelatura eccessiva, compressione visibile.

Analisi dell’audio

• Desincronizzazione audio-video: La bocca si muove in modo non corrispondente alle parole pronunciate.
• Qualità audio: L’audio può sembrare artificiale, con riverberi innaturali o distorsioni.

Analisi metadati e contesto

• Metadati manipolati: Data e ora di creazione del file modificate, informazioni sulla fotocamera o sul dispositivo non coerenti.
• Contesto: Controllare la fonte del video, cercare altre versioni o testimonianze che confermino o smentiscano il contenuto.
• Analisi forense: Esaminare i pixel individuali per rilevare tracce di manipolazione.

Strumenti in grado di analizzare i deepfake

• Software specializzati:
• Sviluppati da aziende e istituti di ricerca: Offrono analisi approfondite e spesso richiedono competenze tecniche.
• Esempi: Sensity AI, Microsoft Video Authenticator.
• Estensioni per browser:
• Più facili da usare: Consentono di analizzare rapidamente i contenuti direttamente dal browser.
• Esempi: Incogni.
• Piattaforme online:
• Accessibili a tutti: Offrono servizi di verifica gratuiti o a pagamento.
• Esempi: Google Cloud’s Video Intelligence API.

• Analisi dei pixel: Esaminano i singoli pixel per individuare anomalie nei colori, nelle texture o nelle ombre.
• Riconoscimento facciale: Confrontano le caratteristiche facciali con database di volti reali per individuare incongruenze.
• Analisi del movimento: Valutano la fluidità dei movimenti e la coerenza delle espressioni facciali.
• Rilevamento di artefatti: Cercano artefatti digitali tipici dei processi di manipolazione delle immagini.
• Verifica dei metadati: Esaminano i dati nascosti nei file multimediali per verificare l’autenticità.

• Falsa positività: Possono identificare come falsi contenuti autentici, soprattutto se la qualità del video è bassa o se sono presenti compressioni o distorsioni.
• Falsa negatività: Possono non riuscire a rilevare deepfake particolarmente sofisticati.
• Evoluzione continua dei deepfake: I creatori di deepfake migliorano continuamente le loro tecniche, rendendo sempre più difficile il rilevamento.

Un passo importante nella lotta alla disinformazione

• Utilizzare più strumenti: Combinare i risultati di diversi strumenti può aumentare l’affidabilità dell’analisi.
• Considerare il contesto: Valutare il contenuto alla luce di altre informazioni disponibili, come la fonte, la data di pubblicazione e le circostanze in cui è stato creato.
• Mantenersi aggiornati: La tecnologia dei deepfake e degli strumenti di rilevamento è in continua evoluzione; quindi, è importante rimanere informati sulle ultime novità.

1. Automation: la possibilità di abilitare l’implementazione di decine di migliaia di video su larga scala.
2. Mixed-initiative: l’opportunità di sfruttare l’intelligenza umana e quella artificiale.
3. Ensemble techniques: per consentire una strategia di rilevamento multilivello.

Workflow per l’autenticazione dei media digitali (Fonte: SEI).

Conclusioni