Deepfake o Deep fake: tutto quello che devi sapere

Tanto ampio quanto complesso, l’argomento deepfake spopola negli ultimi anni. L’unica costante che sembra riguardare il deep fake è che si tratta di un fenomeno in forte crescita ed è in grado di manipolare intere generazioni se non adeguatamente studiato e arginato.

Abbiamo deciso di parlare dell’argomento in un articolo dedicato, per cercare di fare chiarezza e capire cosa è importante sapere in merito. Perché ciò avvenga bisogna essere informati sulle ultime novità e obiettivi del deepfake, anticipando e portando avanti sviluppi futuri e innovazioni.

Ecco di che cosa parleremo in questo articolo:

1. Definizione Deepfake

2. Che cos’è nel complesso il deep fake?

3. Dove e Come nasce il deepfake

4. Breve storia deepfake

5. Deepfake e hacker

6. Esempio di Deep fake

7. Come si creano i deepfake: tramite app

8. Contenuti deepfake tramite software

9. Come accorgersi dei contenuti fake

10. Il vero pericolo deepfake: furto dati e identità

11. Deepfake e aziende

12. Come proteggersi dal deepfake

13. Onorato Informatica per la protezione dei dati

Se siete alla ricerca di una definizione da dizionario del termine, eccovi accontentati.

Treccani o persino la stessa Wikipedia definisce il deepfake come il fenomeno che attraverso la manipolazione delle immagini e video già esistenti crea nuovi contenuti fake (fasulli). La manipolazione delle immagini avviene grazie ad appositi processi AI, ovvero processi di intelligenza artificiale.

Il termine è un vero neologismo. Nasce per la prima volta nel 2017 in breve tempo fa il giro del web. Deep fake e fake news hanno molto in comune: in entrambi i casi si tratta di contenuti falsi che vengono diffusi su larga scala via web.

Ma il motivo per il quale abbiamo deciso di scrivere un intero articolo su questo argomento, è che rientra a piena regola nel tema sicurezza e social network.

Se ancora non vi è chiara la definizione di deepfake provate ad immaginare questa situazione.

Un hacker riesce a trovare il vostro account Instagram o Facebook e trova immagini, foto e video che vi ritraggono. Il robot prende queste immagini e attraverso una particolare tecnologia sfrutta i contenuti per dar vita ad un video che vi ritrae mentre dite oscenità.

Non c’è assolutamente nulla di vero: il video creato è un fake, è finto. Ciò non toglie che chiunque ne prenderà visione e non vi conosca possa credere che sia vero. Ebbene, pensate alla potenza di questo fenomeno applicato a politici, persone famose.

Riuscire a creare un video in cui l’ex presidente degli Stati Uniti (sembra proprio lui) Obama, sostiene che il suo rivale Trump è “un totale e completo imbecille”. Questa volta è successo per davvero. In questo articolo vi abbiamo inserito un’immagine del video deepfake che ha scatenato un vero e proprio dibattito negli Stati Uniti nel 2017.

Riassumendo il deepfake

Quando si sente parlare di deep fake si fa riferimento a video o foto che vengono realizzati manipolando il volto e la voce di una persona. Non semplici fotomontaggi, nessun un copia-incolla più o meno accurato, ma veri e propri contenuti inediti, frutto dell’intelligenza artificiale.

Il deepfake nasce su Reddit.

Come vi dicevamo all’inizio dell’articolo: contenuti fake e social network sono strettamente correlati ed il motivo è semplice. I social network contribuiscono in modo decisivo alla diffusione delle notizie, anche se non vere.

Ad ogni modo, Reddit è un social network di intrattenimento, poco conosciuto in Italia ma molto sfruttato negli USA.
I video fasulli ha iniziato a diffondersi come attività ricreativa: nei primi video deepfake infatti venivano sostituiti i volti di attori con quelli di altre persone del mondo dello spettacolo dando vita a clip divertenti.

Cosa succede nel tempo? Breve storia deepfake

Da clip divertenti a tecnica utilizzata dal crimine informatico. Come si è evoluto il deep fake?

Nel 2016-2017 c’è il boom dei videomaker su tutti i social network. Autostima alle stelle e narcisismo a fiumi: quella che era iniziata come una moda passeggera che passava dai video satira, sconfina nella creazione di contenuti per adulti fake (revenge porn).

A rendere questa ondata di contenuti multimediali spazzatura potenzialmente pericolosi sono soprattutto due elementi:

1. reperire software open source per creare deepfake è semplice
2. i software o app deepfake in circolazione sono accurati e garantiscono un’ottima resa.

Deep fake: solo contenuti spazzatura o potenziale minaccia informatica?

Domanda retorica nonché fulcro del nostro articolo.

L’obiettivo del nostro blog è sempre stato quello di rivolgersi alle persone e agli imprenditori nello specifico che s’interessano di sicurezza informatica e che vogliono realmente spendere 2 minuti per comprendere i rischi che derivano dalle minacce.

Il deepfake rappresenta un pericolo per le aziende e a sostenere questa tesi è proprio La truffa del CEO.
Ne abbiamo parlato in un articolo dedicato, ma lo riportiamo anche in questo paragrafo.

Le tecniche connesse al deepfake vengono sfruttate dai criminali informatici anche per portare avanti delle vere e proprie truffe a danno delle aziende.

Nella maggior parte dei casi deepfake, l’hacker colpisce direttamente l’imprenditore, il CEO della società.

Al responsabile amministrativo arriva una chiamata direttamente dall’hacker, o meglio da un software gestito dall’hacker. La voce che risponde al telefono è esattamente identica a quella dell’amministratore delegato. Il finto amministratore delegato ordina al reparto amministrativo il trasferimento di € 200.000 o più a un fornitore entro un’ora.

I soldi vengono girati su conti esterni che in breve tempo diventano non identificabili.

Conclusione legata al deepfake: gli hacker sfruttano l’intelligenza artificiale per creare un deepfake della voce dell’esecutivo. Se il reparto amministrativo non è sufficientemente formato, la truffa va a buon fine.

In questo modo il deepfake viene utilizzato per i crimini informatici e colpisce le aziende.

I video e contenuti fake nel 2021 saranno sempre più diffusi.

Di seguito vi parliamo di un esempio di video deepfake:

• Il video virale realizzato dallo youtuber Ctrl Shit Face. Nel contenuto il volto dell’attore Jim Carrey viene sostituito a quello di Jack Nicholson in una clip tratta dal celebre film Shining. Lo stesso creatore del video ha rivelato ai propri follower il metodo utilizzato per creare il video: un profilo Patreon ricco di supporter e un’enorme quantità di immagini di buona qualità da caricare sul software DeepFaceLab per realizzare la sovrapposizione.

Se da un lato il video di Jim Carrey nei panni di Jack Torrance altro non è che un video nato allo scopo di suscitare divertimento e perché no stupore, dall’altro un contenuto di questo materiale può essere utilizzato anche per scopi illegali.

In questo articolo non vi insegneremo a generare contenuti deepfake ma piuttosto desideriamo farvi sapere quanto sia cresciuto il mercato delle applicazioni legate a questo mondo. Oggi per creare contenuti fake esistono applicazioni evolute, facilmente reperibili e a basso costo.

Una delle Applicazioni più diffuse di deepfake risulta essere FaceApp (lanciata nel 2018). L’applicazione è compatibile con Windows e Linux ma anche e soprattutto per il mondo mobile: iOS e Android.

Per generare contenuti fasulli tramite app sarà sufficiente possedere una fotocamera integrata nel dispositivo. Altre applicazioni utilizzate sono Jiggy, Reface e Impressions.

Pensando all’attività di hacker e criminali informatici, il vero problema è legato ai potenti software di deep learning. Al contrario delle applicazioni deep fake (presenti in larga scala e disponibili legalmente nell’App Store o nel Play Store), i software adottati per generare dei seri contenuti deepfake sono rivolti ad una ristretta cerchia di utenti del web.

L’intelligenza artificiale avanzata di questi programmi permette di generare contenuti estremamente realistici ma che richiedono comunque un lavoro informatico estremamente accurato, non accessibile ai più.

In un futuro ormai prossimo, le tecniche utilizzate anche dai software di deepfake verranno utilizzate dagli hacker per:

• progettare malware e attacchi informatici sempre più accurati;
• portare a termine attacchi di ingegneria sociale;
• condurre attacchi ransomware profilati;

E non dimentichiamo, che alla base dell’obiettivo di questi contenuti c’è la distorsione dell’informazione: la diffusione di notizie e comunicazioni false. Con tutto ciò che ne deriva.

Come abbiamo già stabilito, creare un video deepfake non è difficile ma creare un buon contenuto deep fake richiede conoscenze accessibili a pochi.
Ecco perché, oggi, è ancora possibile riconoscere i contenuti fake (fasulli).

In questi articolo vi spiegheremo come fare:

• Glitch: per gli utenti meno tecnici chiamati anche scatti nell’immagine, incongruenze nella continuità dei movimenti del volto, della bocca che fanno pensare ad un’immagine costruita ad hoc. Per riconoscere questi particolari consigliamo sempre di guardare i video sospetti deepfake sul computer e non su smartphone.
• Movimenti degli occhi: nei video fasulli, gli occhi del soggetto infatti (in articolare iride e pupille) si muovono in modo innaturale.
• Voce del soggetto: nel caso della truffa del CEO, un’orecchio attento si accorgerebbe del tono e dell’accento di voce distorto.
• Illuminazione del volto: quasi sempre non cambia nei video e risulta piatta.

Prestare attenzione ai contenuti deepfake è diventato imperativo: essendo ormai utilizzati come parte integrante di truffe ai danni di singoli e aziende, è importante conoscere quali sono i rischi che si corrono.

Furto d’identità: in che modo?

Il furto d’identità consiste nell’utilizzo di un volto e un nome che non ci appartiene, spesso in questi casi si tratta di utilizzo improprio. Nel caso del Deepfake, i creatori dei contenuti video sottraggono l’identità di personaggi politici e dello spettacolo per dar vita a contenuti virali come:

• Il falso video in cui l’ex presidente americano Barack Obama offende l’attuale presidente Donald Trump
• Altro video fasullo nel quale la speaker della Camera degli Stati Uniti, Nancy Pelosi, appare inequivocabilmente ubriaca;

Il Deepfake è più diffuso di quanto crediate, al punto che sia Google che Facebook hanno diramato comunicati ufficiali su come difendersi.

Per i dipendenti di un’azienda è fondamentale riconoscere una truffa quando si presenta. Nel caso della truffa del CEO, se il responsabile amministrativo ha una formazione e un background cyber security anche minimo sarà in grado di fare opportune verifiche prima di predisporre il pagamento a società estere.

Inoltre, mantenere alto il livello di protezione dei dati delle persone che operano all’intero di un’azienda (nome, cognome, ruolo, email, numero di cellulare) è essenziale.

Attenzione utenti: fate attenzione ai contenuti personali che pubblicate online. Da chi sono visibili i dati?

I social network sono la fonte principale di diffusione ma anche di recezione del materiale per i creatori di video deepfake. Ecco perché è importante ricorrere agli strumenti di privacy messi a disposizione dell’utente.

In sostanza: poche informazioni personali e visibili ad un pubblico ristretto.

Quando ad essere coinvolta è un’azienda, è fondamentale rivolgersi a professionisti del settore cybersecurity.

Di pari passo al pericolo deepfake, si sono sviluppati anche degli algoritmi di prevenzione che individuano video e contenuti fasulli sulla base di dettagli impercettibili all’occhio umano. Inoltre, Onorato Informatica lavora quotidianamente per la protezione dei dati e per la difesa delle aziende dagli attacchi informatici 2020.

Rivolgendosi ad una realtà specializzata è possibile concordare insieme una strategia di cyber security calibrata in base alla tipologia e alle esigenze aziendali, difendendo i dati da possibili attacchi hacker.

Onorato Informatica è un’azienda informatica, specializzata in sicurezza informatica, da oltre 15 anni.

Ci occupiamo di Cyber Security dalle nostre sedi di Mantova, Parma, Milano e Los Angeles. Siamo un’azienda certificata ISO 9001, ISO 27001 e azienda etica.

Se vuoi conoscere i servizi di sicurezza informatica e sapere come possiamo aiutarti, contattaci.