AI Phishing: come funzionano gli attacchi e come difendersi dalle truffe con generative AI

Scopri come funzionano le campagne di AI phishing e come difendersi dalle nuove truffe basate su voice clone e deepfake.

Una mail apparentemente inviata dal direttore finanziario chiede l’approvazione urgente di un pagamento. A seguire, una telefonata conferma l’operazione. Pochi istanti dopo, una videocall mostra i volti familiari del CFO e di due colleghi che sollecitano la procedura. Tutto sembra autentico, ma nulla di tutto ciò è reale.  Questo perché ogni contenuto, testo, voce e immagine, è stato creato con strumenti di intelligenza artificiale generativa. Si tratta di un attacco di phishing evoluto, progettato per simulare perfettamente comunicazioni aziendali, dinamiche relazionali e gerarchie interne.

1. Cos’è l’AI phishing
2. Cosa cambia dal phishing tradizionale
3. Dentro un attacco moderno di AI phishing
4. Come difendersi dagli attacchi di AI phishing

La nuova frontiera del cybercrime non passa più attraverso e-mail piene di errori grammaticali o link sospetti, ma da truffe digitali ad alta fedeltà, capaci di ingannare anche utenti esperti. Davanti a uno scenario del genere, le tradizionali misure di prevenzione non bastano più. I modelli statici di formazione aziendale, aggiornati una volta all’anno, faticano a stare al passo con minacce che cambiano di settimana in settimana.

Vediamo insieme come la generative AI ha cambiato per sempre il volto delle campagne di phishing.

Cos’è l’AI phishing

L’AI phishing è l’evoluzione più sofisticata degli attacchi di ingegneria sociale. A differenza del phishing tradizionale, queste campagne sfruttano strumenti di intelligenza artificiale generativa per creare e-mail, messaggi vocali e persino video estremamente realistici e personalizzati.

Come funziona un attacco di AI phishing

I cybercriminali utilizzano modelli linguistici, generatori vocali e deepfake video per simulare identità reali all’interno dell’organizzazione. Le truffe si presentano in forma molto credibile, ad esempio:

• E-mail curate nei minimi dettagli, con riferimenti a progetti, eventi aziendali o nomi interni realmente esistenti.
• Chiamate vocali clonate, in cui la voce del CEO viene riprodotta artificialmente per sollecitare un’azione urgente.
• Videomessaggi falsi, generati con modelli deepfake, in cui un dirigente sembra approvare una transazione o richiedere un’operazione riservata.

La tecnica è molto efficace perché, grazie all’AI, gli attaccanti possono generare migliaia di messaggi personalizzati in pochi minuti, eliminando gli errori tipici dei tentativi tradizionali. I contenuti appaiono autentici perché contestualizzati sul singolo destinatario, arrivando a includere:

• Nome e ruolo;
• Informazioni aziendali pubbliche;
• Dettagli tratti da social network, o breach precedenti.

Una ricerca pubblicata da IBM X-Force ha dimostrato che le e-mail di phishing generate con AI hanno un tasso di successo del 54%, paragonabile a quello ottenuto da criminali esperti, ma con un costo e un tempo di esecuzione drasticamente inferiori.

Cosa cambia dal phishing tradizionale

Il phishing tradizionale si basa su messaggi generici costruiti per simulare comunicazioni da enti affidabili come banche, provider o agenzie governative. I criminali fanno leva su un falso senso di urgenza per spingere l’utente ad aprire un allegato o cliccare su un link dannoso. Il loro obiettivo è quello di raccogliere credenziali, dati sensibili, o installare malware nel dispositivo della vittima.

Tuttavia, con l’avvento dell’AI generativa, il phishing cambia radicalmente volto. Questo perché le campagne di AI Phishing abbandonano lo stile impersonale e generico, favorendo la personalizzazione spinta ottenuta tramite e-mail compromesse, social media aziendali e fonti OSINT. Il risultato sono messaggi contenenti riferimenti a colleghi reali, progetti interni, eventi recenti o strumenti effettivamente in uso. In tal modo la truffa diviene perfettamente coerente con il contesto aziendale in cui la vittima opera effettivamente.

A ciò si aggiunge la possibilità da parte dell’IA di clonare la voce di un dirigente e rendere credibili chiamate urgenti di approvazione pagamenti. Può anche generare delle copie identiche e indistinguibili di un portale aziendale, complete di autenticazione falsa e reindirizzamento automatico. In più, è possibile anche produrre in massa varianti della stessa truffa, ottimizzate per ogni profilo. Tuttavia, il vero pericolo risiede nella sua velocità. Se un attacco tradizionale richiede tempo e risorse per ogni singolo target, un sistema basato su generative AI può colpire migliaia di utenti contemporaneamente, ciascuno con un messaggio su misura.

Dentro un attacco moderno di AI phishing

In base a quanto detto precedentemente, abbiamo compreso che gli attacchi di phishing basati su generative AI non sono semplici messaggi casuali. Si tratta di campagne multicanale, coordinate e personalizzate in base alle vittime designate. Gli attacchi seguono una logica ben precisa, che si articola in quattro fasi ben distinte. Vediamole di seguito una per volta in dettaglio.

Fase 1. Raccolta dati e profiling automatico

L’AI analizza in pochi istanti fonti pubbliche come:

• profili LinkedIn e siti aziendali;
• comunicati stampa e menzioni online;
• interazioni sui social network;

L’obiettivo finale è quello di ricavare un profilo dettagliato della vittima, con nome del responsabile diretto, progetti in corso, scadenze e linguaggio interno. Queste informazioni diventano la base di una truffa credibile e perfettamente contestualizzata

Fase 2. Invio del primo messaggio

L’attacco vero e proprio ha inizio con un’e-mail di spear phishing, costrutita ad hoc per rispecchiare tono e struttura comunicativa interni. Un esempio del genere è il seguente:

Ciao Marco, come da indicazioni di Laura per la chiusura budget Q3, autorizza la fattura in allegato entro oggi. Grazie.

Com’è facile intuire, un’e-mail del genere sfugge facilmente ai controlli, perché non contiene errori evidenti, ma fa leva sulla routine aziendale. In tal modo il phishing tradizionale cede il passo a uno spear phishing notevolmente potenziato.

Fase 3. Escalation con una chiamata vocale clonata

Se l’e-mail non sortisce alcun effetto, l’attacco prosegue con la tattica della chiamata vocale clonata. All’apparenza il nostro interlocutore può sembrare il CFO, un fornitore noto, o un nostro collega, laddove c’è in realtà l’AI. Attraverso tecniche di spoofing, l’AI è in grado di replicare fedelmente il tono, l’accento e il modo di parlare di un nostro contatto. In tal modo si simulano conversazioni realistiche in tempo reale, che aggiungono ulteriore pressione emotiva.

Fase 4. Video deepfake per legittimare l’operazione

Nei casi più sofisticati, la truffa si conclude con una videocall manipolata, solitamente condotta tramite Microsoft Teams o Zoom. In questa appaiono su schermo dirigenti e colleghi della vittima, ma si tratta di cloni realizzati con l’intelligenza artificiale: i cosiddetti deepfake. Questa tecnica prende il nome AI-powered visual social engineering, sfrutta il contesto visivo per disinnescare ogni sospetto. Infatti, vedere volti familiari che confermano determinate istruzioni, induce le vittime ad agire senza alcuna verifica e risulta estremamente efficace.

Come difendersi dagli attacchi di AI phishing

Le campagne di phishing basate su generative AI sono più credinili, più rapide da produrre e più difficili da individuare. Per difendersi si deve far ricorso sia a tecnologie evolute, che a una cultura di sicurezza informatica. Di seguito sono riportati alcuni consigli pratici adatti allo scopo.

• Utilizza filtri e-mail intelligenti. Implementa soluzioni di sicurezza basate su AI per analizzare contenuti, link e allegati sospetti, bloccando i messaggi prima che raggiungano l’utente.
• Verifica sempre l’autenticità delle e-mail. Configura i protocolli SPF, DKIM e DMARC per evitare che attori malevoli possano fingere di essere mittenti legittimi.
• Monitora comportamenti anomali. Adotta sistemi di analisi comportamentale per rilevare accessi insoliti, azioni fuori orario o download sospetti.
• Proteggi le videoconferenze. Imposta password per le riunioni, disattiva il controllo remoto e limita l’accesso solo agli utenti verificati.
• Forma i dipendenti in modo mirato. Aggiorna i programmi di formazione includendo i nuovi rischi legati a deepfake vocali, video falsi e messaggi personalizzati generati da AI.
• Organizza simulazioni periodiche. Esegui phishing drill e test interattivi per allenare i team a riconoscere e segnalare tentativi sospetti.
• Favorisci la segnalazione immediata. Crea un ambiente in cui i dipendenti possano segnalare email anomale o comportamenti sospetti senza timore di ritorsioni.

Questa è solo una delle molte forme che può assumere il phishing: scopri le altre nella nostra guida completa al phishing.