FraudGPT: cos’è l’IA malevola al servizio del cybercrime

FraudGPT è stato uno dei primi chatbot basati sull’intelligenza artificiale creati esplicitamente per il crimine informatico: una sorta di “gemello malevolo” di ChatGPT, privo di qualsiasi filtro etico e progettato per generare email di phishing, codice dannoso e strumenti di truffa. Comparso a metà 2023, ha segnato un punto di svolta: da allora l’IA è diventata a tutti gli effetti uno strumento nelle mani dei criminali.

A distanza di tempo, FraudGPT non è più un caso isolato ma il capostipite di un’intera famiglia di strumenti.
In questa guida vediamo cos’è, come funziona, come si è evoluto il fenomeno delle “IA malevole” e — soprattutto — come un’azienda può difendersi da attacchi potenziati dall’intelligenza artificiale.

1. Cos’è FraudGPT
2. Come funziona e cosa può fare
3. Da WormGPT ai cloni: l’evoluzione delle IA malevole
4. Qual è il pericolo reale (senza allarmismi)
5. Cosa significa per le aziende
6. Come difendersi dagli attacchi potenziati dall’IA

Cos’è FraudGPT

FraudGPT è un modello linguistico (LLM) offensivo, apparso sui canali Telegram e sui mercati del dark web nel luglio 2023, secondo il report della società di sicurezza Netenrich che per prima lo documentò. A differenza dei chatbot legittimi, costruiti con precise salvaguardie etiche che ne impediscono l’uso dannoso, FraudGPT nasceva senza alcun filtro: il suo unico scopo era assistere chi vuole commettere frodi e attacchi informatici.

Veniva venduto in abbonamento — all’epoca circa 200 dollari al mese o 1.700 dollari l’anno — con tanto di assistenza clienti, esattamente come un normale software commerciale. È l’ennesima manifestazione del modello cybercrime-as-a-service: strumenti offensivi confezionati e venduti a chiunque, anche a chi non ha competenze tecniche.

Come funziona e cosa può fare

Come un normale assistente conversazionale, FraudGPT risponde a richieste in linguaggio naturale. La differenza è nel tipo di richieste che accetta. Tra le funzioni pubblicizzate:

• scrivere email di phishing e di spear phishing convincenti, in più lingue e senza gli errori grammaticali che tradizionalmente tradivano le truffe;
• generare codice per malware e pagine di phishing;
• identificare i bersagli più remunerativi e i siti più vulnerabili;
• fornire indicazioni su tecniche di attacco e vulnerabilità note.

Il vantaggio che offre ai criminali non è la creazione di attacchi “impossibili”, ma la scala e la velocità: automatizza e moltiplica ciò che prima richiedeva tempo e competenze linguistiche, abbattendo le barriere che tenevano lontani gli aspiranti truffatori.

Da WormGPT ai cloni: l’evoluzione delle IA malevole

FraudGPT non è nato dal nulla. Il vero capostipite fu WormGPT, comparso poche settimane prima, nel giugno 2023. La forte esposizione mediatica portò però il suo sviluppatore a chiudere il progetto già a metà 2023.

La chiusura non fermò il fenomeno: aveva ormai creato un mercato. Nei mesi successivi comparve una lunga serie di cloni e successori — con nomi come EscapeGPT, WolfGPT, EvilGPT, GhostGPT — molti dei quali si rivelarono poco più che operazioni truffaldine verso gli stessi criminali, spesso semplici versioni “jailbroken” di ChatGPT camuffate.

L’evoluzione più significativa è arrivata dopo. Oggi la tendenza dominante è duplice: da un lato varianti costruite sopra modelli commerciali potenti, aggirandone le protezioni; dall’altro il jailbreak diretto di modelli legittimi — rimuovere o eludere le salvaguardie di un’IA regolare per piegarla a scopi illeciti. Molti ricercatori sottolineano che, con l’ampia disponibilità di modelli open source, questi strumenti “brandizzati” per il crimine sono diventati in parte meno rilevanti: il problema si è spostato sull’uso improprio dell’IA in generale.

Qual è il pericolo reale (senza allarmismi)

Vale la pena ridimensionare una certa narrazione sensazionalistica. Gli strumenti come FraudGPT non sono una super-intelligenza criminale autonoma: analisi di sicurezza del 2025-2026 collocano ancora questo fenomeno in una fase iniziale, fatta di molta pubblicità e di un impiego maturo ancora limitato.

Il pericolo concreto è un altro, ed è comunque serio: questi strumenti abbassano drasticamente la soglia d’ingresso al crimine informatico. Chi non sa scrivere in un italiano corretto oggi può produrre email di phishing impeccabili; chi non sa programmare può ottenere una prima bozza funzionante di uno script malevolo. Il risultato non sono attacchi più sofisticati, ma attacchi più numerosi, più credibili e più difficili da riconoscere a colpo d’occhio.

Cosa significa per le aziende

Per un’impresa l’IA malevola cambia soprattutto un aspetto: le difese basate sul “riconoscere i segnali” diventano meno affidabili. Per anni abbiamo insegnato a diffidare delle email con errori grammaticali, formule sgrammaticate o traduzioni maldestre. Oggi quel filtro non basta più, perché il testo generato dall’IA è pulito e contestualizzato.

Gli scenari che preoccupano di più:

• Phishing e BEC su larga scala: campagne di Business Email Compromise personalizzate per ogni bersaglio, difficili da distinguere da comunicazioni autentiche.
• Voice cloning e deepfake: alcuni gruppi combinano LLM e clonazione vocale per telefonate fraudolente che imitano dirigenti reali.
• Velocità di adattamento: i contenuti d’attacco possono essere rigenerati e variati all’infinito per eludere i filtri automatici.

Il tema si intreccia con la manipolazione psicologica: l’IA rende la manipolazione della vittima più efficace e scalabile che mai.

Come difendersi dagli attacchi potenziati dall’IA

La buona notizia è che le difese efficaci restano quelle solide di sempre, rafforzate. Contro attacchi generati dall’IA, un’azienda dovrebbe puntare su:

• Protezione avanzata della posta elettronica: filtri che analizzano il comportamento e il contesto dei messaggi, non solo la presenza di errori o parole chiave.
• Autenticazione a più fattori su tutti gli account: anche se una credenziale viene sottratta con un phishing perfetto, il secondo fattore blocca l’accesso.
• Procedure di verifica per pagamenti e richieste sensibili: una telefonata di conferma su un canale diverso smonta la maggior parte delle frodi BEC, deepfake vocali inclusi.
• Formazione continua del personale: aggiornare la security awareness spiegando che le vecchie “spie” del phishing non valgono più e che conta il metodo, non l’aspetto del messaggio.
• Monitoraggio e risposta: un presidio che individui accessi e comportamenti anomali quando la prevenzione non basta.

Il paradosso è che la migliore difesa contro l’IA offensiva è a sua volta l’IA difensiva: i moderni sistemi di sicurezza usano il machine learning per riconoscere anomalie e attacchi in tempo reale. È una corsa continua tra attaccanti e difensori, in cui restare fermi significa restare indietro.