Hacker sostituibili dall’IA? Uno studio di Stanford sembra suggerirlo

Uno studio di Stanford analizza l’uso dell’IA nel penetration testing. Risultati, limiti e implicazioni per la cybersecurity.

Negli ambienti digitali moderni, le attività di attacco e difesa stanno divenendo sempre più automatizzate. I sistemi di scansione basati su intelligenza artificiale sono già in grado di analizzare infrastrutture, individuare vulnerabilità e testare configurazioni a una velocità che supera di gran lunga le capacità operative umane. Allo stesso modo, strumenti difensivi automatizzati possono reagire in tempo quasi reale, applicando correzioni e modifiche senza intervento diretto.

1. Cos’è ARTEMIS
2. Il test di ARTEMIS
3. Dove ARTEMIS mostra i suoi limiti
4. Oltre l’hacking tradizionale

Visti i recenti sviluppi, ci si è posti una domanda: quale ruolo rimane agli operatori umani? Se l’individuazione delle falle e la loro mitigazione sono processi gestiti da sistemi automatici, il fattore umano risiede nella supervisione. In altre parole, si concentra sull’interpretazione del contesto, sulla definizione degli obiettivi e sulla valutazione degli effetti a lungo termine.

Proprio su quest’ultimo punto si inserisce il dibattito riacceso nelle ultime settimane. Uno studio condotto da Stanford suggerisce che i sistemi offensivi basati su intelligenza artificiale siano in grado di superare le prestazioni degli operatori umani. Vediamo nel dettaglio di cosa si tratta.

Che cos’è ARTEMIS

ARTEMIS è un agente di penetration testing basato su intelligenza artificiale, sviluppato dai ricercatori di Stanford con l’obiettivo di simulare il comportamento di un attaccante reale. Il suo scopo non è eseguire test predefiniti, ma individuare vulnerabilità muovendosi all’interno di un’infrastruttura come farebbe un penetration tester esperto.

A differenza degli strumenti tradizionali, ARTEMIS non segue una sequenza di azioni. Analizza l’ambiente, valuta le informazioni disponibili e adatta dinamicamente la propria strategia quando un tentativo non produce risultati. L’elemento distintivo del sistema, però, non è tanto la singola tecnica utilizzata, quanto l’architettura su cui si basa. Questo coordina più sottoagenti che operano in parallelo. Ogni modulo si concentra su un possibile vettore di attacco, che tiene conto di configurazioni errate, meccanismi di autenticazione, servizi obsoleti o esposti. In tal modo può valutare più ipotesi al tempo stesso e ridurre drasticamente i tempi di analisi rispetto a un operatore umano.

Sebbene non introduca nessuna novità in termini di tecnologie offensive, ARTEMIS amplifica velocità e copertura dell’attacco. In tal senso l’attività di penetration testing viene portata ad un livello difficilmente replicabile da una singola persona.

Il test di ARTEMIS

Per confermare la veridicità dello strumento, ARTEMIS è stato testato in un confronto diretto con dieci penetration tester esperti. L’obiettivo era valutare la capacità del sistema di individuare vulnerabilità reali in una situazione reale, confrontando le prestazioni con quelle di professionisti umani.

Durante il test, ARTEMIS ha analizzato circa 8.000 dispositivi, tra server, computer e sistemi intelligenti, distribuiti sulle reti pubbliche e private del dipartimento di informatica di Stanford. L’esperimento si è svolto nell’arco di 16 ore, ma il confronto con i tester umani è stato limitato alle prime 10 ore, lo stesso intervallo di tempo messo a disposizione dei partecipanti. In questo arco di tempo, ARTEMIS ha individuato nove vulnerabilità con un’accuratezza dell’82%. Secondo i ricercatori, le sue prestazioni sono risultate superiori a quelle di nove dei dieci penetration tester coinvolti.

Un altro elemento emerso riguarda la continuità operativa. A differenza di altri strumenti basati su intelligenza artificiale, ARTEMIS ha mantenuto costante il livello di attenzione senza necessità di supervisione umana. Questo perché progettato per operare in autonomia per periodi prolungati. In termini economici, si è stimato che il suo costo operativo è pari a 18 dollari l’ora, che salgono a circa 59 dollari l’ora nelle configurazioni più avanzate. Si tratta di un valore molto ridotto rispetto al costo medio di un penetration tester professionista negli Stati Uniti, che si aggira intorno ai 125.000 dollari annui.

Secondo Stanford il potenziale di questi sistemi non risiede nella sostituzione completa delle persone, ma nella possibilità di delegare all’automazione le attività più ripetitive e dispendiose. Così facendo le risorse umane sono concentrate maggiormente su compiti di analisi e decisione.

Dove ARTEMIS mostra i suoi limiti

Nonostante i risultati ottenuti nei test, il sistema si è rivelato tutt’altro che infallibile. Sebbene ARTEMIS offra prestazioni migliori in termini di analisi del codice, i limiti emergono nel momento in cui l’analisi coinvolge interfacce grafiche complesse. Finché l’interazione avviene tramite script, API o comandi da terminale, l’agente riesce a muoversi in modo efficace. Quando, invece, subentrano web app con dashboard grafiche complesse, o logiche di interazione non previste dalla configurazione, ARTEMIS non individua molte vulnerabilità. Ciò accade perché non riesce a interpretare l’interfaccia come farebbe un essere umano.

Un ulteriore limite è legato alla gestione dei falsi positivi. In alcuni casi, il sistema ha segnalato come sospetti eventi di log del tutto innocui. Un analista esperto riesce a escluderli rapidamente, mentre l’intelligenza artificiale ancora non distingue efficacemente le minacce reali da quelle generate da un errore di interpretazione.

Ecco perché l’ipotesi di una sostituzione immediata degli operatori umani risulta poco realistica. Più che rimpiazzare le persone, sistemi come ARTEMIS stanno ridefinendo il modo in cui vengono condotte le attività di analisi e testing.

Oltre l’hacking tradizionale

Secondo analisti di sicurezza, l’uso dell’intelligenza artificiale negli attacchi informatici non si limiterà a firewall, applicazioni web o infrastrutture IT. Studi e analisi condotti dal Belfer Center di Harvard, indicano che potrebbero essere impiegati modelli sempre più avanzati . Il loro obiettivo è quello di individuare vulnerabilità in sistemi meno tecnici, in cui rientrano regolamenti finanziari, normative fiscali, statuti societari e processi decisionali complessi.

Qualsiasi insieme di regole può trasformarsi in un possibile vettore di attacco e l’IA permette di analizzarli a fondo, individuando elementi che difficilmente emergerebbero da un’analisi umana tradizionale. Questo perché si tratta di elementi normativi che spesso cadono in una zona grigia, con possibili interpretazioni aggressive ma formalmente legali. Secondo lo studio, le violazioni del futuro potrebbero assumere anche questa forma, manifestandosi come sfruttamenti del sistema mirati agli equilibri economici, finanziari e sociali, in cui non verrebbe infranta alcuna regola tecnica.

Sul fronte della difesa, i team di sicurezza stanno già sperimentando sistemi automatizzati basati su intelligenza artificiale in grado di monitorare continuamente le infrastrutture. Resta tuttavia un elemento critico, ossia quello in cui attacco e difesa sono entrambi automatizzati. In questo caso, il vantaggio pende a favore di chi opera con meno vincoli normativi ed etici. Nel breve periodo, avvertono gli analisti, attori statali e organizzazioni criminali ben finanziate potrebbero trovarsi in una posizione di vantaggio rispetto a chi deve muoversi entro confini legali più stringenti.