La caverna di Platone: guardiamo solo le ombre della nostra identità digitale

Dalla caverna di Platone ai deepfake: perché la nostra identità digitale non ci rappresenta davvero.

Nella Repubblica, Platone descrive prigionieri incatenati che trascorrono l’intera vita a fissare le ombre proiettate su una parete. Quelle ombre sono l’unica realtà che conoscono, non perché siano ingenui, ma perché non hanno mai avuto accesso ad altro.

Gli algoritmi di machine learning si trovano nella stessa condizione. Vedono solo le nostre ombre digitali: numeri, click, cronologie, punteggi. Non vedono le persone celate dietro questi valori e il problema risiede proprio qui. Per quanto si moltiplichino i dati, il divario tra chi siamo e come veniamo rappresentati nei dataset resta incolmabile. Gli esseri umani vengono ridotti a input numerici e testuali che sono, per definizione, una distorsione di ciò che siamo.

1. Quando l’ombra prende decisioni al posto tuo
2. Quando l’ombra si stacca dalla persona
3. La verità non è quello che vediamo

Quando l’ombra prende decisioni al posto tuo

Le conseguenze pratiche di questa distorsione sono già visibili e misurabili. Cathy O’Neil, nel suo libro Weapons of Math Destruction, documenta come i credit score, strumenti nati per valutare l’affidabilità finanziaria, vengano oggi usati dagli algoritmi come proxy del carattere di una persona in contesti che nulla hanno a che fare con i prestiti bancari. Candidati a posizioni lavorative vengono scartati sulla base della loro storia creditizia, che diventa misura di competenza e affidabilità. Chi ha un debito medico non saldato o una rata universitaria saltata si ritrova intrappolato in un ciclo difficile da spezzare: escluso dal lavoro per un punteggio basso, impossibilitato a migliorare quel punteggio senza lavoro. L’algoritmo decide, ma non risponde di nulla.

Il caso del predictive policing è ancora più inquietante. Gli algoritmi di polizia predittiva vengono addestrati su dati storici che incorporano i bias del passato, inclusi quelli legati a discriminazioni razziali consolidate. Il risultato è un sistema che tende a perpetuare e amplificare quelle stesse distorsioni, proiettandole nel futuro con l’apparenza di oggettività che i numeri sembrano conferire. Un loop che si autoalimenta, esattamente come nella caverna di Platone, dove nessuna nuova informazione riesce a penetrare.

Ciò che distingue il presente dal passato non è l’esistenza dei bias, che hanno sempre accompagnato le decisioni umane, ma la progressiva erosione del ruolo umano in quelle decisioni. Gli algoritmi esercitano oggi un potere concreto sulla vita delle persone che storicamente spettava ad altri esseri umani, con tutto ciò che questo implica sul piano della responsabilità. Un algoritmo che nega un lavoro, aumenta un premio assicurativo o segnala qualcuno come soggetto a rischio non può essere chiamato a rispondere. Chi subisce la decisione spesso non sa nemmeno che è stata presa da una macchina.

Quando l’ombra si stacca dalla persona

C’è un momento in cui la distorsione digitale smette di essere un problema astratto e diventa una minaccia concreta. Quel momento ha un nome: deepfake. Un video, una voce, un’immagine costruiti per sembrare reali, al punto da ingannare chi guarda, chi ascolta, chi deve decidere. La vecchia certezza del “vedere per credere” non regge più.

Le applicazioni criminali sono già documentate: campagne di disinformazione elettorale, frodi finanziarie, estorsioni, furti d’identità. Le vittime più colpite sono donne e ragazze, prese di mira attraverso la produzione e diffusione di contenuti sessuali non consensuali. Le smentite arrivano sempre in ritardo rispetto alla velocità con cui questi contenuti circolano.

Sul piano normativo, la direttiva NIS2 impone agli Stati membri di trattare i deepfake come minaccia esplicita. In Italia una proposta di legge obbliga le piattaforme a etichettare i contenuti alterati dall’intelligenza artificiale e introduce nel Codice Penale l’articolo 612-quater, che punisce la diffusione di media dannosi modificati dall’IA con pene da uno a cinque anni.

La verità non è quello che vediamo

La parola deepfake è nata intorno al 2015, quando sul web cominciarono a circolare i primi video che sovrapponevano il volto di una persona su quello di un’altra. La tecnica era rozza, ma il principio era dirompente: per la prima volta era possibile fabbricare prove visive convincenti di eventi mai accaduti. Le elezioni americane del 2016 mostrarono cosa succede quando quella possibilità incontra un’opinione pubblica già disorientata.

Il problema, però, va oltre la tecnologia. Quando la fiducia nei fatti collassa, ciò che rimane è la fiducia nei volti e nelle voci. Chi parla conta più di quello che dice. L’autorevolezza percepita sostituisce la verificabilità. Ed è proprio in questo vuoto che i deepfake diventano uno strumento politico: non servono a convincere chi dubita, servono a rafforzare chi ha già smesso di verificare.

La caverna di Platone non era un posto in cui si entrava per forza. Era un posto da cui era difficile voler uscire, perché fuori c’era luce e incertezza. Le nostre caverne digitali funzionano allo stesso modo: offrono certezze semplici in cambio della rinuncia al dubbio. Imparare a dubitare di ciò che sembra più ovvio è già, in questo senso, una forma concreta di autodifesa.