A caccia di “deepfake“. La startup che svela tutti gli imbrogli dell’IA: "Così ci si può difendere"

A caccia di intelligenza artificiale degenerativa. Ogni giorno il team di IdentifAI – startup con sede a Milano e Cesena – verifica la veridicità delle immagini condivise online. In una contemporaneità in cui i deepfake hanno ormai pervaso le vite degli internauti, fornire gli strumenti necessari per contrastare questo fenomeno è un dovere morale per chi maneggia sapientemente queste nuove tecnologie.

Lo sanno bene Marco Ramilli e Marco Castaldo - founder della piattaforma IdentifAI – che s’impegnano a promuovere una realtà virtuale trasparente e sicura. Ed è proprio il concetto di “realtà” a meritare un’ulteriore riflessione: tutti i contenuti modificati e diffusi online irrompono con ferocia nelle vite offline delle vittime, costrette a trovarsi faccia a faccia con una visione alterata e distorta di loro stesse. I corpi di donne e uomini esposti alla mercé del popolo di Internet senza il loro consenso, come se essere un volto noto o pubblicare una semplice foto sui social li spogliasse di ogni forma di privacy o diritto. È il caso della giornalista Francesca Barra che, solo pochi giorni fa, ha scoperto su un sito sessista delle sue immagini di nudo generate con l’intelligenza artificiale. Ed è proprio in questi contesti di crisi che opera IdentifAI, perché ormai il mondo digitale non è più confinato all’interno di cellulari o computer, ma s’irradia nella quotidianità di ogni cittadino.

Ramilli e Castaldo, come si smaschera un contenuto realizzato con l’intelligenza artificiale? "Un tempo riconoscere queste immagini era molto più semplice: spesso queste riproduzioni avevano una scarsa profondità oppure alcune parti anatomiche come mani e piedi non erano generate in maniera corretta. Il mondo dell’IA corre veloce e adesso riconoscere un deepfake a occhio nudo è pressocché impossibile: noi, ad esempio, usiamo una specifica intelligenza artificiale che ci consente di identificare quelle tracce che i generatori hanno lasciato, in modo da capire se siano contenuti originali oppure modificati".

Quali sono i contenuti generati con l’intelligenza artificiale che rintracciate con maggiore frequenza? "Senza dubbio quelli legati al mondo delle truffe online. Negli ultimi mesi abbiamo notato un rapido incremento delle immagini modificate con finalità di sextortion, parliamo quindi di ricatti a sfondo sessuale. E il 70% delle vittime colpite da questo reato sono persone di sesso femminile".

Chi si rivolge a voi? "Abbiamo clienti in tutta Europa e a breve salperemo anche negli Stati Uniti. Diciamo che ci contattano soprattutto banche, assicurazioni e media di vario genere in cerca di risposte e conferme".

Dall’inizio del 2025 a oggi quanti contenuti contraffatti siete riusciti a rintracciare? "Si tratta di un numero difficile da quantificare, dato che diamo la possibilità di utilizzare la nostra piattaforma attraverso due modalità: una pagina web dove caricare i contenuti per sapere se si tratta di un fake, oppure una soluzione definita “machine to machine” per grandi quantità di materiale. Di un dato siamo certi: il numero di utenti che si affida alla nostra piattaforma cresce ogni giorno di più".

Esiste un modo per contrastare la diffusione di contenuti modificati? "Non esiste un modo per eliminare definitivamente questa problematica, ma possiamo gestirla. Dobbiamo imparare a conviverci, ripensando il concetto di realtà; un tempo era un aspetto tangibile della nostra vita, la potevamo toccare con mano, ma ora con l’avvento del digitale si è espansa, diventando qualcosa di molto più complesso. La realtà del presente richiede nuovi strumenti e soprattutto una nuova educazione: l’adattamento è la chiave per difendersi al meglio".