Il Garante per la protezione dei dati personali ha emesso un provvedimento d'urgenza, con effetto immediato, contro Clothoff, un'applicazione basata sull'intelligenza artificiale che consente di generare immagini di "deep nude", ovvero fotografie e video falsi che ritraggono persone reali in pose nude, sessualmente esplicite o addirittura pornografiche. La società che la gestisce ha sede nelle Isole Vergini Britanniche.
Il servizio — disponibile sia gratuitamente che a pagamento — permette a chiunque di caricare una foto e ottenere in pochi secondi un'immagine manipolata che ritrae la persona ritratta come se fosse nuda. Non esistono filtri per verificare il consenso del soggetto fotografato, né alcuna segnalazione che indichi il carattere artificiale dell'immagine prodotta. Peggio ancora: l'app è accessibile anche ai minorenni, e può essere usata per elaborare immagini che li ritraggono.
Il blocco si è reso necessario per gli "elevati rischi" che simili strumenti comportano per i diritti fondamentali delle persone: la dignità, la riservatezza, la protezione dei dati personali. L'Autorità ha inoltre avviato un'indagine più ampia, finalizzata a contrastare tutte le app di nudificazione presenti sul mercato, non solo Clothoff.
Dietro ogni immagine generata da Clothoff c'è una persona in carne e ossa, spesso ignara di tutto. Una donna che ha pubblicato una foto di una gita in montagna. Un'adolescente che ha condiviso uno scatto con le amiche. Un'immagine innocua trasformata, in pochi secondi e senza consenso, in materiale sessuale.
Le conseguenze per le vittime sono devastanti e raramente si esauriscono nell'immediato. Chi subisce questo tipo di violenza digitale racconta di provare vergogna, senso di impotenza e una sensazione di esposizione permanente: l'immagine falsa, una volta diffusa online, diventa quasi impossibile da rimuovere completamente. La rete non dimentica.
Nei casi più gravi, le immagini deepfake diventano strumento di ricatto — il cosiddetto sextortion — o di stalking. La vittima viene minacciata: "paga, o diffondo queste foto". Una forma di violenza psicologica che può avere effetti prolungati sulla salute mentale, sull'autostima, sulla capacità di fidarsi degli altri, e in alcuni casi ha portato a conseguenze tragiche, in particolare tra i più giovani.
La presenza di minorenni in questo scenario è ciò che rende la situazione ancora più allarmante. L'app non prevede alcun sistema di verifica dell'età, né per chi usa il servizio né per i soggetti ritratti nelle immagini caricate. Questo significa che una foto di un ragazzo o una ragazza può essere manipolata e trasformata in contenuto sessuale esplicito con estrema facilità.
I recenti fatti di cronaca italiana lo confermano: episodi avvenuti in ambienti scolastici, dove immagini di coetanee sono state alterate e poi diffuse nei gruppi chat, hanno mostrato con brutale chiarezza quanto questo fenomeno sia già presente nella vita quotidiana degli adolescenti. Non è più un problema astratto o futuro: è già qui, nelle tasche di chi ha uno smartphone.
Clothoff non è un caso isolato. È il sintomo di un problema strutturale: la disponibilità sempre più democratica di strumenti di intelligenza artificiale generativa, senza alcun presidio etico o legale. Creare un deepfake sessuale non richiede competenze informatiche avanzate, non costa quasi nulla, e per chi lo subisce può avere conseguenze che durano anni.
L'intervento del Garante è un segnale importante, ma è solo un primo passo. La vera sfida è culturale prima ancora che normativa: in una società in cui un'immagine si condivide in un secondo e rimane online per sempre, occorre costruire una consapevolezza nuova, a partire dalle scuole, sul rispetto della persona — anche e soprattutto nell'era digitale.
