Abstract
L’impiego dell’intelligenza artificiale generativa ha reso possibile creare immagini, audio e video artificiali di elevata verosimiglianza, idonei ad attribuire a una persona parole, condotte, scelte o sembianze che non le appartengono e potenzialmente ledere diversi aspetti della sfera giuridica di un individuo – il c.d. “deepfake”. Il fenomeno ha interessato il legislatore italiano ed europeo, e ha assunto rilevanza sotto diversi profili normativi, quali EU AI Act, normativa sulla protezione dei dati personali, tutela penale e rimedi civilistici. Il presente articolo offre una panoramica giuridica di alto livello, senza pretese di esaustività, sul fenomeno dei deepfake, interrogandosi altresì su alcune problematiche di natura strutturale e di coordinamento.
Introduzione
L’avvento dei sistemi di intelligenza artificiale generativa ha abbattuto le barriere di competenza tecnica richieste per elaborare e manipolare digitalmente volto, voce e altri tratti rappresentativi di un individuo, rendendo la realizzazione immagini e video artificiali accessibile alla generalità dell’utenza anche non professionale.
Il c.d. fenomeno dei deepfake si inserisce in questo scenario. Con “Deepfake” (la cui etimologia deriva dalle locuzioni deep learning e fake) si intendono contenuti digitali (immagini, video o audio) realizzati mediante strumenti di intelligenza artificiale che, partendo da contenuti reali (ad es., una fotografia), riescono a modificare o ricreare, in modo estremamente realistico, i tratti somatici e della personalità di un individuo.
Si tratta quindi di contenuti digitali falsi, creati con sistemi di AI, ma credibili, in quanto tali idonei a indurre il pubblico a ritenere autentico un contenuto che non lo è.
Il rischio principale è quindi quello della incapacità di distinzione tra contenuto reale e artificiale e della perdita di controllo della propria immagine, che può avere varie declinazioni: (i) attribuzione a un soggetto di dichiarazioni mai rese, comportamenti mai tenuti o immagini mai prodotte, (ii) la falsificazione audiovisiva a fini reputazionali, economici o fraudolenti e (iii) nei casi più gravi, rappresentazione della persona in (artefatti) contesti intimi o pornografici (c.d. “Deepnude”).
La questione, dunque, riguarda sia la reputazione e il decoro degli individui, sia – più in generale – tutto il nucleo dei diritti della personalità.
Per contrastare il fenomeno, il diritto europeo e nazionale hanno cominciato a reagire lungo direttrici diverse e complementari: trasparenza tecnologica, protezione dei dati personali, nuove fattispecie penali e rimedi civilistici.
L’AI Act: obblighi di trasparenza
Nel contesto europeo, il riferimento normativo principale è costituito dal Regolamento (UE) 2024/1689, comunemente noto come “EU AI Act”. L’AI Act è entrato in vigore il 1° agosto 2024 e troverà piena applicazione con decorrenza dal 2 agosto 2026 (salvo eventuali proroghe).
Per ciò che qui interessa, il riferimento centrale è l’art. 50, dedicato agli obblighi di trasparenza per i fornitori e i deployers di determinati sistemi di IA, e nello specifico quanto statuito ai commi 2 e 4, rispettivamente qui riportati:
“I fornitori di sistemi di IA, compresi i sistemi di IA per finalità generali, che generano contenuti audio, immagine, video o testuali sintetici, garantiscono che gli output del sistema di IA siano marcati in un formato leggibile meccanicamente e rilevabili come generati o manipolati artificialmente. I fornitori garantiscono che le loro soluzioni tecniche siano efficaci, interoperabili, solide e affidabili nella misura in cui ciò sia tecnicamente possibile, tenendo conto delle specificità e dei limiti dei vari tipi di contenuti, dei costi di attuazione e dello stato dell’arte generalmente riconosciuto, come eventualmente indicato nelle pertinenti norme tecniche. Tale obbligo non si applica se i sistemi di IA svolgono una funzione di assistenza per l’editing standard o non modificano in modo sostanziale i dati di input forniti dal deployer o la rispettiva semantica, o se autorizzati dalla legge ad accertare, prevenire, indagare o perseguire reati.”
“I deployer di un sistema di IA che genera o manipola immagini o contenuti audio o video che costituiscono un «deep fake» rendono noto che il contenuto è stato generato o manipolato artificialmente. Tale obbligo non si applica se l’uso è autorizzato dalla legge per accertare, prevenire, indagare o perseguire reati. Qualora il contenuto faccia parte di un’analoga opera o di un programma manifestamente artistici, creativi, satirici o fittizi, gli obblighi di trasparenza di cui al presente paragrafo si limitano all’obbligo di rivelare l’esistenza di tali contenuti generati o manipolati in modo adeguato, senza ostacolare l’esposizione o il godimento dell’opera.”
L’AI Act affronta quindi il fenomeno dei deepfake in chiave preventiva, cercando di ridurre il rischio della possibile portata lesiva dei contenuti artificiali richiedendo che siano adottati strumenti idonei di trasparenza a evitare che contenuti artificiali siano scambiati per autentici.
La norma non impone uno specifico standard tecnico vincolante, ma le soluzioni più comuni sono, ad esempio, strumenti di marking, watermarking (cioé, strumenti di marcatura o etichettatura digitale dei contenuti) metadati e altri segnali di provenienza del contenuto.
Lesione dei dati personali – il recente provvedimento del Garante per la protezione dei dati personali
I deepfake assumono rilevanza anche nell’ambito della normativa sulla protezione dei dati personali, quali il GDPR e il Codice Privacy.
Consapevole di ciò, l’Autorità Garante per la protezione dei dati personali, su propria iniziativa, ha adottato un provvedimento (Provvedimento n. 789 del 18 dicembre 2025) proprio dedicato al fenomeno.
In tale provvedimento, il Garante ricostruisce i tratti fondamentali del fenomeno dei deepfake e la sua possibile lesività in quanto idoneo a privare le persone della propria “autodeterminazione informativa” (“ciò che voglio far sapere di me lo decido io”), e incidere sulla loro libertà decisionale (“quello che penso e faccio è una scelta su cui gli altri non possono interferire”).
Su tale presupposti, il Garante ha chiarito alcuni punti essenziali:
- la voce e le immagini rientrano nella nozione di dato personale;
- tali dati possono assumere natura biometrica quando, in ragione della natura del dato e delle finalità del trattamento, siano utilizzati attraverso mezzi tecnici per consentire o confermare l’identificazione univoca di una persona;
- in questi casi non basta una base giuridica “ordinaria” ai sensi dell’art. 6 GDPR (ad es., trattamento ai fini dell’erogazione di un servizio chiesto dall’interessato, o legittimo interesse), ma occorre anche verificare la sussistenza di una delle ulteriori condizioni di liceità specifica previste dall’art. 9 GDPR (ad es., un consenso specifico per il trattamento del dato);
- l’uso di tali dati senza un’idonea condizione di liceità e senza informazioni corrette e trasparenti può verosimilmente violare le disposizioni del GDPR, con tutte le conseguenze, anche di carattere sanzionatorio previste dalla disciplina.
Il provvedimento non si limita ai fornitori tecnologici, ma costituisce un avvertimento rivolto a tutte le persone fisiche o giuridiche che usano servizi di generazione di contenuti basati su voci o immagini reali di terzi, a conferma del fatto che il problema non riguarda soltanto il mercato professionale. È vero che il GDPR esclude i trattamenti svolti per attività esclusivamente personali o domestiche, ma quando il contenuto viene condiviso pubblicamente o esce dalla sfera strettamente privata, l’esenzione tende a restringersi in modo sensibile.
Profili penali – La legge n. 132/2025 e l’introduzione dell’art. 612-quater c.p.
Nel settembre 2025 l’Italia ha approvato la Legge n. 132/2025 avente ad oggetto “Disposizioni e deleghe al Governo in materia di intelligenza artificiale” ed entrata in vigore il 10 ottobre 2025. La legge ha lo scopo di integrare l’EU AI Act, sul piano interno, regolando alcuni settori e introducendo specifiche norme di raccordo.
Tra le novità di maggiore rilievo vi è il nuovo art. 612-quater c.p., rubricato “illecita diffusione di contenuti generati o alterati con sistemi di intelligenza artificiale”.
La norma, il cui bene giuridico tutelato può rinvenirsi nella dignità e nell’autodeterminazione dell’individuo, sanziona la pubblicazione, la cessione o la diffusione di immagini, video o voci falsificati o alterati mediante IA e idonei a indurre in inganno sulla loro genuinità, qualora ricorrano due condizioni:
- la diffusione avvenga senza il consenso della persona offesa;
- la diffusione cagioni un danno ingiusto alla persona offesa.
La pena prevista è la reclusione da uno a cinque anni. Il delitto è procedibile a querela della persona offesa, salvo alcune ipotesi aggravate a procedibilità d’ufficio (cioé, senza la necessità di querela di parte), come nel caso di vittima minore o incapace, o quando il fatto riguardi una pubblica autorità.
La scelta legislativa è di grande rilievo sistematico: il legislatore italiano ha tipizzato in modo espresso l’offesa prodotta dalla diffusione di deepfake, riconoscendo che la falsificazione della persona mediante strumenti di IA merita una risposta penale autonoma.
A tal riguardo, è bene precisare che la rilevanza penale di una condotta realizzata nell’ambiente digitale non presuppone necessariamente una diffusione ampia del contenuto illecito: anche una sola condivisione può risultare sufficiente a ledere la reputazione della persona interessata, soprattutto in considerazione delle peculiarità proprie della comunicazione online, caratterizzata da rapidità di circolazione, elevata replicabilità dei contenuti e concreta difficoltà di arrestarne la successiva diffusione. In tale prospettiva, anche un apporto apparentemente circoscritto alla propagazione del materiale offensivo (ad esempio, un semplice inoltro) può concorrere in modo significativo alla produzione del danno e, ove ne ricorrano i presupposti, assumere rilievo ai fini dell’accertamento della responsabilità penale.
La legge n. 132/2025 introduce inoltre:
- una nuova circostanza aggravante comune ex art. 61 c.p. per i reati commessi con l’impiego di strumenti di IA, quando l’uso dell’IA renda la condotta più insidiosa, ne ostacoli la repressione o ne aggravi le conseguenze;
- un’aggravante speciale in materia di attacco ai diritti politici dei cittadini se il fatto è commesso usando sistemi di IA per influenzare il voto o altri diritti politici (art. 294 c.p.).
La tutela civilistica dell’immagine e dell’identità personale
Altre forme di tutela verso il fenomeno dei deepfake sono offerte dal codice civile e dalla legge sul diritto d’autore, ancorché non con una disciplina ad hoc.
Segnatamente, quanto alla tutela civilistica, la diffusione di deepfake può integrare una violazione dei cc.dd. “diritti della personalità” di cui all’art. 10 del codice civile, a norma del quale “Qualora l’immagine di una persona o dei genitori, del coniuge o dei figli sia stata esposta o pubblicata fuori dei casi in cui l’esposizione o la pubblicazione è dalla legge consentita, ovvero con pregiudizio al decoro o alla reputazione della persona stessa o dei detti congiunti, l’autorità giudiziaria, su richiesta dell’interessato, puo’ disporre che cessi l’abuso, salvo il risarcimento dei danni.”
La legge sul diritto d’autore, segnatamente gli artt. 96 e 97 tutelano il ritratto della persona. Il primo stabilisce la regola generale del consenso, per cui il ritratto di una persona non può essere esposto, riprodotto o messo in commercio senza il consenso dell’interessato, salvo le eccezioni previste dall’art. 97 (ad es., notorietà della persona), ma fermo in ogni caso che l’immagine non può essere esposta o messa in commercio se l’uso arreca pregiudizio all’onore, alla reputazione o al decoro della persona ritratta.
Alcune criticità e sfide ancora aperte
- La velocità della diffusione – La prima criticità è la sproporzione tra la velocità di generazione e diffusione del deepfake e i tempi del diritto. Un contenuto falso può diventare virale in poche ore, mentre la tutela giudiziale richiede spesso tempi ben più lunghi.
- L’identificazione dell’autore e la prova – È spesso difficile individuare chi abbia creato il contenuto, chi lo abbia diffuso per primo e quale ruolo abbiano avuto i diversi intermediari. Inoltre, la disponibilità di una molteplicità di strumenti di IA, spesso utilizzati in combinato, e la circolazione cross border aumentano la complessità probatoria.
- Standard tecnici e affidabilità del watermarking – La marcatura dei contenuti è una soluzione promettente a livello di principio, ma restano aperte alcune questioni tecniche importanti:
- interoperabilità degli standard degli strumenti di marcatura;
- resistenza della marcatura a manipolazioni successive;
- compatibilità tra diverse piattaforme e modelli;
- attendibilità di sistemi di rilevazione automatica.
- Libertà di espressione, satira e rischio di over-removal – Un tema di interesse, poi, è il bilanciamento tra la tutela dei diritti della persona come sopra affrontati e l’eventuale uso lecito dei deepfake, con conseguente rischio di over removal. Ad es., la repressione dei deepfake illeciti non dovrebbe tradursi in una compressione indiscriminata della libertà di espressione, della satira, della parodia o dell’arte.
Conclusioni
Il deepfake rappresenta una delle forme più avanzate di aggressione alla persona nell’ambiente digitale contemporaneo. La sua pericolosità non dipende soltanto dalla falsità del contenuto, ma dalla sua capacità di appropriarsi dei tratti identificativi dell’individuo e di restituirli al pubblico in forma manipolata, credibile e potenzialmente devastante. L’ordinamento europeo e quello italiano stanno fornendo una prima risposta per arginare il fenomeno.
Tuttavia, la tutela effettiva dell’immagine e dell’identità personale contro i deepfake richiede un ecosistema integrato e un approccio multilivello: progettazione responsabile dei sistemi, governance organizzativa, tempestività dei rimedi, cooperazione delle piattaforme, e – come per tutti i nuovi, grandi fenomeni tecnologici – una profonda educazione digitale degli utenti.
Articolo a cura del Dott. Eduardo Astone
