Quando l’AI ricorderà per noi

Le fotografie sono spesso trattate come prove del passato, anche quando vengono ricordate male, ritagliate o ricontestualizzate. Gli strumenti generativi aggiungono una possibilità: rendere visivamente credibile una scena che non è mai avvenuta o modificare dettagli di una scena reale. La domanda non riguarda solo ciò che vediamo, ma ciò che crediamo di ricordare dopo averlo visto.

In uno studio preregistrato pubblicato alla conferenza CHI 2025, 200 partecipanti sono stati divisi in quattro gruppi. Dopo aver visto immagini originali e svolto un’attività intermedia, i gruppi hanno ricevuto stimoli differenti: immagini non modificate, immagini editate con AI, video generati dall’AI oppure video generati a partire da immagini modificate.

I ricercatori hanno poi verificato i ricordi dei partecipanti. I visual alterati dall’AI hanno aumentato le rievocazioni errate; l’effetto maggiore si è osservato nella condizione dei video di immagini editate, con un tasso di falsi ricordi 2,05 volte quello del gruppo di controllo. Anche la fiducia nei ricordi falsi è risultata più alta in quella condizione.

Il numero descrive il confronto tra gruppi in un esperimento specifico. Non significa che ogni persona abbia avuto il doppio dei ricordi falsi nella vita quotidiana, né dimostra che un singolo contenuto possa riscrivere stabilmente una memoria autobiografica.

Il risultato è rilevante perché la memoria non funziona come un archivio che conserva una registrazione immutabile. Le persone ricostruiscono gli eventi a partire da ciò che hanno vissuto, visto e appreso in seguito. Un’immagine verosimile può diventare un elemento di quella ricostruzione.

La ricerca non autorizza a concludere che le etichette di provenienza non servano: non era questa la domanda testata. Suggerisce invece che la manipolazione visiva può influire sulla rievocazione e che gli effetti meritano di essere studiati in contesti più vicini all’uso reale, su tempi più lunghi e con tipi diversi di contenuto.

Per giornalismo, archivi familiari, musei e piattaforme, la provenienza di un file diventa parte della sua storia. I metadati e le credenziali di contenuto possono documentare l’origine e alcune modifiche, quando vengono mantenuti lungo la filiera. Non garantiscono da soli che la scena rappresentata sia vera, completa o correttamente interpretata.

La stessa distinzione vale per le imprese che conservano fotografie, video di prodotto o documentazione di processo. Un archivio affidabile richiede sia controlli tecnici sia pratiche editoriali: chi ha creato il contenuto, che cosa è stato modificato e quale uso è appropriato attribuirgli.

Se immagini sintetiche possono entrare nel modo in cui ricordiamo un evento, quali prove dovremo conservare per ricostruire la storia di un contenuto? E come separeremo una memoria personale da un’immagine incontrata in seguito?

Lo studio ha coinvolto 200 partecipanti in quattro condizioni controllate. I risultati dimostrano un effetto nelle condizioni sperimentali descritte, non una stima universale del rischio né una diagnosi clinica.