Deepfake: Quando la tecnologia diventa un’arma a doppio taglio

Negli ultimi anni, l’ambiente digitale è stato testimone dell’emergere di una tecnologia controversa e potenzialmente pericolosa: il deepfake. Questa novità, orientata alla produzione di video e registrazioni audio contraffatte, sta velocemente trasformando il mondo della comunicazione e della sicurezza su internet, preannunciando un futuro in cui la consapevolezza dei pericoli informatici risulterà sempre più fondamentale.

Cosa vuol dire deepfake?

Il termine inglese “deepfake” è una fusione di “deep learning” e “fake” e denota una tecnologia che sfrutta il deep learning e l’intelligenza artificiale per creare contenuti falsi. Nello specifico, il “deep learning” rappresenta una branca della ricerca sull’intelligenza artificiale che si dedica alla creazione di sistemi basati su reti neurali per l’elaborazione di dati complessi.

Che cos’è il deepfake?

Il deepfake è una tecnologia che utilizza sia le reti neurali che l’intelligenza artificiale (IA) per modificare in modo più o meno automatico filmati, audio o immagini, generando così nuovi contenuti estremamente realistici, ma falsi. Approfondendo, esso analizza dettagliatamente e apprende modelli da grandi insiemi di dati, come immagini e registrazioni vocali. Una volta “addestrato”, il modello può generare nuovi contenuti in cui il soggetto sembra fare o dire cose che non ha mai fatto e/o detto.

Nonostante questa pratica esista da diversi anni – inizialmente era concentrata principalmente su contenuti riguardanti personaggi famosi – oggi sta assumendo una portata più ampia e universale. Ora, tutti gli utenti della rete possono essere considerati potenziali vittime. 

Per cosa viene utilizzato il deepfake?

Il deepfake viene utilizzato per una varietà di scopi, sia positivi che negativi. Alcuni degli utilizzi includono:

Intrattenimento

Inizialmente, il deepfake è stato utilizzato per creare contenuti divertenti e di intrattenimento. Ad esempio, è stato impiegato per inserire il volto di attori famosi in scene di film o programmi televisivi in cui non avrebbero partecipato, per creare degli sketch comici oppure per ringiovanire gli interpreti evitando l’utilizzo del trucco.

Educazione

Può essere utilizzato per creare simulazioni educative o video di formazione realistici, dove esperti possono illustrare concetti in modo coinvolgente.

Applicazioni artistiche

Artisti digitali possono sfruttare il deepfake per esplorare nuovi modi di esprimere la loro creatività, manipolando e mescolando elementi visivi e sonori in modi innovativi.

Tuttavia, è importante notare che il deepfake può essere sfruttato in modi dannosi, tra cui:

Manipolazione dell’opinione pubblica 

Può essere utilizzato per creare video falsi di personaggi pubblici, politici o figure di rilievo, diffondendo informazioni false o dannose e influenzando l’opinione pubblica.

Un noto esempio di deepfake con un approccio accademico è rappresentato dal progetto “Synthesizing Obama“, datato 2017. In questo caso, i ricercatori dell’Università di Washington hanno utilizzato una clip audio di un discorso reale di Obama, riuscendo a generare diverse riproduzioni video, ovviamente contraffatte, in cui il presidente statunitense sembrava pronunciare le stesse parole con un sincronismo perfetto tra audio e video. 

Questo esempio dovrebbe indurci a riflettere sulle potenziali ripercussioni che una tale forma di contraffazione potrebbe avere sulle masse, evidenziando la necessità di affrontare in modo responsabile e proattivo le sfide legate alla diffusione dei deepfake.

Frodi

Il deepfake può essere utilizzato per ingannare le persone creando video o registrazioni audio che sembrano autentiche, ma sono in realtà fasulle, per scopi fraudolenti o di ricatto.

Diffamazione

Può essere impiegato per danneggiare la reputazione di un individuo manipolando video o audio per farlo apparire coinvolto in situazioni compromettenti o in dichiarazioni fuorvianti.

Chi può realizzare deepfake?

La capacità di creare deepfake non è più limitata a un gruppo specifico di persone o professionisti; al contrario, la tecnologia è diventata più accessibile e user-friendly nel corso del tempo. 

Fino a qualche anno fa, la creazione di deepfake convincenti richiedeva competenze avanzate in Intelligenza Artificiale (IA) o nell’ambito del montaggio video. Tuttavia, oggi esistono applicazioni e software, a volte addirittura gratuiti, che semplificano notevolmente il processo, aprendo la possibilità di creare deepfake anche a coloro che non possiedono una profonda conoscenza di IA. Per questa ragione, la comunità tecnologica sta lavorando parallelamente allo sviluppo di strumenti di rilevamento per contrastare utilizzi malevoli e limitare i potenziali rischi associati a questa tecnologia.

Perché è consigliabile non scaricare app di AI che manipolano le nostre immagini

Sui social sono sempre più popolari app di contraffazione delle nostre immagini per divertimento. Grazie a queste app, possiamo modificare le nostre immagini con un restyling, provando un colore di capelli diverso, un trucco particolare o persino trasformarci in personaggi di fumetti. Tuttavia, è importante esercitare cautela e valutare attentamente le implicazioni sulla privacy e la sicurezza quando si utilizzano questi tipi di programmi.

Bisognerebbe evitare di scaricare app di intelligenza artificiale (AI) che manipolano le nostre immagini a causa di diverse preoccupazioni relative alla privacy, alla sicurezza e all’uso etico dei dati. Queste app spesso richiedono l’accesso alle nostre immagini personali, il che potrebbe comportare il rischio che le nostre foto vengano utilizzate in modo improprio o finiscano nelle mani di terze parti senza il nostro consenso. Inoltre, l’uso di tali applicazioni potrebbe implicare il trasferimento e la conservazione dei nostri dati personali su server remoti, esponendoli a potenziali rischi di violazioni della sicurezza. 

Un aspetto fondamentale da considerare è che alcune app potrebbero presentare politiche sulla privacy poco chiare o ambigue. Pertanto, è importante dedicare tempo alla lettura accurata delle condizioni d’uso al fine di comprendere appieno come saranno gestiti i nostri dati.

Come riconoscere un deepfake?

Riconoscere un deepfake può rappresentare una sfida, poiché la tecnologia si evolve costantemente diventando sempre più sofisticata. Tuttavia, ci sono alcune caratteristiche e tecniche che possono aiutare nell’identificazione di un video o un’immagine manipolati. 

Movimenti anomali, espressioni facciali irrealistiche, incoerenze nelle espressioni vocali e dettagli visivi, come la riflessione negli occhi o la coerenza delle proporzioni del viso, possono essere segnali di manipolazione. La qualità della risoluzione, la verifica della fonte, l’analisi del contesto e la consapevolezza generale dell’esistenza dei deepfake sono elementi importanti da considerare. L’utilizzo di strumenti di rilevamento specifici può essere un ulteriore passo per identificare la manipolazione digitale, anche se tali strumenti potrebbero non essere completamente infallibili. Inoltre, mantenere una mentalità critica e un approccio attento all’analisi dei contenuti digitali può contribuire a individuare segnali sospetti.