ISCRIVITI ALLA NOSTRA NEWSLETTER

Ricevi gli ultimi aggiornamenti dal mondo Pictet!

Intelligenza Artificiale

Deepfake: significato e pericoli per l’informazione, la politica e la finanza

Gennaio 2020

Il deepfake, la nuova tecnica che sfrutta l’intelligenza artificiale per sovrapporre in un video il volto di una persona ad un’altra, può essere usato per scopi criminali gravi, nel mondo politico ma anche finanziario.

Facebook ha annunciato da poco che rimuoverà dalla sua piattaforma i video modificati tramite l’intelligenza artificiale nota come deepfake. Il motivo, spiegato sul blog della società, è che questo strumento distorce la realtà.

Cosa significa deepfake

Per deepfake si intende la nuova tecnica che sfrutta l’intelligenza artificiale per sovrapporre il volto di una persona ad un’altra ripresa in un video. Grazie al deep learning, i volti di due persone vengono così sostituiti (face swapping), manipolando i video per far dire a chiunque tutto quello che si vuole, riproducendo la voce e sincronizzando il labiale. In questo modo, un video fake viene reso indistinguibile da uno autentico. Di solito si tratta di celebrità o politici, manipolati in modo tale che i nuovi video “fake” sembrino reali, finendo così per alterare l’informazione e inquinare il dibattito pubblico.

Un pericolo contro il quale ha messo in guardia anche Nunzia Ciardi, direttrice del Servizio Polizia postale e delle comunicazioni italiane, spiegando che il deepfake “può essere usato per tanti scopi criminali gravissimi, nel mondo politico ma anche finanziario”. Le aziende, ha spiegato Ciardi, “negli ultimi anni sono preda di truffe informatiche sempre più sofisticate e in alcuni casi milionarie, portate avanti usando il social engineering, ad esempio con e-mail che sembrano inviate dall’amministratore delegato dell’impresa. Con il deepfake, si potrebbe arrivare a simulare una videoconferenza dall’ad”.

I casi più eclatanti di deepfake

Il più celebre video deepfake è quello che vede protagonista un finto Barack Obama – indistinguibile da quello vero – che afferma: “Potrei dire cose come ‘Killmonger aveva ragione’”. L’uso del condizionale è dovuto al fatto che il video è stato ideato e pubblicato nell’aprile 2018 da BuzzFeed, allo scopo di mettere in guardia sui rischi di questi contenuti.

Tra le vittime principali di questi fake, si ricorda Nancy Pelosi in un video manipolato del maggio 2019. Lo stesso Mark Zuckerberg è stato alterato in un video completamente finto come anche numerosi politici italiani.

I timori intorno alla tecnica deepfake

Il problema è che, secondo un report appena pubblicato (Deepfakes and cheap fake. The manipolation of audio and video evidence di Britt Paris e Joan Donovan), nemmeno l’intelligenza artificiale potrebbe essere in grado di scovare con la necessaria accuratezza i video manipolati. Un timore reso ancora più concreto dal fatto che le persone – che ormai tendono a diffidare dalle notizie in rete – si fidano invece dei video. “Sul web bisogna comportarsi come se ogni giorno fosse il primo d’aprile”, si legge in uno studio del Parlamento europeo. Cosa serve? Tanta educazione e maggiore consapevolezza dello strumento che abbiamo di fronte, nella speranza di distinguere il falso dal vero.