riflessioni

Deepfake sempre più reali, giusto o sbagliato finanziare la tecnologia?

di |

Nonostante le connotazioni negative che circondano i deepfake la tecnologia è sempre più utilizzata a livello commerciale in vari settori tra cui l'informazione e l'istruzione.

In questi giorni ha fatto molto discutere un video di Tom Cruise pubblicato su TikTok. Il noto attore di Hollywood in un breve video di 1 minuto e mezzo mostrava un trucco di magia con una moneta, raccontava un aneddoto sulla Russia e giocava a golf. Niente di strano dunque, tranne che per un un piccolo dettaglio: il video era falso.

Il video di Tom Cruise

A prima vista il video pubblicato dall’account @deeptomcruise (che in poche ore aveva accumulato migliaia di follower) sembra reale, ma solamente dopo averlo rivisto più volte si possono notare delle piccole imperfezioni.

Come spiega il sito tecnologico The Verge, l’imitatore appare più giovane del famoso attore 58enne e anche leggermente più alto. La voce usata per quanto simile non sembra realmente identica a quella reale.

Nonostante la sostituzione del viso sia effettuata in maniera molto realistica, se si fa un’analisi su singoli frame è possibile accorgersi di alcune imperfezioni. Come quando il finto Tom Cruise nel video del golf si toglie gli occhiali e per un istante li passa davanti al volto. In quel caso la conformazione della bocca cambia per una frazione di secondo, segnale che è frutto di una sovrapposizione con un altro viso.

Fonte: The Verge

Deepfake: l’uso commerciale si diffonde

Nonostante le connotazioni negative che circondano i deepfake la tecnologia è sempre più utilizzata a livello commerciale in vari settori tra cui l’informazione e l’istruzione.

Una di queste è Synthesia, una società con sede a Londra, che crea video di formazione aziendale basati sull’intelligenza artificiale per multinazionali come WPP e Accenture. In una recente intervista alla BBC Victor Riparbelli, ceo di Synthesia affermava che “i deep fake sono il futuro della creazione di contenuti. Grazie alla tecnologia le aziende possono facilmente realizzare video in diverse lingue, ad esempio per i corsi di formazione interni abbattendo i costi”.

Mike Price, chief technology officer di ZeroFox, una società di sicurezza informatica statunitense che tiene traccia dei deepfake, afferma che il loro uso commerciale “sta crescendo notevolmente di anno in anno”.

Leggi e tutele: un’etichetta per segnalare i video fake

Secondo uno studio intitolato “What To Do About Deepfakes?” a cura di Deborah Johnson, professore di etica applicata, emerito, presso l’Università della Virginia e Nicholas Diakopoulos, professore della Northwestern University dell’Illinois “i deepfake fanno parte di problema più ampio della disinformazione online che mina la fiducia nelle istituzioni al punto di non fidarci nemmeno di ciò che vediamo e sentiamo online. Per questo, rimarca lo studio dei due professori, “l’etichettatura è probabilmente il contrasto più semplice e più importante ai deepfake: se gli spettatori sono consapevoli che ciò che stanno visualizzando è stato eseguito da un software, è meno probabile che vengano ingannati”.

La professoressa Sandra Wachter, ricercatrice senior AI dell’Università di Oxford, afferma che la tecnologia deepfake “sta facendo passi da gigante”.

Se hai guardato il video di Tom Cruise la scorsa settimana, puoi vedere quanto sta diventando perfetta la tecnologia “, ha dichiarato alla BBC.” Era molto più realistico di quello del presidente Obama di quattro anni fa”. E poi ha aggiunto: “Non dovremmo avere troppa paura della tecnologia. Dovrebbero esserci leggi in atto per reprimere video pericolosi utilizzati per l’incitamento all’odio e il revenge porn. Ma non dovremmo vietare completamente i deepfake. Il crescente uso commerciale della tecnologia è molto promettente, come trasformare i film in lingue diverse o creare video educativi coinvolgenti”.

Deepfake: la tecnologia ci aiuterà?

Uno di questi usi educativi dei video generati dall’intelligenza artificiale è presso la Shoah Foundation della University of Southern California, che ospita oltre 55mila testimonianze video di sopravvissuti all’Olocausto.

Il progetto chiamato “Dimensions In Testimony” consente ai visitatori di porre domande che sollecitano risposte in tempo reale da parte dei sopravvissuti nelle interviste video preregistrate.

Al momento però le iniziative positive sull’utilizzo dei deepfake sono poche rispetto a quelle negative (come la diffusione di false dichiarazioni o di falsi video pornografici).

In un futuro non molto lontano i deepfake potrebbero causare danni pericolosi come per esempio, distorcere il discorso democratico. Manipolare le elezioni, erodendo la fiducia nelle istituzioni. Pregiudicare la sicurezza pubblica. Danneggiare sistematicamente la reputazione di persone.

Leggi le altre notizie sull’home page di Key4biz