Facebook e Microsoft alleate per combattere il deepfake, la pratica fraudolenta di camuffamento digitale attraverso l’Intelligenza Artificiale. Una pratica che riguarda video e messaggi vocali online e che promette di essere la prossima frontiera delle truffe online. Le due corporation made in Usa hanno lanciato una serie di contest riservati al mondo universitario e della ricerca per selezionare i migliori software di difesa e contrasto al deepfake negli Usa.
In concreto, Facebook ha messo sul piatto 10 milioni di dollari per finanziare il “Deepfake Detection Challenge”, stimolando così la ricerca. Il social network ha chiesto ai ricercatori di creare dei deepfake realistici, per dare vita ad un database ad hoc in grado di comprendere il ventaglio più ampio possibile di eventuali truffe su cui testare nuovi strumenti di contrasto.
Saranno utilizzati attori professionisti per creare i video ma saranno esclusi tutti i dati degli utenti.
La ricerca coinvolgerà diverse università Usa, in particolare Cornell Tech, MIT, Università di Oxford, UC Berkeley, Università del Maryland, College Park, e l’Università di Albany-SUNY.
Le piattaforme social, Facebook in testa, sono in fibrillazione in vista delle elezioni presidenziali di mid term, in programma l’anno prossimo. L’obiettivo è prevenire il rischio di deepfake e la diffusione di finti video creati ad arte dall’Intelligenza Artificiale, che vedano come protagonisti delle copie digitali di politici di spicco intenti magari a dire cose che del tutto inventate. Il potenziale negativo delle deepfake in ambito politico è stato riscontrato in un’occasione, che ha colpito la speaker ufficiale del Congresso Nancy Pelosi.
E’ per questo che anche il DARPA (Defense Advanced Research Projects Agency) ha lanciato l’allerta rispetto ad un fenomeno potenzialmente dirompente per il rischio di manipolazione di informazioni politiche.
Tanto più che la diffusione di app in grado di camuffare e alterare i connotati degli individui si stanno diffondendo a macchia d’olio anche nel pubblico di massa. Basti pensare a Zao, la app cinese che consente a chiunque di scaricare il proprio volto e di sostituirlo a quello delle star delle cinema in azione nei loro film. Non a caso Zao ha scalato le classifiche e si trova in testa alla hit parade Usa delle app più scaricate.
Oltre tutto, su Youtube sono disponibili discorsi (falsi) ma ampiamente realistici di personaggi come ad esempio Donald Trump, intento in discorsi inventati di sana pianta. A peggiorare il quadro il fatto che il prezzo di queste falsificazioni digitali sta diventando sempre più abbordabile, in alcuni casi 30 dollari per un discorsetto inventato dall’Intelligenza Artificiale in bocca a Donald Trump.
Ma il rischio per gli utenti legato ai deepfake non riguarda certo soltanto la comunicazione politica. Basti pensare al caso di quei truffatori che grazie all’Intelligenza Artificiale hanno simulato alla perfezione la voce di un amministratore delegato e sono così riusciti a ordinare il trasferimento in danaro contante di 220mila euro perfettamente concluso.