Il tool desktop inizia a far parlare di sè sul noto sito Reddit, all’interno del quale ha dato vita ad una discussione molto concitata proprio a causa degli ambiti in cui questo programma può essere e soprattutto è stato usato. Sono diverse, infatti, le pornoattrici, ma anche i personaggi dello spettacolo, che si sono ritrovati protagonisti di filmati a luci rosse, di video erotici e pornografici che, a una prima occhiata, non sembrano affatto dei fake.
Ecco che in poco tempo è nato il fenomeno Deepfake: è stato proprio un utente di Reddit (il suo nick è deepfakeapp) a dar vita a questo tool, a metterlo a disposizione degli utenti (ricordo che il programma è totalmente gratuito) e a creare una discussione in merito.
La curiosità verso questo nuovo strumento, la voglia di sperimentare e di mettere alla prova le proprie capacità, ha portato gli utenti del sito a installare il tool e iniziare a creare diversi video, sfruttando le foto delle celebrità facilmente reperibili sulla rete.
Sugliaspetti tecnicidel programma non si sa molto, ma realizzare e renderizzare un filmato non sembra essere affatto banale e semplice. Il sistema utilizzerebbe gli algoritmi di deep learning (ovvero apprendimento profondo, un campo specifico di ricerca proprio del machine learning e dell’intelligenza artificiale) di difficile comprensione ed utilizzo, basti pensare che per elaborare una breve clip sono necessarie dalle 8 alle 12 ore.
Ma come funziona?
FakeApp accede ai file che l’utente ha all’interno di una propria galleria multimediale, per comparare i volti con quello presente nel video che verrà contraffatto, al fine di selezionare il fotogramma migliore. Grazie alla facial recognition, il software compara diversi elementi come i lineamenti, la forma degli occhi, il colore della pelle, per cercare di adattare al meglio il viso su ogni frame del video: è proprio per questo che è così difficile capire subito che si tratta di un falso.
Sicuramente se il video selezionato per realizzare il fake è molto movimentato, il dubbio che quello che si sta vedendo non sia vero, ma un artefatto, diventa molto più facile: il labiale non corrisponderà, i frame non scorreranno in maniera fluida uno dopo l’altro, il volto potrà apparire fuori asse rispetto al corpo, fino a sembrare deformato. Ma questo dipende solamente dalla scelta che si fa e dalla bravura nell’utilizzare il software.
Attualmente, quindi, l’interfaccia del software è ben lontana dall’essere user-friendly, ma il suo ideatore ha già dichiarato di voler lavorare ulteriormente alla app per renderla sempre più semplice e intuitiva, così da poter essere utilizzata da un pubblico man mano più vasto.
Fino ad oggi sono diverse le celebrità che si sono ritrovate protagoniste di questi fake video: Daisy Ridley, Sophie Turner ed Emma Watson sono solamente alcune di loro e la complessità nell’utilizzo della app non sembra essere di ostacolo nella realizzazione e diffusione di questo materiale.
Uno strumento dalle mille sfaccettature e da un grande pericoloso potenziale.
Creando materiale simile a quello che ha visto i noti volti come protagonisti, si può far male a tantissime persone, anche non famose.
Già con il revenge porn, ovvero il condividere e rendere pubblico materiale hot del proprio ex o della propria ex, è emersa la sofferenza e il dolore della persona coinvolta. Ora, con la diffusione di un programma come FakeApp, la possibilità di diffondere online materiale compromettente e per di più falso, diventa ancora più semplice e così la capacità di colpire chiunque, anche a sua totale insaputa.
Un software che va ad alimentare il mondo dei fake, delle fake news e che può portare conseguenze molto serie, soprattutto se il programma diverrà veramente user-friendly.
Ecco che allora bisognerebbe riflettere di più e in maniera più profonda su quello che è il mondo dell’intelligenza artificiale, la quale inizia ad addentrarsi sempre più nelle nostre vite, anche nel privato.
E voi cosa ne pensate? Quale è il vostro parere, i vostri dubbi su questo nuova app?
Un saluto e al prossimo articolo!
Ilaria Lelli
Psicosessuologa e Consulente sessuale
