fbpx
News Tech

Deepnude: l’app che sfrutta l’IA per spogliare le donne

Deepnude è un’applicazione che sfrutta l’intelligenza artificiale per “denudare” le donne. La stessa immagine dell’app infatti richiama i vecchi “occhiali a raggi x” pubblicizzati negli anni sessanta nelle riviste patinate.

Come funziona?

Come la tecnologia che viene usata per il deepfake, Deepnude riesce a spogliare creando dei falsi nudi delle donne grazie a un algoritmo. Una volta caricata la foto, l’app attinge a un database di oltre diecimila foto di nudi femminili, riuscendo così a ottenere dei risultati estremamente efficaci.

La tecnologia utilizzata si chiama GAN (Generative Adversarial Network), o meglio rete generativa avversaria, e viene usata anche per i filmati di deepfake come ad esempio quello del fuori onda di Renzi, o di Obama nei panni di Black Panther.

Lo scrupolo di coscienza del programmatore

L’app è stata pubblicata il 23 giugno di quest’anno in due versioni: free e premium al costo di 50 dollari. Se nell’app gratuita la scritta FAKE campeggiava in bella vista, il problema riguardava più la versione premium. La scritta, infatti, messa in un angolino risultava facilmente rimovibile. Questo poteva generare non solo fake di personaggi famosi, ma anche un vero e proprio problema di Revenge Porn.

Sulle onde dell’indignazione lanciata nelle pagine social e nei commenti degli articoli di importanti testate come il Guardian o il Washington Post, gli sviluppatori han deciso di fare marcia indietro ben 4 giorni dopo.

Questo è il tweet:

Alla fine l’app (non) è stata rimossa

Sebbene non sia più disponibile nel Google Play Store, il codice sorgente di Deepnude era rimasto su GitHub, nota piattaforma per programmatori e sviluppatori. Anche in questo caso è stato prontamente rimosso…o forse no. Infatti, nonostante questa dichiarazione da parte di un portavoce di GitHub a Motherboard, sembra che sia ancora tutto online.

Non monitoriamo in modo proattivo i contenuti generati dagli utenti, ma esaminiamo attivamente i rapporti di abuso. In questo caso, abbiamo disattivato il progetto perché lo abbiamo trovato in violazione delle nostre norme sull’utilizzo accettabile. Non tolleriamo l’uso di GitHub per la visualizzazione di contenuti sessualmente osceni e vietiamo tale condotta nei nostri Termini d’uso e le nostre Norme della community.”

È ancora possibile scaricare l’app da siti illegali e pirata, con tutti i rischi del caso.

Il problema etico di questa app

Indignazione a parte, il problema che si pone con questa tipologia di applicazione è un problema di natura etico legale. Seppur pensata per scopi puramente goliardici, il rischio di Revenge Porn, o peggio di creare foto di nudi di donne famose, rimane vivo e genererebbe non pochi problemi di immagine e non solo.

In un mondo dove anche colossi come Facebook e Youtube cercano di combattere sempre di più le notizie false, strumenti come quest’app risultano essere estremamente pericolosi in mani sbagliate, rendendo sempre più difficile la distinzione tra fantasia e realtà.

Per rimanere informati sul mondo nerd, continuate a seguirci sul nostro sito DrCommodore.it e su FacebookInstagramTelegramYouTubeDiscordSteam e Twitch.

 

 

Facebook Comments