Une entreprise de sécurité appelée Sensity a déclaré avoir récemment découvert un réseau de deepfake bots sur l’application de chat Telegram, créant des images nues de femmes générées par ordinateur sur demande. En juillet 2020, la société a constaté que les robots avaient généré des deepfakes d’environ 104000 femmes. Au cours des trois derniers mois, sa production a augmenté de près de 200 pour cent. Vous pourriez vous attendre à ce que le logiciel passe la plupart de son temps à traiter des images de célébrités, mais il semble que la plupart des gens l’utilisent pour créer des photos nues de femmes qu’ils connaissent dans la vraie vie. Dans les deux cas, la plupart des victimes ne savent probablement pas que de fausses images d’elles circulent sur Internet. Le cabinet a également constaté qu’un «nombre limité» de photos mettaient en vedette des enfants mineurs.

La majorité des utilisateurs du logiciel, environ 70%, viennent de Russie, un pays qui avait jusqu’à récemment interdit Telegram. En Russie, le robot a également trouvé son chemin sur VK, le plus grand réseau de médias sociaux du pays. Un sondage Sensity trouvé dans l’une des communautés Telegram publiques dédiées au logiciel suggère que le bot n’a pas été largement utilisé dans les pays anglophones comme le Royaume-Uni, le Royaume-Uni et le Canada – du moins pas encore.

Le bot est gratuit, mais les utilisateurs peuvent acheter des «pièces premium» qui suppriment un filigrane généré par le logiciel et accélèrent le traitement. Un ensemble de 12 pièces coûte l’équivalent de 1,30 $. Sensity affirme que le logiciel qui sous-tend les capacités du bot est probablement une version open source de DeepNude. L’algorithme d’apprentissage automatique a gagné en notoriété l’année dernière lorsque son créateur l’a brièvement vendu en ligne.

Le logiciel a depuis fait son chemin vers des référentiels open source et des sites Web torrent. En règle générale, l’algorithme DeepNude nécessite un PC avec un GPU dédié pour fonctionner. Cependant, tout l’écosystème de bots Telegram fonctionne sur des serveurs en ligne, permettant à toute personne possédant un téléphone d’accéder au logiciel. C’est l’une des principales raisons pour lesquelles le bot a été si utilisé en si peu de temps. Cela souligne également à quel point il sera difficile de contenir le logiciel.  

Lire aussi  Le LAFD vient d'embaucher le premier robot de lutte contre les incendies d'Amérique

Nous avons contacté Telegram pour obtenir des commentaires et nous mettrons à jour cet article lorsque nous aurons une réponse de la société. Sensity affirme que l’entreprise n’a pas répondu à ses tentatives de communication.