Un deepfake bot est utilisé pour “déshabiller” les filles mineures

Mise à jour du 28/10 : Depuis la publication de cet article, le deepfake bot sur Telegram sur iOS a été interdit pour avoir enfreint les directives de l’App Store. selon les chercheurs. La chaîne principale de Telegram qui hébergeait le bot et une chaîne affiliée pour partager ses créations ont également été supprimées.

En juin 2019, Vice l’existence révélée une application dérangeante qui utilisait l’IA pour “déshabiller” les femmes. Il s’appelait DeepNude et permettait aux utilisateurs de télécharger une photo d’une femme habillée pour 50 $ et d’obtenir une photo de son dos apparemment nu. En fait, le logiciel a utilisé des réseaux opposés génératifs, l’algorithme derrière les deepfakes, pour échanger des vêtements de femmes contre des corps nus très réalistes. Moins la victime est vêtue, mieux c’est. Cela n’a pas fonctionné pour les hommes.

En moins de 24 heures, l’article de Vice avait suscité un tel contrecoup que les créateurs de l’application ont rapidement l’a enlevé. Le compte Twitter de DeepNude a annoncé qu’aucune autre version ne serait publiée et que personne d’autre n’aurait accès à la technologie.

Mais un nouvelle enquête de Sensity AI (anciennement Deeptrace Labs), une société de cybersécurité axée sur la détection des abus de médias compromis, a maintenant découvert qu’une technologie très similaire est utilisée par un bot accessible au public dans l’application de messagerie Telegram. Cette fois, il dispose d’une interface utilisateur encore plus simple : n’importe qui peut envoyer une photo au bot via l’application mobile ou Web Telegram et recevoir un acte en quelques minutes. Le service est également entièrement gratuit, bien que les utilisateurs puissent payer une base de 100 roubles (environ 1,50 $) pour des avantages tels que la suppression du filigrane sur les photos «tirées» ou le saut de la file d’attente de traitement.

En juillet 2020, le bot avait déjà été utilisé pour cibler et “déshabiller” au moins 100 000 femmes, dont la plupart n’avaient probablement aucune idée. “Habituellement, ce sont les jeunes filles”, explique Giorgio Patrini, PDG et chercheur principal chez Sensity, qui a co-écrit le rapport. “Malheureusement, il est parfois aussi très évident que certaines de ces personnes sont des mineurs.”

La gamification du harcèlement

Le bot deepfake, lancé le 11 juillet 2019, est connecté à sept chaînes Telegram avec un total de plus de 100 000 membres. (Ce nombre ne tient pas compte de la double adhésion sur tous les canaux, mais le groupe principal compte à lui seul plus de 45 000 membres individuels.)

Le canal central est utilisé pour héberger le bot lui-même, tandis que les autres sont utilisés pour des fonctions telles que le support technique et le partage d’images. Les canaux de partage d’images incluent des interfaces à travers lesquelles les gens peuvent publier et évaluer leurs créations nues. Plus une photo est aimée, plus son créateur est récompensé par des jetons afin de pouvoir accéder aux fonctions premium du bot. « Le créateur reçoit une incitation comme s’il jouait à un jeu », explique Patrini.

La communauté, qui peut être facilement trouvée via la recherche et les médias sociaux, n’a cessé de croître au cours de la dernière année. Une enquête auprès de 7 200 utilisateurs a révélé qu’environ 70 % d’entre eux sont originaires de Russie ou d’autres pays russophones. Cependant, les victimes semblent provenir d’un plus large éventail de pays, notamment l’Argentine, l’Italie, la Russie et les États-Unis. La plupart d’entre eux sont des particuliers que les utilisateurs du bot sont censés connaître de la vie réelle ou qu’ils ont trouvés sur Instagram. Les chercheurs n’ont pu identifier qu’une petite poignée de femmes et ont essayé de les contacter pour comprendre leurs expériences. Aucune des femmes n’a répondu, dit Patrini.

Les chercheurs ont également contacté Telegram et les forces de l’ordre concernées, y compris le FBI. Telegram n’a pas répondu à leur avis ni à la demande de suivi du MIT Technology Review. Patrini dit qu’elle n’a également vu aucun “impact tangible sur ces communautés” depuis qu’elle a contacté les autorités.

Deepfake vengeance porno

Les agresseurs utilisent des images pornographiques pour harceler les femmes depuis un certain temps. En 2019, une étude de l’American Psychological Association a révélé qu’une femme sur 12 sera victime de pornographie vengeresse à un moment donné de sa vie. Une étude par le gouvernement australien, qui a étudié l’Australie, la Grande-Bretagne et la Nouvelle-Zélande, a trouvé que ce ratio était de un sur trois. Deepfake revenge porn ajoute une toute nouvelle dimension au harcèlement, car les victimes ne réalisent pas que de telles images existent.

Il existe également de nombreux cas où des deepfakes ont été utilisés pour cibler des célébrités et d’autres personnes de premier plan. La technologie est d’abord devenue populaire dans les profondeurs d’Internet pour échanger des célébrités dans des vidéos porno et a été réduite au silence dans le cadre de campagnes de harcèlement. femmes journalistes. Patrini dit qu’il a également parlé à des influenceurs et à des YouTubers qui ont envoyé des images pornographiques profondément fausses directement à leurs sponsors, ce qui les a mis à rude épreuve émotionnellement et financièrement.

Patrini soupçonne que ces attaques ciblées pourraient empirer. Lui et ses collègues chercheurs ont vu la technologie progresser et se répandre. Par exemple, ils ont découvert un autre écosystème de plus de 380 pages dédié à la création et au partage de deepfakes explicites sur la plateforme de médias sociaux russe VK. (Après la publication de cet article, un porte-parole de VK a envoyé au MIT Technology Review une déclaration : « VK ne tolère pas de tels contenus ou liens sur la plate-forme et bloque les communautés qui les distribuent. Nous effectuerons un examen supplémentaire et bloquerons les contenus et communautés inappropriés. “) Les chercheurs ont également découvert que l’algorithme ” se déshabiller ” est progressivement appliqué à des vidéos, comme des clichés de mannequins en bikini marchant sur un podium. Pour le moment, l’algorithme doit être appliqué image par image – ” C’est beaucoup au moment rudimentaire “, dit Patrini. ” Mais je suis sûr que les gens vont le perfectionner et mettre en place un service de licence pour cela aussi. “

Malheureusement, il existe encore peu de moyens d’arrêter ce type d’activité – mais la prise de conscience des problèmes augmente. Des entreprises comme Facebook et Google, ainsi que des chercheurs développant des outils de création de deepfake, ont commencé à investir plus sérieusement dans des contre-mesures telles que la détection automatisée de deepfake. L’année dernière, le Congrès américain a également déposé un nouveau projet de loi pour donner aux victimes un recours juridique pour atteinte à leur réputation.

En attendant, a déclaré Patrini, Sensity continuera à suivre et à signaler ces types de deepfakes malveillants, en essayant de mieux comprendre les motivations de ceux qui les créent et l’impact sur la vie des victimes. « En fait, les données que nous partageons dans ce rapport ne sont que la pointe de l’iceberg », dit-il.

Mise à jour : une déclaration officielle de la plateforme de médias sociaux russe VK a été ajoutée à l’article.



Related articles

VirtualDJ – VK

Ce sujet est ancien et peut contenir des informations obsolètes ou incorrectes. Djratedxxx919PRO infiniMembre depuis 2011 Qu’est-ce que c’est? VK ? Publié mar. 22 novembre 16 @ 12:34 pm KradcliffePRO infiniMembre depuis 2008 C’est un clone de Facebook russe que certaines personnes téléchargent et enregistrent des vidéos (principalement du porno TBH). Il est sorti il ​​y […]

Learn More

Corinna Head Nude Asshole Onlyfans Set Fuite …

Corinna Kopf Nude Asshole Onlyfans Set fuite. Corinna Kopf est une influenceuse avec plus de 5 millions de followers. Elle a récemment créé ses propres fans, où elle publie des nus implicites et des photos sexy d’elle-même. JOIN NOW

Learn More

Seegasm 254D — Vidéo | VKontakte – vk.com

VKontakte est un outil universel pour communiquer et trouver des amis et des camarades de classe, utilisé par des dizaines de millions de personnes chaque jour. Nous voulons que les amis, les camarades de classe, les camarades de classe, les voisins et les collègues soient toujours… JOIN NOW

Learn More