La Suisse n’est pas épargnée par le phénomène des deepfakes, ces fausses vidéos à caractère pornographique. Il existe même des réseaux très organisés de commande et de partage en Suisse alémanique, relève le Tages-Anzeiger. Dans une longue enquête, le quotidien alémanique a identifié deux forums Telegram dans lequel des hommes – écrivant en dialecte zurichois et de Suisse orientale – peuvent commander à un opérateur de programme d’IA des photos détournées de ces influenceuses, mais aussi des vidéos mettant en scène des rapports sexuels.

Dans l’un des deux forums, 380 membres se voyaient ainsi proposer la création de deepfakes à caractère sexuel, et pouvaient suivre les dernières «fonctionnalités» des programmes – telles que «le mode poitrine plate» pour n’en citer qu’une, et la moins brutale. Un fournisseur revendiquait ainsi traiter «plus de 6000 deepfakes en douze heures», qu’il facturait via des crédits par carte bancaire ou cryptomonnaie, lesquels servent ensuite à acquérir les images. Un système de recrutement de nouveaux membres était également en place: des utilisateurs disposaient de crédits gratuits s’ils publiaient leurs deepfakes sur les réseaux sociaux en faisaient la promotion.

Huit influenceuses ont porté plainte

La rédaction a identifié 14 Suissesses victimes de ces forums, dont onze des influenceuses les plus populaires du pays, qui cumulent près de cinq millions d’abonnés sur des plateformes comme TikTok, Instagram et YouTube. «Soit plusieurs fois la portée du Conseil fédéral et dépassant l’audience réunie sur les réseaux sociaux de SRF News et de 20 Minuten», contextualise le Tagi. Huit influenceuses ont porté plainte notamment pour usurpation d’identité et diffamation, et cinq d’entre elles ont publiquement protesté contre l’utilisation abusive et systématique des deepfakes.

Si la plateforme de messagerie interdit la publication de «contenu sexuel sans consentement», certains contenus sont restés en ligne plus d’un an sur les forums. Les deux groupes ont été supprimés suite au signalement de la rédaction auprès de Telegram. Aucun utilisateur n’a par ailleurs répondu aux journalistes. Les victimes peuvent quant à elles se tourner vers la justice, même si deux expertes juridiques sollicitées par le Tagi réclament des lois plus strictes pour mieux lutter contre les deepfakes.