Régulation & droit Article
Deepfakes sexuels : Wired révèle un réseau de 400 domaines et applications banals aux fonctions abusives
Wired a identifié un réseau de plus de 400 domaines et applications présentés comme des services banals, qui affichent sous certaines conditions une interface de génération de deepfakes sexuels explicites ; Apple en a retiré 19 après sa sollicitation.
Article généré par intelligence artificielle et vérifié automatiquement selon notre politique IA.
Un réseau d'applications au double visage
Selon l'enquête de Wired, plus de 400 domaines et applications connectées se présentent comme des services ordinaires, par exemple pour l'apprentissage des langues ou le coaching sportif par IA. Dans certaines conditions, ils chargent une interface de génération de deepfakes sexuels explicites.
Le mécanisme repose sur une décision côté serveur : ce sont les serveurs qui déterminent s'il faut afficher la version banale ou la version explicite. Selon Wired, un déclencheur semble être le téléchargement de l'application après un clic sur une publicité Meta.
Infoblox (Maël Le Touz) a de son côté identifié près de 500 domaines liés au réseau, d'après Wired.
Qui est derrière ces applications
Toujours selon Wired, les applications et domaines semblent exploités par des développeurs chinois et par une entité enregistrée à Hong Kong, KeLing Technology Limited. Cette entité n'a pas répondu aux demandes de commentaires.
Paul Bouchaud (AI Forensics) affirme, selon Wired, que le réseau est une opération commerciale organisée, conduite par un seul acteur derrière des centaines d'applications et de domaines jetables. Il s'agit de l'analyse d'un chercheur, rapportée par le média, et non d'un constat judiciaire.
Les réponses des plateformes
Selon Wired, 27 applications du réseau étaient disponibles sur le Play Store de Google en septembre, pour plus de 350 000 téléchargements cumulés. Les faits disponibles ne précisent pas la réaction de Google.
Apple a retiré 19 applications de l'App Store après que Wired a interrogé l'entreprise. Apple affirme par ailleurs avoir suspendu des dizaines de milliers d'applications pour des tactiques de « bait-and-switch » au cours de la dernière année, et rappelle que « nudification apps and other pornographic content are strictly prohibited ».
Meta affirme avoir banni KeLing Technology Limited de la publicité en 2025, après le non-respect d'une mise en demeure. L'entreprise indique avoir agi contre 11 600 comptes publicitaires, plus de 4 700 pages professionnelles, 5 200 utilisateurs et 15 000 pages liés aux domaines, et bloqué 209 applications. Ces chiffres sont des déclarations de Meta, non vérifiées de manière indépendante dans les éléments disponibles.
Une enquête distincte sur les publicités Meta
Le Tech Transparency Project (TTP) a publié une enquête séparée sur des publicités Meta contenant des images d'abus sexuels sur enfants (CSAM). Selon TTP, plus de 300 de ces publicités ont circulé sur Facebook et Instagram en 2026, certaines montrant de vrais enfants, dont un membre d'une famille royale européenne.
- TTP dénombre 332 publicités ayant passé le processus de revue de Meta.
- Meta en a retiré 183 au 1er septembre, puis les 149 restantes après que TTP a partagé ses constats le 2 septembre.
- Selon TTP, plusieurs publicités ont été placées par des revendeurs publicitaires chinois de Meta : GIMC (contrôlée par l'État chinois), Meetsocial et BlueFocus.
- TTP affirme que 113 notifications de violation de Meta mentionnaient des politiques pour adultes ou une mention générique plutôt que la protection de l'enfance ; Meta les a corrigées après le signalement.
- TTP a signalé l'ensemble des publicités au NCMEC.
Portée géographique et position de Meta
Selon TTP, environ 80 % des publicités CSAM (262) ont été diffusées aux États-Unis, 84 en Inde et 120 en Australie. D'après les données disponibles, elles ont atteint plus de 29 000 personnes dans l'Union européenne et 6 800 au Royaume-Uni.
Meta a déclaré à Wired et Bloomberg : « We don't tolerate nudify apps or any kind of child exploitation ». Selon TTP, Meta indique que la plupart de ces publicités avaient moins de 200 impressions et une dépense totale inférieure à 5 000 dollars.
Les deux enquêtes sont distinctes : l'une porte sur des applications de deepfakes, l'autre sur des publicités d'abus sexuels sur enfants. Elles ont toutefois un point commun, la publicité Meta comme canal de diffusion, et des acteurs chinois cités dans les deux cas. Les éléments disponibles ne précisent pas si une procédure réglementaire est engagée en Europe, ni si les deux affaires sont liées entre elles.
| Élément visé | Nombre |
|---|---|
| Comptes publicitaires | 11 600 |
| Pages professionnelles | plus de 4 700 |
| Utilisateurs | 5 200 |
| Pages liées aux domaines | 15 000 |
| Applications bloquées | 209 |
Questions fréquentes
Comment ces applications échappent-elles aux contrôles ?
Selon Wired, les serveurs décident d'afficher la version banale ou la version explicite ; un déclencheur semble être le téléchargement après un clic sur une publicité Meta.
Qu'ont fait Apple et Meta ?
Apple a retiré 19 applications après les questions de Wired. Meta affirme avoir banni KeLing Technology Limited de la publicité en 2025 et bloqué 209 applications.
Qui exploite ce réseau ?
Selon Wired, des développeurs chinois et une entité enregistrée à Hong Kong, KeLing Technology Limited, qui n'a pas répondu aux demandes de commentaires.
Sources
- Hundreds of Mundane AI Apps Are Hiding Sexually Abusive Deepfake Features, Wired,
- https://www.techtransparencyproject.org/articles/meta-ran-hundreds-of-paid-ads-with-child-sexual-abuse-imagery, techtransparencyproject.org, (source primaire)