Meta continue de diffuser des publicités faisant la promotion de contenus pédopornographiques en Inde selon un rapport

Avertissement : Ce récit contient des descriptions de maltraitance

Un nouveau rapport de militants américains révèle que Meta a diffusé des centaines de publicités payantes utilisant des images d'abus sexuels sur enfants générées par intelligence artificielle, dont plusieurs en Inde, au cours des 10 derniers mois.

Ce rapport intervient deux mois après que le gouvernement indien a ordonné à Meta de supprimer toutes les publicités et tous les contenus faisant la promotion de la pédopornographie sur Instagram. Cette décision faisait suite à une enquête de BBC Eye révélant qu'Instagram diffusait des publicités payantes promouvant la pédopornographie en Inde.

Le Tech Transparency Project (TTP), basé à Washington, affirme avoir trouvé 332 publicités avec CSAM diffusées sur Facebook et Instagram, la majorité d'entre elles (274) en août de cette année.

Lorsque la BBC a contacté Meta au sujet de ces découvertes, Meta a déclaré : « Nous ne tolérons aucune application de nudité ni aucune forme d’exploitation d’enfants, qu’elle soit réelle ou générée par l’IA. Ces criminels adaptent constamment leurs tactiques pour échapper à la détection, c’est pourquoi nous renforçons sans cesse nos dispositifs de détection et de répression. »

Le rapport de TTP, publié mardi, indique avoir identifié plusieurs photos d'enfants réels, dont celle d'un membre d'une famille royale européenne, utilisées dans des publicités puis manipulées par intelligence artificielle. Il précise que plus d'une douzaine de publicités sont restées diffusées sur les plateformes Meta même après que TTP a informé l'entreprise de ses découvertes.

Environ un quart (84) des publicités ont été diffusées en Inde et 78 d'entre elles ont été publiées après l'ordre du gouvernement indien de supprimer CSAM et sa rencontre avec de hauts responsables de Meta.

Suite à l'enquête de la BBC, plusieurs agences indiennes, dont la Commission nationale pour la protection des droits de l'enfant et la Commission nationale des droits de l'homme, ont déclaré examiner la question.

La distribution de contenu pédopornographique est un délit en Inde, tandis que la politique de Meta stipule que les publicités ne doivent pas contenir de contenu exploitant ou mettant en danger sexuellement des enfants.

Lorsque la BBC a contacté Meta au sujet de son enquête, celle-ci a déclaré que lorsqu'elle a connaissance d'un cas apparent d'exploitation d'enfants, elle le signale au Centre national américain pour les enfants disparus et exploités (NCMEC), conformément à ses obligations légales.

Le NCMEC est le système mondial centralisé de signalement de l'exploitation sexuelle des enfants en ligne.

Mais Bhuwan Ribhu, fondateur de Just Rights for Children, un réseau de plus de 250 organisations œuvrant pour prévenir la violence contre les enfants en Inde, affirme que cela ne suffit pas.

L'organisation Just Rights for Children a déposé une requête auprès de la Cour suprême indienne, s'appuyant sur les conclusions de la BBC, et demande que cette dernière enjoigne les plateformes de réseaux sociaux à rendre obligatoire le signalement et l'identification des personnes diffusant des contenus pédopornographiques.

« Les entreprises de médias sociaux bafouent clairement les lois indiennes en ne signalant pas les contenus pédopornographiques aux forces de l'ordre indiennes, comme l'exigent nos lois sur la protection de l'enfance », a déclaré Ribhu.

Le TTP, une initiative de recherche de l'association à but non lucratif Campaign for Accountability qui vise à responsabiliser les grandes entreprises technologiques, a déclaré avoir recensé 332 publicités contenant du contenu pédopornographique sur Instagram et Facebook aux États-Unis, au Royaume-Uni, dans l'Union européenne, en Australie et en Inde. L'organisation affirme avoir signalé toutes ces publicités au NCMEC.

Selon TTP, presque toutes les publicités qu'ils ont trouvées commencent par la photo d'un enfant, et, au fur et à mesure que la vidéo se déroule, la photo est manipulée par une IA pour montrer l'enfant se livrant à un acte sexuel explicite.

TTP a décrit une publicité diffusée en Inde comme suit : la photo d’une préadolescente animée la montrant en train de réaliser un acte sexuel explicite, accompagnée d’une voix off affirmant : « Il n’y a aucune restriction. Tous les personnages sont des personnes réelles et les options sont nombreuses. C’est l’IA que les hommes utilisent réellement. » La BBC n’a pas vu cette publicité.

Selon TTP, l'annonce a été publiée par plus de 50 comptes différents en Inde sur une période de deux semaines en août de cette année.

En juillet, suite à l'enquête de la BBC, Meta a publié un article détaillé sur son site web expliquant comment elle lutte contre l'exploitation des enfants sur ses applications.

« Toute personne utilisant nos plateformes peut signaler les publicités si elle estime qu'elles enfreignent nos règles », indique le communiqué.

TTP a déclaré avoir tenté de signaler les publicités via le système de signalement de Meta et que, sur les 84 publicités diffusées en Inde, 55 ont pu être signalées. Meta n'offre la possibilité de signaler les publicités que lorsqu'elles sont en ligne.

Pour 43 de ces publicités, TTP a reçu une réponse indiquant : « Nous avons examiné la question et constaté que cette publicité n'enfreint pas nos normes publicitaires. »

Pour 11 annonces, on leur a indiqué que le contenu avait déjà été supprimé. Ils n'ont pas encore reçu de réponse concernant une annonce.

Lorsque la BBC a contacté Meta pour obtenir un commentaire, l'entreprise a déclaré : « Nous avons mis en place des défenses solides, notamment des systèmes qui bloquent les publicités non conformes ainsi qu'une surveillance continue au cas où nous aurions initialement manqué quelque chose : c'est pourquoi bon nombre des publicités qui nous ont été signalées avaient déjà été supprimées, la plupart avaient eu moins de 200 impressions et le total des dépenses publicitaires était inférieur à 5 000 $ ».

TTP a déclaré que lorsqu'elle a contacté Meta pour obtenir une réponse, toutes les publicités qu'elle avait signalées avaient été supprimées.

La situation était similaire à celle rencontrée lors de l'enquête de la BBC. Lorsque la BBC a utilisé le système de signalement de Meta pour signaler à Instagram une publicité contenant des images d'abus sexuels sur enfants, la plateforme ne l'a pas supprimée.

Plus tard, interrogée par la BBC, Meta a indiqué avoir déjà désactivé plusieurs publicités et suspendu les comptes les ayant publiées. L'entreprise a précisé avoir supprimé d'autres publicités, désactivé davantage de comptes et bloqué les URL d'autres contenus enfreignant ses règles, suite aux révélations de la BBC.

TTP a indiqué que la grande majorité des 332 publicités qu'ils ont trouvées dirigeaient les utilisateurs vers des applications de génération d'images ou de vidéos par IA, provenant pour la plupart de développeurs chinois.

Le rapport allègue qu'en faisant la publicité de ces applications à l'aide d'images d'abus sexuels sur enfants, on laisse entendre qu'elles peuvent être utilisées pour créer ou consulter du contenu pédopornographique.

Meta a déclaré interdire la promotion des applications de nudification, qui utilisent l'IA pour créer de fausses images de nudité ou à caractère sexuel explicite non consensuelles.

L'une des plus hautes responsables de la cyberpolice en Inde, Shikha Goel, directrice du Bureau de la cybersécurité de l'État indien de Telangana, a déclaré à la BBC que l'un des plus grands défis posés par le CSAM est « la facilité avec laquelle les utilisateurs peuvent passer d'une plateforme à une autre, ce qui rend leur arrestation plus difficile ».

« Nous espérons que le gouvernement abordera cette question lors de ses derniers échanges avec les intermédiaires des médias sociaux et leur donnera des directives en conséquence », a-t-elle ajouté.

Les publicités que la BBC a découvertes dans son enquête dirigeaient également les utilisateurs vers une autre application, l'application de messagerie Telegram, où ils pouvaient acheter le matériel pour seulement 99 roupies [1,05 $ ; 0,80 £].

Telegram a déclaré à la BBC à l'époque que l'entreprise utilise une modération à la fois automatisée et humaine pour lutter contre le contenu pédopornographique et qu'elle a « pratiquement éliminé la diffusion publique de ce type de contenu » sur sa plateforme.

Les publicités diffusées sur les plateformes de Meta ne sont publiées qu'après avoir été approuvées par son système de modération. Ce système, principalement automatisé, vérifie les images, les vidéos, les textes et les fichiers audio, ainsi que le public cible et la destination des liens.

Suite à l'enquête de la BBC, Meta a déclaré qu'« aucun système n'est parfait » et que « des criminels déterminés continuent d'essayer d'exploiter notre plateforme, notamment par le biais de nos systèmes publicitaires ».

Mais TTP a découvert que plusieurs des publicités mettant en scène des abus sexuels sur enfants avaient été placées par les agences de publicité partenaires de Meta en Chine.

Ces partenaires, appelés « revendeurs », acheminent des milliards de dollars de publicité chinoise vers Facebook et Instagram. Ils n'ont pas répondu aux questions de TTP.

TTP a indiqué que de nouvelles publicités ont continué d'apparaître même après avoir informé Meta des conclusions de son rapport. L'entreprise a fourni des détails sur 17 publicités, dont 11 diffusées en Inde les 1er et 2 septembre.