Enquête européenne sur Grok et X sur la diffusion d’images sexuelles falsifiées

La Commission européenne enquête sur Grok, l’IA d’Elon Musk et sur les systèmes de recommandation du réseau social X en vertu de la loi sur les services numériques, le DSA (Digital Service Act). Ces nouveaux ennuis pour Elon Musk déboulent tandis que son chatbot Grok a été adopté par Le Pentagone, le siège du département de la Défense des États-Unis, le 13 janvier dernier. Grok rejoindra le moteur d’IA générative de Google pour fonctionner au sein du réseau du Pentagone, dans le cadre d’une initiative plus large visant à intégrer des données militaires.

Enquête sur la création d’images à caractère sexuel de personnes existantes

La rédaction vous propose par secteur d'activité :

Luxe

Banque

Assurance

Transport

Santé

La nouvelle enquête européenne déterminera si l’entreprise a correctement évalué et atténué les risques liés au déploiement des fonctionnalités de Grok dans X au sein de l’UE. Cela inclut les risques liés à la diffusion de contenus illégaux dans l’UE, tels que des images à caractère sexuel explicite manipulées, de personnes réelles, y compris des contenus pouvant constituer de la pédopornographie.

La Commission estime que ces risques semblent s’être concrétisés, exposant les citoyens de l’UE à des préjudices graves. En conséquence, la Commission examinera plus en détail si X respecte ses obligations au titre de la loi sur la fourniture de services numériques (DSA).

Enquête sur les systèmes de recommandation basés sur Grok

D’autre part, la Commission européenne a prolongé la procédure formelle en cours ouverte contre X en décembre 2023 afin d’établir si X a correctement évalué et atténué tous les risques systémiques, tels que définis dans le DSA, associés à ses systèmes de recommandation, y compris l’impact de son passage récemment annoncé à un système de recommandation basé sur Grok.

Newsletter La Revue du Digital

La Commission continuera à recueillir des preuves, par exemple en envoyant des demandes de renseignements supplémentaires, en menant des entretiens ou des inspections, et pourra imposer des mesures provisoires en l’absence d’ajustements significatifs au service X.

Des mesures coercitives supplémentaires

L’ouverture d’une procédure formelle autorise la Commission à prendre des mesures coercitives supplémentaires, telles que l’adoption d’une décision de non-conformité.

« La diffusion de vidéos truquées à caractère sexuel impliquant des femmes et des enfants constitue une forme de dégradation violente et inacceptable » réagit Henna Virkkunen, vice-présidente exécutive pour la souveraineté technologique, la sécurité et la démocratie à la Commission européenne.

Les femmes et les enfants traités comme des dommages collatéraux ?

« L’enquête permettra de déterminer si X a respecté ses obligations légales au titre de la loi sur la diffusion de données (DSA), ou si elle a considéré les droits des citoyens européens – notamment ceux des femmes et des enfants – comme des dommages collatéraux de son service » termine-t-elle.

Grok est l’outil d’intelligence artificielle (IA) développé par le fournisseur de X. Depuis 2024, X a intégré Grok à sa plateforme de différentes manières. Ces intégrations permettent, par exemple, aux utilisateurs de générer du texte et des images et d’enrichir leurs publications d’informations contextuelles.

Vive réaction du député européen David Cormand

David Cormand, député écologiste européen monte au créneau. « La Commission européenne vient d’ouvrir une enquête contre Grok pour la génération massive de deepfakes à caractère sexuel » réagit-il. « J’appelle à une suspension immédiate de X sur le territoire européen » annonce-t-il.

« Les chiffres sont accablants : 1,8 million de publications contenant des images sexualisées, selon le New York Times. Selon le Center for Countering Digital Hate, 65 % des publications Grok (soit plus de 3 millions en 11 jours) exploitent sexuellement des hommes, des femmes ou des enfants » termine-t-il.

L’Arcom entre dans la boucle

L’Arcom, l’Autorité de régulation de l’audiovisuel français, pour sa part salue l’ouverture par la Commission européenne, ce lundi 26 janvier 2026, d’une enquête visant la fonctionnalité d’intelligence artificielle Grok proposée par la plateforme X, menée au titre du règlement sur les services numériques.

L’Arcom retient que l’enquête porte en particulier sur les risques liés à la génération et à la diffusion de contenus intimes non consentis, de contenus pédopornographiques, ainsi que d’autres contenus illicites, dont des contenus à caractère antisémite ou raciste, susceptibles de porter gravement atteinte aux droits fondamentaux et à la sécurité des utilisateurs.

X a annoncé qu’il visera à empêcher la génération de deepfakes

L’Arcom prend également acte de l’annonce faite par X le 14 janvier visant à empêcher la génération d’images dénudées de personnes réelles (« deepfakes »), y compris par des utilisateurs abonnés à des offres payantes.

En tant que coordinateur pour les services numériques pour la France, l’Arcom invite les victimes de diffusion d’images à caractère sexuel non consenties et les témoins de diffusion d’images pédopornographiques générées par la fonctionnalité Grok de X, à se saisir des droits garantis par le RSN en signalant ces contenus illicites à la plateforme, et le cas échéant à lui transmettre les preuves et la description des faits pertinents à recueil-preuves-rsn@arcom.fr.

L’Arcom se positionne pour agir en coordination avec le Parquet de Paris

Les faits en cause pouvant conduire à des poursuites pénales, l’Arcom, qui agit en coordination avec le Parquet de Paris, est susceptible de communiquer à celui-ci les infractions dont elle aurait connaissance.

Les victimes peuvent aussi saisir l’association Point de Contact, signaleur de confiance désigné par l’Arcom qui coopère avec les autorités publiques compétentes.

Facebook X LinkedIn