La Commission européenne a annoncé lundi l'ouverture d'une nouvelle enquête visant le réseau social d'Elon Musk, X, en raison des fausses images dénudées de mineurs et de femmes, générées par Grok, son assistant d'intelligence artificielle.
L'Europe ne "tolérera pas les comportements insensés" des plateformes numériques, comme "les fausses images dénudées de femmes et d'enfants", a affirmé la présidente de la Commission européenne Ursula von der Leyen, dans une déclaration transmise à l'AFP.
"Notre position est claire: nous ne confierons pas le consentement et la protection de l'enfance à des plateformes technologiques pour qu'elles les violent et les monétisent", a assuré la cheffe de l'exécutif européen, ajoutant que "des mesures ont été prises, mais nous devons en faire plus pour protéger les citoyens, en ligne comme hors ligne".
Cette nouvelle enquête vise à vérifier si le réseau, anciennement connu sous le nom de Twitter, a enfreint les puissantes règles européennes sur le numérique qui lui imposent de protéger les utilisateurs contre les contenus illégaux.
En cause: une fonctionnalité permettant aux utilisateurs de demander à Grok de créer de fausses images dénudées à partir de photos réelles.
Avec cette nouvelle procédure ciblant X, l'Europe prend le risque de s'attirer de nouvelles représailles de la part de Donald Trump, alors que les tensions suscitées par les visées du président américain sur le Groenland viennent juste de s'apaiser.
Des millions d'images sexualisées
Face au tollé soulevé par la prolifération de telles images, des procédures ont déjà été lancées dans plusieurs pays, notamment en France et au Royaume-Uni, et l'accès à X a même été suspendu ou bloqué par plusieurs Etats.
Après avoir d'abord limité l'accès à cette fonctionnalité, X a annoncé mi-janvier un bridage de son outil d'IA dans les pays où la création de telles images sexuelles est illégale.
"Créer des images fausses et sexualisées de femmes et d'enfants est cruel et inacceptable", a dénoncé Henna Virkkunen, vice-présidente de la Commission chargée du numérique, dans un communiqué.
Selon une étude publiée par le Center for Countering Digital Hate, ONG qui dénonce fréquemment les pratiques de X, Grok a généré quelque trois millions d'images sexualisées de femmes et d'enfants sur une période de 11 jours seulement, soit 190 images par minute en moyenne.
Une autre analyse, réalisée par l'organisation AI Forensics, montrait que sur quelque 20.000 images générées par Grok, plus de la moitié représentaient des personnes légèrement vêtues, dont 81% étaient des femmes et 2% paraissaient mineures.
Parallèlement à la nouvelle procédure lancée lundi, la Commission européenne a en outre décidé d'étendre le périmètre d'une autre enquête lancée en décembre 2023 contre X, toujours dans le cadre de sa législation sur les services numériques, le DSA (Digital services act).
Bruxelles s'inquiète de changements annoncés par X concernant l'algorithme de recommandation de contenus à ses utilisateurs, qui s'appuie de plus en plus sur Grok. La Commission veut vérifier si des garde-fous ont été prévus.
L'enquête ouverte en 2023 a déjà conduit l'UE à infliger en décembre une amende de 120 millions d'euros au réseau d'Elon Musk, la première sanction prononcée pour infraction au DSA.
Menaces de Trump
Contactée par l'AFP, la plateforme X n'a pas réagi dans l'immédiat.
Le réseau social était dans le collimateur de l'Union européenne depuis plusieurs semaines en raison de ce scandale. Bruxelles avait pris une première mesure début janvier, en ordonnant à X de conserver tous ses documents et données internes relatifs à Grok, jusqu'à la fin de l'année.
Bruxelles court le rique de nouvelles mesures de rétorsion de la part des Etats-Unis, alors que l'administration Trump accuse régulièrement l'Europe de cibler les champions américains de la tech et de chercher à "censurer les Américains".
Washington a déjà annoncé des représailles fin décembre, en imposant des sanctions à l'ancien commissaire Thierry Breton, artisan du DSA, ainsi qu'à quatre autres personnalités européennes.
Agir contre "les images pédopornographiques ou le dénudage de femmes en ligne sans leur consentement", "ça n'a rien à voir avec la liberté d'expression ou la censure", a défendu lundi Thomas Regnier, un porte-parole de la Commission.
