Personnes dénudées par l’IA sur Hugging Face : la haut-commissaire à l’enfance, Sarah El Haïry, saisit la Commission européenne
La haut-commissaire à l’enfance, Sarah El Haïry, a annoncé, mercredi 29 juillet, avoir saisi la Commission européenne, ainsi que la plateforme de signalement Pharos et l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom), à la suite de révélations sur des modèles d’intelligence artificielle (IA) hébergés par la plateforme Hugging Face, capables de générer des images de personnes dénudées.
« L’IA ne peut pas tout. Elle ne peut certainement pas servir à dénuder des enfants, des femmes ou n’importe qui sans son consentement », s’indigne-t-elle dans un communiqué. « Après Grok, pour lequel j’avais saisi la Commission européenne, contribuant à l’ouverture d’une enquête, voilà que des modèles similaires sont mis en avant sur Hugging Face », poursuit Mme El Haïry, au lendemain des révélations de l’ONG AI Forensics, selon lesquelles la plateforme héberge de tels modèles d’IA.
AI Forensics affirme que sept des neuf modèles d’IA de retouche d’images les plus mis en avant par la plateforme « permettent aux utilisateurs de déshabiller des personnes à l’aide de simples prompts ».
« Je ne laisserai rien passer »
« C’est immonde. Je saisis la Commission européenne, Pharos et l’Arcom. Je ne laisserai rien passer. Le consentement n’est pas une option ! », ajoute la haut-commissaire.
Au début du mois de janvier, une analyse menée par AI Forensics sur plus de 20 000 images générées sur le réseau social X par Grok, le robot conversationnel développé par l’entreprise américaine xAI, avait révélé que plus de la moitié représentaient des personnes légèrement vêtues, dont 81 % étaient des femmes et 2 % paraissaient mineures.
Même si l’entreprise affirme avoir mis des filtres depuis, ces images de personnes dénudées, pour la plupart sans leur consentement, ont plongé le réseau d’Elon Musk au cœur d’une polémique internationale et des enquêtes ont été ouvertes au Royaume-Uni et dans l’Union européenne (UE).
Depuis, le Parlement européen a voté l’interdiction dans l’UE des services d’IA permettant de « dénuder » des personnes sans leur consentement, une mesure défendue également par les Etats membres, mais qui n’a pas encore été mise en place.