Berliner Tageblatt - Personnes dénudées par l'IA sur Hugging Face: la Haute-commissaire à l'enfance saisit la Commission européenne

"L'IA ne peut pas tout. Elle ne peut certainement pas servir à dénuder des enfants, des femmes ou n’importe qui sans son consentement", a déclaré Mme El-Haïry dans un communiqué.

"Après Grok, pour lequel j'avais saisi la Commission européenne, contribuant à l'ouverture d'une enquête, voilà que des modèles similaires sont mis en avant sur Hugging Face", a-t-elle poursuivi, au lendemain des révélations de l'ONG AI Forensics selon lesquelles cette plateforme héberge de tels modèles d'IA.

AI Forensics affirme que sept des neuf modèles d'IA de retouche d'images les plus mis en avant par la plateforme "permettent aux utilisateurs de déshabiller des personnes à l'aide de simples +prompts+", ces lignes de commandes exprimées en langage courant.

"C'est immonde. Je saisis la Commission européenne, Pharos et l’Arcom. Je ne laisserai rien passer. L’innovation n’est pas un permis de violer la dignité humaine. Le consentement n’est pas une option!", s'est indignée la Haute-commissaire.

Début janvier, une analyse menée par AI Forensics sur plus de 20.000 images générées sur le réseau social X par Grok, le robot conversationnel développé par l'entreprise américaine xAI, avait révélé que plus de la moitié représentaient des personnes légèrement vêtues, dont 81% étaient des femmes et 2% paraissaient mineures.

Même si l'entreprise affirme avoir mis depuis des filtres, ces images de personnes dénudées, pour la plupart sans leur consentement, ont plongé le réseau d'Elon Musk au cœur d'une polémique internationale et déclenché des enquêtes au Royaume-Uni et dans l'UE.

Depuis, le Parlement européen a voté l'interdiction dans l'UE des services d'IA permettant de "dénuder" des personnes sans leur consentement, une mesure défendue également par les Etats membres, mais qui n'a pas encore été mise en place.

M.Odermatt--BTB