Les limites de l'IA : Un homme accusé de meurtre devient malgré lui modèle pour Shein

Le visage de Luigi Mangione, accusé du meurtre du directeur général de UnitedHealthcare, a commencé à circuler sur Internet il y a quelques mois. Il est devenu, malgré lui, une idole improbable, suscitant l'engouement de nombreuses femmes qui faisaient la queue devant le tribunal.

Son image a atteint une popularité virale lorsqu'elle a été projetée dans une discothèque de Boston lors d'une soirée à thème Disney, sur la chanson « He Could Be the One » d'Hannah Montana. Une chanson qui évoque l'émotion et la confusion du personnage principal lorsqu'il réalise que quelqu'un de spécial pourrait être « le bon ».

Cette semaine, l'image de Luigi Mangione est apparue dans un autre contexte inattendu : son visage a servi de modèle pour un produit sur le site web de Shein. Il est cependant impossible que Mangione ait posé pour cette campagne, puisqu'il est en prison.

« L'image a été partagée par un vendeur tiers et a été immédiatement retirée dès son identification. Shein applique des normes strictes à l'ensemble du contenu de la plateforme », a expliqué Shein à FashionUnited. « Nous procédons actuellement à une analyse approfondie, en renforçant nos systèmes de contrôle, et nous prendrons les mesures nécessaires à l'encontre du vendeur, conformément à nos politiques. »

Un incident technique qui met en lumière les risques de l'automatisation et la fragilité des systèmes de contrôle sur les plateformes aux catalogues infinis.

Un visage à l'ère de l'IA

Comment l'image d'un accusé de meurtre peut-elle se retrouver utilisée comme celle d'un mannequin de catalogue ? La réponse se trouve dans les systèmes d'apprentissage de l'intelligence artificielle. Lorsqu'un visage devient viral, sa présence dans les bases de données ouvertes, les forums ou les référentiels peu réglementés, avec lesquels certaines IA sont entraînées, se multiplie. À partir de là, des outils à bas coût peuvent « apprendre » à utiliser ces images sans tenir compte du contexte.

Dans le cas de Shein, une grande partie du contenu provient de vendeurs tiers, qui cherchent souvent des raccourcis technologiques pour produire rapidement de grandes quantités de matériel promotionnel. Il est donc possible qu'un vendeur ait utilisé un outil d'IA à bas coût, sans contrôler le résultat final.

Bien que l'intelligence artificielle offre des avantages indéniables pour le commerce et la mode, le secteur doit miser sur des solutions plus transparentes et rigoureuses afin de prévenir les incidents susceptibles de nuire à sa réputation. H&M, par exemple, a recours à l'utilisation de digital twins. Ces modèles numériques sont créés à partir de personnes réelles qui cèdent, en échange d'une rémunération, le droit de recréer et d'exploiter leur image de manière contrôlée. Ce système garantit à la fois les droits des mannequins et la traçabilité des contenus, en maintenant l'innovation sans perdre le contrôle.

De son côté, la marque espagnole Desigual développe elle aussi sa stratégie en collaboration avec des partenaires spécialisés.

Cet article a été traduit à l'aide d'un outil d'intelligence artificielle, puis vérifié et édité par un journaliste de FashionUnited.

FashionUnited utilise des outils linguistiques d'intelligence artificielle pour accélérer la traduction et la relecture des articles d'actualité afin d'améliorer le résultat final. Nos journalistes gagnent ainsi du temps et peuvent se consacrer à la recherche et à la rédaction d'articles originaux. Les articles traduits à l'aide de l'IA sont soigneusement examinés par un rédacteur de notre équipe. Pour toute question ou remarque, n'hésitez pas à nous écrire à info@fashionunited.com.