Les selfies générés par intelligence artificielle sont-ils sexistes et racistes ?

Astronautes, héros grecs et fées : les "Magic Avatars" de Lensa, qui proposent aux utilisateurs de générer par IA des portraits artistiques personnalisés, ont envahi les réseaux sociaux. Mais Prisma Labs, la société derrière l’appli, cumule les polémiques.

En quelques secondes, Lensa transforme le visage de l’utilisateur en super-héros ou en tableau impressionniste. Payante, la fonctionnalité « Magic Avatar » – proposée par l’appli depuis novembre – ne demande que 10 à 20 selfies pour créer toute une série de personnages virtuels en 4K. Un concept assez impressionnant, et viral.

 

Voir cette publication sur Instagram

 

Une publication partagée par Prisma (@prisma)

Mais plusieurs médias pointent du doigt l’appli pour ses tendances sexistes. MIT Technology Review accuse ainsi « Magic Avatar » de créer des images sexualisées sans le consentement des utilisatrices – un phénomène qui ne concernerait pas les photos masculines. « Même si toutes les images que j’ai téléchargées étaient entièrement vêtues et principalement des gros plans de mon visage, l’application a renvoyé plusieurs images avec une nudité implicite ou réelle« , explique aussi une journaliste de CNN. Un article de Wired raconte même comment Lensa a généré des nudes, alors que la journaliste n’avait uploadé que des photos d’elle enfant.

Magic avatar app generated nudes from childhood photos https://t.co/um9JQ1gJRo via @wired

— Bradley Kreit (@bkreit) December 7, 2022

« Pourquoi tous mes avatars d’IA ont-ils d’énormes seins ?« , s’interroge également un article de The Cut. Ars Technica explique en fait que la technologie utilisée par l’appli « peut facilement sexualiser ses résultats par défaut » : « Ce comportement provient de la grande quantité d’images sexualisées trouvées dans sa base de données (…) qui a été récupérée sur Internet« . Les représentations misogynes des femmes sur le web, non filtrées, influencent ainsi l’IA.

« Pornification » des selfies, données personnelles, appropriation des œuvres d’art…

De son côté, Prisma Labs assure à TechCrunch que ses équipes sont en train de bosser pour corriger les défauts de l’intelligence artificielle. A noter que d’autres biais culturels – racistes ou grossophobes – ont été repérés, avec par exemple certains utilisateurs non blancs représentés avec une peau éclaircie.

I finally did the @lensaai Magic Avatar thing. These are my faves. About half of them were pretty off and didn’t really look like me, but then again, that’s about the same ratio I’ve had with human artists I’ve commissioned (mostly at Comic-Con). pic.twitter.com/XLNPhGi8gE

— Adriana A (@adrianabootie) December 23, 2022

Autre source de critiques : les données personnelles. Alors que l’appli utilise les clichés de ses utilisateurs pour s’entraîner et se développer, sa politique de confidentialité indique que Prisma Labs détient les droits sur les images réalisées à partir des selfies sur l’appli. La société assure toutefois à TechCrunch que les photos des utilisateurs sont immédiatement supprimées du cloud après utilisation.

BuzzFeed rapporte enfin que des artistes accusent Lensa de voler leurs œuvres. Google Images, Pinterest, DevianArt… Alors que la technologie utilisée par l’appli piocherait dans tout un tas d’images publiées en ligne pour nourrir la base de données qui entraîne son IA, les artistes reprochent à Lensa de ne créditer (ni rémunérer) aucun créateur.

Prisma Labs répond en affirmant que les portraits générés par son appli ne peuvent pas être considérés comme des copies d’œuvres. « Tout comme le cinéma n’a pas tué le théâtre (…), l’IA ne remplacera pas les artistes mais peut devenir un formidable outil pour les aider« , écrit la société dans un tweet. Pas sûr, ceci dit, qu’essayer « Magic Avatar » avec son propre visage soit forcément une bonne idée.