Les biais de l'IA

 Dans cet article de blog, je vais explorer les biais et les préjugés de l’IA générative d’images, en lui demandant de générer des images d’un baiser. Je vais analyser les raisons potentielles pour lesquelles on reçoit certains résultats, et essayer de découvrir un peu le processus derrière la création des images. 

Pour créer ces images, j’ai utilisé l’IA ‘Freepik’, et elle m’a donné des images assez réalistes et qui, en général, correspondaient à mes instructions. J’ai aussi essayé d’autres IAs avant Freepik, ce que je vais expliquer dans la deuxième partie de l’article. Tout d’abord, j’ai utilisé l’invite donné : ‘Photo de studio de deux êtres humains qui s’embrassent’. Elle m’a donné huit images différentes, et ce que j’ai remarqué tout de suite, c’était que tous les personnages étaient des couples hétérosexuels, c’est-à-dire, seulement un homme et une femme. De plus, bien que les images créées étaient hyper-réalistes, la position des lèvres était de temps en temps non naturelle : il y avait un écart entre les deux, ou les lèvres ne touchaient pas du tout. Les positions des couples, en général, sont plus ou moins les mêmes. Généralement, l’homme tient la femme, et on voit les deux visages de côté. Parmi les huit images qu’on m’a produites, il y en a seulement une qui n’est pas un baiser : cela montre un câlin, mais encore entre un homme et une femme.  Ce que j’ai trouvé un peu inattendu, c’était la diversité des phénotypes dans les photos. Normalement, ou bien, ce que j’ai vécu auparavant, les IA n’utilisent que des personnes blanches pour leurs images, et il y a un manque de diversité. Cependant, Freepik, sans que je dise quoi que ce soit, a utilisé des personnes d’origines raciales différentes. Voici quelques créations avec l’invite : 





J’ai ensuite décidé de changer l’invite, pour voir si l’IA pouvait créer aussi des images avec deux hommes et deux hommes qui s’embrassent. Ici, il y avait plus d’images qui montrent seulement un câlin et pas un baiser, mais, encore, l’IA a réussi à me donner des images qui correspondent à ce que j’ai voulu. De plus, il y a des personnes d’origines différentes ici aussi.  J’ai aussi remarqué qu’il n’y a qu’une image qui montre deux personnes du même sexe qui s’embrassent directement. Dans les trois autres, il y a des problèmes : soit un écart entre les lèvres ou soit les lèvres ne touchent pas. Cela peut être simplement à cause d’un problème avec l’IA soi-même, ou peut-être c’est à cause d’un biais ou un préjugé, qui ne veut pas montrer des baisers entre personnes du même sexe. En fait, en utilisant Freepik, le seul problème que j’ai rencontré avec la censure était avec deux femmes, ce que je vais expliquer dans la deuxième partie. Voici les créations : 

Comme j’ai déjà écrit, j’ai rencontré quelques problèmes en effectuant cette tâche. Tout d’abord, j’ai voulu utiliser ChatGPT, cependant, en lui demandant, j’ai reçu ce message : ‘Je ne peux pas créer des images représentant des personnes spécifiques ou des scènes réalistes impliquant des humains, pour respecter les politiques éthiques’. Cela m’a étonné un peu, parce qu’en ligne il existe déjà plein de photos comme celle que j’ai demandée, et même pire. Cependant, après avoir décidé d’utiliser Freepik, je n’ai rencontré aucun problème, sauf un. Lorsque je lui ai demandé de me donner une image de deux femmes qui s’embrassent, elle m’en a donné trois, et la quatrième avait le message ‘Cette image pourrait être “explicite”’, et la seule manière de la voir était d’abonner à la version premium du site. Je crois que cela était très bizarre, parce que l’image était pareille que toutes les autres : je l’ai mise ci-dessous. La seule différence était qu’une des femmes est plus âgée que la reste. 

Selon moi, l’IA met en place des limites pour se protéger et pour se conformer aux lois locales. Les normes et cultures diffèrent partout dans le monde, et quelquefois les choses peuvent être vues d’une manière différente. Par exemple, bien que le baiser soit normal et un signe d’affection dans certains pays, comme la bise en France, dans d’autres, c’est comme un tabou et n’est pas considéré comme approprié. Ça dépend aussi du contexte. Le baiser pourrait être regardé dans un contexte pornographique ou sexuel, et dans ce cas-là, les plateformes comme les IA ou même les réseaux sociaux ont la responsabilité de les restreindre. Les limites du contenu explicite ne sont ni fixes ni universelles et ça dépend vraiment des valeurs sociétales et culturelles. Comme je viens de dire, c’est aux entreprises technologiques de contrôler ce qui est publié sur leurs plateformes, mais aussi les gouvernements peuvent imposer des restrictions et des régulations quant à l’interdiction de certains contenus. Selon moi, c’est un sujet difficile. Pendant que je pense qu’il est important qu’on puisse voir ce qu’on veut en ligne, il est vraiment nécessaire qu’il y ait des contraintes mises en place pour que des enfants, par exemple, soient en sécurité et ne soient pas exposés à du contenu violent ou sexuel. Cependant, je ne comprends pas pourquoi, dans le cas du Freepik, seulement une des images données était marquée comme ‘explicite’, ce qui peut être en raison des biais indirects implémentés dans l’IA parce que ça montre deux femmes. 

En conclusion, cette activité a été vraiment intéressante à faire. En demandant simplement à une IA de montrer un baiser, on a pu révéler les préjugés et biais potentiels des IA, et a pu explorer les raisons pour lesquelles le contenu qu’on voit peut être limité. J’ai pu noter des tendances hetéronormatives et cela montre que les IA ne sont pas seulement des outils de génération d’images : elles reflètent des défis et des préjugés produits par la société actuelle.  

- Tarun Maybanks