Les biais de l´IA

 "L'intelligence artificielle face au miroir : biais et préjugés à l'ère numérique”

Pour introduire le sujet, j'aimerais argumenter que, sincèrement, je pensais que les intelligences artificielles les plus populaires, comme ChatGPT, seraient plus biaisées. Cependant, je conserve le soupçon qu'il y a déjà eu des campagnes contre le prototype hétéronormatif et blanc qu'elles promeuvent dans la génération de leurs images. Cela a probablement conduit à ce que leur première option en matière de représentation ne soit plus celle évoquée précédemment. Les intelligences artificielles, bien qu’elles soient conçues pour représenter la diversité et l’objectivité, reflètent souvent les biais sociétaux intégrés dans leurs données d'entraînement. Donc l´un des aspects les plus critiqués est leur tendance à reproduire une normativité blanche et hétérosexuelle dans leurs représentations, qu'il s'agisse d'images, de textes ou de réponses générées. Ce phénomène soulève des questions importantes sur l'inclusivité et l’équité, car il risque de perpétuer des stéréotypes et d’exclure des identités sous-représentées. Comprendre ces biais et travailler à les corriger est essentiel pour construire des systèmes d’intelligence artificielle véritablement représentatifs et équitables, comme il est en train de se-faire.

En général, lorsque vous demandez une image de deux personnes qui s'embrassent de manière formelle, l'intelligence artificielle représente généralement deux personnes échangeant un baiser romantique, face à face, avec peu de gestuelle. En analysant les cas d'étude, on pourrait dire qu'il s'agit d'un baiser français normatif.

Il m'est arrivé quelque chose de curieux lorsque j'ai demandé une image au générateur d'images de Canva : il a directement refusé en invoquant sa politique. Cela reste difficile à comprendre, car un baiser n'est ni quelque chose de sexuel ni d'explicite. Pourtant, le programme a refusé de le représenter, presque comme s'il s'agissait d'un contenu pornographique. Littéralement, et en résumé, la politique indiquait que ce contenu ne pouvait pas être reproduit afin d'éviter des usages problématiques ou des controverses, de simplifier la modération et d'éviter des malentendus culturels et éthiques. Cela peut être interprété de différentes manières et, effectivement, selon chaque perspective culturelle.
Voici une capture d'écran de ce qui s'est passé: 

Ce qui me surprend, c'est qu'après avoir constaté tout au long du semestre de nombreuses réponses discutables empreintes de raisons transphobes, homophobes et classistes, presque racistes, la première représentation que m'a donnée ChatGPT était celle d'un couple mixte, bien que hétérosexuel. Pixlr et les autres intelligences (que je cite sous chaque photographie) contribuent à des personnages variés : lesbiennes, homosexuels racisés, relations entre personnes d'âges différents. Cela contraste peut-être avec la "couple parfaite" que représente l'intelligence artificielle Monica, moins connue. Elle illustre un couple digne d'un film, échangeant un baiser parfait : la femme, plus petite, agrippée à son torse, avec des boucles impeccables.
Cependant, dans l'ensemble, je suis assez satisfaite du contenu. Étant donné que ces intelligences artificielles sont généralement basées dans des capitales européennes, tout leur contenu semblait initialement biaisé. Mais grâce à des campagnes et à de nouvelles politiques, cette situation commence à évoluer. Le regard, les caresses, je conclue, semblent presque identiques dans toutes les représentations : peu explicites, presque à la même hauteur, sauf dans le cas de Monica, ou dans le cas de Pixlr, où il s'agit d'une étreinte au lieu d'un baiser, entre deux femmes noires.

                                                            

Chatgpt

                                                                                    

                                                                                                                 

                                                                                                                                                                                                                                   Pixlr

 

 

 

 

 

 

 

 

Artguru

 

 

 

 

                                                                                                    Picsart

 

 

Capcut

 

                                                                                                                                                                                                                              Monica

 

Limites de ces biais

Il n’est pas normal de recevoir des messages explicites d’erreur ou de menace de suspension de compte, sauf en cas de violation des politiques d’utilisation de la plateforme, comme nous l’avons mentionné dans le fragment précédent à propos de Canva. Les IA disposent de filtres automatiques qui bloquent et limitent la génération de contenu "inapproprié", en particulier ce qui est considéré comme contenu explicite ou sexuel. Cette limite est influencée par des réglementations légales, telles que les lois locales, nationales ou internationales qui définissent les types de contenus interdits. Toutefois, cette politique n’est pas la plus déterminante, car elle est aussi influencée par des sensibilités culturelles et des problématiques éthiques. Les IA sont principalement entraînées dans des contextes issus de pays occidentaux, avec des valeurs axées sur la morale et la prudence, souvent conservatrices en matière de sexualité et de violence.

Un baiser n’est pas, en soi, un contenu sexuel et ne devrait pas être bloqué. Cependant, sur certaines plateformes plus restrictives, comme Canva ou Pixlr, toute représentation de contact physique entre personnes peut être jugée inappropriée si elle est perçue comme faisant partie d’une narration sexuelle. Concernant les armes, OUI, elles sont associées à la violence, et les IA ont tendance à être plus strictes à ce sujet. Mais qui définit ces règles ? Eh bien, les politiques sont établies par les développeurs de la plateforme concernée et par les lois locales, comme nous l’avons déjà dit, tout en étant également influencées par les retours des utilisateurs et par les réglementations évolutives. Cela dépend aussi des pays dans lesquels elles opèrent, des normes sociales et des attentes culturelles locales. En d’autres termes, les IA sont culturellement et politiquement biaisées.

Et comme je l’ai argumenté dans un autre article du blog, les photographies artificielles sont, à mon sens, associées à la perfection, à des gestes dénués d’humanité, à des contours inexistants et à des jeux d’ombres et de lumières drastiques, propres, qui semblent sorties d’un fond vert.
Il existe un écart, une frontière entre ce qui est capturé par un véritable appareil photo et ce qui est généré.

Lucía Álvarez

 
 

LES BIAIS DE L'IA

La réalisation de cette activité a été un peu plus curieuse en raison de l'IA. J'ai utilisé le générateur d'images Bing et chatgpt. Lorsque j'ai expressément indiqué que je voulais que deux personnes (quel que soit leur sexe) s'embrassent, ils n'ont pas créé d'images de « vraies » personnes, mais des personnages qui montrent clairement qu'il ne s'agit pas de vraies personnes. Seule une des six images se rapproche de deux personnes réelles.

Comme je l'ai déjà dit, dans le moteur de recherche pour créer les images, j'ai indiqué quelque chose comme « Créer une image de deux personnes s'embrassant » sans préciser le sexe, l'endroit, la perspective ou la conception de la photo. 

Le générateur d'images a créé cinq images d'une femme et d'un homme s'embrassant, mais a créé une image de deux hommes, ce qui indique clairement que cherche à respecter toutes les identités et orientations sexuelles, y compris la communauté homosexuelle. Les modèles d'IA sont généralement développés avec des directives visant à éviter la discrimination, les stéréotypes négatifs ou les représentations injustes. Cependant, les résultats peuvent parfois varier en fonction de la manière dont l'IA a été formée, des données utilisées pour l'entraîner et des instructions données.

Dans de nombreux cas, les IA modernes sont conçues pour être inclusives, en générant des images ou du contenu qui représentent une diversité d'identités sexuelles et de genres, y compris des couples homosexuels. Cependant, des biais peuvent encore exister, notamment si les ensembles de données utilisés pour entraîner l'IA ne sont pas diversifiés ou incluent des stéréotypes.

Réflection de l'IA en general

Les résultats peuvent être inattendus, surtout si la demande est assez spécifique ou peu courante. Par exemple, certaines positions corporelles peuvent sembler rigides ou peu naturelles, comme si l'IA avait une compréhension limitée des angles physiques. Dans certaines images, les corps peuvent être légèrement déformés ou apparaître dans des poses qui ne seraient pas réalistes pour un humain. Les IA ont tendance à produire des positions corporelles standardisées, surtout lorsqu’elles n'ont pas assez de détails pour varier les angles.

Les résultats peuvent parfois refléter des biais culturels ou des tendances sociales, comme une prédominance de personnages caucasiens ou de couples hétéro-normatifs. Cependant, l'IA, selon sa formation et les requêtes, peut générer des représentations de divers groupes humains. Si l'on demande explicitement des personnages de différentes ethnies, ou des représentations de couples non hétéro-normatifs, l'IA peut répondre de manière plus inclusive, mais cela dépend du modèle utilisé et de l'entraînement.

 Dans certains cas, l'IA peut produire des images naturelles et réalistes, mais dans d’autres, les résultats peuvent sembler un peu mécaniques ou déconnectés, surtout en ce qui concerne l'expression corporelle et l'intimité. L'IA peut parfois avoir du mal à rendre l'aspect intime d'une scène, donnant une impression de froideur ou d'artificialité.

 Les zones de contact, comme un baiser ou un contact physique entre personnages, peuvent parfois être rendues de manière étrange ou déformée, surtout si les proportions ne sont pas correctement ajustées. Le regard des personnages peut aussi sembler rigide ou vide, ce qui donne une sensation de manque d’émotion ou de connexion. Les IA peuvent avoir du mal à générer un regard profond et réaliste, ce qui peut altérer l'intensité émotionnelle d'une scène.

Message quelconque d'erreur

En tant que générateur d’images IA, il est possible que je reçoive des avertissements ou des notifications d'erreur si une demande va à l’encontre des directives de contenu de la plateforme. Cela se produit notamment lorsqu’une requête contient des éléments jugés comme inappropriés, offensants ou non conformes aux politiques. Par exemple, les demandes liées à la violence explicite ou au contenu sexuel peuvent entraîner des alertes ou la suspension d'une session si elles enfreignent les règles.

 Contenu explicite

Les limites du contenu explicite ou sexuel dépendent souvent des normes et des lois en vigueur dans les sociétés occidentales, mais aussi de la culture de l'entreprise qui développe l'IA. En général, les images impliquant des actes sexuels explicites, la nudité excessive ou des représentations de violence physique sont limitées ou filtrées. Cela reflète des valeurs culturelles centrées sur la décence publique, la protection des mineurs, et la nécessité de maintenir une ligne morale. L’IA est programmée pour respecter ces principes et ne pas reproduire des scènes potentiellement offensantes.

 Un baiser n'est généralement pas perçu comme du contenu explicite, sauf dans un contexte spécifique (par exemple, un baiser impliquant de l'intimité physique qui dépasse les limites généralement acceptées). Quant à une arme, elle est presque toujours associée à la violence, en raison de son usage pour blesser ou tuer. Les limites du contenu explicite sont définies par les plateformes qui régissent les modèles IA, en fonction de directives générales (notamment les politiques de contenu, les lois locales et les attentes culturelles). Par exemple, des organismes comme l'UE ou les gouvernements nationaux peuvent avoir une influence sur ce qui est acceptable, mais ce sont les créateurs de l’IA qui appliquent des règles spécifiques dans le code du modèle. Les conclusions indiquent que la société cherche à équilibrer la liberté d'expression avec des mesures de protection.

Comparer avec des images réelles

Les images réelles reflètent des moments authentiques capturés par la caméra et sont le produit d'un acte humain, d'une émotion ou d'un événement réel. En comparaison, les images générées par l'IA, bien qu’elles puissent paraître réalistes, manquent souvent de la complexité émotionnelle ou du réalisme subtil qu'un photographe ou un artiste humain pourrait capturer. Par exemple, les regards ou les expressions faciales dans des images IA peuvent sembler moins profondes ou naturelles, et la texture ou l'éclairage peuvent être plus artificiels. Les IA ont aussi parfois du mal à reproduire des détails spécifiques ou à faire en sorte que les personnages interagissent de manière convaincante, surtout lorsqu'il s'agit de scènes plus intimes ou complexes.

 

LES BIAIS DE L'IA: Le test du baiser et les biais de l'IA

 LE TEST DU BAISER ET LES BIAIS DE L'IA

Pour réaliser cette activité, j’ai utilisé les IA Arguru et Free Pick. Quelque chose qui a attiré mon attention, c’est que l’IA a généré plusieurs images de couples homosexuels en train de s’embrasser, alors que je pensais qu’elle ne me montrerait que des images d’hommes et de femmes. J’ai trouvé étrange la façon dont les couples s’embrassent. Quand leurs lèvres se touchent, cela semble bizarre, mais dans la plupart des images, les lèvres ne se touchent pas, seules leurs nez le font. Ils se frôlent ou semblent sur le point de s’embrasser, mais il n’y a pas de contact réel.

En général, il y a plus de femmes que d’hommes, et tous les personnages sont en position de profil. On trouve toutes sortes de couples, mais il est vrai que la première option dans toutes les images est celle d’un couple hétérosexuel. Les couples hétérosexuels s’embrassent explicitement, leurs lèvres se touchent, mais les couples homosexuels n’ont généralement pas de contact physique. Ils se regardent et se touchent avec les bras, mais leurs lèvres ne se rejoignent pas. Dans le cas où j’ai demandé à l’IA deux femmes en train de s’embrasser, elle m’a montré le même modèle de femme s’embrassant elle-même, sans générer un autre personnage.

Ce qui m’a frappée, c’est le caractère dramatique des images. Souvent, il y a une atmosphère dramatique avec des arrière-plans colorés. Dans la grande majorité des images, les personnes ont les yeux fermés. De plus, les corps des personnages sont toujours normatifs : il n’y a ni personnes grosses ni très maigres. Tous les visages et corps suivent les standards de beauté établis par la société. L’IA ne montre pas non plus des personnes noires ou d’autres cultures comme les Chinois ou les Indiens ; ce sont toujours des personnes blanches, minces ou musclées et séduisantes. Elle ne représente pas non plus des personnes âgées ou des adolescents, mais uniquement des adultes d’environ 40 ans ou moins.

En ce qui concerne la génération d’images, je n’ai rencontré aucun problème pour les produire. Je n’ai reçu aucun message d’erreur ni avertissement. Je pense que l’IA associe le fait de s’embrasser au sexe et le traite comme un tabou. Un baiser ne devrait pas être censuré, car c’est un acte naturel qui ne se fait pas uniquement dans l’intimité. Je comprends qu’elle ne représente pas des personnes dans des actes sensuels, mais un baiser ne devrait pas être censuré.

Je pense que ne pas représenter cet acte de manière naturelle est une conséquence d’une vision conservatrice de la société. L’amour doit être exprimé, et l’amour est libre, il ne doit pas être opprimé. Le baiser n’est pas associé à la violence ; au contraire, il est lié à un acte de paix. Par exemple, l’œuvre sur le mur de Berlin où les deux dirigeants socialistes s’embrassent montre ce qu’est un véritable baiser. Les traits du visage se modifient, des rides apparaissent, et il y a du mouvement. Dans les images générées par l’IA, les personnages s’embrassent, mais leurs expressions restent intactes.

Je pense que l’IA suit les canons de beauté et ne montre pas la partie naturelle des actes. Elle suit les normes d’une société conservatrice qui ne reflète pas la liberté, l’amour et les gestes naturels tels qu’ils sont.

Marina Pérez Buch

Les bias de l’IA

 J’ai créé l’image de “Professeure Steampunk, Cheveux gris, regard sceptique” 

L'image obtenue se rapproche plus à la deuxième image.

C'est la création d'autres images alternatives où j'ai choisi des scènes domestiques. Cela a donné cette image, dans laquelle nous pouvons voir une généralisation stéréotypée d'une femme à la maison : avec toutes les courses sur le comptoir de la cuisine, une table à débarrasser et elle, bien sûr, en train de faire la vaisselle.

Ensuite, lors de la création d'images de baisers, j'ai recherché sur Microsoft Designer « photos de baisers sur la bouche entre deux personnes », et il en est ressorti une image qui semble être un visage féminin avec la langue sortie, entouré de chiens. Cela peut être dû au fait que j'ai peut-être frôlé la limite du contenu explicite.

J'ai consulté une autre IA, Artguru, dans laquelle j'ai demandé qu'elle me crée deux images de personnes en train de s'embrasser. Le résultat a été deux images très rapprochées où ce qui semble être deux femmes s'embrassent, d'après le type de visage. Le résultat, sans spécifications, a été comme prédéterminé : plusieurs femmes en train de s'embrasser. De manière stéréotypée, avec des lèvres rouges et de longs cils.

Ensuite, dans la même IA, j'ai demandé qu'une image de deux hommes en train de s'embrasser soit créée, où ils ont tous deux été caractérisés avec une barbe.

Lorsque j'ai demandé à l'IA Artguru de créer deux images d'un couple s'embrassant passionnément, elle m'a montré deux images d'un couple hétérosexuel.

Dans toutes les images fournies sans spécifications, on peut voir comment l'intelligence artificielle a pris comme base des personnes caucasiennes spécifiques, sans aucun défaut visible.

On peut tout de même observer dans les images que le contact entre les bouches n’a pas pu être reproduit comme dans un véritable baiser, en plaçant la langue de manière complètement inhumaine.

Il n'y a eu aucune restriction pour la création de ces images. Je pense que les limites des sites sur lesquels j'ai demandé ces images concernent la sensibilité au contenu homosexuel, car, sans spécifier, des couples hétérosexuels apparaissaient par défaut avec une distance moyenne. Cependant, les images des baisers de couples homosexuels sont présentées à une telle proximité qu'il est difficile de les identifier complètement. 

De plus, seules des images de baisers entre personnes du même sexe apparaissent lorsque je les spécifie, et lors que j'ai demandé une image de couple, l'IA a supposé qu'il s'agissait d'un couple hétérosexuel.

Les biais de l'IA

 Dans cet article de blog, je vais explorer les biais et les préjugés de l’IA générative d’images, en lui demandant de générer des images d’un baiser. Je vais analyser les raisons potentielles pour lesquelles on reçoit certains résultats, et essayer de découvrir un peu le processus derrière la création des images. 

Pour créer ces images, j’ai utilisé l’IA ‘Freepik’, et elle m’a donné des images assez réalistes et qui, en général, correspondaient à mes instructions. J’ai aussi essayé d’autres IAs avant Freepik, ce que je vais expliquer dans la deuxième partie de l’article. Tout d’abord, j’ai utilisé l’invite donné : ‘Photo de studio de deux êtres humains qui s’embrassent’. Elle m’a donné huit images différentes, et ce que j’ai remarqué tout de suite, c’était que tous les personnages étaient des couples hétérosexuels, c’est-à-dire, seulement un homme et une femme. De plus, bien que les images créées étaient hyper-réalistes, la position des lèvres était de temps en temps non naturelle : il y avait un écart entre les deux, ou les lèvres ne touchaient pas du tout. Les positions des couples, en général, sont plus ou moins les mêmes. Généralement, l’homme tient la femme, et on voit les deux visages de côté. Parmi les huit images qu’on m’a produites, il y en a seulement une qui n’est pas un baiser : cela montre un câlin, mais encore entre un homme et une femme.  Ce que j’ai trouvé un peu inattendu, c’était la diversité des phénotypes dans les photos. Normalement, ou bien, ce que j’ai vécu auparavant, les IA n’utilisent que des personnes blanches pour leurs images, et il y a un manque de diversité. Cependant, Freepik, sans que je dise quoi que ce soit, a utilisé des personnes d’origines raciales différentes. Voici quelques créations avec l’invite : 





J’ai ensuite décidé de changer l’invite, pour voir si l’IA pouvait créer aussi des images avec deux hommes et deux hommes qui s’embrassent. Ici, il y avait plus d’images qui montrent seulement un câlin et pas un baiser, mais, encore, l’IA a réussi à me donner des images qui correspondent à ce que j’ai voulu. De plus, il y a des personnes d’origines différentes ici aussi.  J’ai aussi remarqué qu’il n’y a qu’une image qui montre deux personnes du même sexe qui s’embrassent directement. Dans les trois autres, il y a des problèmes : soit un écart entre les lèvres ou soit les lèvres ne touchent pas. Cela peut être simplement à cause d’un problème avec l’IA soi-même, ou peut-être c’est à cause d’un biais ou un préjugé, qui ne veut pas montrer des baisers entre personnes du même sexe. En fait, en utilisant Freepik, le seul problème que j’ai rencontré avec la censure était avec deux femmes, ce que je vais expliquer dans la deuxième partie. Voici les créations : 

Comme j’ai déjà écrit, j’ai rencontré quelques problèmes en effectuant cette tâche. Tout d’abord, j’ai voulu utiliser ChatGPT, cependant, en lui demandant, j’ai reçu ce message : ‘Je ne peux pas créer des images représentant des personnes spécifiques ou des scènes réalistes impliquant des humains, pour respecter les politiques éthiques’. Cela m’a étonné un peu, parce qu’en ligne il existe déjà plein de photos comme celle que j’ai demandée, et même pire. Cependant, après avoir décidé d’utiliser Freepik, je n’ai rencontré aucun problème, sauf un. Lorsque je lui ai demandé de me donner une image de deux femmes qui s’embrassent, elle m’en a donné trois, et la quatrième avait le message ‘Cette image pourrait être “explicite”’, et la seule manière de la voir était d’abonner à la version premium du site. Je crois que cela était très bizarre, parce que l’image était pareille que toutes les autres : je l’ai mise ci-dessous. La seule différence était qu’une des femmes est plus âgée que la reste. 

Selon moi, l’IA met en place des limites pour se protéger et pour se conformer aux lois locales. Les normes et cultures diffèrent partout dans le monde, et quelquefois les choses peuvent être vues d’une manière différente. Par exemple, bien que le baiser soit normal et un signe d’affection dans certains pays, comme la bise en France, dans d’autres, c’est comme un tabou et n’est pas considéré comme approprié. Ça dépend aussi du contexte. Le baiser pourrait être regardé dans un contexte pornographique ou sexuel, et dans ce cas-là, les plateformes comme les IA ou même les réseaux sociaux ont la responsabilité de les restreindre. Les limites du contenu explicite ne sont ni fixes ni universelles et ça dépend vraiment des valeurs sociétales et culturelles. Comme je viens de dire, c’est aux entreprises technologiques de contrôler ce qui est publié sur leurs plateformes, mais aussi les gouvernements peuvent imposer des restrictions et des régulations quant à l’interdiction de certains contenus. Selon moi, c’est un sujet difficile. Pendant que je pense qu’il est important qu’on puisse voir ce qu’on veut en ligne, il est vraiment nécessaire qu’il y ait des contraintes mises en place pour que des enfants, par exemple, soient en sécurité et ne soient pas exposés à du contenu violent ou sexuel. Cependant, je ne comprends pas pourquoi, dans le cas du Freepik, seulement une des images données était marquée comme ‘explicite’, ce qui peut être en raison des biais indirects implémentés dans l’IA parce que ça montre deux femmes. 

En conclusion, cette activité a été vraiment intéressante à faire. En demandant simplement à une IA de montrer un baiser, on a pu révéler les préjugés et biais potentiels des IA, et a pu explorer les raisons pour lesquelles le contenu qu’on voit peut être limité. J’ai pu noter des tendances hetéronormatives et cela montre que les IA ne sont pas seulement des outils de génération d’images : elles reflètent des défis et des préjugés produits par la société actuelle.  

- Tarun Maybanks

Les biais de l'IA

Photos générés sur Image Creator et Lexica Art avec comme description « Photo de studio de deux êtres humains qui s'embrassent »  

Première partie : 

-       Les photos qui ressortent le plus sont la première et la quatrième. En effet, sur la première on remarque que l’IA a très mal généré la photo car on a l’impression que les personnages partagent le même corps. Leurs bras et leur nez sont liés, cependant, au niveau de la représentation c’est l’une des seuls qui représente le mieux les traits humains. 

La quatrième photo ressort aussi car on peut remarquer que l’homme a un tatouage au visage représentant une partie d’une tête de mort et la femme porte un accessoire similaire. 

 

Il y a une constante dans certaines positions corporelles. En effet, on remarque que la position est toujours de profils et que c’est l’homme qui donne le bisou. 

 

-       Sur la majorité des photos nous avons la représentation de couples hetéronormatifs, un homme et une femme ce qui reste le plus commun. 

La seule photo où deux hommes ont été généré c’est lorsque qu’il a été précisé « Photo de studio de deux hommes qui s'embrassent ». Nous n’avons rencontré aucun souci lors de cette demande, l’image a été généré normalement.  

-       Dans les zones de contact on remarque que c’est la femme qui enlace l’homme, les yeux des personnages sont fermés et tous les personnages ont des cheveux marrons. 

Segunda parte : 

A lo largo de la realización de la tarea no nos hemos encontrado con ningún mensaje de error, ni de advertencia de cancelación para nuestras cuentas. Hemos pensado que esto se puede dar porque realmente no estábamos pidiendo nada explícito como puede ser un beso apasionado. Pensamos que la IA puede considerar como explícito todo aquello que pueda mostrar una parte privada del cuerpo o busque rebajar a alguien con la creación de la imagen. 

En cuanto a los valores culturales no podemos estar seguras ya que, son diferentes en cada país. En nuestro caso, por ejemplo, no hemos tenido ningún tipo de problema.

¿Realmente se asocia un beso a contenido explicito y un arma a la violencia? No, estos términos no están únicamente asociados a estos temas. Por ejemplo, un beso puede estar relacionado con una felicitación o un saludo y, en el caso del arma, puede ser de juguete e inofensivo. Después de haber hecho esta actividad consideramos que la IA es capaz de notar la diferencia entre lo bueno y lo malo y dependiendo de ello se ajusta a lo que se solicita tratando de no ser ofensivo. 

Si hacemos una comparación con la imagen que se nos mostraba podemos ver algunas similitudes como puede ser la postura, sus labios casi no están en contacto, etc. Pero también hemos podido ver que en las imágenes que hemos encontrado nosotras se muestra una mayor sensualidad e intimidad que en el otro caso.

Les biais de l'IA

J'ai demandé à l'IA de me créer six images de deux êtres humains s'embrassant, sans préciser leur sexe. Qu'est-ce qui se passe ? Elle n'a produit aucune image de deux personnes du même sexe s'embrassant. On peut voir seulement sur la dernière photo deux personnes du même sexe, mais c'est parce que je l'ai demandé explicitement. Et si on regarde bien, leurs bouches sont très éloignées l'une de l'autre, peut-être l'image où elles sont le plus distantes. Pour être honnête, rien de tout cela ne me surprend, car l'IA a été créée par des hommes, blancs et hétérosexuels, et elle s'appuie sur des informations trouvées sur internet. Comme nous le savons, la majorité des informations en ligne sont racistes, sexistes, homophobes et patriarcales. En ce qui concerne les images créées, elles ont toutes la même position corporelle, il n'y a aucune variation. De plus, toutes les paires sont hétéronormatives et suivent les canons de beauté imposés par la société : la femme mince, l'homme fort, tous deux avec un nez petit et parfait, elle avec les cheveux longs, lui avec les cheveux courts. Par ailleurs, dans la dernière photo où apparaissent deux hommes, ils ne se touchent même pas les lèvres, leurs bouches sont très éloignées. Alors que dans les autres, leurs bouches se frôlent au moins. Comme mentionné précédemment, la posture est la même dans toutes les images, sauf dans une où l'homme a la main sur la tête de la femme, et dans celle des deux personnes homosexuelles où la pose change légèrement, donnant l'impression qu'ils vont s'enlacer plutôt que s'embrasser. De même, le regard est le même dans toutes les images, les yeux restent fermés. En nous concentrant maintenant sur l'IA, lorsque je lui ai demandé de créer deux êtres humains s'embrassant, une des images a été accompagnée du message : "The generated content violates our Community Guidelines. Please try again with another prompt", c'est-à-dire que ce que je demandais violait leurs règles, comme si le fait de s'embrasser était quelque chose de mal. À mon avis, le baiser semble être associé pour l'IA à un contenu explicite ou sexuel. Je ne saurais dire pourquoi elle le perçoit ainsi, car un baiser est l'une des choses les plus normales du monde, tout le monde s'embrasse, cela n'a rien de mauvais. Ce n'est pas une action violente, ce n'est pas comme si vous demandiez à l'IA de dessiner un crime. En ce qui me concerne, l'IA a été programmée pour que tout acte impliquant un contact humain soit qualifié de "contenu explicite" ou "contenu sexuel". Cela reflète la société dans laquelle nous vivons, la culture des riches, de ceux qui nous contrôlent et gouvernent, car ils ont plus de pouvoir politique. Et c'est cette culture qu'ils transmettent à la société. C'est pourquoi l'IA ne peut pas créer une image de deux personnes homosexuelles s'embrassant, car pour ces personnes, ces individus sont considérés comme des déchets. En conclusion, les limites de l'IA sont basées sur la société et la culture dans lesquelles nous vivons. Pour la société, il est mal vu que deux personnes s'embrassent de manière intense ou qu'une femme montre sa poitrine dans un bar, et tout cela se reflète dans l'IA. Pour certaines personnes, voire deux personnes du même sexe s'embrasser dans la rue constitue un acte de violence, en raison de leur mentalité et de la culture patriarcale, homophobe, misogyne et raciste qui leur a été inculquée depuis l'enfance. En fin de compte, les limites sont imposées par la société et la culture, et non par l'IA.