LES BIAIS DE L'IA

La réalisation de cette activité a été un peu plus curieuse en raison de l'IA. J'ai utilisé le générateur d'images Bing et chatgpt. Lorsque j'ai expressément indiqué que je voulais que deux personnes (quel que soit leur sexe) s'embrassent, ils n'ont pas créé d'images de « vraies » personnes, mais des personnages qui montrent clairement qu'il ne s'agit pas de vraies personnes. Seule une des six images se rapproche de deux personnes réelles.

Comme je l'ai déjà dit, dans le moteur de recherche pour créer les images, j'ai indiqué quelque chose comme « Créer une image de deux personnes s'embrassant » sans préciser le sexe, l'endroit, la perspective ou la conception de la photo. 

Le générateur d'images a créé cinq images d'une femme et d'un homme s'embrassant, mais a créé une image de deux hommes, ce qui indique clairement que cherche à respecter toutes les identités et orientations sexuelles, y compris la communauté homosexuelle. Les modèles d'IA sont généralement développés avec des directives visant à éviter la discrimination, les stéréotypes négatifs ou les représentations injustes. Cependant, les résultats peuvent parfois varier en fonction de la manière dont l'IA a été formée, des données utilisées pour l'entraîner et des instructions données.

Dans de nombreux cas, les IA modernes sont conçues pour être inclusives, en générant des images ou du contenu qui représentent une diversité d'identités sexuelles et de genres, y compris des couples homosexuels. Cependant, des biais peuvent encore exister, notamment si les ensembles de données utilisés pour entraîner l'IA ne sont pas diversifiés ou incluent des stéréotypes.

Réflection de l'IA en general

Les résultats peuvent être inattendus, surtout si la demande est assez spécifique ou peu courante. Par exemple, certaines positions corporelles peuvent sembler rigides ou peu naturelles, comme si l'IA avait une compréhension limitée des angles physiques. Dans certaines images, les corps peuvent être légèrement déformés ou apparaître dans des poses qui ne seraient pas réalistes pour un humain. Les IA ont tendance à produire des positions corporelles standardisées, surtout lorsqu’elles n'ont pas assez de détails pour varier les angles.

Les résultats peuvent parfois refléter des biais culturels ou des tendances sociales, comme une prédominance de personnages caucasiens ou de couples hétéro-normatifs. Cependant, l'IA, selon sa formation et les requêtes, peut générer des représentations de divers groupes humains. Si l'on demande explicitement des personnages de différentes ethnies, ou des représentations de couples non hétéro-normatifs, l'IA peut répondre de manière plus inclusive, mais cela dépend du modèle utilisé et de l'entraînement.

 Dans certains cas, l'IA peut produire des images naturelles et réalistes, mais dans d’autres, les résultats peuvent sembler un peu mécaniques ou déconnectés, surtout en ce qui concerne l'expression corporelle et l'intimité. L'IA peut parfois avoir du mal à rendre l'aspect intime d'une scène, donnant une impression de froideur ou d'artificialité.

 Les zones de contact, comme un baiser ou un contact physique entre personnages, peuvent parfois être rendues de manière étrange ou déformée, surtout si les proportions ne sont pas correctement ajustées. Le regard des personnages peut aussi sembler rigide ou vide, ce qui donne une sensation de manque d’émotion ou de connexion. Les IA peuvent avoir du mal à générer un regard profond et réaliste, ce qui peut altérer l'intensité émotionnelle d'une scène.

Message quelconque d'erreur

En tant que générateur d’images IA, il est possible que je reçoive des avertissements ou des notifications d'erreur si une demande va à l’encontre des directives de contenu de la plateforme. Cela se produit notamment lorsqu’une requête contient des éléments jugés comme inappropriés, offensants ou non conformes aux politiques. Par exemple, les demandes liées à la violence explicite ou au contenu sexuel peuvent entraîner des alertes ou la suspension d'une session si elles enfreignent les règles.

 Contenu explicite

Les limites du contenu explicite ou sexuel dépendent souvent des normes et des lois en vigueur dans les sociétés occidentales, mais aussi de la culture de l'entreprise qui développe l'IA. En général, les images impliquant des actes sexuels explicites, la nudité excessive ou des représentations de violence physique sont limitées ou filtrées. Cela reflète des valeurs culturelles centrées sur la décence publique, la protection des mineurs, et la nécessité de maintenir une ligne morale. L’IA est programmée pour respecter ces principes et ne pas reproduire des scènes potentiellement offensantes.

 Un baiser n'est généralement pas perçu comme du contenu explicite, sauf dans un contexte spécifique (par exemple, un baiser impliquant de l'intimité physique qui dépasse les limites généralement acceptées). Quant à une arme, elle est presque toujours associée à la violence, en raison de son usage pour blesser ou tuer. Les limites du contenu explicite sont définies par les plateformes qui régissent les modèles IA, en fonction de directives générales (notamment les politiques de contenu, les lois locales et les attentes culturelles). Par exemple, des organismes comme l'UE ou les gouvernements nationaux peuvent avoir une influence sur ce qui est acceptable, mais ce sont les créateurs de l’IA qui appliquent des règles spécifiques dans le code du modèle. Les conclusions indiquent que la société cherche à équilibrer la liberté d'expression avec des mesures de protection.

Comparer avec des images réelles

Les images réelles reflètent des moments authentiques capturés par la caméra et sont le produit d'un acte humain, d'une émotion ou d'un événement réel. En comparaison, les images générées par l'IA, bien qu’elles puissent paraître réalistes, manquent souvent de la complexité émotionnelle ou du réalisme subtil qu'un photographe ou un artiste humain pourrait capturer. Par exemple, les regards ou les expressions faciales dans des images IA peuvent sembler moins profondes ou naturelles, et la texture ou l'éclairage peuvent être plus artificiels. Les IA ont aussi parfois du mal à reproduire des détails spécifiques ou à faire en sorte que les personnages interagissent de manière convaincante, surtout lorsqu'il s'agit de scènes plus intimes ou complexes.