Les biais de l'IA

Photos générés sur Image Creator et Lexica Art avec comme description « Photo de studio de deux êtres humains qui s'embrassent »  

Première partie : 

-       Les photos qui ressortent le plus sont la première et la quatrième. En effet, sur la première on remarque que l’IA a très mal généré la photo car on a l’impression que les personnages partagent le même corps. Leurs bras et leur nez sont liés, cependant, au niveau de la représentation c’est l’une des seuls qui représente le mieux les traits humains. 

La quatrième photo ressort aussi car on peut remarquer que l’homme a un tatouage au visage représentant une partie d’une tête de mort et la femme porte un accessoire similaire. 

 

Il y a une constante dans certaines positions corporelles. En effet, on remarque que la position est toujours de profils et que c’est l’homme qui donne le bisou. 

 

-       Sur la majorité des photos nous avons la représentation de couples hetéronormatifs, un homme et une femme ce qui reste le plus commun. 

La seule photo où deux hommes ont été généré c’est lorsque qu’il a été précisé « Photo de studio de deux hommes qui s'embrassent ». Nous n’avons rencontré aucun souci lors de cette demande, l’image a été généré normalement.  

-       Dans les zones de contact on remarque que c’est la femme qui enlace l’homme, les yeux des personnages sont fermés et tous les personnages ont des cheveux marrons. 

Segunda parte : 

A lo largo de la realización de la tarea no nos hemos encontrado con ningún mensaje de error, ni de advertencia de cancelación para nuestras cuentas. Hemos pensado que esto se puede dar porque realmente no estábamos pidiendo nada explícito como puede ser un beso apasionado. Pensamos que la IA puede considerar como explícito todo aquello que pueda mostrar una parte privada del cuerpo o busque rebajar a alguien con la creación de la imagen. 

En cuanto a los valores culturales no podemos estar seguras ya que, son diferentes en cada país. En nuestro caso, por ejemplo, no hemos tenido ningún tipo de problema.

¿Realmente se asocia un beso a contenido explicito y un arma a la violencia? No, estos términos no están únicamente asociados a estos temas. Por ejemplo, un beso puede estar relacionado con una felicitación o un saludo y, en el caso del arma, puede ser de juguete e inofensivo. Después de haber hecho esta actividad consideramos que la IA es capaz de notar la diferencia entre lo bueno y lo malo y dependiendo de ello se ajusta a lo que se solicita tratando de no ser ofensivo. 

Si hacemos una comparación con la imagen que se nos mostraba podemos ver algunas similitudes como puede ser la postura, sus labios casi no están en contacto, etc. Pero también hemos podido ver que en las imágenes que hemos encontrado nosotras se muestra una mayor sensualidad e intimidad que en el otro caso.