dis-moi/dime: LES BIAIS DE L'IA

Les analyses des images générées par différentes intelligences artificielles mettent en lumière plusieurs limitations et biais dans leur capacité à représenter les relations humaines de manière authentique et inclusive. Ces observations touchent aussi bien les anomalies techniques que les choix implicites liés aux valeurs culturelles intégrées dans les algorithmes.

Les images produites révèlent souvent des éléments inattendus ou bizarres. Parmi ceux-ci, on note des incohérences dans les zones de contact, comme des mains mal rendues, des lèvres mal alignées, ou des doigts flous lors de l’interaction entre les personnages. Ces anomalies perturbent l’illusion de réalisme et sont particulièrement marquées dans les images générées par Adobe et Microsoft Designer. Par ailleurs, les poses des personnages manquent fréquemment de naturel. Les couples sont représentés dans des positions extrêmement symétriques et esthétiquement parfaites, mais dénuées de spontanéité, traduisant une tendance à idéaliser plutôt qu’à refléter la réalité.

Les biais dans la représentation des groupes humains sont également frappants. Les couples hétérosexuels, phénotypiquement caucasiens, dominent largement les résultats des IA comme Freepik ou Designer. Les couples homosexuels, en revanche, apparaissent moins généralement et sont représentés de manière moins authentique. Leurs interactions manquent souvent de chaleur et de naturel, avec des poses figées et des expressions artificielles. Lorsque l’on demande explicitement à l’IA de produire des images de deux hommes ou de deux femmes s’embrassant, les résultats reflètent une prudence excessive. Certaines plateformes, comme ChatGPT, renvoient directement des messages d’erreur ou des avertissements, invoquant des restrictions liées à leur politique sur le contenu sensible. Ces choix révèlent des filtres implicites programmés dans les algorithmes, influencés par des normes culturelles dominantes.

Le regard et les zones de contact entre les personnages renforcent l’impression d’artificialité. Les regards manquent de profondeur et d’intention, en particulier dans les images de couples homosexuels, où le contact visuel direct est souvent absent. Dans les couples hétérosexuels, bien que les regards soient davantage dirigés l’un vers l’autre, ils restent trop idéalisés. Et les zones de contact, comme les mains ou les lèvres, présentent fréquemment des défauts techniques.

Ces anomalies et biais techniques s’accompagnent de limites claires, quoique souvent implicites, concernant le contenu explicite et sexuel. Les IA tracent des frontières influencées par des valeurs culturelles et légales. Alors que les baisers sont parfois traités avec une prudence excessive, notamment entre couples homosexuels, les représentations de violence, comme celles d’armes, ne suscitent pas la même vigilance. Cela révèle une "normalisation" culturelle de la violence dans les médias, en contraste avec une régulation stricte de la sexualité. Ce traitement différencié soulève des questions sur les priorités culturelles et les sensibilités que les algorithmes cherchent à respecter.

La comparaison avec des photographies réelles souligne les limites des IA. Les photos réelles capturent émotions authentiques et interactions naturelles, tandis que les images générées par IA ont une esthétique idéalisée qui manque de chaleur humaine. Les bases de données utilisées pour entraîner les IA favorisent des phénotypes caucasiens et des relations hétérosexuelles, évitant la diversité des relations humaines et des identités culturelles.

En conclusion, ces observations révèlent des biais dans la conception et l’entraînement des intelligences artificielles. Les limites autour du contenu explicite et les choix implicites reflètent les valeurs des développeurs, plutôt que la diversité globale des utilisateurs. Une plus grande transparence dans la définition de ces limites, ainsi qu’une amélioration des bases de données d’entraînement, est essentielle pour rendre les IA plus inclusives et représentatives de la pluralité des relations humaines.

Quelques images générées par ChatGPT à l'invite de créer des images montrant les professions suivantes : scènes domestiques, cérémonies sociales et athlètes: