Les erreurs de l´IA

 Faux-tographies:

Bien qu’il existe des IA capables de générer des images détaillées à partir de spécifications que l’auteur peut préciser pour créer des photographies adaptées à ses besoins en s’appuyant sur des sources réelles, cette technologie ne constitue pas un outil autonome parfait et présente de nombreuses erreurs qui la trahissent. Cela est particulièrement vrai lorsqu’il s’agit de créer des photographies d’environnements naturels dont le réalisme laisse à désirer lorsqu’on les agrandit ou qu’elles font l’objet d’une analyse approfondie, c’est-à-dire lorsqu’elles ne sont pas simplement décoratives et qu’elles échappent à un regard superficiel.

Maintenant, en suivant les réflexions de l’exercice du Tandem et en répondant à l’analyse proposée, certaines spécifications pourraient distinguer l’image d’une photographie réelle et non générée par une intelligence artificielle, à savoir ses erreurs. D’un point de vue personnel, je pense que les proportions et les dimensions des objets, tant dans la première que dans la deuxième proposition, sont précises et suivent les principes d’une photographie réaliste. Les végétations et les maisons s’ajustent aux plans et ne présentent pas de disproportion marquée. Peut-être un peu dans le cas de la photographie de la maison dans la forêt, où l’on peut constater que la table et les chaises de la terrasse semblent un peu frêles par rapport à la hauteur des portes et à la taille comparative d’un humain ou d’un être qui voudrait s’y asseoir, surtout en comparaison avec les autres objets, puisqu’il n’y a pas d’êtres animés dans l’image. Dans le cas de la deuxième photographie, le réalisme et les proportions des îles à l’arrière surprennent, surtout lorsqu’on les compare au plan principal de l’île qui est au centre de l’attention. Les ombres, plus visibles grâce à la source de lumière (dans la deuxième photographie), qui semble être le soleil à droite, projettent donc des ombres vers la gauche des objets. De même, le reflet des arbres de l’île en arrière-plan, identique chromatiquement à celui de la figure principale, s’aligne verticalement, comme dans une image naturelle. Même le bas des maisons, disposées en escalier, devient sombre. Dans la première photographie, on observe que la saturation des verts et la luminosité de la couleur de la maison correspondent à une journée ensoleillée et chaude. Cette bande de couleur ne s’atténue que lorsque le regard se dirige vers la densité du marécage, où l’ombre est plus présente mais s’estompe progressivement, comme dans une photographie naturelle. Ainsi, je considère qu’elle ressemble beaucoup à une photographie réelle et, par conséquent, je n’y trouve pas d’« erreurs ». Sur les textures et le choix des matériaux, je suis en désaccord. Dans la première image, on voit une maison en montagne où le sol est une pierre ressemblant à du granit, mais on y utilise un briquetage lavé qui ne correspond pas. Dans ce type de constructions, il est plus naturel d’utiliser la pierre du lieu, bien que cela puisse être un choix basé sur l’esthétique de la maison. La texture lavée crée également une dissonance et trahit davantage la véracité et l’originalité de l’image. Par exemple, le monochrome du chemin asphalté menant à la maison ou le vert presque irréel de la végétation autour de la maison montrent que, sans l’obscurité des ombres, il y aurait des monochromes constants dans les photographies. Cela dit, j’aimerais souligner la réussite de certaines textures, comme celle du briquetage et du ciment qui semble translucide, ou encore celle de la mer dans la deuxième photo. Ce sont des éléments bien réalisés. Cependant, il y aurait beaucoup à développer sur ce sujet en se basant sur une observation personnelle. Ce qui trahit le plus, pour conclure, ce sont les objets inanimés non créés par l’homme. Plus précisément, la végétation, qui semble entourée d’une auréole de couleur plus vive, ou la pierre, qui paraît trop lavée et sans érosion, ou encore la mousse, qui donne l’impression de provenir d’une animation numérique, rappelant un décor de “Le Seigneur des Anneaux” . Je pense que les perspectives et les angles des objets sont réalistes, et je suis d’accord sur le rendu des ombres. Cependant, il est vrai que la précision du mobilier dans la première photographie et des escaliers des maisons dans la seconde laisse à désirer. Dans le premier cas, si l’on agrandit l’image, en plus du fait que leur hauteur les rend dysfonctionnels, comme je l’ai déjà mentionné, les éléments se répètent dans une sorte de boucle, probablement due à une erreur technique du générateur. Cela se remarque également avec un pot de fleurs, qui se superpose en miniature, et une lampe. Ces défauts demandent une attention particulière pour être identifiés. Quant aux escaliers, leur angle semble presque vertical, comme s’ils n’avaient pas de profondeur. Pour le reste, je ne vois aucun autre problème notable ou, du moins, il n’est pas perceptible. Et les contours des objets sont presque imperceptibles, ce qui laisse également à désirer en ce qui concerne les dimensions entre les objets, rendant la végétation, déjà critiquée pour sa texture, encore plus confuse. 

Cela dit, ces photographies sont un résultat impressionnant des intelligences artificielles, et au moins leurs répétitions et défauts de contour relèvent d’une erreur de l’auteur, qui peut identifier ces imperfections et les corriger si l’observateur les remarque. Toutefois, il est possible que les textures et les couleurs ne puissent pas être modifiées, mais plutôt la quantité de lumière ou d’autres réglages, similaires à ceux que permettent les appareils photo.

Entre el dilema y el algoritmo: 

Al final, las inteligencias artificiales son sistemas diseñados para realizar tareas que habitualmente requieren inteligencia humana, como analizar datos, aprender de la experiencia, o generar contenido. Estas tecnologías funcionan mediante un proceso compuesto de varias etapas que les permiten interpretar y responder. Las etapas serían por este orden la entrada de datos, su procesamiento y representación, su aprendizaje autónomo, una predicción basada y rápida por patrones y un resultado que es lo que nosotros recibimos cuando demandamos algo. Hay diferentes IAS de corrección gramatical, de generación de imagen o vídeo, de texto, etc y cada una responde a una exigencia específica, marcadas por un ciclo continuo de entrada y procesamiento de información. Identificar errores en resultados tanto académicos o no académicos generados por inteligencias artificiales es de vital importancia y un proceso en el que se requiere precisión, en un contexto donde estas imágenes están ganando protagonismo en diversos sectores. Las imágenes tienen un papel crucial en los medios de comunicación y es esencial distinguirlos, tanto en noticias o a la hora, por ejemplo, de hablar con una supuesta persona que nunca hemos visto en la realidad, porque puede ser peligroso, o una estafa. La audiencia de un periódico, por ejemplo, tiene derecho a saber si los contenidos son generados o capturados en la realidad, porque no tienen el mismo valor si nos centramos en la autoría y en el enfoque ético de su implementación. Véase por ejemplo, durante las elecciones presidenciales de 2020 en EEUU, se difundieron deepfakes que mostraban a Joe Biden en situaciones comprometedoras generadas por IA buscando cuestionar su capacidad cognitiva y afectar a su imagen pública (que si bien evidentemente no soy fanática de Joe Biden, es difamación) y en otros muchos países ha sucedido lo mismo en campañas políticas. Es importante observar los errores también para ayudar a los desarrolladores a mejorar esos algoritmos, si se quiere ser más preciso. Los errores más frecuentes que he encontrado en las imágenes han sido los loop de objetos, de contorno, textura e incluso color, que parece artificial, en vez de un tono que se vería en la vida real.También hay que ser conscientes del contexto de uso de estas imágenes. Es necesario, sobre todo esto, ser conscientes del impacto en el medio ambiente que conlleva el uso de inteligencias artificiales como Chatgpt. Entrenar estos sistemas requiere ingentes cantidades de energía, así como la de agua necesaria para sus sistemas de refrigeración. Se ha puesto de actualidad tanto el dilema ético como medioambiental de estos recursos tecnológicos que suponen un salto cualitativo esperanzador, pero no exento de riesgos. Y entra en debate una cuestión: ¿puede ser la IA responsable ética y jurídicamente de sus actos? 

 

 

 

 

Lucía Álvarez