~ Les erreurs de l'IA ~

La inteligencia artificial (IA) se ha convertido en una herramienta fascinante y poderosa, especialmente en el campo de la generación de imágenes. Sin embargo, es crucial que seamos críticos. Es decir, debemos analizar detenidamente las imágenes producidas por estas tecnologías a medida que exploramos sus capacidades, ya que podemos encontrar errores que, a primera vista, podrían pasar desapercibidos.

En este artículo analizaremos dos imágenes creadas por IA, relacionadas con representaciones de la naturaleza y creaciones del ser humano. Describiremos las características y errores que hemos encontrado y, además, hablaremos de la importancia de comprender cómo funcionan estas herramientas para maximizar su potencial. 

¿Estáis preparados para descubrir la complejidad de la IA generativa a través de la creatividad y la crítica?

 

ANALYSE DE LA PREMIÈRE IMAGE

Tout d’abord, il faut souligner que l’IA est un outil qui peut être efficace si nous savons comment l’utiliser. Dans cette activité, nous analyserons deux images créées par une IA générative et révélerons les erreurs que l’IA peut avoir commises.

En tenant compte de la première image, on peut constater que les proportions et structures sont bien créées, car nous voyons que l’on respecte les dimensions par rapport à la distance. Nous ne voyons rien de bizarre si nous regardons les magnitudes. Néanmoins, ce n’est pas le cas de la hauteur de la maison. Nous voyons que la porte principale est plus basse que la partie de derrière de la maison. Cela nous fait penser qu’il y a une grande marche à l’intérieur, ce qui est étrange pour une maison si petite, en tenant compte aussi qu’il y a deux fenêtres et qu’elles ne sont pas à la même hauteur. Nous pourrions penser qu’il y  a trois marches à l’intérieur, comme à l’extérieur, mais cela semblerait bizarre à cause de la fenêtre du milieu. Cela nous pouvons le comparer aussi avec la différence de hauteur et les différentes formes des deux vitres de la fenêtre de droite et les chaises de la table, qui sont clairement une erreur de l’IA. Nous constatons aussi qu’il manque une porte et nous ne voyons aucun indice de qu’elle existe. En résumé, on peut penser que c’est une erreur de l’IA qui fait que nous ne voyons pas l’image naturelle. 

En deuxième lieu, comme on ne voit pas tous les arbres qui sont derrière et au-dessus de la maison, on ne peut pas confirmer si l'ombre et la lumière sont une erreur, mais ils semblent naturels. Si nous nous concentrons sur les textures, nous pouvons penser qu'une maison qui a au-dessus matériel de pierre n’est pas du tout solide et viable, de la même façon que nous voyons que les pierres qui soutiennent la maison ne sont pas stables ni équilibrées, elles sont plutôt artificielles, car il y a des trous qui, dans la réalité, feront tomber la maison. Par exemple, nous voyons aussi un trou à la gauche de la maison, qui n’a pas de sens, car la maison n’est pas complète et, dans une situation réelle, elle serait en danger, à cause de la pluie ou en raison de la sécurité.

En troisième lieu, nous examinons les couleurs. Le ciel semble réel, avec des nuages et des couleurs naturels. Néanmoins, nous voyons un mélange de couleurs dans l’eau du lac qui ne semble pas naturel. Les plantes ont aussi des couleurs spéciales, car elles varient trop. Nous pouvons comprendre que cela est dû en raison du soleil, mais la couleur verte vive risque d’être anormal. 

D'un autre côté, il est important de savoir que chaque élément (fleurs, arbres) est composé d’une structure biologique, tout comme l’être humain. Les trois principales structures biologiques qui se démarquent sont les racines, les tiges et les feuilles. De plus, les fleurs, les graines et les fruits sont supplémentaires à ces éléments biologiques. 

Deuxièmement, il n’y a presque pas d’incohérences, bien que certaines limites soient observables. Dans les connexions et les alignements des éléments du bâtiment, ils ont un sens car les murs délimitent l’intérieur de l’extérieur. Et le toit qui surplombe également la pelouse. 

Bien que nous observions une architecture singulière, les portes, les fenêtres et les escaliers sont proportionnels à leur hauteur et à leur largeur. Ils sont également fonctionnels car ils sont idéaux pour ce type de maisons et ont leurs utilités. 

Troisièmement, nous observons plusieurs anomalies visuelles. Il y a une distorsion ou une déformation sur le bord droit de la porte, il y en a aussi une autre sur la paroi extérieure (au-dessus de la porte d’entrée) ; La vue à travers la fenêtre ’est un peu floue, en plus la rivière n’est pas très paisible, on remarque un obstacle à gauche de la porte d’entrée. En haut à droite de la maison, on voit une fenêtre qui n’est pas très distinguable. 

Pour conclure, lorsque nous analysons, l’image n’est pas caricaturale, mais plutôt réaliste et peut être loin de la fiction, une image typique de l’IA. Il est important de mentionner que les éléments végétaux ont un aspect qui correspond au printemps ou à l'été. En plus, il est crucial de comprendre qu’une photo peut sembler extrêmement naturelle et réelle si on ne fait pas attention aux détails, mais, si on l’examine de près, on peut discerner entre une photo réelle et une photo créée par l’IA.

 

ANALYSE DE LA DEUXIÈME IMAGE

Nous passons à la deuxième image. En premier lieu, nous voyons qu’il y a, plus ou moins, six maisons. À première vue, rien d’anormal. Cependant, quand nous y regardons de plus près, c’est clair que chaque maison à une magnitude vraiment différente. Les grandes maisons ne posent pas de problèmes, mais les petites semblent sortir d’un jeu vidéo, surtout celles-ci d’au fond, car, elles ne sont pas si loin pour les voir si petites. La même problématique arrive avec les arbres du fond de la première partie de l’image, car ils changent tellement la taille qu’ils semblent un jouet. Excepté ce que nous avons dit et le bateau minuscule, toutes les autres choses s’adaptent à la taille normale. Le même aspect nous arrive aussi avec la structure et la forme des détails; nous ne le voyons pas au début, mais ce n’est pas du tout naturel, à cause de la variation de dimensions et proportions des fenêtres des maisons, des escaliers, du toit de la maison et de l’orientation de chaque maison. 

D’un autre côté, ce qui est vraiment hors nature est l’ombre, en général. Il n’est pas clair que le soleil soit au nord et, de toute façon, les ombres ne reflètent pas la réalité de l’image. Ce que nous pensons qui est un peu plus réaliste est le matériaux dont tout est construit. Le bois de la maison et les pierres, même si une chose qui n’est pas claire est le bois qui soutient les maisons, car il n’a pas de sens. 

De même, les couleurs nous montrent qu’il y a quelque chose de très bizarre à l’image. Pour commencer, ce qui attire le plus l’attention est le lac, qui a l’air d’être une aurore boréale au lieu d’un lac. Les couleurs des arbres sont aussi frappantes et le ciel est complètement blanc.

Nous pouvons observer une prise de vue générale car nous voyons le paysage très clairement et au milieu d’un lac, nous voyons deux îles. Lorsque nous fixons l’île en arrière-plan (au fond), elle n’est pas trop lisible tandis que celle en face de nous a plus de valeur car elle est présentée avec plus de visibilité qui nous permet de voir quelques détails.

Nous voyons les arbres de différentes couleurs, (jaune, vert,ect..) ce qui nous amène à penser au printemps, le ciel, avec sa couleur plus claire en arrière-plan, se reflète sur les eaux, ce qui donne une touche particulière au lieu, ce qui met en valeur un style du lieu. En effet, les maisons ne sont pas directement au sol, mais soutenues par du bois, le sol est en pierres. Les maisons ne sont pas alignées, elles ont la même couleur et sont construites de la même manière. Un autre élément qui semble incohérent dans l’image, ce sont les toits des maisons, des herbes poussent dessus, c’est comme s’ils avaient été construits avec des pierres ou des murs. Ces détails nous montrent que la partie incohérente est logique parce que l’architecture est correcte pour le lieu.

Deuxièmement, les escaliers ne sont ni fonctionnels ni proportionnels, car nous observons un escalier devant une fenêtre, ce qui n’est pas logique du tout. L’une des anomalies visuelles se situe au niveau de l’escalier tordu.

Enfin, il est facile de croire que l’image que nous venons d’analyser est réelle car elle contient des éléments que nous connaissons dans la vraie vie. Il ne fait aucun doute que ces images sont typiques de l’IA.

RÉFLEXION SUR LES DYSFONCTIONNEMENTS DES IA GÉNÉRATRICES D'IMAGES

De manera general, observamos un funcionamiento artificial en estas IA. Este sistema informático nos sirve para realizar muchas tareas; es un medio capaz de modificar cualquier cosa que deseemos ver a la perfección. No obstante, sigue siendo una máquina que requiere de intervención humana para transformar y crear.

Además, es importante comprender el funcionamiento y la relevancia de la IA, ya que realiza tareas humanas como una ayuda para obtener mejores resultados. Aun así, podemos identificar un trabajo o una creación de IA porque contiene ciertas particularidades que la distinguen de cualquier otro dibujo o caricatura, y es esto lo que hace que esta inteligencia artificial sea destacable e incomparable. En las imágenes encontramos, por ejemplo, algunos fallos, como objetos torcidos, mal posicionados, o construcciones arquitectónicas no muy lógicas, etc.

Los errores más frecuentes que observamos en estas imágenes son problemas de seguridad, ya que la IA puede exponer datos sensibles, lo que indica que no maneja adecuadamente las medidas de protección. Otro problema es que la IA genera informaciones incorrectas con mucha confianza, lo cual puede resultar engañoso.

Al final de este artículo os mostramos diferentes imágenes que hemos creado basándonos en las imágenes propuestas para el trabajo. En estas, podemos comprobar que, a pesar de que le mostremos todos los errores cometidos a la IA, seguirá cometiendo errores, sean estos que le hemos mostrado o sean nuevos. Es por esto que debemos aprender poco a poco cómo tenemos que tratar a la IA, sus puntos débiles y sus puntos fuertes, para poder vencer los obstáculos y sacarle el máximo partido.

A medida que explicamos los detalles de las imágenes, también abordamos las razones por las cuales creemos que existen estos errores y cómo identificarlos, así como su origen. Es muy fácil pensar que la IA es perfecta si no prestamos atención a los pequeños detalles. ¿Habías notado todos los errores antes de examinar la foto en detalle? Sabemos que la respuesta es no. 

La lección que extraemos de esta actividad se basa en la importancia de revisar el contenido generado por una IA y de entender sus limitaciones. Estamos convencidos de que es posible adaptar, mejorar y corregir sus producciones. Por esta razón, le hemos pedido a ChatGPT que cree nuevas imágenes similares, dándole instrucciones precisas para corregir los errores.

Hemos utilizado la versión de “generador de imágenes” de ChatGPT. Le hemos mostrado lo que queremos y todos los errores encontrados basados en las proporciones de la casa, elementos faltantes, estabilidad de la estructura, vegetación, sombras y colores para que no los repitiera. Hemos creado diferentes versiones y, sin duda, las grandes diferencias son claramente visibles. Es esencial entender que la IA reacciona de manera diferente según las órdenes que le damos. Sin embargo, hay que destacar la importancia del CÓMO interactuamos con la IA. Hay que darle un contexto, explicarle lo que queremos y, sobre todo, corregirle sin miedo.

Por añadidura, cabe resaltar que hemos generado todas las imágenes que aparecen en este artículo. Le hemos pedido al generador de imágenes de ChatGPT lo que necesitábamos, en que nos basábamos y los detalles. Además, le hemos corregido varias veces, ya que no siempre nos mostraba exactamente lo que esperábamos.

¿Qué tipos de errores has observado en tus propias experiencias con la IA? ¡Intenta crear imágenes con la IA dándole instrucciones claras y comparte los resultados con nosotros!

¿Qué opinas? ¿Puede la IA realmente simplificar nuestra vida diaria? ¿Es posible corregirla para obtener resultados perfectos? ¡Esperamos tus opiniones!

Aquí están nuestras creaciones:

Para finalizar, queremos mostraros que no es oro todo lo que reluce... Nos hemos encontrado con diferentes obstáculos que nos impedían seguir con este proyecto. Como la siguiente limitación de ChatGPT:

A pesar de los obstáculos, hemos podido finalizar el proyecto. Hemos creado diferentes cuentas de ChatGPT para evitar las limitaciones de este y ha funcionado.

JESSICA MICHEL

LAURA GARCÍA ÁLVAREZ