Les erreurs de l'IA

Les erreurs de l’IA Pour commencer sur le sujet, il est important de préciser que, dans mon cas, je n’ai utilisé que ChatGPT pour la production des photographies. J’ai été surpris par la bonne qualité des images générées, mais comme tout, cela comporte des erreurs. La première chose que j’ai faite a été de demander à ChatGPT une photo d’un couple en train de danser.

Et c'est cette image qui as crée:

Logiquement, cette IA m’a généré une image en gros plan, et elle était bien réalisée. Mais pour voir si les proportions étaient conservées, j’ai voulu la demander avec un plan plus éloigné, et voici ce qu’elle m’a proposé :

Comme on peut le voir, les problèmes commencent à apparaître : on remarque que les proportions du garçon ne sont pas bien faites, sa tête est mal proportionnée et les postures sont peu naturelles (entre autres erreurs plus légères qu’on pourrait ignorer). Après avoir demandé à l’IA de corriger les proportions des deux personnes pour qu’elles soient plus réalistes, elle m’a donné ce résultat :

En conclusion, on peut dire que l’intelligence artificielle (IA) a révolutionné la production d’images, mais présente encore plusieurs erreurs significatives. L’un des problèmes les plus fréquents est la génération de détails anatomiques incorrects, comme des mains avec trop de doigts ou des proportions corporelles déformées. De plus, l’IA peut échouer à interpréter des concepts abstraits ou culturels, produisant des images qui manquent de cohérence ou de contexte adéquat. Ces erreurs sont dues à des limitations dans les données d’entraînement ou à l’incapacité de l’IA à comprendre la signification profonde de certaines scènes ou symboles. Ces imprécisions peuvent avoir des effets négatifs dans divers domaines. Dans le journalisme ou la publicité, par exemple, une image erronée peut entraîner de la désinformation ou une perte de crédibilité. Dans des secteurs comme la mode, la médecine ou le design, les erreurs visuelles peuvent influencer la perception d’un produit, voire mettre en danger la sécurité si des images générées sont utilisées pour prendre des décisions importantes. Ainsi, bien que l’IA dans la production de photos offre des outils puissants, il est essentiel de maintenir une intervention humaine pour garantir la précision et le contexte approprié. Elena Massot

Les erreurs de l´IA

 Faux-tographies:

Bien qu’il existe des IA capables de générer des images détaillées à partir de spécifications que l’auteur peut préciser pour créer des photographies adaptées à ses besoins en s’appuyant sur des sources réelles, cette technologie ne constitue pas un outil autonome parfait et présente de nombreuses erreurs qui la trahissent. Cela est particulièrement vrai lorsqu’il s’agit de créer des photographies d’environnements naturels dont le réalisme laisse à désirer lorsqu’on les agrandit ou qu’elles font l’objet d’une analyse approfondie, c’est-à-dire lorsqu’elles ne sont pas simplement décoratives et qu’elles échappent à un regard superficiel.

Maintenant, en suivant les réflexions de l’exercice du Tandem et en répondant à l’analyse proposée, certaines spécifications pourraient distinguer l’image d’une photographie réelle et non générée par une intelligence artificielle, à savoir ses erreurs. D’un point de vue personnel, je pense que les proportions et les dimensions des objets, tant dans la première que dans la deuxième proposition, sont précises et suivent les principes d’une photographie réaliste. Les végétations et les maisons s’ajustent aux plans et ne présentent pas de disproportion marquée. Peut-être un peu dans le cas de la photographie de la maison dans la forêt, où l’on peut constater que la table et les chaises de la terrasse semblent un peu frêles par rapport à la hauteur des portes et à la taille comparative d’un humain ou d’un être qui voudrait s’y asseoir, surtout en comparaison avec les autres objets, puisqu’il n’y a pas d’êtres animés dans l’image. Dans le cas de la deuxième photographie, le réalisme et les proportions des îles à l’arrière surprennent, surtout lorsqu’on les compare au plan principal de l’île qui est au centre de l’attention. Les ombres, plus visibles grâce à la source de lumière (dans la deuxième photographie), qui semble être le soleil à droite, projettent donc des ombres vers la gauche des objets. De même, le reflet des arbres de l’île en arrière-plan, identique chromatiquement à celui de la figure principale, s’aligne verticalement, comme dans une image naturelle. Même le bas des maisons, disposées en escalier, devient sombre. Dans la première photographie, on observe que la saturation des verts et la luminosité de la couleur de la maison correspondent à une journée ensoleillée et chaude. Cette bande de couleur ne s’atténue que lorsque le regard se dirige vers la densité du marécage, où l’ombre est plus présente mais s’estompe progressivement, comme dans une photographie naturelle. Ainsi, je considère qu’elle ressemble beaucoup à une photographie réelle et, par conséquent, je n’y trouve pas d’« erreurs ». Sur les textures et le choix des matériaux, je suis en désaccord. Dans la première image, on voit une maison en montagne où le sol est une pierre ressemblant à du granit, mais on y utilise un briquetage lavé qui ne correspond pas. Dans ce type de constructions, il est plus naturel d’utiliser la pierre du lieu, bien que cela puisse être un choix basé sur l’esthétique de la maison. La texture lavée crée également une dissonance et trahit davantage la véracité et l’originalité de l’image. Par exemple, le monochrome du chemin asphalté menant à la maison ou le vert presque irréel de la végétation autour de la maison montrent que, sans l’obscurité des ombres, il y aurait des monochromes constants dans les photographies. Cela dit, j’aimerais souligner la réussite de certaines textures, comme celle du briquetage et du ciment qui semble translucide, ou encore celle de la mer dans la deuxième photo. Ce sont des éléments bien réalisés. Cependant, il y aurait beaucoup à développer sur ce sujet en se basant sur une observation personnelle. Ce qui trahit le plus, pour conclure, ce sont les objets inanimés non créés par l’homme. Plus précisément, la végétation, qui semble entourée d’une auréole de couleur plus vive, ou la pierre, qui paraît trop lavée et sans érosion, ou encore la mousse, qui donne l’impression de provenir d’une animation numérique, rappelant un décor de “Le Seigneur des Anneaux” . Je pense que les perspectives et les angles des objets sont réalistes, et je suis d’accord sur le rendu des ombres. Cependant, il est vrai que la précision du mobilier dans la première photographie et des escaliers des maisons dans la seconde laisse à désirer. Dans le premier cas, si l’on agrandit l’image, en plus du fait que leur hauteur les rend dysfonctionnels, comme je l’ai déjà mentionné, les éléments se répètent dans une sorte de boucle, probablement due à une erreur technique du générateur. Cela se remarque également avec un pot de fleurs, qui se superpose en miniature, et une lampe. Ces défauts demandent une attention particulière pour être identifiés. Quant aux escaliers, leur angle semble presque vertical, comme s’ils n’avaient pas de profondeur. Pour le reste, je ne vois aucun autre problème notable ou, du moins, il n’est pas perceptible. Et les contours des objets sont presque imperceptibles, ce qui laisse également à désirer en ce qui concerne les dimensions entre les objets, rendant la végétation, déjà critiquée pour sa texture, encore plus confuse. 

Cela dit, ces photographies sont un résultat impressionnant des intelligences artificielles, et au moins leurs répétitions et défauts de contour relèvent d’une erreur de l’auteur, qui peut identifier ces imperfections et les corriger si l’observateur les remarque. Toutefois, il est possible que les textures et les couleurs ne puissent pas être modifiées, mais plutôt la quantité de lumière ou d’autres réglages, similaires à ceux que permettent les appareils photo.

Entre le dilemme et l'algorithme :

Au final, les intelligences artificielles sont des systèmes conçus pour accomplir des tâches qui nécessitent habituellement l'intelligence humaine, comme analyser des données, apprendre de l'expérience ou générer du contenu. Ces technologies fonctionnent par un processus composé de plusieurs étapes qui leur permettent d'interpréter et de répondre. Les étapes seraient dans cet ordre : l'entrée des données, leur traitement et représentation, leur apprentissage autonome, une prédiction basée et rapide sur des motifs, et un résultat que nous recevons lorsque nous demandons quelque chose. Il existe différentes IA de correction grammaticale, de génération d'images ou de vidéos, de texte, etc., et chacune répond à une exigence spécifique, marquée par un cycle continu d'entrée et de traitement de l'information. Identifier les erreurs dans les résultats, qu'ils soient académiques ou non, générés par des intelligences artificielles, est d'une importance vitale et constitue un processus dans lequel la précision est requise, dans un contexte où ces images prennent de l'importance dans divers secteurs. Les images jouent un rôle crucial dans les médias, et il est essentiel de les distinguer, que ce soit dans les actualités ou, par exemple, lorsque l'on parle avec une soi-disant personne que l'on n'a jamais vue en réalité, car cela peut être dangereux ou une escroquerie. Le public d'un journal, par exemple, a le droit de savoir si les contenus sont générés ou capturés dans la réalité, car ils n'ont pas la même valeur si l'on se concentre sur l'auteur et l'approche éthique de leur mise en œuvre. Par exemple, pendant les élections présidentielles de 2020 aux États-Unis, des deepfakes ont été diffusés montrant Joe Biden dans des situations compromettantes générées par IA dans le but de remettre en question sa capacité cognitive et d'affecter son image publique (et bien que je ne sois évidemment pas une fan de Joe Biden, il s'agit de diffamation), et dans de nombreux autres pays, cela a également eu lieu lors de campagnes politiques. Il est important de repérer les erreurs pour aider les développeurs à améliorer ces algorithmes si l'on souhaite être plus précis. Les erreurs les plus fréquentes que j'ai trouvées dans les images sont les boucles d'objets, de contours, de textures et même de couleurs, qui semblent artificielles, au lieu d'un ton que l'on verrait dans la réalité. Il faut également être conscient du contexte d'utilisation de ces images. Il est nécessaire, avant tout, de prendre conscience de l'impact environnemental que l'utilisation d'intelligences artificielles comme ChatGPT entraîne. L'entraînement de ces systèmes nécessite d'énormes quantités d'énergie, ainsi que de l'eau pour leurs systèmes de refroidissement. Le dilemme éthique et environnemental de ces ressources technologiques a été mis en lumière, car elles représentent un saut qualitatif prometteur, mais non exempt de risques. Et une question se pose alors : l'IA peut-elle être responsable éthiquement et juridiquement de ses actes ?

 

 

 

 

Lucía Álvarez

LES ERREURS DE L'IA

Anaïs Baixauli Badia

LES ERREURS DE L’IA

 

J'ai comparé les deux photos générées par l'IA et j'ai observé le travail perfectionniste effectué par l'IA. Toutefois, un examen plus approfondi révèle que l'IA commet encore des erreurs.

 

Par rapport à la première image, Les proportions sont appropriées. Les portes et les fenêtres sont de taille homogène. Cependant, nous pouvons voir dans la deuxième image comment la base de certaines maisons n'est pas bien proportionnée. La deuxième maison la plus proche, à droite, n'est pas bien proportionnée. Le bateau présente également des problèmes.

 

En ce qui concerne les ombres et le traitement de la lumière, nous considérons que dans la première image la végétation à gauche bénéficie de plus de lumière, ce qui produit un effet légèrement étrange. En plus, la végétation au-dessus de la maison n'a pas une texture naturelle. Nous mettons en évidence la cime de l'arbre sur le côté gauche en arrière-plan, qui est très artificiel. 

Cependant, dans l'ensemble, la structure de la maison génère une ombre cohérente.

Dans le second cas, les ombres générées par les toits ne sont pas cohérentes, bien que l'eau soit bien réalisée. Nous tenons à souligner la trace laissée par le bateau, qui est très naturelle. D’autre part la mousse sur les rochers est artificielle, elle n'a pas de texture, elle est plate. Les toits ne correspondent pas à la structure de la maison et la mousse collée est manifestement fabriquée par l'IA.

 

 

Les perspectives et les angles des structures sont corrects et naturels dans la photo de la maison. Les pierres à l'entrée sont trop bien disposées. Il en va généralement de même pour la photographie de paysage. Cependant, la cime des arbres les plus longs n'est pas tout à fait correcte.

En termes de couleur, il convient de noter que la végétation de la première image utilise des couleurs sont trop vives, surtout le vert. Les plantes grimpantes ont l'air d'un ajout qui n'est pas bien cohérent.L'eau est assez naturelle, mais elle est trop uniforme, il y a peu de mouvement. Sur la deuxième photo, les couleurs des maisons sont saturées. L'arbre delnate orange et jaune au centre n'est pas proportionné. Les arbres n'offrent pas d'ombre et ne s'intègrent pas parfaitement dans l'espace. Il y a un vide entre l'arrière-plan et la végétation.

 

 

 

Dans les deux images, on peut voir un très bon travail réalisé par l'IA, cependant, dans la seconde, il convient de noter que la végétation est trop nette par rapport à l'arrière-plan. L'IA est un outil qui a évolué très rapidement. Cependant, il ne faut pas oublier qu'elle n'est pas infaillible. Il se peut que le texte ou l'aide fournis à l'IA soient confus.

 

Les IA, comme celles utilisant les GAN (Generative Adversarial Networks) ou les modèles de diffusion, s'appuient sur des réseaux neuronaux pour créer des images à partir de descriptions textuelles ou d'autres informations.  

Les erreurs les plus fréquentes que j'ai trouvées dans les images sont liées aux éléments de la nature. Plus précisément, il y a des problèmes de couleurs et de textures.

Dans l'exemple que je propose, on constate que les arbres n'ont pas d'ombre naturelle. L'orange et le jaune ne sont pas bien mélangés, de sorte que l'image est plutôt artificielle.C'est peut-être le cas lorsque nous demandons à l'IA de renforcer une idée, par exemple le fait qu'il s'agit de l'automne. Lorsqu'elle veut marquer les couleurs principales de cette saison, elle perd en qualité. L'une des stratégies consiste donc à être le plus descriptif possible afin que l'IA suive les ordres au lieu d'interpréter le message.

 

Anaïs Baixauli Badia

LES ERREURS DE L’IA

J'ai choisi comme première activité les erreurs de l'ia. En comparant les deux images, j'ai remarqué que la première image présentait des changements plus subtils, mais dans la seconde, j'ai pu remarquer certains détails que l'ia n'avait pas remarqués lors de la création de l'image. Par exemple, l'un des détails que j'ai remarqué dans la première image est l'entrée de la maison. L'IA est censée créer l'image d'une maison située au milieu de la forêt et au bord d'un lac ou d'une rivière, mais elle n'a pas remarqué que l'entrée de la maison se trouve au-dessus de l'eau et qu'elle n'est pas accessible.

Dans la deuxième image, je pense que l'ia a échoué dans les dimensions des maisons (au moins dans la maison au premier plan). Je pense que la maison est trop grande pour la petite surface de pierre qui forme la base.

En ce qui concerne les couleurs et l'intensité, je pense qu'elles sont bien réalisées, avec beaucoup d'intensité ainsi que les matériaux. Par exemple, dans la première photo, les tons verts de la forêt et les tons bruns des tables tentent de donner une touche antique et usée.

Les détails architecturaux de la première image sont bien réussis, peut-être un peu petits mais rien d'exagéré, contrairement à la deuxième image, où l'entrée de la maison située au premier plan, en haut de l'escalier, est très petite. Comme les autres fenêtres des maisons dans la deuxième image, un peu inégale et la taille varie.

Après avoir comparé les deux images de la tâche, créé mes propres images et recherché des informations sur le fonctionnement de l'ia, je suis parvenu à la conclusion que plusieurs facteurs sont à l'origine des erreurs de l'ia.

Textures et répétitions : Apparition de motifs incohérents ou d’éléments répétés de manière étrange.

Fusions d’objets : Mélanges inattendus entre différents éléments, comme des bâtiments intégrés aux arbres.

Perspective et ombres : Ombrages illogiques ou défauts dans la perspective qui perturbent la crédibilité.

Détails manquants : Incohérences subtiles dans les petites parties d’une image, comme des inscriptions sur des panneaux.

 Composition visuelle de les images de l'IA partagent la même structure de base en termes d'éléments tels que les arbres, les bâtiments, le ciel et les routes. En fonction des instructions, l'IA crée un paysage visuellement attrayant et équilibré, semblable à une photographie.

Les couleurs et l'atmosphère de l'IA génère des couleurs naturelles et réalistes et crée une atmosphère claire ou tamisée semblable à celle d'une vraie photo, en captant efficacement la lumière, en fonction du contexte de la demande.

Les proportions sont imprécises ou étranges, en particulier dans les éléments de construction humains, car l'IA ne comprend pas entièrement les règles de la perspective ou des angles. Il en résulte des bâtiments ou des arbres qui n'ont pas l'air réalistes. Dans les images générées par l'IA, les interactions entre les éléments naturels (arbres, montagnes, eau) et les humains (bâtiments, routes) ne sont pas toujours organiques. Les constructions humaines peuvent sembler flottantes ou ne pas faire partie de manière convaincante du même écosystème naturel. 

LES ERREURS DE L'IA: Représentation de la nature et des constructions humaines

 RÉPRESENTATION DE LA NATURE ET DES CONSTRUCTIONS HUMAINES

Pour obtenir une représentation de la nature et des constructions humaines, j’ai utilisé l’IA Artguru. Tout d’abord, je lui ai demandé de me montrer une maison sur une montagne avec un jardin et des animaux comme des moutons, des vaches ou des chèvres. Ensuite, je lui ai demandé de me montrer un village dans les montagnes avec des animaux et des habitants. Les premiers résultats étaient un peu décevants. C’est pourquoi j’ai été plus précise et j’ai affiné mes demandes jusqu’à parvenir aux descriptions mentionnées au début.

Les proportions des animaux me semblent étranges. La vache de la première image est au premier plan et devrait être plus grande en comparaison, par exemple, au mur situé derrière elle. De plus, elle ressemble à un mélange entre une vache et un mouton, car la tête de la vache ressemble davantage à celle d’un mouton, et elle n’a même pas de cornes. Par ailleurs, les animaux à l’arrière-plan sont mal définis, on ne distingue pas clairement à quelles espèces ils appartiennent. En revanche, la lumière semble cohérente avec les ombres et la position du soleil, car toutes les ombres sont projetées vers la droite de l’image, tout comme l’ombre de la maison. Les couleurs et les proportions des éléments naturels, comme les plantes, les arbustes ou les arbres, sont correctes. Les couleurs sont naturelles, tout comme celles du ciel et de la montagne. La structure de la maison et les éléments architecturaux sont également bien réalisés, de même que leurs angles. Cependant, le balcon devrait peut-être être un peu plus haut pour correspondre au mur blanc.

Dans la deuxième image, on trouve plus d’erreurs que dans la première. Les proportions des animaux semblent correctes, notamment celles de la vache et de l’âne au premier plan ainsi que de l’âne blanc devant l’homme. Ces deux premiers animaux sont les plus détaillés, car les autres ont été déformés par l’IA. L’âne blanc n’a pas la moitié de la tête, et il en va de même pour les personnes à l’arrière-plan. Les personnes et les objets sont déformés, inachevés, sans expression ; on distingue simplement qu’il s’agit de personnes. Les couleurs sont correctes, naturelles et correspondent à leurs éléments. En revanche, les proportions architecturales et les constructions n’ont aucun sens. Les parties des maisons ou des cabanes semblent avoir été construites au hasard, sans logique. C’est le cas des maisons du village à l’arrière-plan et des chemins. Les textures des matériaux comme le bois, la paille ou l’asphalte (que les animaux semblent manger) sont correctes, mais les jonctions entre les toits et les murs ne sont pas cohérentes.

Je pense que plus il y a d’éléments et de stimuli à représenter, plus l’IA commet d’erreurs. Il est important d’identifier les erreurs produites par l’IA, car les images peuvent être diffusées dans un but précis, et en cas d’erreurs, elles deviennent moins crédibles. Les erreurs les plus fréquentes sont les déformations ou les éléments inachevés. Elles surviennent souvent sur des objets qui ne sont pas au premier plan, là où les détails sont plus nombreux. Dans les constructions architecturales, il y a aussi des défauts, comme des murs ou des parois incohérents, ou des éléments qui ne s’emboîtent pas, par exemple des toits ou des murs qui ne couvrent aucun espace. Si, par exemple, des images générées par IA étaient utilisées pour une publicité et que ces erreurs étaient visibles, cette publicité ne serait pas crédible.

La solution est de donner des consignes aussi précises que possible et d’utiliser les IA les plus performantes pour cette tâche. Qu’en pensez-vous ? Partagez-vous vos illustrations ? Rencontrez-vous les mêmes erreurs fréquentes ?

Marina Pérez Buch

Les erreurs de l'IA

Au fil du temps, l’IA est devenue de plus en plus intelligente et utilisée, en devenant capable de produire des images très réalistes et naturelles, ce qui n’est pas seulement impressionnant, mais franchement assez effrayant. Mais est-ce que les IA peuvent vraiment produire des images hyper-réalistes ? Ou ces images contiennent-elles des petites erreurs et imperfections ? Dans cet article, je vais explorer la capacité de l’IA de créer des images à partir d’une invite, et analyser si elle peut vraiment capturer l’essence de la photographie réelle. 

  

On commence avec cette première image ici. L’image présente une maison de style organique, en harmonie avec la nature et bordée par une végétation dense. Au premier regard, on peut voir qu’elle semble très réaliste et correcte, sans trop d’erreurs. Par exemple, les couleurs des arbres et de l’eau reflètent une scène de belle nature et, en général, les proportions de la maison au centre correspondent à une structure réelle. Les portes et fenêtres sont bien intégrées et sont globalement réalistes, et les courbes des portes en arc ajoutent à ce sentiment. Elles, avec les escaliers, sont bien proportionnées et généralement cohérentes. La seule chose qui pourrait être considérée problématique est le toit - le fait qu’il soit végétalisé n’est pas trop réaliste, étant donné qu’en réalité, un toit recouvert presque entièrement de végétation ne fonctionnera pas en raison du poids. Dans l’ensemble, toute de l'image paraît très naturelle et donne l’impression qu’elle pourrait être réelle : les couleurs avec des verts vibrants et des tons doux pour le ciel rendent l’image plus complète, avec aucun sens d’artificialité. 

Cette deuxième image montre un groupe de maisons rouges dispersées sur plusieurs petits îlots rocheux, entourées par une eau calme. Il y a un sentiment automnal et vibrant. Les ombres des arbres semblent cohérentes, et les couleurs de l’image sont globalement correctes, ce qui ajoute plus à l’ambiance automnale et sereine. Cependant, ce cadre idyllique contient plus d’erreurs, même s’ils sont petits. Par exemple, quant aux proportions des maisons, on voit que, par rapport aux fondations sur lesquelles elles reposent, certaines parmi elles apparaissent trop grandes pour les petits îlots. De plus, la maison au premier plan semble un peu mal alignée sur son rocher, avec un escalier qui ne mène nulle part. En outre, l’image dans son ensemble a un sentiment un peu trop parfait. Les arbres, par exemple, ne semblent pas trop naturels car ils, avec la végétation, sont assez uniformes en arrière-plan. 

Après avoir vu ces deux images, j’ai décidé de faire une petite expérimentation avec l’IA génératrice d’images ChatGPT. Je lui ai donné plusieurs invites pour créer des images différentes afin de pouvoir analyser les erreurs les plus fréquentes dans le but de commencer à comprendre les raisons pour lesquelles ces erreurs peuvent se manifester. Tout d’abord, je lui ai donné des invites assez courtes, comme ‘Créez une image d’une maison dans un forêt’ et ‘Créez une image d’un paysage urbain en France’, et voici les créations : 

 

Même si ces images ne semblent pas trop naturelles, l’IA avait la liberté de faire n’importe quoi avec mon invite, et a réussi à créer des images qui correspondent plus ou moins à ce que j’ai demandé. J’ai ensuite ajouté plus d’éléments dans mon invite; pour la première, en décrivant le toit, le paysage, le ciel etc.; pour la deuxième, en décrivant les caractéristiques de la rue et des choses que j’ai voulu inclure. Voici les créations : 

   

Ce que je trouve intéressant, c’est le fait que, en étant plus précis avec mes instructions, ChatGPT ait été plus capable de me donner une image correcte et naturelle, sans beaucoup d’erreurs. J’ai aussi créé d’autres images, que je n’ai pas inclus ici, et elles ont suivi une tendance similaire. Donc, en général, les erreurs les plus fréquentes étaient celles par rapport au texte. Les IA ne peuvent pas écrire du texte dans une langue cohérente, et utilisent souvent des symboles au lieu de mots, ou écrivent des mots complètement bizarres, ce qui nuit à l’authenticité des images produites. Aussi, les IA ont du mal à générer des mains ou des visages ‘correctes’, souvent ajoutant un doigt ou fusionnant des objets ensemble.  Ces erreurs peuvent être causées par une confusion avec plusieurs concepts, ou même un manque de connaissances de la part de l’IA, et cela peut vraiment impacter sur la crédibilité de l’image. Sur les réseaux sociaux, on voit de plus en plus d’images générées par l’IA qui deviennent ‘virales’ et qui mènent beaucoup de personnes à les croire, ce qui est vraiment dangereux pour notre société. Quelquefois, comme on a vu, les erreurs ne sont pas forcément visibles, ce qui cause encore plus de confusion et de problèmes. C’est difficile de penser à des solutions concrètes, étant donné que l’IA est un outil assez nouveau qui change et améliore soi-même chaque jour. Cependant, on peut ajouter des étapes d’évaluation pour que les IA puissent filtrer les erreurs et les anomalies avant de générer une image, ou on peut les encore entraîner, mais cela pourrait donner lieu à plus de dangers et de choses encore inconnues. 

Pour conclure, il est évident que les IA génératrices d’images peuvent être très utiles et qu’elles peuvent générer des images cohérentes et naturelles, mais il faut toujours rester critique et conscient des dangers qu’elles peuvent poser. Comme on a déjà vu, les erreurs peuvent être très subtiles et si on les partage à grande échelle, il pourrait y avoir des conséquences graves pour la société.

- Tarun Maybanks

Les erreurs de l'IA

Sur la base de ces images :

Ces images se distinguent par un niveau élevé de détail et de réalisme, mais en les analysant attentivement, on peut examiner divers aspects qui suggèrent qu’elles ont probablement été créées par une IA.

Dans la première image, qui montre un ensemble de maisons rouges sur de petites îles dans un lac, les proportions des structures semblent totalement réalistes. Les dimensions des maisons correspondent à ce que l’on pourrait attendre dans un tel environnement, bien que leur distribution sur les îles soit un peu étrange, car ce n’est pas une position logique pour des habitations. Les ombres sont cohérentes, reflétant bien une journée nuageuse, où la lumière ne crée pas de contrastes marqués. Les textures des matériaux, comme les toits en bois usé, les rochers des îles et l’eau, sont très réalistes et détaillées. La perspective est également bien rendue, avec des angles qui correspondent à la topographie et aux niveaux du terrain.

En ce qui concerne les couleurs des éléments naturels, ils sont consistants et non artificiels. Le ciel grisâtre, l’eau aux teintes atténuées et les couleurs chaudes des feuilles en automne forment une harmonie visuelle. Les arbres ont une structure crédible, avec des branches et des feuilles réparties de manière naturelle. Les détails architecturaux, tels que les portes et les fenêtres, sont proportionnés et fonctionnels, sans anomalies visuelles comme des contours flous ou des distorsions. L’IA démontre une remarquable maîtrise de la palette de couleurs pour générer des paysages vraisemblables.

La deuxième image présente une maison de style rustique, semblable à une scène tirée d’un conte fantastique, avec des arcs en pierre et une couverture végétale sur le toit. Malgré son design inhabituel, les détails tels que les portes, les fenêtres et les escaliers sont proportionnés et semblent fonctionnels. Dans la première image, les maisons disposent d’escaliers et d’entrées adaptés à leur position surélevée, bien que certaines des marchés ne soient pas parfaitement finies (il faut bien observer pour le remarquer). Tandis que dans la seconde image, les arcs et les portes en bois sont cohérents avec le design général de la maison. L’éclairage, qui semble provenir d’une source de lumière solaire directe, génère des ombres cohérentes avec sa direction et son intensité. Les textures des matériaux, comme la pierre, le bois et l’enduit des murs, sont très détaillées et réalistes. La couleur de la végétation et de l’eau est cohérente et naturelle, et les éléments végétaux ont une structure biologique convaincante, comme on peut le voir dans la croissance de la couverture végétale et la disposition des plantes autour de la maison.

La perspective de cette deuxième image est également correcte, ce qui renforce la sensation de réalisme, tandis que les jonctions entre les éléments architecturaux, comme les murs et les toits, sont bien rendues et logiques. Aucune anomalie n’est détectée.

Aucun artefact visuel évident, tel que des contours doubles, des flous ou des distorsions, n’est observé, ce qui indique un niveau élevé de qualité dans la génération des images. Cela suggère que l’IA utilisée pour les créer emploie des algorithmes avancés pour éviter des défauts susceptibles de briser l’illusion de réalisme. L’absence d’imperfections, souvent présentes dans des photographies naturelles, et le niveau de détail des matériaux et des couleurs soutiennent également cette hypothèse.

Le haut niveau de détail et de cohérence dans ces images créées par une IA reflète la capacité de ces outils à simuler des scènes avec un réalisme impressionnant. Cependant, certains aspects, comme la perfection de la composition ou l’absence d’imperfections humaines, peuvent trahir leur origine. La simulation précise des matériaux, de l’éclairage, des textures et des structures biologiques indique un design méticuleux et des algorithmes bien entraînés à partir de données réelles. Ces images illustrent clairement les progrès des capacités de l’IA à créer des mondes visuels qui défient notre perception de la réalité.

L’IA prend généralement beaucoup de libertés lors de la création des images, donc vous devez souvent refaire l’image qu’elle offre ou lui donner trop d’indications pour créer quelque chose qui ressemble à ce que vous voulez. Souvent il ne comprend pas les concepts simples ou les ordres basiques, créant des images qui n’ont rien à voir avec le sujet désiré. L’IA est généralement bonne pour créer des paysages ou des choses simples, quand il faut entrer dans les détails, c’est quand vous remarquez le plus leurs erreurs, que ce soit dans les mains des personnages ou sur des objets sans sens de l’arrière-plan.

Ici, je laisse un exemple d’une image créée avec l’IA qui n’a presque rien à voir avec la commande donnée:

Les instructions étaient "un médecin préparant le patient pour une opération" et ici vous voyez comment l’IA a décidé de créer une image qui ne correspond pas à ce que serait vraiment un médecin anesthésier un patient avant d’opérer. Si j’avais suivi les instructions, j’aurais pu obtenir l’image souhaitée.

En conclusion, je pense que le principal problème lors de l’utilisation de l’IA pour créer des images est d’avoir à donner beaucoup d’indications.

Les erreurs de l'IA

Dans l'image créée par l'IA, nous pouvons observer certains défauts que nous commenterons ci-après. Tout d'abord, il convient de parler de la taille des objets : on peut constater qu'elle manque de cohérence. Si nous regardons les gratte-ciels à l'arrière-plan, ils sont à la même hauteur que les arbres, ce qui est impossible dans la réalité. Un autre élément frappant concerne les personnes, en général, l'IA a du mal à les représenter correctement. Par exemple, le visage de la femme à gauche est flou, tandis que celui de l'homme à droite est très petit par rapport à son corps. L'auvent au-dessus du garçon semble provenir d'un endroit indéterminé, comme s'il était collé au balcon, ce qui est également un peu étrange. Dans le petit étang au centre de l'image, on ne voit pas le reflet de la maison, seulement celui des arbres. Les personnes n'ont pas d'ombre, alors qu'en plein jour, elles devraient en avoir. En nous concentrant sur les textures des matériaux, elles paraissent peu réalistes : les pierres du mur, les métaux des balcons, les briques du toit ne me semblent pas très réalistes, pour être honnête. De manière générale, l'image est réalisée avec des couleurs très vives, ce qui n'est pas le cas dans la réalité. Les arbres sont d'un vert très intense, peu naturel, sans une seule feuille d'une autre couleur. Le ciel a une teinte très claire, presque idéale, et l'étang semble être l'élément le mieux réussi, selon moi. En outre, la ville paraît très idéalisée et peu réaliste, car il semble étrange de trouver une telle végétation dense et verte au milieu de tant de gratte-ciel et de pollution. Les arbres près de l'étang n'ont pas de tronc, et on ne sait pas très bien d'où ils sortent. De manière générale, l'image est aussi très pixelisée et un peu déformée. Je pense que l'IA progresse beaucoup et peut être un outil utile si elle est bien utilisée, mais en ce qui concerne la création d'images, il reste encore beaucoup de chemin à parcourir, car elle continue de commettre de nombreuses erreurs. Dans ce type d'IA, vous la dirigez petit à petit, vous lui demandez ce que vous voulez, et elle vous fournit un résultat en fonction de ce qu'elle comprend. Souvent, elle ne prend pas en compte certains aspects, et vous devez le lui répéter, et même ainsi, il est possible que vous n'obteniez pas le résultat souhaité. Il est important de garder à l'esprit qu'une IA n'est pas une personne, et donc, elle commettra de nombreuses erreurs. Il est crucial d'en être conscient pour pouvoir les identifier et les corriger. En général, les erreurs les plus courantes à surveiller concernent les proportions des objets, les représentations humaines, qui sont souvent mal réalisées, la végétation, qui n'est généralement pas très réaliste, et les détails architecturaux. Cela peut être dû au fait que ces détails sont très minutieux et spécifiques, nécessitant donc une plus grande expertise pour être bien réalisés. Pour conclure, de manière générale, ce type d'images n'est pas très réaliste, mais l'IA s'améliore peu à peu, et il faudra rester vigilant pour distinguer celles créées par IA de celles qui ne le sont pas. Mireia Ivorra Roselló

Les erreurs de l'IA

 

Dans la première image, je trouve que les proportions des objets sont réalistes, mais dans la seconde, elles manquent de cohérence. Les objets ne s’adaptent pas au contexte des îles, à la distance entre eux ni à la perspective supposée de la caméra.

En ce qui concerne les ombres de la seconde image, chaque maison a une lumière différente, ce qui nuit au réalisme. Par contre, les matériaux des maisons semblent cohérents dans les deux images, même si dans la seconde, il est difficile de les discerner à cause de la distance. Dans la première image, que je peux observer plus en détail, les matériaux paraissent réalistes et donnent l’impression d’une vraie maison.

Cependant, il y a des éléments problématiques. Par exemple, dans la seconde image, les pierres utilisées comme chemin se trouvent sous l’eau, ce qui est très inhabituel. Pour les perspectives et les angles des structures, la première image semble plus cohérente : la construction s’adapte au terrain. De plus, comme elle a un style plus fantaisiste, les erreurs possibles sont plus acceptables. En revanche, dans la seconde image, toutes les maisons ont la même taille, même si elles sont à des distances différentes. Comme la perspective est vue d’en haut, il devrait y avoir des différences visibles dans leurs tailles et proportions. Ce qui est le plus évident, c’est l’île à l’arrière-plan : les maisons y sont plus petites, ce qui est logique avec la distance, mais elles ne respectent pas la taille générale ni leur disposition dans l’espace.

Un autre détail frappant dans la seconde image est la position des fenêtres : elles sont placées à des hauteurs différentes alors que le terrain semble plat et que les maisons sont surélevées. Cela n’a pas de sens. Par ailleurs, la structure des arbres dans cette image est très crédible.

Dans la première image, l’absence de montagne derrière la maison rend étrange la présence d’une végétation dense sur le toit. En plus, la maison est entourée par trop de végétation, ce qui semble inhabituel.

Je pense que tous ces problèmes viennent du fait que l’intelligence artificielle manque de conscience de la perfection et de la capacité à comprendre les perspectives et les contextes comme le ferait un humain. L’IA travaille avec les images et les données que nous lui fournissons, mais elle ne comprend pas le monde réel de la même manière que nous. Pour créer ce type d’images correctement, il faudrait lui donner beaucoup plus de détails ou bien faire appel à un artiste humain.

Les IA génératrices d’images fonctionnent en apprenant des motifs visuels à partir de grandes quantités de données d’entraînement. Ces systèmes créent des images à partir de descriptions textuelles, de croquis ou de paramètres spécifiques fournis par l’utilisateur. Cependant, leur principale limite est qu’ils ne comprennent pas le contexte ni le sens du monde réel. Ils se contentent de reproduire des motifs et des structures présents dans leurs données d’entraînement, ce qui peut produire des résultats visuellement impressionnants mais remplis d’erreurs et d’incohérences.

Il est important d’identifier et d’analyser ces défauts, car cela nous permet de comprendre les limites actuelles de cette technologie. Dans des domaines comme la publicité, l’architecture ou le design, des erreurs de perspectives, de proportions ou d’éclairage peuvent diminuer la crédibilité d’un projet, affecter la qualité d’un produit ou détourner le message qu’on souhaite transmettre. En outre, signaler ces erreurs encourage le développement de modèles plus précis et fiables.

Pendant mes recherches, j’ai repéré plusieurs types d’erreurs fréquentes dans les images générées par ces IA. Par exemple, les proportions incohérentes sont un problème courant. Les maisons à différentes distances de la caméra apparaissent souvent de la même taille, ignorant la perspective. J’ai aussi remarqué des problèmes d’éclairage, avec des objets présentant des ombres et des lumières qui ne proviennent pas de la même source, ce qui donne un aspect artificiel ou étrange.

Un autre problème fréquent est l’incohérence des matériaux. Les textures, bien qu’elles paraissent correctes de loin, manquent souvent de précision ou de réalisme lorsqu’on les examine de près. Par exemple, un toit couvert d’une végétation dense dans un environnement plat peut sembler illogique. Quant à la disposition des éléments, il est courant de trouver des fenêtres à des hauteurs irrégulières ou des chemins placés sous l’eau. Parfois, ces IA créent des détails fantaisistes inattendus, comme de la végétation sur des toits ou des structures défiant les lois physiques.

Ces erreurs peuvent être expliquées par plusieurs hypothèses. D’abord, les IA ont des limites dans leur entraînement : elles ne comprennent pas les lois physiques, elles reproduisent simplement ce qu’elles ont appris. Ensuite, les instructions données aux IA sont souvent trop vagues, ce qui conduit à des interprétations incorrectes. Enfin, ces technologies ont tendance à généraliser et à combiner des éléments visuels de manière arbitraire, sans logique sous-jacente.

Ces défauts ont un impact significatif sur la crédibilité des images générées. Dans des projets commerciaux ou artistiques, des erreurs visibles peuvent briser l’immersion, réduire la confiance envers le créateur ou même nuire à l’image d’un produit ou d’une marque.

Pour améliorer ces technologies, il est nécessaire d’entraîner les IA avec des ensembles de données plus spécifiques et détaillés, incluant des informations sur les perspectives, l’éclairage et les proportions. On pourrait également envisager des modèles hybrides, combinant IA et règles logiques, pour garantir une cohérence. Offrir aux utilisateurs des outils pour ajuster manuellement des paramètres tels que les proportions ou les ombres en temps réel serait aussi une solution efficace. Enfin, collaborer avec des artistes humains pourrait améliorer considérablement les résultats.

Je vous encourage à rester critiques lorsque vous analysez des images générées par IA. Avez-vous remarqué des erreurs surprenantes ou intéressantes dans vos expériences ? Partagez vos observations et vos idées ! Ensemble, nous pouvons mieux comprendre ces outils et contribuer à leur amélioration.

REPRÉSENTATION DE LA NATURE ET DES CONSTRUCTIONS HUMAINES

Les images générées par intelligence artificielle sont globalement fascinantes et réalistes. Cependant, avec un regard plus attentif, ils révèlent des incohérences, que nous rappellent que la technologie a encore des limites. J’ai tenté de faire une analyse approfondie à fin d’identifier les défauts. 

Pour commencer, les proportions des objets et des structures dans les images générées ne sont pas toujours réalistes. Par exemple, dans la première image, une grande fenêtre avec une arche semble beaucoup trop large pour l’épaisseur du mur qui la supporte. De la même manière, les meubles paraissent trop petits par rapport à la taille de la maison, créant une disharmonie. En plus, les escaliers ont des dimensions disproportionnées et ils semblent peu fonctionnels dans la réalité.

En outre, par ce qui concerne à l’éclairage et les ombres, la lumière principale semble provenir de la droite mais il n’y a pas certaines ombres essentielles ou parfois, ils sont incohérents. Par exemple, sous la table l’ombre est presque inexistante ou les rochers devraient projeter des marquées, et cela li manque de profondeur.

Par ailleurs, les textures des matériaux manquent souvent de diversité et de naturel. Les pierres et les murs blancs, par exemple, paraissent trop uniformes, presque artificiels. Dans les toits, les herbes et les plantes donnent parfois l’impression d’avoir été "collées" sans intégration.

Un autre point problématique concerne les perspectives et les angles des structures puisqu’ils révèlent des irrégularités. Par exemple, des escaliers semblent légèrement "flotter" au-dessus du sol, tandis que certaines maisons paraissent inclinées de manière étrange ou avec zones planes.

En ce qui concerne les couleurs des éléments naturels, leur saturation est excessive. La verdure, par exemple, est tellement vive et uniforme et l’eau manque de détails comme des reflets ou des ondulations réalistes.

Les éléments végétaux, en particulier les arbres et les plantes grimpantes ont des problèmes parce qu’ils sont trop symétriques, et il manque des irrégularités naturelles pas comme dans la réalité.

Enfin, les joints et les raccords entre les différents éléments de construction révèlent des incohérences. Par exemple, les maisons semblent souvent "posées" sur les rochers sans intégration, en l’absence de fondations visibles ou de fissures autour des structures.

Face à ces observations, il semble que l’IA rencontre des difficultés à intégrer des éléments naturels avec les éléments de constructions. Cela provient des limites dans la compréhension du monde physique. Elles se contentent d’imiter des grandes bases de données d’images, sans comprendre les lois de la physique et les relations logiques entre les objets.

Comprendre et identifier les erreurs dans les images est essentiel pour préserver la crédibilité des contenus visuels. Les incohérences peuvent réduire l’impact d’une image et compromettre son utilisation, notamment dans l’architecture, le design ou la publicité. De plus, analyser ces imperfections contribue à améliorer les outils d’intelligence artificielle, en aidant à repérer les failles et à affiner leurs algorithmes.

Par ailleurs, développer un esprit critique face à ces images est une compétence précieuse dans un monde. Apprendre à détecter les anomalies permet d’éviter de se laisser berner par des visuels impressionnants mais trompeurs.

Les erreurs les plus courantes dans ces images incluent des proportions incohérentes, une mauvaise gestion des ombres, des textures artificielles, des perspectives incorrectes et des artefacts visuels tels que des flous. Ces problèmes proviennent généralement de la complexité des scènes et des limites des algorithmes actuels.

 

Pour approfondir la réflexion sur la récurrence de ces anomalies, j’ai demandé à une IA générative d’images de créer une image représentant un paysage. À première vue, cette image m’a semblé encore plus irréaliste que les deux autres analysées précédemment.

Les proportions semblent globalement bien respectées, mais certains éléments, comme les escaliers ou les colonnes en bois qui soutiennent les maisons, apparaissent disproportionnés, trop fins ou trop hauts. L’éclairage général est cohérent, mais des ombres importantes manquent, notamment sous les maisons et les arbres, ce qui donne une impression d’irréalisme.

En ce qui concerne les textures, le toit et les autres surfaces manquent de variations naturelles, comme des fissures ou des imperfections, ce qui renforce l’aspect artificiel de l’image. Les structures, en particulier, donnent l’impression de flotter, sans intégration cohérente avec leur environnement.

Les couleurs sont plus trop saturées, avec une absence notable de reflets naturels et de variations de vert. Les arbres et les plantes semblent trop parfaits, sans ramifications naturelles, et affichent une régularité artificielle. Par ailleurs, les portes et les fenêtres manquent de profondeur et de détails réalistes, tels que des reflets ou des marques d’usure.

En synthèse, cette image présente des erreurs similaires à celles relevées dans les précédentes analyses. Ces répétitions montrent que ces problèmes ne sont pas isolés, mais qu’ils sont bien caractéristiques des limitations actuelles des IA génératives d’images.

 

Pour remédier, je crois que, tout d’abord, il doit enrichir les bases de données utilisées pour l’entraînement des IA avec des images plus variées et plus complexes pourrait améliorer leur capacité à reproduire des environnements réalistes. Ensuite, intégrer des contraintes physiques, comme les interactions naturelles entre les objets, aiderait à éviter certaines incohérences structurelles. De même, développer des algorithmes capables de calculer les ombres et les lumières en fonction de leur source permettrait d’améliorer la gestion de l’éclairage.

Pour conclure, il est essentiel que chacun développe un regard critique face aux images générées par IA. Prenez le temps d’observer les détails, d’analyser les perspectives et de comparer ces créations à la réalité. Les IA génératrices d’images sont prometteuses, mais leur potentiel ne pourra être pleinement exploité qu’avec une analyse rigoureuse et une amélioration continue de leurs capacités. 

 

Laura Sancho 

~ Les erreurs de l'IA ~

La inteligencia artificial (IA) se ha convertido en una herramienta fascinante y poderosa, especialmente en el campo de la generación de imágenes. Sin embargo, es crucial que seamos críticos. Es decir, debemos analizar detenidamente las imágenes producidas por estas tecnologías a medida que exploramos sus capacidades, ya que podemos encontrar errores que, a primera vista, podrían pasar desapercibidos.

En este artículo analizaremos dos imágenes creadas por IA, relacionadas con representaciones de la naturaleza y creaciones del ser humano. Describiremos las características y errores que hemos encontrado y, además, hablaremos de la importancia de comprender cómo funcionan estas herramientas para maximizar su potencial. 

¿Estáis preparados para descubrir la complejidad de la IA generativa a través de la creatividad y la crítica?

 

ANALYSE DE LA PREMIÈRE IMAGE

Tout d’abord, il faut souligner que l’IA est un outil qui peut être efficace si nous savons comment l’utiliser. Dans cette activité, nous analyserons deux images créées par une IA générative et révélerons les erreurs que l’IA peut avoir commises.

En tenant compte de la première image, on peut constater que les proportions et structures sont bien créées, car nous voyons que l’on respecte les dimensions par rapport à la distance. Nous ne voyons rien de bizarre si nous regardons les magnitudes. Néanmoins, ce n’est pas le cas de la hauteur de la maison. Nous voyons que la porte principale est plus basse que la partie de derrière de la maison. Cela nous fait penser qu’il y a une grande marche à l’intérieur, ce qui est étrange pour une maison si petite, en tenant compte aussi qu’il y a deux fenêtres et qu’elles ne sont pas à la même hauteur. Nous pourrions penser qu’il y  a trois marches à l’intérieur, comme à l’extérieur, mais cela semblerait bizarre à cause de la fenêtre du milieu. Cela nous pouvons le comparer aussi avec la différence de hauteur et les différentes formes des deux vitres de la fenêtre de droite et les chaises de la table, qui sont clairement une erreur de l’IA. Nous constatons aussi qu’il manque une porte et nous ne voyons aucun indice de qu’elle existe. En résumé, on peut penser que c’est une erreur de l’IA qui fait que nous ne voyons pas l’image naturelle. 

En deuxième lieu, comme on ne voit pas tous les arbres qui sont derrière et au-dessus de la maison, on ne peut pas confirmer si l'ombre et la lumière sont une erreur, mais ils semblent naturels. Si nous nous concentrons sur les textures, nous pouvons penser qu'une maison qui a au-dessus matériel de pierre n’est pas du tout solide et viable, de la même façon que nous voyons que les pierres qui soutiennent la maison ne sont pas stables ni équilibrées, elles sont plutôt artificielles, car il y a des trous qui, dans la réalité, feront tomber la maison. Par exemple, nous voyons aussi un trou à la gauche de la maison, qui n’a pas de sens, car la maison n’est pas complète et, dans une situation réelle, elle serait en danger, à cause de la pluie ou en raison de la sécurité.

En troisième lieu, nous examinons les couleurs. Le ciel semble réel, avec des nuages et des couleurs naturels. Néanmoins, nous voyons un mélange de couleurs dans l’eau du lac qui ne semble pas naturel. Les plantes ont aussi des couleurs spéciales, car elles varient trop. Nous pouvons comprendre que cela est dû en raison du soleil, mais la couleur verte vive risque d’être anormal. 

D'un autre côté, il est important de savoir que chaque élément (fleurs, arbres) est composé d’une structure biologique, tout comme l’être humain. Les trois principales structures biologiques qui se démarquent sont les racines, les tiges et les feuilles. De plus, les fleurs, les graines et les fruits sont supplémentaires à ces éléments biologiques. 

Deuxièmement, il n’y a presque pas d’incohérences, bien que certaines limites soient observables. Dans les connexions et les alignements des éléments du bâtiment, ils ont un sens car les murs délimitent l’intérieur de l’extérieur. Et le toit qui surplombe également la pelouse. 

Bien que nous observions une architecture singulière, les portes, les fenêtres et les escaliers sont proportionnels à leur hauteur et à leur largeur. Ils sont également fonctionnels car ils sont idéaux pour ce type de maisons et ont leurs utilités. 

Troisièmement, nous observons plusieurs anomalies visuelles. Il y a une distorsion ou une déformation sur le bord droit de la porte, il y en a aussi une autre sur la paroi extérieure (au-dessus de la porte d’entrée) ; La vue à travers la fenêtre ’est un peu floue, en plus la rivière n’est pas très paisible, on remarque un obstacle à gauche de la porte d’entrée. En haut à droite de la maison, on voit une fenêtre qui n’est pas très distinguable. 

Pour conclure, lorsque nous analysons, l’image n’est pas caricaturale, mais plutôt réaliste et peut être loin de la fiction, une image typique de l’IA. Il est important de mentionner que les éléments végétaux ont un aspect qui correspond au printemps ou à l'été. En plus, il est crucial de comprendre qu’une photo peut sembler extrêmement naturelle et réelle si on ne fait pas attention aux détails, mais, si on l’examine de près, on peut discerner entre une photo réelle et une photo créée par l’IA.

 

ANALYSE DE LA DEUXIÈME IMAGE

Nous passons à la deuxième image. En premier lieu, nous voyons qu’il y a, plus ou moins, six maisons. À première vue, rien d’anormal. Cependant, quand nous y regardons de plus près, c’est clair que chaque maison à une magnitude vraiment différente. Les grandes maisons ne posent pas de problèmes, mais les petites semblent sortir d’un jeu vidéo, surtout celles-ci d’au fond, car, elles ne sont pas si loin pour les voir si petites. La même problématique arrive avec les arbres du fond de la première partie de l’image, car ils changent tellement la taille qu’ils semblent un jouet. Excepté ce que nous avons dit et le bateau minuscule, toutes les autres choses s’adaptent à la taille normale. Le même aspect nous arrive aussi avec la structure et la forme des détails; nous ne le voyons pas au début, mais ce n’est pas du tout naturel, à cause de la variation de dimensions et proportions des fenêtres des maisons, des escaliers, du toit de la maison et de l’orientation de chaque maison. 

D’un autre côté, ce qui est vraiment hors nature est l’ombre, en général. Il n’est pas clair que le soleil soit au nord et, de toute façon, les ombres ne reflètent pas la réalité de l’image. Ce que nous pensons qui est un peu plus réaliste est le matériaux dont tout est construit. Le bois de la maison et les pierres, même si une chose qui n’est pas claire est le bois qui soutient les maisons, car il n’a pas de sens. 

De même, les couleurs nous montrent qu’il y a quelque chose de très bizarre à l’image. Pour commencer, ce qui attire le plus l’attention est le lac, qui a l’air d’être une aurore boréale au lieu d’un lac. Les couleurs des arbres sont aussi frappantes et le ciel est complètement blanc.

Nous pouvons observer une prise de vue générale car nous voyons le paysage très clairement et au milieu d’un lac, nous voyons deux îles. Lorsque nous fixons l’île en arrière-plan (au fond), elle n’est pas trop lisible tandis que celle en face de nous a plus de valeur car elle est présentée avec plus de visibilité qui nous permet de voir quelques détails.

Nous voyons les arbres de différentes couleurs, (jaune, vert,ect..) ce qui nous amène à penser au printemps, le ciel, avec sa couleur plus claire en arrière-plan, se reflète sur les eaux, ce qui donne une touche particulière au lieu, ce qui met en valeur un style du lieu. En effet, les maisons ne sont pas directement au sol, mais soutenues par du bois, le sol est en pierres. Les maisons ne sont pas alignées, elles ont la même couleur et sont construites de la même manière. Un autre élément qui semble incohérent dans l’image, ce sont les toits des maisons, des herbes poussent dessus, c’est comme s’ils avaient été construits avec des pierres ou des murs. Ces détails nous montrent que la partie incohérente est logique parce que l’architecture est correcte pour le lieu.

Deuxièmement, les escaliers ne sont ni fonctionnels ni proportionnels, car nous observons un escalier devant une fenêtre, ce qui n’est pas logique du tout. L’une des anomalies visuelles se situe au niveau de l’escalier tordu.

Enfin, il est facile de croire que l’image que nous venons d’analyser est réelle car elle contient des éléments que nous connaissons dans la vraie vie. Il ne fait aucun doute que ces images sont typiques de l’IA.

RÉFLEXION SUR LES DYSFONCTIONNEMENTS DES IA GÉNÉRATRICES D'IMAGES

De manera general, observamos un funcionamiento artificial en estas IA. Este sistema informático nos sirve para realizar muchas tareas; es un medio capaz de modificar cualquier cosa que deseemos ver a la perfección. No obstante, sigue siendo una máquina que requiere de intervención humana para transformar y crear.

Además, es importante comprender el funcionamiento y la relevancia de la IA, ya que realiza tareas humanas como una ayuda para obtener mejores resultados. Aun así, podemos identificar un trabajo o una creación de IA porque contiene ciertas particularidades que la distinguen de cualquier otro dibujo o caricatura, y es esto lo que hace que esta inteligencia artificial sea destacable e incomparable. En las imágenes encontramos, por ejemplo, algunos fallos, como objetos torcidos, mal posicionados, o construcciones arquitectónicas no muy lógicas, etc.

Los errores más frecuentes que observamos en estas imágenes son problemas de seguridad, ya que la IA puede exponer datos sensibles, lo que indica que no maneja adecuadamente las medidas de protección. Otro problema es que la IA genera informaciones incorrectas con mucha confianza, lo cual puede resultar engañoso.

Al final de este artículo os mostramos diferentes imágenes que hemos creado basándonos en las imágenes propuestas para el trabajo. En estas, podemos comprobar que, a pesar de que le mostremos todos los errores cometidos a la IA, seguirá cometiendo errores, sean estos que le hemos mostrado o sean nuevos. Es por esto que debemos aprender poco a poco cómo tenemos que tratar a la IA, sus puntos débiles y sus puntos fuertes, para poder vencer los obstáculos y sacarle el máximo partido.

A medida que explicamos los detalles de las imágenes, también abordamos las razones por las cuales creemos que existen estos errores y cómo identificarlos, así como su origen. Es muy fácil pensar que la IA es perfecta si no prestamos atención a los pequeños detalles. ¿Habías notado todos los errores antes de examinar la foto en detalle? Sabemos que la respuesta es no. 

La lección que extraemos de esta actividad se basa en la importancia de revisar el contenido generado por una IA y de entender sus limitaciones. Estamos convencidos de que es posible adaptar, mejorar y corregir sus producciones. Por esta razón, le hemos pedido a ChatGPT que cree nuevas imágenes similares, dándole instrucciones precisas para corregir los errores.

Hemos utilizado la versión de “generador de imágenes” de ChatGPT. Le hemos mostrado lo que queremos y todos los errores encontrados basados en las proporciones de la casa, elementos faltantes, estabilidad de la estructura, vegetación, sombras y colores para que no los repitiera. Hemos creado diferentes versiones y, sin duda, las grandes diferencias son claramente visibles. Es esencial entender que la IA reacciona de manera diferente según las órdenes que le damos. Sin embargo, hay que destacar la importancia del CÓMO interactuamos con la IA. Hay que darle un contexto, explicarle lo que queremos y, sobre todo, corregirle sin miedo.

Por añadidura, cabe resaltar que hemos generado todas las imágenes que aparecen en este artículo. Le hemos pedido al generador de imágenes de ChatGPT lo que necesitábamos, en que nos basábamos y los detalles. Además, le hemos corregido varias veces, ya que no siempre nos mostraba exactamente lo que esperábamos.

¿Qué tipos de errores has observado en tus propias experiencias con la IA? ¡Intenta crear imágenes con la IA dándole instrucciones claras y comparte los resultados con nosotros!

¿Qué opinas? ¿Puede la IA realmente simplificar nuestra vida diaria? ¿Es posible corregirla para obtener resultados perfectos? ¡Esperamos tus opiniones!

Aquí están nuestras creaciones:

Para finalizar, queremos mostraros que no es oro todo lo que reluce... Nos hemos encontrado con diferentes obstáculos que nos impedían seguir con este proyecto. Como la siguiente limitación de ChatGPT:

A pesar de los obstáculos, hemos podido finalizar el proyecto. Hemos creado diferentes cuentas de ChatGPT para evitar las limitaciones de este y ha funcionado.

JESSICA MICHEL

LAURA GARCÍA ÁLVAREZ