Gemini, l’outil de production visuelle basé sur l’intelligence artificielle de Google, a récemment fait l’objet d’une discussion remarquable. L’outil a produit des images inexactes et inappropriées représentant des personnalités nazies et des personnages historiques de diverses races, tels que les pères fondateurs des États-Unis, ainsi que divers sénateurs américains des années 1800. Cela a suscité des inquiétudes quant à l’exactitude et à la précision des images produites par l’intelligence artificielle de Google.
Problèmes avec la production visuelle de Gemini AI
Google a publié un article de blog sur ces événements et a déclaré que ce qui s’était passé était dû à des problèmes de paramètres. Prabhakar Raghavan, vice-président senior de Google, a déclaré que les efforts de Gemini pour montrer une variété de personnes ne parviennent pas à prendre en compte des situations qui ne devraient clairement pas être montrées. De plus, au fil du temps, le modèle est devenu trop prudent, commençant à mal interpréter délicatement même certaines commandes simples.
En particulier, les images produites par Gemini pour le commandement « Créer un sénateur américain à partir des années 1800 », mettant en vedette des femmes de couleur et un Américain d’origine asiatique, ont montré que l’IA était allée trop loin dans certains cas. Cela a conduit à des malentendus et à des conséquences inacceptables, telles que l’imagerie nazie racialement diversifiée.
Raghavan a déclaré que, en tant que Google, ils sont désolés pour ce qui s’est passé avec cette fonctionnalité et souhaitent que Gemini fonctionne correctement pour tout le monde. Il a souligné que l’objectif de Google est de fournir des représentations de personnes de différentes ethnies lorsque les utilisateurs demandent des images telles que « joueurs de football » ou « quelqu’un promenant un chien ». Cependant, il a ajouté que lorsqu’on demande à Gemini des images pour un type spécifique de personne ou pour des personnes dans certains contextes culturels ou historiques, les utilisateurs devraient recevoir une réponse précise et adaptée à ce qu’ils demandent.
Depuis le 22 février, Google a empêché les utilisateurs de créer des images de personnes avec son outil Gemini AI. Cela s’est produit quelques semaines seulement après le lancement de la fonctionnalité de création d’images de l’outil. Raghavan a déclaré que Google continuerait à tester et à améliorer considérablement les capacités de rendu de Gemini AI, après quoi ils réactiveraient la fonctionnalité. Concernant les « hallucinations », une difficulté connue dans les grands modèles de langage, il a déclaré que l’intelligence artificielle peut parfois produire des choses fausses et que des améliorations continues seront apportées à cet égard.
Cet incident a une fois de plus révélé les difficultés de l’intelligence artificielle à produire des images précises et conformes aux sensibilités historiques et culturelles. Google déclare qu’il continuera à prendre des mesures pour résoudre ces problèmes et garantir la confiance des utilisateurs.
