Arizona Tribune - IA: Google suspend la création d'images de personnes sur son outil Gemini après des "problèmes"

Le géant de l'informatique avait lancé début février aux Etats-Unis ce nouveau logiciel, qui n'est pas encore disponible en Europe. Des critiques ont depuis émergé sur les réseaux sociaux pour pointer des inexactitudes concernant certaines images créées, notamment en matière de genre et de diversité pour des sujets historiques.

En l'occurrence, des utilisateurs ont relevé sur X (ex-Twitter) que Gemini semblait sous-représenter les personnes blanches dans les images générées. Parmi celles-ci, plusieurs internautes ont publié une requête sur un soldat allemand de 1943, donnant lieu à des images de militaires asiatiques ou à la peau noire.

"Nous nous efforçons de résoudre les problèmes récents liés à la fonctionnalité génération d'images de Gemini. Dans l'intervalle, nous allons suspendre la génération d'images de personnes et nous rendrons bientôt disponible une version améliorée de cette fonctionnalité", a expliqué Jack Krawczyk, directeur de produit chez Google en charge de Gemini, dans une déclaration transmise à l'AFP.

"La génération d'images par l'IA de Gemini donne lieu à un vaste éventail de personnes. Et c'est généralement une bonne chose car les gens l'utilisent à travers le monde. Mais nous avons raté notre coup dans le cas présent", a insisté Google sur X.

Dans une réaction publiée sur ce même réseau social, dont il est le propriétaire, Elon Musk a pour sa part publié une image où il fait une distinction entre d'une part son propre projet d'outil IA, assimilé à "la recherche maximale de la vérité", et d'autre part Gemini et le créateur de ChatGPT, OpenAI, qu'il taxe de "racistes" et de "woke".

Depuis la fin de l'année 2022 et le succès de ChatGPT, l'IA générative, capable de produire toutes sortes de contenus (textes, sons, images ou vidéos) sur simple requête en langage courant, a suscité un engouement massif et tous les géants de la tech se sont engagés dans une course au déploiement d'outils pour les organisations et les particuliers.

De plus en plus bluffante, jusqu'à la possibilité de créer des vidéos d'une minute grâce au logiciel Sora d'OpenAI présenté mi-février, cette technologie a également donné lieu à la mise en place de garde-fous.

La semaine passée, vingt des entreprises les plus avancées dans ce domaine, dont Meta, Microsoft, Google et OpenAI, ont ainsi annoncé s'engager à développer de nouvelles techniques pour identifier les contenus de désinformation utilisant l'IA.

H.Romero--AT