IA et éthique : Google suspend la création d’images de personnes sur son outil Gemini après des problèmes
Google réagit aux critiques
Google a décidé de suspendre temporairement la création d’images de personnes sur son outil d’intelligence artificielle (IA) générative, Gemini, après avoir fait face à des problèmes récents. Depuis son lancement en février aux Etats-Unis, Gemini a été critiqué sur les réseaux sociaux pour ses inexactitudes, notamment en matière de genre et de diversité dans les images générées.
L’une des principales critiques concerne la sous-représentation des personnes blanches dans les images générées par Gemini. Certains utilisateurs ont par exemple noté qu’en demandant une photo d’un soldat allemand de 1943, l’outil générait des images de militaires asiatiques ou à la peau noire.
Jack Krawczyk, directeur de produit chez Google en charge de Gemini, a déclaré : « Nous nous efforçons de résoudre les problèmes récents liés à la fonctionnalité génération d’images de Gemini. Dans l’intervalle, nous allons suspendre la génération d’images de personnes et nous rendrons bientôt disponible une version améliorée de cette fonctionnalité ».
Des limites à la technologie génératrice d’IA
Ces problèmes soulèvent des questions éthiques sur l’utilisation de l’IA générative. Bien que cette technologie soit très prometteuse et suscite un fort engouement depuis quelques mois, elle présente des limites. La création d’images de personnes doit être encadrée afin d’éviter les erreurs et les discriminations involontaires.
Elon Musk, propriétaire de X (ex-Twitter) et initiateur d’autres projets d’IA, a également réagi à cette polémique en qualifiant le créateur de ChatGPT, OpenAI, de « raciste » et de « woke ». Il fait ainsi une distinction entre son propre projet d’outil IA, axé sur la recherche de la vérité, et Gemini et OpenAI.
L’enjeu de la désinformation
Depuis la fin de l’année 2022, les avancées de l’IA générative ont entraîné l’émergence d’un grand intérêt de la part des géants de la technologie pour le déploiement de tels outils. Cependant, cette technologie a également suscité des inquiétudes quant à la propagation de la désinformation.
Afin de contrer ce phénomène, vingt des entreprises les plus avancées dans le domaine de l’IA, dont Meta, Microsoft, Google et OpenAI, ont annoncé leur engagement à développer de nouvelles techniques pour identifier les contenus de désinformation utilisant l’IA.
Come on. pic.twitter.com/Zx6tfXwXuo
— Frank J. Fleming (@IMAO_) February 21, 2024
La suspension temporaire de la création d’images de personnes sur l’outil Gemini de Google souligne l’importance de l’éthique dans le développement de l’IA. Il est essentiel d’encadrer ces technologies pour éviter les problèmes d’inexactitudes et de discriminations. Les entreprises doivent par ailleurs se mobiliser dans la lutte contre la désinformation propagée par l’IA générative.
Suivez nous sur Google news
Notre média indépendant a besoin de VOUS pour se faire connaitre ! Aidez-nous en nous ajoutant à vos favoris sur Google News. Merci !
Suivez-nous