IA et éthique : Google suspend la création d'images de personnes sur son outil Gemini après des 'problèmes

Le 21 février 2024, Google a coupé la génération d'images de personnes dans Gemini. La lecture qui a dominé sur les réseaux sociaux, celle d'une intelligence artificielle « militante », passe à côté de ce qui s'est réellement produit. La bavure de Gemini est un problème de plomberie : une consigne de diversification greffée sur les demandes des utilisateurs, appliquée sans distinguer une requête historique d'une requête générique. Personne n'a appris au modèle que les soldats de la Wehrmacht étaient asiatiques. On lui a simplement ajouté, en amont et à son insu, une instruction qui ne savait pas se taire.

Pourquoi une correction à l'entrée plutôt qu'un modèle réentraîné

Les modèles d'images sont entraînés sur des corpus scrapés du web, où « PDG » ramène des hommes blancs d'âge mûr et « infirmier » des femmes. Corriger cela dans le modèle lui-même coûte des mois de travail et un réentraînement complet. Réécrire la requête avant de l'envoyer coûte quelques lignes. Les équipes produit choisissent la deuxième option parce qu'elle se déploie en une semaine, et c'est là que ça casse : la couche de réécriture ne comprend pas ce qu'elle réécrit.

Les exemples devenus viraux tenaient tous à ce défaut. Un soldat allemand de 1943, les Pères fondateurs américains, des Vikings : à chaque fois une demande où le contexte historique fixe la réponse, et à chaque fois la consigne de diversification s'appliquait quand même.

Ce que Google a dit, et ce qu'il n'a pas dit

Jack Krawczyk, responsable produit de Gemini, a annoncé la suspension dans un message court : les problèmes récents de la fonctionnalité étaient en cours de correction, la génération d'images de personnes serait mise en pause, une version améliorée arriverait. Rien sur la nature du défaut, rien sur la couche de réécriture des requêtes. La communication a laissé le terrain libre à l'interprétation politique.

Elon Musk s'y est engouffré, qualifiant OpenAI de « raciste » et de « woke » pour opposer son propre projet, présenté comme tourné vers la recherche de la vérité. Sur le fond, l'argument ne tient pas mieux. Tout générateur d'images applique des filtres et des consignes, y compris ceux qui s'en défendent. Reste à savoir lesquelles, et qui les écrit.

L'engagement de Munich pesait plus lourd que les Vikings

2024 était une année d'élections dans une soixantaine de pays. L'engagement pris à Munich portait sur des techniques de détection et de marquage des images synthétiques, sujet autrement plus lourd que quelques portraits historiques ratés. Il reste largement à concrétiser : les filigranes invisibles se retirent, les métadonnées se suppriment, et aucune norme n'est imposée à qui n'en veut pas.

L'épisode Gemini aura eu un mérite. Il a montré, en public et avec des captures d'écran, qu'entre la question de l'utilisateur et l'image affichée, il existe une couche intermédiaire que personne ne documente. C'est cette couche qui mériterait d'être décrite dans les conditions d'utilisation, bien plus que les incantations sur l'éthique.