Lors de la conférence annuelle NeurIPS sur l’intelligence artificielle, un incident a attiré l’attention non pas pour des idées sur l’IA, mais en raison d’une référence perçue comme déplacée à un étudiant chinois.
La professeure Rosalind Picard du MIT Media Lab a présenté des excuses après avoir utilisé un exemple jugé offensant lors de sa conférence.
Lire aussi :
- Comment le modèle Phi-4 peut-il transformer l’utilisation des IA dans la recherche scientifique ?
- Comment Meta Video Seal peut-il contribuer à limiter la propagation des contenus falsifiés en ligne ?
Une diapositive qui soulève des critiques
Pendant sa présentation intitulée Comment optimiser ce qui compte le plus, Rosalind Picard a montré une diapositive contenant une citation attribuée à un étudiant chinois qui aurait été expulsé d’une université prestigieuse pour avoir utilisé l’IA de manière inappropriée. L’excuse de l’étudiant mentionnait : Personne dans mon école ne nous a enseigné la morale ou les valeurs. Sur la même diapositive, Picard avait ajouté une remarque personnelle : La plupart des Chinois que je connais sont honnêtes et moralement intègres.
Ce contenu a rapidement suscité des critiques en ligne. La scientifique de Google DeepMind, Jiao Sun, a partagé une photo de la diapositive sur X (anciennement Twitter), en commentant : Il est plus facile de réduire les biais raciaux dans les modèles linguistiques que chez les humains ! D’autres chercheurs, comme Yuandong Tian de Meta, ont qualifié cet exemple de biais racial explicite et ont questionné comment une telle référence avait pu être incluse dans une conférence de cette envergure.
Google Gemini : Tout ce que vous devez savoir sur les modèles d’IA générative
Réactions et excuses
Lors de la session de questions-réponses qui a suivi, un participant a souligné que la mention de la nationalité de l’étudiant était la seule du genre dans la présentation, ce qui la rendait particulièrement offensive. Il a suggéré que Picard supprime cette référence si elle devait donner cette conférence à nouveau. Picard a répondu en se montrant réceptive à cette recommandation.
Les organisateurs de NeurIPS ont rapidement publié une déclaration pour s’excuser au nom de l’événement. Ils ont affirmé que ce commentaire ne correspondait pas à leur code de conduite et qu’ils allaient traiter directement avec la conférencière. Dans un communiqué, ils ont rappelé leur engagement envers un environnement diversifié et inclusif.
Rosalind Picard a également publié une déclaration personnelle dans laquelle elle a exprimé ses regrets : Je reconnais que cette référence était inutile, hors de propos par rapport au sujet abordé, et qu’elle a engendré des associations négatives non intentionnelles. J’en suis profondément désolée.
Un appel à la réflexion sur les biais
Cet incident a ouvert un débat sur les biais inconscients et leur impact, même dans des contextes académiques ou professionnels. Les critiques ont souligné qu’il est essentiel pour les leaders d’opinion, en particulier dans le domaine de l’intelligence artificielle, de faire preuve de vigilance dans leurs discours afin d’éviter des stéréotypes ou des généralisations nuisibles.
Willow : la puce quantique de Google pourrait-elle prouver l’existence d’un multivers ?
Picard a conclu en affirmant qu’elle était prête à apprendre de cette expérience et à travailler à restaurer la confiance de la communauté scientifique. Ce cas rappelle que la lutte contre les biais, qu’ils soient dans les systèmes d’IA ou dans la société, est un défi constant nécessitant réflexion et responsabilité.
