Jeudi après-midi, je visitais au Jeu de Paume l'intéressante exposition "Le Monde selon l'IA" qui jette un regard critique bienvenu sur les techniques de classification automatique des images par entraînement sur de grandes masses de données.
Je me suis arrêté devant un dispositif caméra-écran qui produisait des mots-clés censés caractériser les personnes passant dans son champ.
Le système m'a d'abord identifié comme cardiologue, puis par diverses autres spécialités médicales. J'ai deviné qu'il prenait mon blouson clair (que je portais ouvert) pour une blouse de médecin hospitalier.
Je l'ai donc retiré et le système a changé d'idée: il m'a indiqué alternativement que j'étais un psycho-linguiste (sic) un chef de département (re-sic) et enfin un spécialiste de théorie des nombres (re-re-sic) tout cela probablement en raison de mon front dégarni.
Les biais de genre ne sont pas non plus absents de ce type de dispositif: mon épouse, sans doute grâce à son abondante chevelure grise, a été immédiatement reconnue comme une "grand-mère", bien que nous n'ayons pas eu d'enfants, et alors que je n'avais quant à moi pas été qualifié de "grand-père".
Je me suis demandé, au titre d'une expérience de pensée, s'il m'aurait étiqueté "terroriste" au cas où je me serais présenté face à lui avec une fausse barbe, un visage fermé et un maquillage un peu foncé...