Berliner Boersenzeitung - Ni femmes, ni profils "exotiques" : quand l'IA est programmée pour discriminer

"C'est totalement immoral", tranche l'un des trois ex-employés de la société Plus que pro interrogés par l'AFP sous couvert d'anonymat, par crainte de poursuites de la part de leur ancienne entreprise qu'ils accusent de pratiques illégales.

Cette dernière dément catégoriquement ces accusations et assure que "Plus que pro n'a jamais demandé à qui que ce soit d'intégrer des critères discriminatoires, qu'ils portent sur le sexe, l'âge, l'origine ou tout autre motif, dans ses outils de recrutement ou de sélection".

Cette société fondée en 2014 à Schiltigheim, près de Strasbourg, a pour clients des prestataires de services (notamment des artisans du BTP) qui la payent pour être référencés dans une base de données des "meilleures entreprises de France", avec à la clef des avis favorables de particuliers.

Pour démarcher ses clients, Plus que pro a besoin d'un grand nombre de commerciaux - qui ne sont pas ses salariés, mais des franchisés - qu'elle recrute grâce à un logiciel mis au point fin 2024.

- Profils écartés -

Grâce à cet outil, l'entreprise a aspiré au printemps 2025, sur des plateformes de recherche d'emploi comme Hellowork, quelque 740.000 CV de commerciaux. Chiffre ensuite ramené à 130.000 en seulement cinq jours, grâce à ChatGTP, après application de filtres discriminants, raconte un autre ex-salarié.

Objectif: simplifier le travail des recruteurs, en écartant d'emblée les profils qui ne conviennent pas.

Mais les critères listés dans les instructions adressées à l'IA contreviennent clairement au droit du travail et au code pénal, qui interdisent toute discrimination fondée sur l'âge, le sexe, ou l'origine ethnique.

"Il faut que tu estime (sic) l'âge du candidat, qu'il est (sic) moins de 55 ans", stipule ce "prompt" consulté par l'AFP. Les trop jeunes ne sont pas non plus bienvenus: lorsque la date de naissance ne figure pas sur le CV, l'IA est invitée à la déduire à partir de l'année d'obtention du bac, et à exclure les moins de 27 ans.

En ce qui concerne la provenance, "il faut (que) le nom de famille du candidat ne SOIT PAS d'origine du continent Africain", peut-on lire.

- "Rachid, il va se manger que des refus" -

Dans le tableau des résultats, également consulté par l'AFP, un motif de rejet figure en face de chaque nom: "Hors cible - trop jeune", ou encore "Trop âgé". Les femmes, repérées à leur prénom, sont renvoyées à leurs chères études avec la mention "Exception".

Prudent, l'auteur du prompt ordonne aussi à l'IA de ne "jamais" indiquer si un patronyme est ou non d'origine africaine. "Indique simplement 'zone géographique'", instruit-il.

A ses salariés qui s'étonnaient de cette gestion des CV, la direction a répondu que dans un secteur potentiellement mâtiné de sexisme et de racisme comme l'artisanat, il valait mieux éviter d'envoyer des femmes, ainsi que des profils "exotiques" pour aller démarcher des petits entrepreneurs, expliquent les témoins.

"Rachid, il va se manger que des refus", résume un des anciens salariés, qui se dit "pas d'accord" avec cette vision de l'artisanat.

- "Payés pour ça" -

En bout de course, "tous les commerciaux retenus ont le même profil: blanc, dans la quarantaine", déclare-t-il.

Pour justifier l'exclusion des femmes, les dirigeants de la société invoquaient la dure vie des commerciaux, entre déplacements et journées à rallonge, selon ces témoins. "A leurs yeux, ce n'était pas compatible avec une vie de famille", raconte une ancienne salariée.

Cette dernière précise que l'arrivée de l'IA n'a fait que systématiser une pratique qui était déjà bien ancrée dans la société, quand le tri des CV se faisait encore "à la main". "C'était un travail assez abrutissant, le logiciel nous a bien servi", rapporte-t-elle.

S'ils regrettent de s'être pliés à de telles exigences, les trois anciens employés expliquent qu'ils n'avaient guère le choix.

"J'en ai discuté avec un collègue à l'époque: on a bien compris que c'était pas très éthique. Malheureusement, on était payés pour ça et je ne pouvais pas me permettre de perdre mon travail", se justifie l'ancienne salariée.

Un de ses ex-collègues rapporte que la direction avait clairement conscience d'être dans l'illégalité. "La responsable de la protection des données sortait de la pièce lorsque c'était évoqué en réunion", témoigne-t-il.

Le troisième affirme avoir saisi la Commission nationale de l'informatique et des libertés (Cnil) ainsi que le défenseur des droits. "Je n'ai pas peur", dit cet homme qui compte bien être reconnu comme lanceur d'alerte.

- "Une blague" -

Contactée, la Cnil, qui peut infliger des amendes ou faire un signalement au procureur, a indiqué ne pas pouvoir communiquer sur un cas individuel.

"J'ai cru à une blague", commente Marie Peyronnet, maîtresse de conférences en droit à Bordeaux à propos de ces accusations. Pour elle, "concevoir un algorithme volontairement discriminatoire est immoral et stupide".

"L'employeur expose sa responsabilité civile et pénale, ainsi que celle des entreprises utilisatrices", avertit Mme Peyronnet, soulignant que "la finalité illicite du traitement contrevient au Règlement général sur la protection des données (RGPD) et au Règlement européen sur l'IA".

Sollicitée par l'AFP, l'entreprise reconnaît qu'une "version de cet outil (...) contenait des développements contraires à notre cahier des charges et aux consignes de la direction".

Cependant cette version, qui "n'a jamais été mise en service et n'a servi à évaluer aucun candidat", relève d'un "ancien collaborateur l'ayant développée à sa seule initiative et responsabilité, et licencié depuis", indique la société dans un courriel adressé à l'AFP.

(K.Müller--BBZ)