Les responsables américains des droits civils avertissent les employeurs de l'utilisation d'une IA biaisée

Le gouvernement fédéral a déclaré jeudi que la technologie de l’intelligence artificielle pour sélectionner de nouveaux candidats à un emploi ou surveiller la productivité des travailleurs peut injustement discriminer les personnes handicapées, envoyant un avertissement aux employeurs que les outils d’embauche couramment utilisés pourraient violer les lois sur les droits civils.

Le ministère américain de la Justice et la Commission pour l’égalité des chances en matière d’emploi ont publié conjointement des conseils aux employeurs pour qu’ils fassent attention avant d’utiliser des outils algorithmiques populaires destinés à rationaliser le travail d’évaluation des employés et des perspectives d’emploi, mais qui pourraient également aller à l’encontre de l’Americans with Disabilities Act.

“Nous tirons la sonnette d’alarme concernant les dangers liés à la dépendance aveugle à l’IA et à d’autres technologies que nous voyons de plus en plus utilisées par les employeurs”, a déclaré jeudi aux journalistes la procureure générale adjointe Kristen Clarke de la division des droits civils du département. “L’utilisation de l’IA aggrave la discrimination de longue date à laquelle sont confrontés les demandeurs d’emploi handicapés.”

Parmi les exemples donnés d’outils d’IA populaires liés au travail figuraient des scanners de CV, un logiciel de surveillance des employés qui classe les travailleurs en fonction des frappes au clavier, des tests en ligne de type jeu pour évaluer les compétences professionnelles et un logiciel d’entretien vidéo qui mesure les schémas de parole ou les expressions faciales d’une personne.

Une telle technologie pourrait potentiellement éliminer les personnes souffrant de troubles de la parole, d’arthrite sévère qui ralentit la frappe ou d’une gamme d’autres déficiences physiques ou mentales, ont déclaré les responsables.

Les outils conçus pour analyser automatiquement le comportement au travail peuvent également négliger les aménagements au travail – comme un poste de travail silencieux pour une personne souffrant de trouble de stress post-traumatique ou des pauses plus fréquentes pour une incapacité liée à la grossesse – qui permettent aux employés de modifier leurs conditions de travail pour effectuer leur travail avec succès.

Les experts avertissent depuis longtemps que les outils de recrutement basés sur l’IA – bien que souvent présentés comme un moyen d’éliminer les préjugés humains – peuvent en fait renforcer les préjugés s’ils s’inspirent d’industries où les disparités raciales et de genre sont déjà répandues.

La décision de réprimer les dommages qu’ils peuvent causer aux personnes handicapées reflète une poussée plus large de l’administration du président Joe Biden pour favoriser les avancées positives de la technologie de l’IA tout en maîtrisant les outils d’IA opaques et largement non réglementés qui sont utilisés pour prendre des décisions importantes concernant les personnes. vies.

“Nous reconnaissons totalement qu’il existe un énorme potentiel pour rationaliser les choses”, a déclaré Charlotte Burrows, présidente de l’EEOC, qui est responsable de l’application des lois contre la discrimination au travail. “Mais nous ne pouvons pas laisser ces outils devenir une voie high-tech vers la discrimination.”

Un chercheur qui a fait des recherches sur les biais dans les outils d’embauche d’IA a déclaré que tenir les employeurs responsables des outils qu’ils utilisent est un “premier pas important”, mais a ajouté que davantage de travail était nécessaire pour freiner les fournisseurs qui fabriquent ces outils. Cela serait probablement un travail pour une autre agence, telle que la Federal Trade Commission, a déclaré Ifeoma Ajunwa, professeur de droit à l’Université de Caroline du Nord et directeur fondateur de son programme de recherche sur la prise de décision en IA.

“Il y a maintenant une reconnaissance de la façon dont ces outils, qui sont généralement déployés comme une intervention anti-biais, pourraient en fait entraîner plus de biais – tout en les obscurcissant”, a déclaré Ajunwa.

Une entreprise de l’Utah qui gère l’un des outils de recrutement basés sur l’IA les plus connus – le service d’entretien vidéo HireVue – a déclaré jeudi qu’elle se félicitait du nouvel effort pour éduquer les travailleurs, les employeurs et les fournisseurs et a souligné son propre travail en étudiant les performances des candidats autistes sur son bilans de compétences.

“Nous sommes d’accord avec l’EEOC et le DOJ sur le fait que les employeurs devraient avoir des aménagements pour les candidats handicapés, y compris la possibilité de demander une autre voie pour être évalués”, a déclaré le PDG de HireVue, Anthony Reynolds.

Cette histoire a été mise à jour pour corriger l’orthographe du nom de famille d’Anthony Reynolds, qui a été fourni de manière incorrecte par HireVue.