L’utilisation responsable de l’IA : un paramètre vital

À l'occasion du premier Leadership Connect Global Summit, Chris Hyams, PDG d'Indeed, et la Dr Safiya Noble ont discuté de l'importance de l'utilisation éthique de l'IA pour le recrutement.

Cet article est la traduction d'une publication en anglais. Les liens et les données de la publication d'origine n'ont pas été modifiés.

 Par Allison McLellan

« De nombreuses personnes pensent que lorsqu'elles élaborent des IA et des algorithmes, elles ne font que des statistiques. Et les statistiques ne peuvent être racistes, car ce sont des mathématiques », expliquait la Dr Safiya Noble à près de 100 responsables de l'acquisition des talents issus de 10 pays différents à l'occasion du premier Leadership Connect Global Summit d'Indeed, le 20 septembre. « Je pense que c'est comme si l'on disait qu'un être humain est constitué de mitochondries et de cellules. C'est vrai, mais la réalité est bien plus complexe. »

Le programme Indeed Leadership Connect rassemble des décideurs RH et d'acquisition des talents du monde entier pour échanger sur les défis rencontrés dans leur recrutement, partager des insights et établir des solutions stratégiques pour aider chaque travailleur à s'épanouir. Au cours de cet événement, la Dr Noble a rejoint Chris Hyams, PDG d'Indeed, pour une discussion franche sur les espoirs et les défis relatifs à l'IA dans le monde du recrutement. Ce sujet est également souvent revenu au cours des présentations de l’événement global, Indeed FutureWorks 2023 qui se tenaient le lendemain. 

« Cet événement est une véritable invitation à agir. C'est une prise de conscience quant à notre opportunité et notre responsabilité collectives de contribuer à façonner l'avenir », a déclaré Chris Hyams, qui a récemment rencontré la Dr Safiya Noble dans un épisode de la série de podcasts d'Indeed Here to Help. 

La Dr Safiya Noble est professeure à l'UCLA (University of California Los Angele) où elle est directrice de la faculté du Center on Race and Digital Justice et codirectrice de la Minderoo Initiative on Technology and Power. Elle est également l'autrice du best-seller « Algorithms of Oppression: How Search Engines Reinforce Racism » (Oppression algorithmique : comment les moteurs de recherche renforcent le racisme), qui révèle comment les algorithmes responsables des résultats des moteurs de recherche sont alimentés par les biais systémiques existants et les soutiennent.

​​« En tant qu'employeurs, réfléchissez à la manière dont vous utilisez la recherche pour approuver un profil, l'examiner ou l'étudier, alors même que ces technologies sont manifestement loin de la réalité, a déclaré Safiya Noble. J'estime que les questions de l'emploi et de l'autonomie personnelle sont vitales dans notre société. »

De la définition de « l'oppression algorithmique » à l'évaluation de l'utilité de certains outils, tels que les détecteurs de biais alimentés par l'IA, nous avons rassemblé les temps forts de son échange avec Chris Hyams sur les préoccupations liées à l'essor de l'IA et les différentes mesures à prendre pour y faire face.

L'oppression algorithmique et son impact sur le recrutement

Pour poser les bases du débat, Chris Hyams a demandé à la Dr Safiya Noble de définir exactement ce qu'elle entendait par « oppression algorithmique » dans ses recherches.

« Nous évoluons dans des systèmes de pouvoir ; des systèmes dominés par des héritages racistes et sexistes, a-t-elle répondu. Les instructions que nous donnons aux ordinateurs, c'est-à-dire l'essence même d'un algorithme, sont reliées à ces systèmes de pouvoir. Et ce qu'explique Cathy O'Neill, ma collègue, autrice du livre Algorithmes : la bombe à retardement, c'est que les algorithmes aident les personnes qui réussissent déjà à mieux réussir, et celles qui ont des difficultés à échouer davantage. » 

La Dr Safiya Noble a partagé l'histoire qui l'a poussée à faire des recherches sur la manière dont les moteurs de recherche renforcent les préjugés. En tant que spécialiste du marketing avant l'essor du référencement naturel (SEO), elle a « joué » avec les moteurs de recherche pour aider ses clients à apparaître sur la première page des résultats. Alors que de nombreuses personnes à l'époque considéraient les moteurs de recherche comme des bibliothèques publiques, elle les voyait comme des technologies axées sur la publicité.

« J'ai alors commencé à réfléchir sur ce qu'il se passe lorsque l'on veut rendre accessible et disponible des informations sur les gens, et que tout le monde dépend d'un moteur de recherche pour y accéder », a-t-elle expliqué. À l'aide des données du recensement américain sur les catégories d'origine ethnique et de genre, elle a effectué plusieurs recherches pour tester le système. « Les résultats étaient surprenants, a-t-elle affirmé. Si vous recherchiez des informations sur les femmes noires, latino-américaines ou asiatiques, les résultats affichaient presque exclusivement du contenu pornographique. Il n'était même pas nécessaire d'ajouter le mot "sexe" ni même le mot "porno". Les femmes de couleur étaient synonymes de pornographie. »

« C'est à ce genre de choses que je pense lorsque je parle d'oppression algorithmique. C'est la manière dont ces technologies fonctionnent dans les systèmes de pouvoir, et qui a de lourdes conséquences sur les individus et les communautés », a-t-elle poursuivi. 

Ce problème survient dans le processus de recrutement lorsque les employeurs s'essaient à la recherche du parcours des talents. « Nous savons que non seulement les technologies de recherche sont utilisées pour présélectionner les profils, mais qu'elles sont souvent erronées », a déploré la Dr Safiya Noble. Elle a pris l'exemple de Latanya Sweeney, une professeure d'informatique noire de renom et qui a occupé le poste de directrice de la technologie à la Federal Trade Commission des États-Unis (FTC). Lorsqu'elle a candidaté pour un poste à Harvard, le recruteur lui a demandé d'expliquer son passé criminel (inexistant), car la recherche de son nom renvoyait à des annonces pour des vérifications d'antécédents criminels.

« Elle a donc réalisé une étude très célèbre dans laquelle elle a pris plus de 1 000 noms à consonance afro-américaine, comme le sien, Latanya, et les a soumis à des recherches pour étudier les résultats, a expliqué la Dr Safiya Noble. Ce fut sans appel : si vous aviez un nom à consonance afro-américaine, les annonces qui apparaissaient concernaient la vérification des antécédents criminels, les bases de données de photos d'identité judiciaires et autres, et c'était le portrait que les résultats renvoyaient de vous. »

« Nous constatons donc que les mots associés aux personnes et aux idées, qu'il s'agisse de leur nom ou de marqueurs de genre, d'origine ethnique, de classe sociale, de la région du pays dans laquelle vous vivez ou encore de votre code postal, sont intégrés dans nombre de ces technologies », a-t-elle déclaré.

Pour Chris Hyams, les responsables de l'acquisition des talents doivent se former aux possibles conséquences néfastes des outils d'IA, comme celles mises au jour par les recherches de la Dr Safiya Noble, avant de les utiliser pour le recrutement. « Il faut bien se garder de construire des grosses machines sans entraînement ni système de secours ou autres mesures pour s'assurer qu'elles sont utilisées en toute sécurité, a-t-il soutenu. Ainsi, nous plaidons pour une meilleure compréhension des défis liés [au recrutement avec l'IA] afin de réfléchir à la mise en place de barrières de sécurité ».

Détecteurs de biais et outils de recrutement alimentés par l'IA : une efficacité prouvée ?

De nombreuses personnes dans l'acquisition de talents utilisent des outils de détection des biais pour vérifier l'absence de formulation excluante dans leur contenu, tel que les descriptions de poste. Chris Hyams a demandé aux personnes dans l'audience de lever la main si elles utilisaient ce type d'outils ; le nombre de réponses positives a été conséquent. Même si elle a reconnu que l'utilisation de ces outils constituait un pas dans la bonne direction, la Dr Safiya Noble a rappelé que le discernement des recruteurs restait la meilleure barrière contre les biais. « Nous devons maintenir notre exigence dans l'expression continue de nos valeurs, de ce que nous recherchons, de la richesse des équipes diversifiées », a-t-elle rappelé.

« Lorsque je travaillais dans le domaine de la publicité et du marketing multiculturels, nous disions toujours à nos clients qu'il fallait être explicite lorsque des personnes de la communauté afro-américaine étaient invitées à participer à un événement, explique-t-elle. La même logique s'applique pour les offres d'emploi : à moins de les considérer explicitement, certains talents ne postuleront pas, ou présumeront que vous recherchez des personnes diplômées des cinq meilleures universités. Les gens se choisissent ou s’excluent en fonction de la manière dont nous rédigeons les offres d'emploi. »

Chris Hyams a mis l'audience en garde contre la confiance excessive accordée à la technologie lors du processus de recrutement. « Même s'il existait une technologie magique capable de neutraliser tous les problèmes posés par d'autres technologies, il ne faudrait pas la laisser agir toute seule, car il faut que les équipes soient conscientes de ces questions et y réfléchissent », a-t-il déclaré.

Pour les personnes qui utilisent des outils d'IA pour sélectionner des profils, la Dr Safiya Noble a exhorté les employeurs à examiner tous les CV, et pas seulement ceux qu'un filtre d'IA sélectionne. « L'IA est l'outil ultime de normalisation et de classification. Et il faut impérativement le prendre en compte, a-t-elle prévenu. Elle ne nous permet pas de voir l'ensemble des choses et ne nous aide pas à comprendre d'où viennent ces personnes ni quel est leur parcours. »

Chris Hyams a insisté sur l'utilisation de l'IA pour appuyer la prise de décision dans le recrutement, et non pour la remplacer. L'outil Profils correspondants d'Indeed, alimenté par l'IA, recommande des candidat·es dont les profils correspondent aux descriptions de poste, mais il revient toujours au recruteur de sélectionner celui qui lui est le plus pertinent. Grâce à cette combinaison de l'IA et du matching humain, les talents sont 17 fois plus susceptibles de postuler à une offre.

Dans le cadre de l'engagement d'Indeed à aider 30 millions de chercheurs d'emploi confrontés à des obstacles à trouver un emploi d'ici 2023, nous nous engageons à promouvoir le recrutement sur la base des compétences, et non des diplômes. « Nous disons souvent que le talent est universel, mais que les opportunités ne le sont pas, a insisté Chris Hyams. Si vous pensez que les opportunités ne sont pas équitablement partagées, mais que vous vous basez sur les intitulés de poste pour savoir si une personne a les capacités pour endosser le rôle, il est certain que vous perpétuez ces inégalités. »

La Dr Safiya Noble a déclaré : « Rien ne remplace l'intuition, l'échange et l'écoute de l'histoire d'une personne. Ces récits sont utiles. En apportant un supplément d'information, ils permettent à de nombreuses entreprises de s'améliorer. »

Comment lutter contre l'oppression algorithmique ?

Chris Hyams a demandé à la Dr Safiya Noble et à son équipe, expertes de l'identification de ces problèmes, leurs recommandations pour combattre ces oppressions. « Je pense souvent, évidemment, au fait de savoir qui a élaboré les technologies, a-t-elle conseillé. Nous savons que les femmes et les personnes de couleur, en particulier les étudiant·es noir·es, latino-américain·es et autochtones, sont massivement sous-représentées dans les parcours scolaires d'ingénierie . Elles ne sont pas considérées par les grandes entreprises technologiques. »

Elle a souligné que les titulaires de diplômes en sciences humaines et sociales travaillent généralement dans des domaines tels que le marketing et les relations publiques, alors que leur formation est tout aussi précieuse dans les domaines techniques. Elle a recommandé de faire appel à des équipes diversifiées et de se baser sur des ensembles de connaissances divers lors du développement de produits ou de systèmes. « Nous devrions recruter ces personnes en même temps que nous traitons ces questions de pipeline : des docteur·es en études des communautés noires ou autochtones, ou encore en études de genre. Nous devons leur donner le même niveau de pouvoir qu'aux docteur·es en informatique », a-t-elle déclaré.

Sur le plan structurel, elle a plaidé en faveur d'une réglementation de ces outils qui puisse combattre toutes les formes de discrimination. « Il faut prendre conscience de ce que représente l'élaboration et le déploiement de telles technologies dans la société. Je le répète à nouveau, les conséquences peuvent être dramatiques. La meilleure responsabilité reste l'autosurveillance », a-t-elle affirmé.

Par où commencer ?

Au cours de la session questions-réponses de la discussion, une personne de l'audience a demandé comment commencer à apporter des changements dans son entreprise. La Dr Safiya Noble a souligné l'importance de vérifier toutes les décisions de recrutement en tenant compte de l'impact qu'elles peuvent avoir sur les différentes populations, et de responsabiliser les fournisseurs. « Demandez à vos fournisseurs de vous rendre des comptes et de vous expliquer quels sont les systèmes de données sur lesquels l'IA est entraînée. D'où viennent les ensembles de données ? Comment pouvons-nous les modifier ? Comment apprend-elle ? »

La participation à la discussion permet également de la normaliser auprès de vos équipes et de vos responsables. « Dans chaque opération centrale d'une entreprise, ces conversations ciblées pourraient avoir lieu, qu'il s'agisse des RH, de la gestion de la chaîne d'approvisionnement ou d'autres types de services », a-t-elle conseillé. Elle a encouragé les responsables des talents à envisager d'adopter l'IA responsable en tant qu'engagement environnemental, sociétal et de gouvernance et à recruter une équipe interne capable de se pencher sur cette question au quotidien dans tous les secteurs de l'entreprise.

Les employeurs peuvent responsabiliser leurs équipes en valorisant les différents ensembles de compétences et les efforts environnementaux, sociétaux et de gouvernance. « Dans l'enseignement supérieur, nos engagements et notre travail en faveur de la diversité et de l'inclusion sont récompensés et évalués dans le cadre de l'évaluation des performances, a indiqué la Dr Safiya Noble. C'est là une mesure qui influence la manière dont nous priorisons et valorisons différents types de travail. »

Elle a reconnu que ces changements peuvent être difficiles à mettre en œuvre, parce qu'ils nécessitent une restructuration complète de la culture de l'entreprise. Pour autant, les responsables n'ont pas besoin d'élaborer un grand plan d'action. Au contraire, « c'est un million de petites décisions quotidiennes qui créent le changement », a-t-elle conclu.

Légende : Chris Hyams, PDG d'Indeed, s'est déjà entretenu avec la Dr Safiya Noble dans un épisode de la série de podcasts d'Indeed intitulée Here to Help.

Découvrez le programme Indeed Leadership Connect, qui propose une série d'événements en ligne et en personne tout au long de l'année. Pour vous informer et sensibiliser votre équipe aux biais algorithmiques, consultez la liste de lecture établie par la Dr Safiya Noble qui, selon elle, « fera de vous la personne la plus intéressante lors d'une soirée ». Suivez ses travaux en cours sur safiyaunoble.com.