Cet article est la traduction d'une publication en anglais sur Fortune.com. Les liens et les données de la publication d'origine n'ont pas été modifiés.

Lors d'une récente table ronde, une personne m'a demandé si j'étais enthousiaste ou inquiet concernant l'IA. Ma réponse était « oui ». Je suis enthousiaste, mais également très inquiet. Toutes les technologies qui confèrent de la puissance doivent également être maniées avec un très grand soin. Plus l'outil est puissant, plus il faut être prudent.

Commençons par mes inquiétudes. La première concerne les emplois. Chez Indeed, notre mission est d'aider les talents à trouver un emploi. Nous réfléchissons tous les jours aux effets de la technologie sur le niveau de vie des gens. La question de savoir si cette technologie va aider ou nuire à l'emploi remonte au début du XIXe siècle, lorsque les luddites, les artisans tisserands d'Angleterre, ont détruit les machines qui menaçaient de les remplacer. Il est possible que, des milliers d'années plus tôt, une personne ait essayé de casser une roue parce que son emploi était menacé.

L'innovation et la disruption des technologies ont pris de la vitesse. Si les effets de la révolution industrielle se sont progressivement accélérés au fil des générations, les secteurs du voyage, de la vente et de la musique ont été bouleversés par Internet en l'espace de dix ans. Avec l'IA, il est possible que les universitaires acquièrent des compétences qui seront obsolètes une fois leur diplôme en poche.

J'aimerais profiter de cette occasion pour faire amende honorable au nom de toutes et de tous les technophiles. Les évangélistes de la technologie utilisent le mot « bouleversement » comme s'il était purement positif. Nous présentons de nouvelles technologies qui « bouleversent le secteur du voyage » ou qui « bouleversent le secteur du transport ». Même si les consommateurs bénéficient de la commodité et du coût, et avec le temps, des emplois sont créés, la conséquence immédiate est le bouleversement de la vie des agents de voyage et des chauffeurs de taxi. Le terme « luddite » est devenu synonyme d'« anti-progrès », mais nous devons nous rappeler que leurs craintes étaient légitimes.

Je m'inquiète pour l'emploi, mais les préjugés m'inquiètent bien plus. L'IA est alimentée par des données, les données proviennent des humains et les humains sont imparfaits. C'est particulièrement vrai dans le domaine de l'emploi : dans une étude de référence publiée en 2003, les noms à consonance afro-américaine ont reçu 50 % de rappels en entretien de moins que les noms à consonance caucasienne pour des CV identiques. Quand les modèles d'IA sont élaborés à partir de données comportant des biais, ils reproduisent et amplifient ces biais.

Une étude récente a proposé une illustration de ce phénomène. Lorsqu'on a demandé à une IA générative de créer des images liées aux intitulés de poste et à la criminalité, elle a amplifié les stéréotypes liés à l'origine ethnique et au genre. Parmi les travailleurs américains de la restauration rapide, 70 % sont de type caucasien et pourtant 70 % des résultats d'images représentent des travailleurs à la peau plus foncée. Les femmes représentent 39 % des médecins, mais elles sont présentes dans seulement 7 % des images. Tout au long de l'étude, les emplois les mieux rémunérés étaient représentés principalement par des hommes et des personnes à la peau plus claire, tandis que les emplois les moins bien rémunérés étaient majoritairement représentés par des femmes et des personnes à la peau plus foncée. Les images générées pour les mots clés « détenu », « trafiquant de drogue » et « terroriste » ont également amplifié les stéréotypes.

Les aspects positifs de l'IA

Mon inquiétude vis-à-vis de l'IA ne m'empêche pas de ressentir un réel enthousiasme.

Les récentes avancées de l'IA sont à couper le souffle. Ces dernières années, des agriculteurs ont utilisé l'IA pour lutter contre des parasites et des maladies et un implant cérébral alimenté par une IA a aidé un homme paralysé à marcher grâce au pouvoir de la pensée. L'IA dont tout le monde parle, ChatGPT, a établi de nouvelles références pour les machines en matière d'intelligence humaine supposée, obtenant des résultats dans le 90e percentile au SAT, au GRE, au LSAT et au Uniform Bar Exam, obtenant une note de 4 ou 5 à 13 examens d'AP différents et réussissant l'examen théorique du programme Advanced Sommelier.

L'IA aide également les talents à trouver un emploi. Trois cent cinquante millions de chercheurs d'emploi consultent Indeed chaque mois, et l'IA leur permet de se connecter simplement et rapidement à 30 millions d'offres d'emploi. Grâce à l'IA, une personne est embauchée sur Indeed toutes les trois secondes.

L'IA doit être utilisée de manière responsable

Malgré les innovations incroyables qui nous entourent, l'IA n'en est encore qu'à ses débuts. Si nous espérons continuer à bénéficier de ce qu'elle nous promet, nous devons consacrer beaucoup de temps et d'énergie à la gestion des risques.

La première étape, c'est d'admettre qu'il y a un problème. Les biais, la toxicité et la haine se mêlent aux données pertinentes qui permettent à l'IA de résoudre des problèmes importants. En réponse, nous avons mis en place une équipe Responsible IA qui se consacre à l'élaboration d'un produit équitable pour les chercheurs d'emploi et les employeurs en mesurant et en limitant les biais injustes dans nos produits algorithmiques. Les membres de l'équipe proviennent de multiples disciplines, de l'astrophysique à la sociologie, et leur approche combine l'évaluation de l'équité, la création d'outils, l'éducation et la sensibilisation. Nous pensons que l'équité algorithmique n'est pas un problème purement technique avec des solutions purement techniques. Notre travail traite l'équité comme une question sociotechnique, elle est intégrée à la fois dans la technologie et dans les systèmes sociaux qui interagissent avec elle.

Au début de l'année, j'ai pu échanger avec l'historien Dr Ibram X Kendi, qui a formulé cette question avec une clarté saisissante : « Pour moi, le plus grand danger est de supposer que l'IA est artificielle, que les humains n'ont pas créé l'IA et que les humains n'ont pas intégré leurs propres idées racistes, sexistes et ethnocentriques dans les technologies d'IA qu'ils créent. Si en tant qu'êtres humains nous affirmons que l'IA est fondamentalement artificielle, alors elle deviendra un nouveau moyen défendable d'exclure des personnes en raison de leur origine ethnique ».

Pour construire des systèmes d'IA véritablement responsables, nous devons changer fondamentalement la façon dont nous les construisons. Pour commencer, nous devons préparer la génération actuelle et la prochaine génération de travailleurs du secteur technologique aux implications profondes de cette technologie et à ses effets sur la vie des gens. En plus des statistiques et de l'algèbre linéaire, les technologues devraient étudier l'histoire, la philosophie, l'éthique et la littérature. Un premier point important serait d'élaborer un code d'éthique formel pour les professions de l'IA, en prenant l'exemple du serment d'Hippocrate des médecins.

Il est essentiel de changer les personnes qui construisent ces systèmes. Chaque jour, des personnes prennent des décisions vitales avec peu ou aucune représentation des groupes marginalisés, qui sont les plus susceptibles d'être affectés négativement par ces décisions. Les titulaires récents de doctorats en informatique comptent environ 20 % de femmes et à peine 6 % de ces personnes sont noires ou latino-américaines. Je dis cela en tant qu'homme blanc, hétérosexuel et cisgenre : les personnes comme moi ne devraient pas être les seules à prendre des décisions qui affectent des millions d'autres. La représentation seule ne résoudra pas les défis fondamentaux auxquels l'IA est confrontée, mais je pense que nous ne surmonterons pas ces défis si les groupes marginalisés n'ont pas une place équitable à la table des négociations.

Nous sommes au carrefour d'une innovation et d'un bouleversement extraordinaires. Un grand pouvoir implique de grandes responsabilités. Si nous voulons que l'IA profite à l'ensemble de l'humanité, nous devons assumer nos responsabilités et placer l'humanité au centre de nos préoccupations.

Pour en savoir plus sur les réflexions de Chris Hyams à propos de l'IA, lisez notre article et regardez la vidéo de sa conférence lors de l'événement FutureWorks 2023.