IA et évaluation professionnelle
L’article a été co-écrit par Pawel Gmyrek de l’OIT, Christoph Lutz de la Norwegian Business School; et Gemma Newlands de l’Oxford Internet Institute.
L’Organisation internationale du Travail (OIT) a publié une nouvelle étude sur la manière dont l’intelligence artificielle (IA) évalue le prestige et la valeur sociale (l’utilité sociale) des professions, sous un document intitulé Une construction Technologique de la société : comparaison du GPT-4 et des répondants humains pour l’évaluation humaine aux Royaumes Unies A Technological Construction of Society: Comparing GPT-4 and Human Respondents for Occupational Evaluation in the UK.
Cette étude met en lumière le potentiel et les risques liés à l’utilisation des méthodes Technologiques (IA – GPT 4 de type Large Language Model (LLM) capable de reconnaître et de générer du texte) pour la recherche sociologique et professionnelle, comparant ainsi les évaluations des professions, avec celles d’une enquête de haute qualité menée au Royaume-Uni qui rend compte de la perception qu’ont les gens des professions dans la société
Les chercheurs ont utilisé la classification des professions la plus universellement applicable – la Classification internationale type des professions (CITP-08) de l’OIT – pour organiser les emplois en groupes clairement définis en fonction de leurs tâches et de leurs fonctions.
Par la suite, les évaluations humaines ont ensuite été comparées à ces opinions algorithmiques, afin de comprendre dans quelle mesure le système d’IA était capable de prédire les opinions humaines, et si sa façon de percevoir les opinions humaines s’alignait sur des groupes démographiques particuliers ?
L’utilité et la précision des outils d’intelligence artificielle dans l’évaluation de série d’emplois, par rapport aux évaluations humaines, présentent des avantages potentiels tels que l’efficacité, la rentabilité et la rapidité, mais certains obstacles doivent être surmontés.
L’étude a révélé une forte corrélation entre les résultats générés par les deux approches différentes.
Le système GPT-4 s’est montré très compétent : pour prédire les opinions moyennes des Britanniques sur le prestige et la valeur sociale des différentes professions; et pour utiliser ces prédictions afin de créer des classements relatifs des professions.
Toutefois, l’étude a également révélé certains problèmes. Le modèle d’IA a eu tendance à surestimer le prestige et la valeur des professions associées à l’économie numérique ou comportant de fortes composantes de marketing et de vente. Il a également sous-estimé, par rapport aux évaluateurs humains, le prestige et la valeur sociale accordés à certaines professions illicites ou traditionnellement stigmatisées.
Cette «compréhension algorithmique» des opinions humaines générales pourrait potentiellement permettre à l’IA d’être utilisée pour la recherche professionnelle, avec des avantages tels que l’efficacité, la rentabilité, la rapidité et la précision dans la saisie des tendances générales ;
En outre, les chercheurs ont eu à manipuler les instructions algorithmiques de l’IA, démontrant ainsi qu’elle n’était pas en mesure de comprendre les hiérarchies de prestige et de valeur sociale des professions telles qu’elles sont perçues par les minorités démographiques dans le contexte britannique ;
Ils estiment également que ces limites doivent être soigneusement prises en compte lors de l’application des systèmes d’IA au monde du travail (par exemple lorsqu’il s’agit de fournir des conseils de carrière ou de procéder à des évaluations algorithmiques des performances)
En définitive,
L’article met en garde contre le fait que les LLM actuels tendent à refléter principalement les opinions des populations occidentales, éduquées, industrialisées, riches et démographiques (WEIRD), qui constituent une minorité démographique mondiale, mais qui ont produit la majorité des données sur lesquelles ces modèles d’IA ont été entraînés. Par conséquent, il serait plus judicieux et plus juste de constituer un outil de recherche complémentaire utile – par exemple pour le traitement de grandes quantités de textes non structurés, de voix et d’images car ils comportent un risque sérieux d’omettre les points de vue des minorités démographiques ou des groupes vulnérables.
L’intégration de l’intelligence artificielle (IA) dans l’évaluation du prestige et de la valeur des emplois aux Royaume-Uni a suscité à la fois des espoirs et des préoccupations. Bien que l’A puisse apporter des avantages en termes d’efficacité et d’objectivité dans le processus d’évaluation, il est important de reconnaître les limites et les implications de son utilisation, en particulier en ce qui concerne les populations vulnérables et les perceptions erronées de la hiérarchie professionnelle.
D’une part, l’IA peut contribuer à rationaliser et à standardiser le processus d’évaluation des emplois, en éliminant les biais humains et en fournissant des données analytiques basées sur des critères objectifs. Cela peut permettre une comparaison plus équitable des emplois et une meilleure compréhension de leur valeur relative dans différents secteurs et industries. De plus, l’IA peut aider à identifier les compétences et les qualifications requises pour chaque poste, ce qui peut faciliter la correspondance entre les candidats et les opportunités d’emploi.
Cependant, il est important de reconnaître que l’IA n’est pas infaillible et peut introduire des biais si elle est mal utilisée ou si les données sur lesquelles elle se base sont eiles-mêmes biaisées. En outre, l’IA peut avoir du mal à prendre en compte des aspects qualitatifs et sübjectifs du travail, tels que la créativité, l’empathie et les interactions humaines, qui peuvent être cruciaux dans de nombreux emplois, en particulier ceux qui impliquent des soins aux personnes ou des services sociaux.
De plus, l’utilisation généralisée de l’IA dans l’évaluation des emplois peut renforcer les normes et les stéréotypes existants en matière de hiérarchie professionnelle, en favorisant les emplois et les compétences déjà considérés comme prestigieux ou valorisés. Cela peut avoir des conséquences néfastes pour les populations vulnérables, qui sont souvent sous-représentées dans les emplois bien rémunérés ou socialement valorisés, et qui risquent d’être encore marginalisées par les systèmes basés sur l’IA.
Bien que l’IA puisse apporter des avantages potentiels dans l’évaluation du prestige et de la valeur des emplois aux Royaume-Uni, il est essentiel de l’utiliser de manière réfléchie et éthique, en tenant compte des limites et des implications de son utilisation pour les populations vulnérables et la perception de la hiérarchie professionnelle. Un équilibre entre l’objectivité de l’IA et la reconnaissance de la diversité et de la complexité du travail humain est essentiel pour garantir des pratiques d’évaluation justes et équitables.
Source:
•https://www.ilo.org/global/about-the-ilo/newsroom/news/WCMS 910332/lang fr/index.htm
•https://www.ilo.org/wcmsp5/groups/public/–dgreports/-inst/documents/publication/wems 908942.pdf
JURIS PRUDENCE 