Question écrite concernant l'utilisation de l'IA chez Actiris
- de
- Bianca Debaets
- à
- Bernard Clerfayt, Ministre du Gouvernement de la Région de Bruxelles-Capitale chargé de l'Emploi et de la Formation professionnelle, de la Transition numérique, des Pouvoirs locaux et du Bien-Être animal (question n°107)
| Date de réception: 03/02/2020 | Date de publication: 03/03/2020 | ||
| Législature: 19/24 | Session: 19/20 | Date de réponse: 03/03/2020 | |
| Date | Intitulé de l'acte | de | Référence | page |
| 04/02/2020 | Recevable | p.m. |
| Question | L’intelligence artificielle (IA) constitue un moyen puissant pour résoudre de nombreux problèmes de société. Par exemple, l’IA peut contribuer à dépister plus rapidement le cancer ; elle peut également aider les chercheurs d’emploi à trouver plus vite un emploi. Mais il s’avère maintenant que les géants des technologies craignent de plus en plus que l’algorithme généré par l’IA ne puisse entraîner des discriminations. C’est pourquoi ces entreprises réclament davantage de réglementation de la part des autorités publiques afin de mieux protéger les minorités et les femmes contre les préjugés. Ainsi, on savait dès 2018 qu’Amazon avait interrompu son programme de recrutement reposant sur l’IA parce qu’il s’était avéré que les données historiques de recrutement de l’entreprise de vente en ligne avaient appris à l’algorithme à embaucher principalement des hommes. Le logiciel excluait automatiquement les femmes du processus de sélection. Mais de tels programmes sont également déjà utilisés ici : j’ai appris que le VDAB utilise l’intelligence artificielle pour aider les gens à trouver un emploi. Au VDAB, ils ont heureusement conscience de ces points sensibles. L’algorithme calcule la taille précise de ce risque sur la base de quelque 500 variables. Cela concerne des paramètres tels que la durée du chômage, le nombre de fois qu’une personne a été au chômage et les compétences linguistiques. Les variables telles que la nationalité, le sexe, etc. ne sont pas reprises. Avec l’algorithme, le VDAB souhaite examiner la problématique du chômage à travers un nouveau prisme. Je voudrais dès lors vous poser les questions suivantes : Dans quelle mesure Actiris travaille-t-il déjà avec un tel algorithme IA pour aider les chercheurs d’emploi à trouver un emploi ? Quelles variables sont-elles reprises ? Dans quelle mesure veille-t-on à éviter au maximum les discriminations ? Pour quels programmes utilise-t-on l’instrument IA : y a-t-il encore d’autres applications que la recherche d’un emploi approprié ? Comment cet exercice IA complète-t-il le parcours d’accompagnement personnel ? Quel budget Actiris a-t-il alloué au déploiement de cet algorithme ? Actiris a-t-il soumis son algorithme IA à une institution d’expertise spécifique pour en contrôler la conception au regard d’un usage éthique ? Actiris a-t-il pris contact avec le VDAB en vue d’un échange d’expériences ou de la mise sur pied d’un programme ? |
| Réponse | L’objectif stratégique 4 (du Contrat de Gestion 2017-2022 démontre la volonté d’Actiris de réaliser le saut technologique et applicatif qui permettra d’améliorer l’efficience et l’efficacité de ses services : Cependant, actuellement, Actiris ne travaille pas en production avec des algorithmes de l’intelligence artificielle. En 2019, Actiris a lancé un marché pour analyser la possibilité d’intégrer des outils digitaux liés aux technologies de l’intelligence artificielle, dans le cadre du projet « Nouvel accompagnement et Garantie solution ». Un prototype est en cours de développement et l’évaluation de celui-ci sera faite au cours des prochains mois. Il est à noter que, dans le cadre du prototype, il n’y a actuellement pas d’algorithme d’IA prédictive à proprement parler. Il s’agit d’un outil qui pourrait permettre à terme de personnaliser les conseils transmis au chercheur d’emploi en fonction de règles métier introduites dans le système. Le budget consacré au prototype est de 134.000 EUR Etant donné que la phase actuelle est celle du prototype il n’y a pas encore eu de soumission d’un algorithme à un centre de connaissance pour contrôler l’éthique du projet. Néanmoins, Actiris a été extrêmement vigilant quant aux traitements des données à caractère personnel ainsi qu’aux aspects éthiques qui concernent l’IA dès le démarrage du prototype, afin d’éviter toute discrimination (biais de genre, d’origine, linguistique, …) et poursuivra dans cette voie dans toute évolution du projet. Actiris est en contact étroit avec le VDAB à ce sujet et des réunions de travail communes sont organisées sur cette thématique. |