Schriftelijke vraag betreffende het gebruik van AI bij Actiris.
- Indiener(s)
- Bianca Debaets
- aan
- Bernard Clerfayt, Minister van de Brusselse Hoofdstedelijke Regering, belast met Werk en Beroepsopleiding, Digitalisering, Plaatselijke Besturen en Dierenwelzijn (Vragen nr 107)
| Datum ontvangst: 03/02/2020 | Datum publicatie: 03/03/2020 | ||
| Zittingsperiode: 19/24 | Zitting: 19/20 | Datum antwoord: 03/03/2020 | |
| Datum | behandeling van het stuk | Indiener(s) | Referentie | Blz. |
| 04/02/2020 | Ontvankelijk | p.m. |
| Vraag | Artificiële intelligentie (AI) een krachtig middel om veel maatschappelijke problemen op te lossen. Zo kan AI helpen om kanker sneller op te sporen, het kan ook helpen om werkzoekenden sneller een job te vinden. Maar nu blijkt dat grote technologiereuzen zich steeds meer zorgen maken dat er mogelijks een discriminatie ontstaat omwille van het algoritme dat AI genereert. Daarom vragen deze bedrijven voor meer overheidsregulering om minderheden en vrouwen beter te beschermen tegen vooroordelen. Zo werd in 2018 al bekend dat Amazon zijn AI-rekruteringprogramma had stopgezet, omdat was gebleken dat door de historische aanwervingsdata van het pakjesbedrijf het algoritme geleerd had om vooral mannen aan te nemen. Vrouwen werden automatisch door de software uit het selectieproces geweerd. Maar ook hier worden al dergelijke programma’s gebruikt: ik vernam dat de VDAB artificiële intelligentie inzet om mensen aan een job te helpen. Bij de VDAB zijn ze zich gelukkig bewust van die gevoeligheden. Het algoritme berekent op een 500-tal variabelen hoe groot die kans precies is. Het gaat om parameters zoals werkloosheidsduur, aantal keer dat iemand werkloos was en taalvaardigheid. Variabelen zoals nationaliteit, geslacht, ed. worden niet opgenomen. Met het algoritme wil VDAB net met een nieuwe bril naar de werkloosheidsproblematiek kijken. Daarom heb ik de volgende vragen: In hoeverre werkt Actiris ook al met een dergelijk AI-algoritme om werkzoekenden aan een job te helpen? Welke variabelen worden hierbij meegenomen? In hoeverre wordt er over gewaakt dat er zoveel mogelijk discriminatie wordt vermeden? Voor welke programma’s wordt het AI-instrument gebruikt: zijn er nog andere toepassingen dan een gepaste job te zoeken? Hoe vult deze AI-oefening het persoonlijk begeleidingstraject aan? Welk budget heeft Actiris vrijgemaakt om dit algoritme uit te rollen? Heeft Actiris haar AI-algoritme aan een bepaalde kennisinstelling overgemaakt om haar ontwerp te controleren op een ethisch gebruik? Heeft Actiris contact genomen met VDAB om ervaringen uit te wisselen of samen een programma in elkaar te steken? |
| Antwoord | Strategische doelstelling 4 (van het Beheerscontract 2017-2022 toont aan dat Actiris technologie en applicaties wil aanwenden om de doelmatigheid en doeltreffendheid van zijn diensten te verbeteren: Momenteel werkt Actiris echter, in de productie, nog niet met algoritmes van artificiële intelligentie. In 2019 heeft Actiris een opdracht uitgeschreven om te onderzoeken of het mogelijk is om digitale instrumenten te integreren die verband houden met technologieën van artificiële intelligentie, dit in het kader van het prioritaire project « nieuwe begeleiding en oplossingsgarantie ». Er wordt momenteel een prototype ontwikkeld, dat de komende maanden zal worden geëvalueerd. We merken op dat er in het kader van het prototype momenteel geen sprake is van een voorspellend AI-algoritme als dusdanig. Het gaat om een instrument dat op termijn de raadgevingen aan de werkzoekenden zou kunnen personaliseren op basis van kernregels die in het systeem worden ingevoerd. Het budget dat voor het prototype is uitgetrokken, is 134.000 EUR. Aangezien de huidige fase die van de prototypering is, wordt er nog geen algoritme aan een kennisinstelling voorgelegd om de ethische kant van het project te controleren. Toch heeft Actiris van bij de start van het prototype uiterst nauwgezet gewaakt over de verwerking van de persoonlijke gegevens en de ethische aspecten van de AI, om elke vorm van discriminatie te vermijden (vooroordelen op grond van gender, herkomst, taal …). We zullen deze benadering gedurende de hele ontwikkeling van het project blijven volgen. Actiris heeft hierover nauw contact met de VDAB en er worden over dit onderwerp gezamenlijke werkvergaderingen georganiseerd. |