Logo Parlement Buxellois

Schriftelijke vraag betreffende de implementatie van de Europese aanbevelingen bij het ontwikkelen van producten met artificiële intelligentie

Indiener(s)
Khadija Zamouri
aan
Bernard Clerfayt, Minister van de Brusselse Hoofdstedelijke Regering, belast met Werk en Beroepsopleiding, Digitalisering, Plaatselijke Besturen en Dierenwelzijn (Vragen nr 845)

 
Datum ontvangst: 14/10/2021 Datum publicatie: 13/12/2021
Zittingsperiode: 19/24 Zitting: 21/22 Datum antwoord: 08/12/2021
 
Datum behandeling van het stuk Indiener(s) Referentie Blz.
02/12/2021 Ontvankelijk p.m.
 
Vraag    Begin februari 10/02/2021 lazen we in Bruzz dat de Brusselse regering zestien projecten klaar heeft liggen waarmee ze de economie na de corona-epidemie nieuw leven mee wil inblazen. Daarvoor wordt beroep gedaan op 395 miljoen euro uit het relanceplan van de Europese commissie.

Op 23/07/2021 lezen we in Bruzz dat onderzoeksorganisatie FARI 10 miljoen euro krijgt om de Brusselse digitalisering te ondersteunen. Met meer dan 300 onderzoekers die zich bezig houden met AI, data en robotica, beschikken ze over veel kennis die de maatschappij goed kan gebruiken.

FARI krijgt de opdracht om AI via allerhande projecten meer tot bij de burger te krijgen. Daarnaast moeten de onderzoekers de overheden verrijken met dataprojecten die meerwaarde kunnen bieden. En ook bedrijven moeten meer gestimuleerd worden om economisch voordeel te halen uit data en robotica. FARI moet daarom onderzoeks- en ontwikkelingsprogramma's aan de man brengen. Nog een taak die de universitaire vzw krijgt, is de ontwikkeling van een Brusselse educatieve hub of een 'AI Academy' en een open ervaringscentrum rond robotica en data.

Van de bijna 70 miljoen euro die naar digitale transformatie gaat, is 10 miljoen, verspreid over vier jaar tijd, voor FARI. In het kader van het Europees relancefonds zet het Brussels Gewest dus vol in op digitalisering, wat ook een stokpaardje is van de Europese Commissie.

In een studie van deze Europese commissie naar het ontwikkelen van ‘trustworthy’ AI, waar ik in het verleden verschillende keren naar heb verwezen, werden zeven richtlijnen geformuleerd: menselijk toezicht, veiligheid, privacy en databeheer, transparantie, diversiteit, eerlijkheid, niet discriminerend en verantwoordelijkheid. Deze richtlijnen dienen te functioneren als leidraad bij het ontwikkelen van producten met artificiële intelligentie binnen Europa. Die zeven punten horen we altijd te overlopen vooraleer een tool met AI wordt geproduceerd of aangekocht. De partners met wie het gewest samenwerkt dienen ook gescreend te worden aan de hand van deze richtlijnen.

De uitdaging zit hem niet in het ontwikkelen van producten met Artificiële intelligentie. Vandaag de dag zijn de meest diverse sectoren er mee bezig. We spreken allemaal de ai-taal, bewust of onbewust. “De uitdaging zit in het ontwikkelen van een sterke fundering voor de ontwikkeling van dergelijke tools. Een fundering die gebaseerd is op de Europese richtlijnen.

In dat verband stel ik u de volgende vragen:

- In hoeverre werd er bij het kiezen van een partner, rekening gehouden met de Europese aanbevelingen die ook in eerdere commissies werden geformuleerd?

- In hoeverre wordt er rekening gehouden met de Europese aanbevelingen bij het selecteren van AI projecten en onderzoeks- en ontwikkelingsprogramma’s?

- In welke mate worden de Europese aanbevelingen verwerkt in de educatieve hub ‘AI Academy’?

- Welke criteria worden gehanteerd indien de aanbevelingen vanuit de Europese commissie niet werden opgenomen tot nu toe?

- Welke aanbestedingen zijn er al geweest?

- Onder welk financieringsvorm wordt de financiële ondersteuning gegeven ( innovation vouchers, proof of business, R&D projects, academisch programma,…)
 
 
Antwoord    1/ In hoeverre werd er bij het kiezen van een partner, rekening gehouden met de Europese aanbevelingen die ook in eerdere commissies werden geformuleerd?
2/ In hoeverre wordt er rekening gehouden met de Europese aanbevelingen bij het selecteren van AI projecten en onderzoeks- en ontwikkelingsprogramma’s?
3/ In welke mate worden de Europese aanbevelingen verwerkt in de educatieve hub “AI Academy”?
4/ Welke criteria worden gehanteerd indien de aanbevelingen vanuit de Europese commissie niet werden opgenomen tot nu toe?
5/ Welke aanbestedingen zijn er al geweest?
6/ Onder welke financieringsvorm wordt de financiële ondersteuning gegeven (innovation vouchers, proof of business, R&D projects, academisch programma, …) ?

De Europese aanbevelingen zijn bepalend geweest voor de beslissingen die de Regering heeft genomen in het kader van haar herstelplan. De Regering heeft besloten steun te verlenen aan het FARI, het instituut dat het resultaat is van een samenwerking tussen de ULB en de VUB en 300 onderzoekers uit verschillende academische vakgebieden samenbrengt. De multidisciplinariteit en de aanwezigheid van deze internationale deskundigen maken van het FARI een uitgelezen partner om aan alle Europese aanbevelingen te voldoen.
In het kader van zijn werking zal het Instituut erop toezien dat alle aanbevelingen van de Europese Commissie in zijn projecten worden geïntegreerd.

De werkzaamheden van de Europese Unie voor een “betrouwbare AI” (trustworthy AI) worden door het FARI immers op de voet gevolgd, zowel rechtstreeks als onrechtstreeks via bijvoorbeeld de organisatie AI4Belgium. Sommigen zijn overtuigd van de noodzaak, maar ook van het belang voor Europa van deze richtlijnen. Net als met de GDPR wil de Europese Unie een voorloper zijn. In dit stadium hebben deze werkzaamheden alleen nog maar geleid tot aanbevelingen, maar het wetgevingstraject werd vastgelegd. Het FARI heeft dus niet gewacht en deze aspecten werden volledig geïntegreerd in het hele werkprogramma, met inbegrip van de programma's voor onderzoek en ontwikkeling.

Bijgevolg zullen deze “waarden” vanzelfsprekend ook worden opgenomen in de opleidingen in de AI Academy en worden geïntegreerd in de ontwikkeling van alle samenwerkingsprojecten.

Wat meer bepaald de projecten inzake onderzoek en ontwikkeling betreft die onder de bevoegdheid van mijn collega Barbara Trachte, de staatssecretaris voor Wetenschappelijk Onderzoek, vallen, zal de AI Academy for the common good van het FARI tot doel hebben een verantwoorde digitalisering in de samenleving te versnellen, via nieuwe cursussen en formats die ontwikkeld zullen worden met deskundigen van de ULB en de VUB, alsook met internationale experten. De focus van deze opleidingen zal liggen op mensgerichte en betrouwbare AI-, data- en roboticatechnologie: hoe moet deze ontwikkeld, ingezet en gecontroleerd worden? Hoe kan zij worden toegepast in sociaal-economische bedrijfsmodellen en -strategieën? Dit zijn vragen die centraal zullen staan bij de ontwikkeling van het programma van de Academy. Naast deze aspecten moet het DNA “for the common good” van het Instituut in herinnering worden gebracht. Het gaat er niet om technologie te ontwikkelen omwille van de technologie, maar met een maatschappelijke en inclusieve doelstelling en ten dienste van de transitie.

De aanbevelingen van de Europese Commissie zullen worden opgenomen in de academiepool en volledig worden opgevolgd.
Wat uw vraag over aanbestedingen betreft, heb ik in dit stadium geen weet van reeds uitgevoerde projecten. Bij veel projecten wordt gebruikgemaakt van algoritmes, maar wij zijn nog niet zo ver dat wij software voor artificiële intelligentie kunnen opzetten.
De in het nationaal plan voor herstel en veerkracht toegekende financiële steun wordt aan het FARI verleend onder de vorm van subsidies, op voorwaarde dat de in het Europees plan beschreven mijlpalen en doelstellingen worden nageleefd. De mijlpalen en doelstellingen die in het nationaal plan voor herstel en veerkracht (PHV) zijn opgenomen, alsook een duidelijk werkprogramma, zullen als bijlage bij een BA worden gevoegd. De door het CIBG via deze BA toegekende subsidies zullen worden uitbetaald bij het bereiken van de mijlpalen en doelstellingen binnen de overeengekomen termijnen.