Fiche van een vraag of interpellatie

Vacatures Contact

Schriftelijke vraag betreffende ChatGPT en de gevolgen ervan

Indiener(s): Christophe De Beukelaer
aan: Sven Gatz, Minister van de Brusselse Hoofdstedelijke Regering, belast met Financiën, Begroting, Openbaar Ambt, de Promotie van Meertaligheid en van het Imago van Brussel (Vragen nr 564)

Datum ontvangst: 06/02/2023		Datum publicatie: 20/03/2023
Zittingsperiode: 19/24	Zitting: 22/23	Datum antwoord: 17/03/2023

Datum	behandeling van het stuk	Indiener(s)	Referentie	Blz.
09/02/2023	Ontvankelijk	p.m.

Vraag	22 december 2022 zal de geschiedenis ingaan. Het is de komst van kunstmatige intelligentie naar het grote publiek via de lancering van ChatGpt. Hoewel we nog in de beginfase zitten, hebben ChatGpt en Claude net de Amerikaanse advocatuurexamens, medische examens en een MBA gehaald. "ChatGPT zal gevolgen hebben voor iedereen die teksten produceert, inclusief code, zoals journalisten, community managers, marketing professionals, advocaten, coders, enz. Maar je kunt het ook gebruiken voor alles wat te maken heeft met gegevensverwerking, visuele creatie, fondsenwerving, secretariaatswerk, enzovoort. Bureaucratische, "intellectuele" en creatieve banen zullen op hun kop worden gezet. Kunstmatige intelligentie zal voor intelligentie zijn wat de stoommachine was voor handenarbeid: een revolutie. We hebben twee keuzes bij de komst van kunstmatige intelligentie in ons leven: Ons terugtrekken in onze eigen gewoonten, alleen de grenzen en de gevaren aan de kaak stellen, proberen veranderingen af te remmen en vasthouden aan de wereld zoals we die kennen. Dit is te vaak het standpunt van de politieke wereld. Het is gebaseerd op het principe dat technologie op zichzelf goed noch slecht is, maar dat alles afhangt van wat we ermee doen. Het kan een kans zijn als we vanaf het begin op deze veranderingen anticiperen en ze begeleiden. Respecteer het oude door het nieuwe te enten in plaats van energie en kostbare tijd te verspillen aan het bestrijden ervan. Anticiperen en deze problemen aanpakken om ervoor te zorgen dat deze veranderingen goed zijn voor onze samenleving en de mannen en vrouwen die er deel van uitmaken. Daarom, meneer de minister, stel ik u de volgende vragen: Hebt u de impact bestudeerd die kunstmatige intelligentie (AI) op overheidsdiensten zal of kan hebben? Kunt u uw bevindingen met ons delen? Hebt u een werkgroep opgericht om deze kwestie te bestuderen? Hoe leidt u ambtenaren op in kunstmatige intelligentie, de afgeleide instrumenten en het potentieel ervan? Implementeert u al kunstmatige intelligentie (AI) projecten in administraties die een belangrijke rol spelen bij het optimaliseren van bureaucratische taken, visuele creatie, het schrijven van teksten, enz. Heeft u ontmoetingen gehad met de bedrijven en hoofdrolspelers die op deze gebieden actief zijn? Kunt u ons vertellen over de conclusies van deze bijeenkomsten? Hoe gebruikt u op kunstmatige intelligentie gebaseerde instrumenten en platforms om administraties efficiënter te maken? Hebt u in de administraties waarvoor u verantwoordelijk bent een werkgroep opgericht om te onderzoeken hoe AI hun werk zal veranderen? Welke posities worden beïnvloed? Heeft u een AI-referent aangewezen? Hebt u een plan om het personeel op te leiden in deze nieuwe technologieën om deze administraties efficiënter te maken?


Antwoord	Ik heb de eer u het volgende antwoord mee te delen: GOB: Eerst en vooral wil ik jullie aandacht vestigen op het feit dat de uitdagingen i.v.m. AI zodanig groot zijn dat het onderwerp niet enkel de Brusselse Hoofdstedelijke Regering aanbelangt maar ook de besturen die onder mijn toezicht vallen. We werken al eendrachtig samen rond dit onderwerp, met een sterk mandaat voor minister Clerfayt die bevoegd is voor de digitale transitie. Ik sta volledig aan uw kant. De technologie in het algemeen geeft onze wereld mee vorm alsook de manier waarop we naar de wereld kijken. Uiteindelijk kan men technologie aanwenden voor democratische maar ook voor onderdrukkende doeleinden. Het is dus belangrijk dat het BHG de AI-trein niet mist, wetende dat de stuwende kracht achter een administratie data zijn. Artificiële intelligentie kan niet correct functioneren zonder kwaliteitsvolle gegevens. Op basis van deze vaststelling keurde de Brusselse Hoofdstedelijke Regering in maart 2021 een nota goed over de Brusselse datastrategie. De bedoeling van deze nota is de besturen te dwingen een datagedreven cultuur en organisatie na te streven, hun gegevens te documenteren, deze makkelijk toegankelijk te maken voor andere besturen en voor de academische wereld, aan privéondernemingen en burgers, en tegelijk te zorgen voor een goede beveiliging van deze gegevens. De Brusselse strategie sluit met zijn acties ook aan bij het kader voor verantwoorde digitalisering om de milieu-impact ervan te beperken. De Brusselse strategie beoogt dus een win-winsituatie: (I) voordelen voor de burger, die op een efficiëntere administratie kan rekenen, (II) en voordelen voor de ondernemingen die hun belangrijkste verwerkingssystemen kunnen verbeteren. Deze aanpak heeft bovendien als voordeel dat ze aansluit bij de doelstellingen van de Europese Commissie: “Ondernemingen en burgers toegang geven tot hoogwaardige openbare gegevens die op termijn onderzoek en innovatie zullen bevorderen.” Na de goedkeuring van deze strategie heeft paradigm.brussels het gewestelijke dataplatform ontwikkeld om enerzijds de uitwisseling van gegevens te vergemakkelijken en anderzijds overheden instrumenten in handen te geven om deze gegevens beter te kunnen exploiteren. Bovendien werd in september 2022 het Regional Data Governance Office opgericht om de gewestelijke instellingen te ondersteunen bij hun gegevensbeheer (documentatie en standaardisering van gegevens, verbetering van de kwaliteit van de gegevens). Begin 2023 legt mijn kabinet in samenwerking met paradigm.brussels, Easy Brussels en de GOB de laatste hand aan het Brussels Wetboek voor gegevensbeheer dat deze doelstellingen moet verankeren en een juridische grondslag zal verlenen die de gegevensveiligheid ten opzichte van de burger garandeert, en die de ontwikkeling van projecten inzake artificiële intelligentie op basis van kwaliteitsvolle gegevens ondersteunt ten gunste van de Brusselse overheden en plaatselijke besturen. · Heeft u de impact bestudeerd die artificiële intelligentie (AI) op de overheidsdiensten zal of kan hebben? Kunt u de bevindingen met ons delen? Heeft u een werkgroep opgericht om deze kwestie te onderzoeken? Het Centrum voor Informatica voor het Brusselse Gewest, paradigm.brussels (vroegere CIBG) staat in als orkestrator van digitale vaardigheden en van IT-diensten voor het openbare ecosysteem van het Brussels Gewest. talent.brussels heeft in 2022 gewerkt aan een nota voor de minister van Openbaar Ambt over een strategie en acties die binnen de instellingen kunnen worden overwogen om GovTech te integreren in de HR-processen. Deze nota is geschreven op basis van onder meer het werk van HRM-studenten van de ULB in het kader van een opdracht die in 2021 voor talent.brussels is uitgevoerd. Zij hebben de markt van beschikbare tools geanalyseerd op zoek naar de laatste ontwikkelingen in het gebruik van AI in HR. Voor elk HR-proces zijn de verschillende mogelijkheden in kaart gebracht. In de nota worden verscheidene acties voorgesteld op het gebied van voorlichting (webinars, oprichting van een bibliotheek, zorgen voor technologische bewaking, enz.) en opleiding (te voorziene transversale opleidingen, bewustmaking). talent.brussels bereidt een gewestelijke hackaton voor om innovatieve GovTech-oplossingen te identificeren voor het faciliteren van HR- of organisatieactiviteiten binnen de Brusselse overheidsdiensten. Dit project zal worden georganiseerd zodra de begrotingsmiddelen beschikbaar zijn. De GOB en Brussel ConnectIT nemen deel aan de werkgroepen van FARI (onderzoeksinstelling voor artificiële intelligentie van de VUB/ULB, gefinancierd door het Brussels Hoofdstedelijk Gewest via Europese middelen). Een van de projecten van FARI is de uitwerking van een gewestelijke strategie voor de ontwikkeling van artificiële intelligentie in het Brussels Hoofdstedelijk Gewest. Dit moet resulteren in een stappenplan voor de ontwikkeling van artificiële intelligentie in het Brussels Hoofdstedelijk Gewest en zijn besturen. In 2022 werkte easy.brussels met FARI samen aan het SimpLex-project. SimpLex vertrekt van de vaststelling dat er in het Brussels Hoofdstedelijk Gewest niet systematisch wordt geanticipeerd op de impact van regelgeving noch op de complexiteit van wetgeving voor burgers en ondernemingen. Het project wil daar beterschap in brengen. SimpLex stelt onder meer voor om in dit verband AI-instrumenten te gebruiken zoals Natural Language Processing en Machine Learning om ex-ante en ex-post-testen uit te werken voor administratieve vereenvoudiging met betrekking tot ontwerpen van regelgeving, met inbegrip van een controle van het Once Only-principe. In het kader van de HVF-verordening heeft de Brusselse Hoofdstedelijke Regering ministers Trachte en Clerfayt de opdracht gegeven en samenwerking op te zetten met FARI, de onderzoeksinstelling voor artificiële intelligentie van de VUB en de ULB via paradigm.brussels en Innoviris. In dat verband werd een subsidie van 10 miljoen euro vrijgemaakt. Paradigm.brussels heeft een reeks proefprojecten gestart met verschillende besturen (Actiris, Leefmilieu Brussel, Easy). Twee projecten werden reeds succesvol afgerond. Het Simplex-project geleid door Easy en paradigm.brussels toonde het potentieel van AI voor de digitale transitie van het bestuur aan door te wijzen op het belang en de mogelijkheden van “rules as code”. Het gaat om de volledige omvorming van het creatieproces van wetten en andere administratieve regelgeving vertrekkende van de creatie van geschreven tekst op zodanige wijze dat deze kan worden omgezet naar informaticacode om tot een automatisering te komen van de toekenning van rechten en de informatie over de plichten ten opzichte van de administratie. Deze paradigmaverschuiving met betrekking tot het opstellen van wetgevende teksten die begrijpelijk zijn voor machines levert bovendien een ander voordeel op, namelijk dat deze teksten voor iedereen - burgers, ambtenaren, ondernemers - begrijpelijk zullen zijn. Het komt dus ook neer op “juridische inclusiviteit”. Als de Brusselse begroting dit op de middellange of lange termijn toestaat, zal dit type project het mogelijk maken voor de administratie om de omslag te maken van een dwingende administratie naar een dienstgerichte administratie. · Hoe leidt u de medewerkers op in artificiële intelligentie, de afgeleide tools en de mogelijkheden ervan? Momenteel is er een opleiding "Elements of AI" beschikbaar in de talent.brussels-catalogus van transversale opleidingen die via het unieke MyTalent Learning-platform ter beschikking wordt gesteld van de gewestelijke administraties. Op verschillende niveaus werden er communities van gegevensgebruikers opgericht, op gewestelijk niveau via de Data Moves en op het niveau van de GOB via de GOB Data Community (geleid door Brussel ConnectIT). Deze communities fungeren als een ontmoetingsplaats rond dataprojecten in het algemeen, onder meer die welke een beroep doen op artificiële intelligentie. Artificiële intelligentie maakt nog geen deel uit van het opleidingsprogramma van easy.brussels. Er zal in dat verband een programma voor opleiding, sensibilisering en cocreatie worden gestart in het kader van de samenwerking tussen het BHG en FARI. Paradigm.brussels heeft afgelopen jaar eveneens een reeks workshops georganiseerd over het potentieel van AI, de ethische aspecten en user cases, samen met de besturen die dat wilden. We konden vaststellen dat er een grote belangstelling voor AI bestaat. · Implementeert u al projecten van artificiële intelligentie (AI) binnen de administraties die een belangrijke rol spelen bij het optimaliseren van administratieve taken, visuele creatie, het schrijven van teksten, enz.? talent.brussels heeft een focus op innovatie en innovatieve technologieën binnen het domein van HR en organisatieontwikkeling. Er wordt permanent onderzocht of er bepaalde toepassingen bestaan die door middel van artificiële intelligentie de opdrachten van talent.brussels kunnen ondersteunen. Voor alle duidelijkheid, de visie van talent.brussels bestaat erin dat AI in een duidelijke context een toegevoegde waarde kan hebben, maar steeds ter ondersteuning in bepaalde processen. De vaardigheden van het GPT-3 Davinci model werden pas eind november bekend met de uitrol van ChatGPT. Volgens OpenAI, het bedrijf achter ChatGPT, moeten alle instellingen, methodologieën en voorwaarden voor een waaier aan specifieke gebruikscontexten nog uitgewerkt worden. Op basis van wat in diverse media verschijnt, zal Chat GPT een zeer grote impact kunnen hebben binnen de beleidsdomeinen van talent.brussels. GOB: De reeds geïmplementeerde projecten hebben voornamelijk betrekking op beeldherkenning voor het vaststellen van schade op wegen of de herkenning van elementen zoals signalisatieborden en bomen. Er werden trouwens OCR-tools (Optical Character Recognition) gebruikt voor de geautomatiseerde verwerking van facturen (optimalisatie van administratieve taken). Artificiële intelligentie maakt nog geen deel uit van het opleidingsprogramma van easy.brussels. Er vonden workshops plaats, een reeks user cases werden geïdentificeerd. Deze moeten worden geprioriteerd en zullen aan de Regering worden voorgelegd door de minister voor Digitale Transitie in bijlage bij de AI-strategie voor het Brussels Hoofdstedelijk Gewest. Het Simplex-project (cf. zie supra) biedt heel wat perspectieven, maar het vereist een omvangrijk budget dat in de regering zal moeten worden besproken. · Heeft u de ondernemingen en belangrijke spelers ontmoet die op deze gebieden actief zijn? Kunt u de conclusies van deze bijeenkomsten met ons delen? talent.brussels doet aan marktprojectie en heeft reeds diverse contacten gehad met leveranciers van tools en instrumenten die gebruikmaken van AI. GOB: Er vonden ontmoetingen plaats met de voornaamste spelers in de sector (Microsoft, IBM…) in het kader van de ontwikkeling van het gewestelijke dataplatform. Hun adviezen betroffen het belang van een dat gedreven mentaliteit die essentieel is voor het goede gebruik van artificiële intelligentie door de personeelsleden van een administratie. EASY BRUSSELS: zie vraag 1. De cel Digitale Transitie van paradigm.brussels werd daartoe opgericht. Die richt momenteel een “innovation lab” op voor de administratie met het oog op de cocreatie en ideeënvorming met privé- en openbare partners. Er vinden regelmatig ontmoetingen plaats met het wereldwijde AI-netwerk, zowel met start-ups als met multinationals. Paradigm.brussels is lid van AI4Belgium en maakt deel uit van het bestuur van AI4Gove dat wordt georganiseerd door de FOD BOSA. Paradigm.brussels staat ook in nauw contact met de administraties van de verschillende gewesten en gemeenschappen zoals Digitaal Vlaanderen (waarmee begin februari 2023 over AI en data werd vergaderd), het Agence du Numérique Wallonne, ETNIC… Paradigm.brussels coördineerde ook een Europese projectoproep voor het Brussels Hoofdstedelijk Gewest voor de creatie van een AI Test- en Experimentsite op het gebied van multimodale mobiliteit in Brussel. Eind 2022 won paradigm.brussels samen met zijn partners - MIVB, Brussel Mobiliteit, FARI - en het consortium Citcom.ai deze Europese projectoproep. Op de AI Test- en Experimentsite in Brussel zullen Europese start-ups, kmo’s, bedrijven, onderzoekscentra, universiteiten en besturen hun AI-algoritmes en -oplossingen komen verfijnen, testen, valideren op basis van gegevens afkomstig van de openbare en privésector. · Hoe zet u de op artificiële intelligentie gebaseerde tools en platforms in om de administraties efficiënter te maken? Op dit moment is er geen formeel gebruik van deze tools binnen talent.brussels. Ondanks de opmerkelijke prestaties van GPT3 in menselijke antwoorden genereren, zijn er meerdere hindernissen om deze nu al te vertalen in specifieke use cases voor het openbaar ambt. Voor wat GPT3-modellen betreft is een grote hoeveelheid trainingsdata nodig en zijn huidige modellen vooral vaardig in het Engels, aangezien veel van de internetteksten die als trainingsdata fungeren in die taal geschreven zijn. Vervolgens blijft GPT-3 text-da-vinci-003 een “stochastic parrot” omdat het vooral getraind is om louter geloofwaardig menselijk te antwoorden. Dit betekent dat incorrecte feiten kan genereren als antwoord op meer specifieke vragen of instructies. Het betekent ook dat de trainingsdata een kwetsbaar punt kan worden in termen van veiligheid. Ondanks deze hindernissen zijn er natuurlijk ook toekomstige mogelijkheden voor alledaags gebruik en zijn er meerdere tech-bedrijven bezig met het concretiseren van use cases voor tekstuele modellen zoals GPT3 da-vinci. Zo is Microsoft bezig om een tekstueel model in hun browser en Office-tools te integreren, onder meer om een groot aantal tekst samen te vatten of vragen erover te antwoorden. Ook Google is nu hard aan het werk om hun eigen alternatief aan te bieden in de vorm van Bard, de recentste iteratie van hun LaMDA-modellen. We volgen deze evoluties en hun mogelijke toepassingen nauwlettend op. GOB: De op artificiële intelligentie gebaseerde platforms en tools dienen om administratieve taken te vereenvoudigen en om grote volumes gegevens snel te analyseren voor de rangschikking van beelden. Easy.brussels heeft nog geen concreet project van dit type geïmplementeerd. Vandaag gebruiken we nog geen AI op de gewestelijke platformen omdat er geen kader voor bestaat en omdat de huidige AI-motoren niet transparant zijn. Voor de scan cars van parking.brussels wordt er gebruik gemaakt van AI. Het Actiris- en dierenwelzijnproject worden momenteel getest. · Heeft u binnen de administraties die onder uw toezicht vallen een werkgroep opgericht om te bestuderen hoe AI het werk van deze administraties zal veranderen? Welke functies zullen worden getroffen? Heeft u een AI-referent aangesteld? Heeft u een plan om het personeel op te leiden in deze nieuwe technologieën om deze administraties efficiënter te maken? talent.brussels lanceerde in 2022 een project om te anticiperen op de digitale, sociale en ecologische trends in de samenleving. Met de coaching van Be the Change worden de noden in competenties geanalyseerd om zich voor te bereiden op de toekomst van jobs en rollen binnen het Brussels gewest. In termen van ondersteuning is de informatie en oriëntering van de partners van talent.brussels rond de evoluties van de beroepen een essentiële stap om een innovatie open-expertise voor de openbare diensten te ontwikkelen. Het moet leiden tot opleidingsvoorstellen rond toekomstige en noodzakelijke vaardigheden in de beroepen, waaronder ook de digitale competenties. Een tweede project werd eveneens in 2022 gelanceerd door talent.brussels om het regionaal competentiewoordenboek te vervolledigen met de digitale generieke vaardigheden. Momenteel beperkt het competentiewoordenboek zich enkel tot de gedragscompetenties en waren de digitale skills nog niet geïntegreerd. Het nagestreefde resultaat van dit project is om een gemeenschappelijke taxonomie van digitale vaardigheden binnen de instellingen van het Brusselse Gewest vast te leggen om in te spelen op het toenemende belang van digitale competenties in aanwervingstesten, beroepsmobiliteiten, personeelsadministratie, opleidingsbehoeften en evaluaties. Zoals uitgelegd in punt 2 verspreidt de GOB Data Community in de GOB de goede boodschap inzake data en AI. Brussel ConnectIT is verantwoordelijk voor deze community en voor het verstrekken van correcte informatie aan de besturen over de bestaande tools en platforms, de toekomstige projecten en de reeds geïmplementeerde projecten op het gebied van data en AI. Easy.brussels is niet betrokken bij een dergelijke werkgroep. AI maakt nog geen deel uit van het opleidingsprogramma van easy. brussels. De gewestelijke AI-strategie zal een kader voorstellen om AI in het Gewest een boost te geven, met onder meer: -de aanduiding van AI-voorvechters in de besturen, -het gebruik van de AI Test- en Experimentsite, -een geheel van opleidingen. De AI-strategie zal bovendien voorstellen een nieuw principe toe te passen bij het gewestelijke architectuurorgaan (KVAB), te weten AI by design.