Logo Parlement Buxellois

Schriftelijke vraag betreffende ChatGPT en de gevolgen ervan

Indiener(s)
Christophe De Beukelaer
aan
Elke Van den Brandt en Alain Maron, leden van het Verenigd College bevoegd voor Welzijn en Gezondheid (Vragen nr 679)

 
Datum ontvangst: 06/02/2023 Datum publicatie: 20/03/2023
Zittingsperiode: 19/24 Zitting: 22/23 Datum antwoord: 03/03/2023
 
Datum behandeling van het stuk Indiener(s) Referentie Blz.
09/02/2023 Ontvankelijk p.m.
 
Vraag    22 december 2022 zal de geschiedenis ingaan. Het is de komst van kunstmatige intelligentie naar het grote publiek via de lancering van ChatGpt.

Hoewel we nog in de beginfase zitten, zijn ChatGpt en Claude net geslaagd voor het Amerikaanse bar-examen, het medische examen en de MBA.

"ChatGPT zal gevolgen hebben voor iedereen die teksten produceert, inclusief code, zoals journalisten, community managers, marketing professionals, advocaten, coders, enz. Maar het kan ook worden gebruikt voor alles van gegevensverwerking, visueel ontwerp, fondsenwerving, secretariaatswerk, enzovoort.

Bureaucratische, "intellectuele" en creatieve banen zullen op hun kop worden gezet. Kunstmatige intelligentie zal voor intelligentie zijn wat de stoommachine was voor handenarbeid: een revolutie.

We hebben twee keuzes bij de komst van kunstmatige intelligentie in ons leven:

  • Ons terugtrekken in onze eigen gewoonten, alleen de grenzen en de gevaren aan de kaak stellen, proberen veranderingen af te remmen en vasthouden aan de wereld zoals we die kennen. Dit is te vaak het standpunt van de politieke wereld.

  • Het is gebaseerd op het principe dat technologie op zichzelf goed noch slecht is, maar dat alles afhangt van wat we ermee doen. Het kan een kans zijn als we vanaf het begin op deze veranderingen anticiperen en ze begeleiden. Respecteer het oude door het nieuwe te enten in plaats van energie en kostbare tijd te verspillen aan het bestrijden ervan. Anticiperen en rekening houden met deze kwesties om ervoor te zorgen dat deze veranderingen goed zijn voor onze samenleving en de mannen en vrouwen die er deel van uitmaken.

Daarom, mijnheer het lid van het verzamelde college, wil ik u de volgende vragen stellen in uw gezondheidsbevoegdheden:

  • Hebt u de impact bestudeerd die kunstmatige intelligentie (AI) zal of kan hebben op de gezondheid in Brussel? Kunt u uw bevindingen met ons delen? Hebt u een werkgroep opgericht om deze kwestie te bestuderen?

  • We kennen allemaal de overbelasting van het werk in de gezondheidszorg, welke acties onderneemt u om projecten met AI in de gezondheidszorg en de implementatie ervan bij gezondheidsactoren in onze regio te ondersteunen?

  • Heeft u ontmoetingen gehad met de bedrijven en hoofdrolspelers die op deze gebieden actief zijn? Kunt u de conclusies van deze bijeenkomsten met ons delen?

  • Welke maatregelen hebt u genomen om te anticiperen op de ethische uitdagingen en privacyproblemen die kunnen ontstaan door het toenemende gebruik van AI in de gezondheidszorg?

  • Hebt u in de administraties waarop u toezicht houdt een werkgroep opgericht om te bekijken hoe AI hun werk zal veranderen? Welke posities worden beïnvloed? Heeft u een AI-referent aangewezen? Hebt u een plan om het personeel op te leiden in deze nieuwe technologieën om deze administraties efficiënter te maken?
 
 
Antwoord    Er is vooralsnog geen werkgroep opgericht binnen de Gemeenschappelijke Gemeenschapscommissie (GGC). Op het grondgebied van het tweetalige gebied Brussel-Hoofdstad zijn vier gefedereerde entiteiten bevoegd, namelijk de Vlaamse Gemeenschap, de Franse Gemeenschap, de Franse Gemeenschapscommissie (FGC) en de GGC, alsook de federale overheid, die het meest betrokken is. Daarom verdient het de voorkeur dat dit onderwerp wordt behandeld in een werkgroep binnen de Interministeriële Conferentie Gezondheid. Er bestaat al een werkgroep ‘eHealth’. Die buigt zich over het thema artificiële intelligentie (AI) in de gezondheidszorg.

Voorts moet worden opgemerkt dat in artikel 92bis, §4septies, van de bijzondere wet van 8 augustus 1980 tot hervorming der instellingen is bepaald dat er een samenwerkingsakkoord moet worden gesloten over de samenstelling en de financiering van een instituut om overlegde antwoorden op de grote uitdagingen inzake de gezondheidszorg te waarborgen. In de parlementaire werkzaamheden is verduidelijkt dat de oprichting van dat instituut tot doel heeft om overlegde antwoorden te waarborgen op de grote, onder meer budgettaire, uitdagingen met betrekking tot de toekomst van de gezondheidszorg, waaronder de technologische ontwikkeling, door een permanente en interfederale ontmoetingsplaats te vormen voor het overleg tussen de voor gezondheid bevoegde ministers, en dat het instituut tot taak zal hebben om een gemeenschappelijke en toekomstgerichte visie en een duurzaam gezondheidsbeleid te definiëren.

Op juridisch vlak, tot slot, moet worden opgemerkt dat in de Europese wet op de artificiële intelligentie, die sinds 2021 wordt voorbereid, hoewel ze eind 2022 door de EU-lidstaten is goedgekeurd, nog een antwoord zou moeten worden opgenomen in verband met de bekommernissen over de risico's die aan ChatGPT zijn verbonden.

2.
De werkdruk is in alle sectoren van de gezondheidszorg aanwezig. Gecoördineerde actie tussen de gefedereerde entiteiten en de federale overheid is efficiënter.
De bevoegdheid ‘Geneeskunst’ en dus de plaats die AI in de diagnose zou innemen, is een federale bevoegdheid.
De ‘Belrai’-tool die momenteel door de federale overheid wordt ontwikkeld zonder alle mogelijkheden van AI in te zetten, is al een prototype van het gebruik van gezondheidsgegevens ten dienste van de patiënt. De lessen uit het gebruik ervan zouden richting kunnen geven aan de reflectie over de invoering van AI in de praktijk.
Ik heb de actoren die actief zijn op het gebied van AI niet ontmoet. In dit stadium gaat het veeleer om een economische en wetenschappelijke opportuniteit die wordt behandeld door mijn collega Barbara Trachte, staatssecretaris voor Economische Transitie en Wetenschappelijk Onderzoek.
Wat het respect voor de persoonlijke levenssfeer betreft, is het kader bepaald bij de ordonnantie van 4 april 2019 betreffende het elektronisch uitwisselingsplatform voor gezondheidsgegevens. Dat zal worden aangepast in functie van de ontwikkelingen die met name betrekking hebben op het gebruik door AI. Het beheerscomité van het ‘eHealth’-platform en de interfederale werkgroep rond e-gezondheid volgen deze kwesties op.
Het Brussels Gezondheidsnetwerk, waarvan het beheer is toevertrouwd aan de vzw Abrumet, blijft erop toezien dat het medisch geheim altijd wordt gerespecteerd (geen toegang tot persoonlijke gezondheidsgegevens buiten het kader van de continuïteit van de zorg), maar ook dat de opgezette architectuur het delen van persoonlijke gezondheidsgegevens in het kader van de continuïteit van de zorg niet schaadt. Het primaire gebruik van die gegevens is en moet de prioriteit blijven. Noodzakelijk secundair gebruik moet bij ordonnantie worden geregeld.
Wat betreft de instanties die binnen de GGC-administraties zijn opgericht, is de mogelijke impact van AI en ChatGPT besproken op het niveau van het Iriscare-management.
In eerste instantie zal rond het gebruik van ChatGPT een sensibiliseringsactie worden georganiseerd om het personeel bewust te maken van de mogelijkheden en risico's van deze tool, met name wat de risico's in verband met de gegevensbescherming betreft. Er zullen ook richtsnoeren worden uitgewerkt.
Voorts zal contact worden opgenomen met de andere Brusselse administraties om hun goede praktijken te kennen en in overleg richtsnoeren te ontwikkelen.
Voor het overige wordt er rekening mee gehouden bij de werkzaamheden van het ‘eHealth’-platform, waaraan de administraties en mijn kabinet deelnemen.

Hoewel dit niet de enige parameter is waarmee rekening moet worden gehouden, moeten wij deze evolutie van AI toch in een bredere context plaatsen, wat ons ertoe verplicht in een logica van ‘donuteconomie’ te stappen en dus niet meer hulpbronnen te verbruiken dan de aarde kan dragen, om de toekomstige generaties in staat te stellen te leven en tegelijkertijd de basis te leggen voor diensten die het welzijn van de huidige wereldburgers mogelijk maken. In dat kader moeten we onze koolstof- en minerale voetafdruk tegen 2030 met 50% verminderen. De invoering van AI in onze samenlevingen moet daarom worden afgemeten aan de menselijke en sociale voordelen die dat oplevert, minus de milieu-impact en de kosten voor de toekomstige generaties.
Om te bepalen welke plaats AI en digitale instrumenten in het algemeen moeten krijgen, moet rekening worden gehouden met zes dimensies: het (directe) gezondheidsvoordeel van de technologieën, de eerbiediging van de mensenrechten (waaronder het recht op privacy en het recht van de toekomstige generaties), de economische kosten, de milieukosten, de robuustheid en het universalisme.