|
|
Privacy - AI - Profilering - Overheidsdiensten - Cijfers en tendensen
kunstmatige intelligentie
publieke dienst
digitale cultuur
big data
eerbiediging van het privé-leven
| 26/4/2024 | Verzending vraag (Einde van de antwoordtermijn: 30/5/2024) |
| 29/5/2024 | Antwoord |
Ook gesteld aan : schriftelijke vraag 7-2299
Ook gesteld aan : schriftelijke vraag 7-2300
Ook gesteld aan : schriftelijke vraag 7-2301
Ook gesteld aan : schriftelijke vraag 7-2302
Ook gesteld aan : schriftelijke vraag 7-2303
Ook gesteld aan : schriftelijke vraag 7-2304
Ook gesteld aan : schriftelijke vraag 7-2306
Ook gesteld aan : schriftelijke vraag 7-2307
Ook gesteld aan : schriftelijke vraag 7-2308
Ook gesteld aan : schriftelijke vraag 7-2309
Ook gesteld aan : schriftelijke vraag 7-2310
Ook gesteld aan : schriftelijke vraag 7-2311
Ook gesteld aan : schriftelijke vraag 7-2312
Ook gesteld aan : schriftelijke vraag 7-2313
Ook gesteld aan : schriftelijke vraag 7-2314
Ook gesteld aan : schriftelijke vraag 7-2315
Ook gesteld aan : schriftelijke vraag 7-2316
Ook gesteld aan : schriftelijke vraag 7-2317
Ook gesteld aan : schriftelijke vraag 7-2318
Overheden over de hele wereld maken al gebruik van artificiėle intelligentie (AI) in hun dagelijkse werk.
De uitrol ervan varieert echter drastisch van land tot land, afhankelijk van een hele reeks factoren.
De Italiaanse overheid gebruikt bijvoorbeeld AI op verschillende manieren, zoals klantenservice-«chatbots» en het bestrijden van belastingontduiking. Een «chatbot» van het ministerie van Arbeid verstrekt informatie over het gegarandeerde minimuminkomen. Het gebruik van AI bij belastingfraudebestrijding, zoals met het «Anonimometro»-systeem, heeft successen geboekt door het automatiseren van analyses en pseudonieme gegevens te gebruiken. Er is echter behoefte aan voorzichtigheid, vooral bij het implementeren van AI in kwetsbare gemeenschappen. In Rome wordt AI ingezet om waterleidingen te monitoren met behulp van sensoren en «machine learning».
De toepassing van AI binnen de overheid wordt bemoeilijkt door bezuinigingen en een verouderd ambtenarenapparaat. «Chatbots» hebben beperkingen en kunnen menselijke interactie niet volledig vervangen, vooral op straatniveau waar ambtenaren aanpassingen maken op basis van individuele situaties.
Overheidsmedewerkers experimenteren individueel met generatieve «AI-tools» om efficiėnter te werken. Er zijn uitdagingen bij het gebruik van AI voor wetgevingsprocessen, waarbij aangepaste modellen mogelijk nodig zijn voor specifieke toepassingen. De Italiaanse Kamer van afgevaardigden voert experimenten uit met AI in het wetgevingsproces. De «EU's AI Act» zou lidstaten moeten aansporen AI te omarmen, maar in Italiė wordt verwacht dat de reactie beperkt zal zijn zonder substantiėle investeringen. Het publieksbewustzijn en de vraag naar AI in openbare diensten zijn er laag, wat de adoptie ervan door de overheid vertraagt .
Op 10 februari 2023 nam de Senaat het voorstel van resolutie met betrekking tot de oprichting van een algoritmetoezichthouder van de heer Daems c.s. aan (doc. Senaat, nr. 7-328/4).
Bij de regeringsvorming in Nederland in 2021 werd in de beleidsverklaring van het regeerakkoord gesteld dat het land inzet op meer digitalisering. Naast de gebruikelijke verklaringen, waarbij men onder meer belooft verder in te zetten op de digitale kloof en de veiligheid op het internet, staat ook de verklaring dat men een algoritmetoezichthouder zal aanstellen om wettelijk te regelen «dat algoritmen worden gecontroleerd op transparantie, discriminatie en willekeur».
Deze roep komt niet toevallig: de Nederlandse toeslagenaffaire liet zien dat de Belastingdienst vertrouwde op algoritmen die ze zelf amper konden begrijpen, laat staan uitleggen.
Ook in de Verenigde Staten, waar algoritmen binnen openbare instanties al veel verder verspreid zijn, bleek dat verschillende van deze diensten over onvoldoende middelen beschikten om de algoritmes te evalueren die ze zelf gebruiken.
Deze schriftelijke vraag heeft een transversaal karakter. De verschillende regeringen en schakels in de veiligheidsketen zijn het eens over de fenomenen die de komende vier jaar prioritair moeten worden aangepakt. Die staan gedefinieerd in de Kadernota Integrale Veiligheid en het Nationaal Veiligheidsplan voor de periode 2022-2025, en werden besproken tijdens een Interministeriėle Conferentie, waarop ook de politionele en justitiėle spelers aanwezig waren. Het betreft aldus een transversale aangelegenheid met de Gewesten waarbij de rol van de Gewesten vooral ligt in het preventieve luik.
Graag had ik dan ook volgende vragen voorgelegd aan de geachte minister:
1) Gebruikt men in Belgiė reeds artificiėle intelligentie of algoritmen om overheidszaken te regelen? Indien ja, op welke niveaus en kan u hierbij afzonderlijk staven omtrent hoeveel instanties het gaat? Zou u dit uit kunnen splitsen naar niveau? Welke overheidsdiensten maken hiervan gebruik, en kan u meer toelichting geven over de functie van AI-toepassingen binnen dit geheel?
Indien ja, op welke niveaus, wat zijn de huidige geraamde kosten, wat zijn de beoogde doelen en wanneer plant men concreet de implementatie?
Indien neen, plant men om dergelijke maatregelen te nemen in de toekomst? Zo ja, op welke wijze?
2) Wat is het beoogde doel van dergelijke scraping-programma's? Welke programma's worden specifiek gebruikt? Welke functies worden hiervan gebruikt? Kan u hierover meer toelichting geven?
Kan u aangeven welke data gebruikt en/of geraadpleegd worden? Zitten hier overheidsdatabanken bij? Zo ja, welke? Maakt men ook gebruik van scrapingtechnieken bij socialemediaprofielen? Zo ja, op welke wijze?
3) Gebruiken diensten zoals de fiscus of aanverwante agentschappen, AI om data te scrapen omtrent zaken als personenbelasting of vennootschapsbelasting, zo ja, op welke wijze en met welke programma's? Wat zijn de resultaten hierbij? Hoeveel data wordt er doorgaans per profiel gescraped, met welke gegevens? Gebeurt dit automatisch?
4) Wordt er gebruik gemaakt van LLM's, «chatbots» en andere door AI gestuurde toepassingen bij overheidsdiensten? Zo ja, hoeveel in totaal en zijn er specifieke toepassingen of processen waar AI wordt gebruikt om beslissingen te nemen of taken uit te voeren binnen deze diensten? Hoe lang zijn deze systemen reeds in gebruik? In hoeverre maakt men algemeen gebruik van generatieve AI?
5) Wordt door overheidsdiensten momenteel gebruik gemaakt van «webcrawling» en datascraping-technieken voor het verkrijgen van informatie? Zo ja, hoeveel in totaal en kunt u specifieke voorbeelden geven van hoe deze technologieėn worden toegepast? Welke diensten gebruiken dergelijke technieken en hoe maken ze deel uit van de algemene workflow? Zijn er specifieke procedures voor het valideren en verifiėren van deze informatie?
6) Zijn er samenwerkingen met externe partijen of technologieleveranciers voor het implementeren dergelijke technologieėn? Zo ja, hoe wordt de privacy en beveiliging van de verzamelde gegevens in dergelijke samenwerkingsverbanden gewaarborgd?
7) Welke maatregelen worden genomen om ervoor te zorgen dat AI-toepassingen binnen de overheid geen negatieve effecten hebben op kwetsbare gemeenschappen of groepen? Wordt AI momenteel gebruikt om belastingfraude en andere vormen van financieel misbruik tegen te gaan in Belgiė, zoals in Italiė? Zo ja, op welke manier en hoeveel invloed heeft de AI op de besluitvorming? Is er nog sprake van een menselijke tussenkomst? Zo neen, waarom niet?
8) Wat is de perceptie van het publiek in Belgiė ten opzichte van AI in openbare diensten, en welke inspanningen worden geleverd om het bewustzijn en begrip te vergroten? Welke strategieėn worden overwogen of geļmplementeerd om ervoor te zorgen dat de integratie van AI in de Belgische overheid ethisch en verantwoord verloopt?
1) De invoering van artificiële intelligentie (AI) op het niveau van de overheidsdiensten in België bevindt zich in de opstartfase. Alles hangt ook af van hoe AI gedefinieerd wordt. In een brede betekenis worden al lang statistische modellen gebruikt in toepassingen zoals fraudedetectie.
De recentere belangstelling voor AI, en in het bijzonder voor machinaal leren (machine learning) en diepgaand leren (deeplearning), heeft Europa ertoe gebracht om in 2018 een gecoördineerd Europees AI-plan te lanceren. Sinds 2019 heeft België, op federaal en gewestelijk niveau, plannen en initiatieven uitgewerkt waarbij de invoering van AI door de overheidsdiensten een van de ontwikkelassen is.
Een eerste kwalitatieve enquête, uitgevoerd in 2021 door de federale overheidsdienst Beleid en Ondersteuning (FOD BOSA) – AI4Belgium en de Katholieke Universiteit Leuven (KU Leuven), gaf aan dat slechts 34,7 % van de overheidsorganisaties AI gebruiken. Voor het grootste deel bevond het gebruik van AI zich in een verkennend stadium van testen, kleinschalig gebruik of gemiddeld gebruik binnen de organisatie. Slechts enkele respondenten geven aan dat AI op grotere schaal wordt gebruikt. De trend toonde onder andere een sterke interesse van het merendeel van de organisaties die in de komende jaren AI-projecten beoogden.
Het nationaal convergentieplan voor de ontwikkeling van artificiële intelligentie, gepubliceerd in 2022, heeft als doelstelling een «betere dienstverlening en een betere beveiliging aan de burgers» dankzij AI. In 2022 heeft bijna de helft van de overheidsdiensten geëxperimenteerd met AI.
Voorbeelden van de bestaande toepassingen zijn: het automatisch indexeren en het intelligent doorzoeken van documenten, het automatisch herkennen van karakters, de optimalisatie van processen, het call center-beheer, de chatbots, de e-mailclassificatie, fraudedetectie, het ontmantelen van criminele netwerken dankzij de automatische analyse van sms’en, de opsporing van incidenten, het predictief onderhoud van digitale diensten, de anonimisering van documenten, de identificatie van vacatures waar u toegang toe heeft en suggesties voor te volgen opleidingen, meerdere initiatieven van de FOD Economie, onder andere op het vlak van bescherming van consumenten, kunnen ook aangehaald worden. Onlangs heeft de #SmartNation AI Hackathon zich gebogen over verschillende uitdagingen van de overheidsdiensten (toegang tot justitie vergemakkelijken, verwerking van patiëntendossiers in ziekenhuizen optimaliseren, formuleringen van antwoorden op parlementaire vragen voorstellen).
Over het algemeen hebben het federaal niveau en de Gewesten meer geëxperimenteerd dan het lokale niveau. Merk echter op dat er enkele erg interessante initiatieven zijn rond smartcities (onder andere in Gent).
De opmars van generatieve AI-technologieën heeft het gebruik van AI veralgemeend en grote inspanningen zijn geleverd voor de sensibilisering rond deze technologieën en hun omkadering. Zeker nu de AI Act aangenomen werd binnen de Europese Unie. Er was dus een nieuwe inspanning voor de cartografie nodig.
In het kader van de implementatie van zijn AI4Belgium Observatory, heeft de FOD BOSA sinds eind 2023 samen met het Sturingscomité van het nationaal convergentieplan een nieuw overzicht van de verschillende initiatieven binnen de overheidsdiensten gelanceerd. De presentatie van deze staat van invoering van AI binnen de overheidsdiensten wordt verwacht tegen eind 2024.
2) Op dit moment werden er nog geen investeringen in scraping programma’s gedaan binnen de FOD BOSA. Dat gebeurde wel bijvoorbeeld binnen de FOD Economie. Ik verwijs hiervoor naar het antwoord van de bevoegde minister.
3) We verwijzen u voor deze vraag naar de minister van Financiën.
4) Er werden verschillende chatbots ingevoerd en de komst van grote taalmodellen opent nieuwe mogelijkheden. Er zal in het bijzonder aandacht worden besteed aan de transparantie en de noodzaak tot correctie van verstrekte informatie. In eerste instantie kan het gebruik van LLM (large language model) worden gezien in hun vermogen om automatisch teksten te interpreteren, samen te vatten en de relevante informatie terug te vinden. Het automatisch genereren van teksten of samenvattingen wordt ook verkend en vereist in alle gevallen een menselijk toezicht door een expert-ambtenaar. De laatste hand wordt gelegd aan een gedragscode voor het gebruik van generatieve AI en aan een charter voor het verantwoord gebruik van AI binnen de overheidsdiensten. Dit brengt ons bij de kwestie van besluitvorming. In geen enkel geval zal binnen de overheidsdiensten een beslissing genomen worden, die een impact zou hebben op de burger, zonder menselijk toezicht. Het gebruik van generatieve AI is nog lang niet gegeneraliseerd, hoewel velen, zowel bij de overheidsdiensten als binnen de bevolking, experimenteren in de privésfeer. Een opleiding rond deze tools is noodzakelijk.
5) Ja, deze technologieën worden gebruikt, bijvoorbeeld op het niveau van de economische inspectie: bepaalde informatie wordt geverifieerd om aldus de consumenten te beschermen.
Zo worden bepaalde ondernemingswebsites geverifieerd om te bepalen of zij alle nodige informatie weergeven. Projecten die in de richting gaan van de prijsverificatie.
6) Ja, uiteraard bestaan er binnen de overheidsdiensten talrijke samenwerkingen met ondernemingen en academische onderzoekers. In het voornoemde geval gaat het om het verzamelen van openbare gegevens. Bijgevolg ontstaan er dus geen privacy issues.
Merk op dat op het niveau van het charter voor het verantwoord gebruik van AI binnen de overheidsdiensten voorgesteld wordt om automatisch te refereren naar de ethische vereisten van de Europese Commissie in het kader van het opstellen van overeenkomsten. Dit omvat in het bijzonder de bescherming van de persoonlijke gegevens.
7) Het wettelijk kader dat de AI Act voorstelt, voorziet in dit soort vraag. De waarden die worden gepromoot in het nationaal convergentieplan voor de ontwikkeling van AI onderstrepen het belang van de ethische vereisten inzake transparantie, non-discriminatie, identificatie en verwijdering van vooroordelen.
Meerdere initiatieven van mijn diensten benadrukken dat (naast diegene die al eerder werden genoemd): de AI Ethics Assessment Tool (https://altai.ai4belgium.be/) of de «massive online course» die geïmplementeerd werd met de Raad van Europa, de FOD BOSA – AI4Belgium, de FOD Justitie en het Gelijkekansencentrum (UNIA).
AI-technieken zoals hierboven aangehaald worden gebruikt voor fraudedetectie. Ik stel voor dat u zich richt tot mijn collega, de minister van Financiën, hierover. Merk op dat het principe van menselijk toezicht steeds van toepassing is voor elke beslissing.
8) Een studie die in 2019 werd uitgevoerd door de FOD Economie, toont aan dat 72 % van de burgers akkoord gaan met de verklaring dat «artificiële intelligentie kan bijdragen aan het verbeteren van de maatschappij». De verwachtingen in specifieke sectoren, zoals de medische sector, halen 94 % positieve meningen. Het is ook duidelijk dat er angsten geuit worden, met name over de toekomst van de arbeidsmarkt. Vandaar de convergentie van strategieën die het essentiële belang van levenslang leren naar voor schuiven, met name digitaal leren en de strijd tegen de digitale kloof.
Verschillende initiatieven worden uitgewerkt voor de sensibilisering en het begrip van de burgers, door middel van initiatieven zoals AMAI in Vlaanderen (gemaakt door het Data & Maatschappij Kennis Centrum); burgerbevragingen uitgewerkt door FARI (AI for the Common Good Institute) in Brussel; of initiatieven via de media gepromoot door het Agence du numérique in het kader van zijn strategie DigitalWallonia4.ai. Er zijn ook cursussen rond AI toegankelijk via initiatieven zoals www.elementsofai.be, de Vlaamse AI Academy of cursussen in samenwerking met Agoria bedoeld voor ondernemers. Ook worden veel verschillende seminaries georganiseerd door het ecosysteem en de coalitie AI4Belgium, geleid door BOSA, om zowel AI als zijn uitdagingen op maatschappelijk vlak te verklaren.
Er werd een nieuwe burgerbevraging uitgevoerd in het kader van het Belgisch voorzitterschap van de Europese Unie. De resultaten van die bevraging werden op 25 mei 2024 voorgesteld.
Binnen de overheid brengen de implementatie van het aangepaste charter en de gedragscode, tools zoals de AI Ethics Assessment Tool en opleidingen de ambtenaren ertoe om alle ethische dimensies van het ontwerp en het gebruik van een AI-tool te integreren. Tot slot geef ik mee dat er een raadgevend comité werd opgericht voor de ethiek van de gegevens en de artificiële intelligentie voor de federale overheid, samengesteld uit erkende experten.