SÉNAT DE BELGIQUE BELGISCHE SENAAT
________________
Session 2020-2021 Zitting 2020-2021
________________
9 novembre 2020 9 november 2020
________________
Question écrite n° 7-771 Schriftelijke vraag nr. 7-771

de Stephanie D'Hose (Open Vld)

van Stephanie D'Hose (Open Vld)

au vice-premier ministre et ministre de la Justice, chargé de la Mer du Nord

aan de vice-eersteminister en minister van Justitie, belast met Noordzee
________________
Clearview AI - Vie privée - Soupçons d'utilisation par des personnes qui travaillent pour des services publics Clearview AI - Privacy - Vermeend gebruik door personen die werken voor de overheid en overheidsdiensten 
________________
intelligence artificielle
traitement des données
police
Autorité de protection des données
logiciel
kunstmatige intelligentie
gegevensverwerking
politie
Gegevensbeschermingsautoriteit
computerprogramma
________ ________
9/11/2020 Verzending vraag
(Einde van de antwoordtermijn: 10/12/2020 )
17/12/2020 Antwoord
9/11/2020 Verzending vraag
(Einde van de antwoordtermijn: 10/12/2020 )
17/12/2020 Antwoord
________ ________
Réintroduction de : question écrite 7-399 Réintroduction de : question écrite 7-399
________ ________
Question n° 7-771 du 9 novembre 2020 : (Question posée en néerlandais) Vraag nr. 7-771 d.d. 9 november 2020 : (Vraag gesteld in het Nederlands)

Des services de police et des instances officielles, mais aussi des entreprises d'au moins vingt-six pays, ont fait usage des logiciels de reconnaissance faciale controversés de la firme américaine Clearview AI, à en croire le site d'information Buzzfeed, chez lequel un vent favorable a fait parvenir une liste des utilisateurs du logiciel.

Des utilisateurs belges figurent également sur la liste.

La firme américaine Clearview AI propose un logiciel qui compare des images, prises par exemple par des caméras de sécurité, avec des photos qu'elle a stockées dans une énorme base de données. Ce ne sont pas moins de trois milliards de photos que la firme a récoltées sur internet, entre autres sur des réseaux sociaux comme Facebook, LinkedIn, Twitter et Google; elle leur a appliqué la reconnaissance faciale.

Clearview AI vend ces données, d'abord aux services de police, mais d'autres services publics et entreprises peuvent devenir clients. Grâce à la fuite d'une liste des clients, Buzzfeed nous apprend que des corps de police et/ou des services publics de notre pays pourraient déjà avoir testé ce logiciel.

En ce qui concerne le caractère transversal de la présente question: les différents gouvernements et maillons de la chaîne de sécurité se sont accordés sur les phénomènes qui devront être traités en priorité au cours des quatre prochaines années. Ceux-ci sont définis dans la note-cadre de sécurité intégrale et dans le plan national de sécurité 2016-2019 et ont été discutés lors d'une conférence interministérielle à laquelle les acteurs de la police et de la justice ont également participé. Il s'agit donc d'une matière transversale qui relève également des Régions, le rôle de ces dernières se situant surtout dans le domaine de la prévention.

Je souhaiterais dès lors poser les questions suivantes:

1) Êtes-vous au courant de la divulgation de la liste des clients de la firme américaine Clearview AI, d'où il ressort que des services publics belges ont fait usage de ce logiciel controversé de reconnaissance faciale?

2) Estimez-vous l'utilisation de cette technologie souhaitable dans un État de droit démocratique, et dans notre pays en particulier? Pouvez-vous donner des explications détaillées à ce sujet?

3) Êtes-vous prêt à diligenter une enquête pour savoir quels agents de l'autorité ou quels services publics, y compris les services de sécurité, ont utilisé le logiciel de reconnaissance faciale de Clearview AI? Dans la négative, pour quelles raisons ? Dans l'affirmative, pouvez-vous préciser la teneur et le calendrier de cette enquête?

4) Êtes-vous prêt à transmettre ces allégations à l'Autorité de protection des données? Dans l'affirmative, pouvez-vous préciser comment et quand? Dans la négative, pourquoi pas?

5) À la lumière des divers articles de presse indiquant ces pratiques comme piste possible (cf. https://www.vrt.be/vrtnws/nl/2020/02/28/clearview/), êtes-vous prêt à saisir le Comité P et / ou le Comité R et à leur demander de déterminer quels services de police locale y auraient recouru? Dans l'affirmative, pouvez-vous détailler votre réponse? Dans la négative, pourquoi pas?

6) Aujourd'hui, quelles organisations publiques et/ou semi-publiques font-elles appel aux logiciels de reconnaissance faciale? Pouvez-vous en dresser la liste et préciser dans quel but elles utilisent ces logiciels ? L'Autorité de protection des données a-t-elle été avisée? Pouvez-vous préciser?

7) L'utilisation des logiciels de reconnaissance faciale est-elle conforme au Règlement général sur la protection des données (RGPD)? Quels droits humains met-elle en cause? Pouvez-vous donner des explications détaillées à ce sujet?

 

Politiediensten, overheidsinstanties maar ook bedrijven uit zeker zesentwintig landen hebben gebruik gemaakt van de omstreden gezichtsherkenningssoftware van het Amerikaanse bedrijf Clearview AI. Dat meldt nieuwswebsite Buzzfeed op basis van een gelekte gebruikerslijst van de software.

In die lijst staan ook Belgische gebruikers.

Het Amerikaanse bedrijf Clearview AI biedt software aan om gezichten op camerabeelden van bijvoorbeeld beveiligingscamera's te vergelijken met foto's die het bedrijf in een gigantische database heeft gestopt. Het bedrijf heeft maar liefst drie miljard foto's illegaal van het internet gehaald, onder andere van sociale netwerken zoals Facebook, LinkedIn, Twitter en Google, en heeft daar gezichtsherkenning op toegepast.

Clearview AI verkoopt die gegevens dus, in de eerste plaats aan politiediensten, maar ook andere overheidsdiensten en bedrijven kunnen klant worden. Uit een gelekte klantenlijst die Buzzfeed kon inkijken, blijkt dat ook politiekorpsen en/of overheidsdiensten uit ons land de dienst mogelijk al getest hebben.

Wat het transversaal karakter van de vraag betreft: de verschillende regeringen en schakels in de veiligheidsketen zijn het eens over de fenomenen die de komende vier jaar prioritair moeten worden aangepakt. Die staan gedefinieerd in de kadernota Integrale Veiligheid en het Nationaal Veiligheidsplan voor de periode 2016-2019, en werden besproken tijdens een Interministeriële Conferentie, waarop ook de politionele en justitiële spelers aanwezig waren. Het betreft dus een transversale aangelegenheid met de Gewesten waarbij de rol van de Gewesten vooral ligt in het preventieve luik.

Ik had hieromtrent dan ook volgende vragen:

1) Kent u de berichtgeving over de gelekte klantenlijst van het Amerikaanse bedrijf Clearview AI waaruit blijkt dat Belgische overheidsdiensten gebruik hebben gemaakt van omstreden gezichtsherkenningssoftware?

2) Vindt u het gebruik van deze technologie wenselijk in een democratische rechtsstaat en in ons land in het bijzonder? Kan u dit uitvoerig toelichten?

3) Bent u bereid te laten onderzoeken welke personen binnen de overheid of welke overheidsdiensten, inclusief de veiligheidsdiensten gebruik hebben gemaakt van de gezichtsherkenningssoftware van Clearview? Zo neen, waarom niet? Zo ja, kan u dit toelichten met betrekking tot de inhoud en de timing?

4) Bent u bereid deze aantijgingen voor te leggen aan de Gegevensbeschermingsautoriteit? Zo ja, kan u dit toelichten met betrekking tot de inhoud en de timing? Zo neen, waarom niet?

5) Bent u bereid het Comité P en / of het Comité I in te schakelen om na te laten gaan welke lokale politiediensten hiervan gebruik zouden gemaakt hebben en dit gezien dit in diverse persartikels naar voor werd geschoven als mogelijke piste (cf. https://www.vrt.be/vrtnws/nl/2020/02/28/clearview/)? Zo ja, kan u dit toelichten? Zo, neen, waarom niet?

6) Welke publieke en / of semipublieke organisaties maken vandaag gebruik van gezichtsherkenningssoftware? Kan u deze diensten oplijsten en meedelen waarvoor deze dienen? Werd dit aangemeld aan de Gegevensbeschermingsautoriteit? Kan u dit toelichten?

7) Is het toepassen van gezichtsherkenningssoftware conform de algemene verordening gegevensbescherming (AVG)? Welke mensenrechten komen hiermee in het geding? Kan u dit uitvoerig toelichten?

 
Réponse reçue le 17 décembre 2020 : Antwoord ontvangen op 17 december 2020 :

1) & 2) Je suis en effet au courant de la divulgation relative à Clearview AI. La reconnaissance faciale est une technologie relativement nouvelle qui suscite des questions par rapport à la protection des données.

La Commission européenne a publié un document, le White Paper on Artificial Intelligence, qui traite notamment de la reconnaissance faciale.

Dans ce document, la Commission reconnaît les risques que comportent de telles technologies vis-à-vis de certains droits fondamentaux tels que la liberté d’expression, la liberté d’association, la non-discrimination, le respect de la vie privée et le droit à la protection des données. Le document indique que la Commission européenne lancera un vaste débat de société.

Je partage profondément l’inquiétude selon laquelle ce type de technologie peut constituer un risque important pour la protection de la vie privée. Dès lors, un débat sur cette question ne semble effectivement indispensable.

3) à 5) Afin de déterminer quel service est compétent pour examiner cette question, nous devons considérer les compétences des différentes autorités de contrôle indépendantes. L’Autorité de protection des données a un pouvoir de contrôle général, alors que l’Organe de contrôle de l’information policière (ci-après: COC) dispose d’un pouvoir de contrôle spécifique pour la police et le Comité R, pour les services de renseignement.

L’autorité désignée pour enquêter afin de savoir si les services de police ont utilisé cette technologie n’est pas le Comité P, mais le COC. Le COC a entre-temps fait savoir qu’il a ouvert une enquête sur les allégations éventuelles concernant les services de police belges ou des agents de police individuels belges et qu’il a commencé à consulter la police belge sur l’utilisation de Clearview.

Enfin, selon le COC, la police n’utilise pas pour l’instant de caméra avec reconnaissance faciale. Il n’y a qu’un seul cas connu où le COC a stoppé le recours à la reconnaissance faciale par la police fédérale à l’aéroport de Zaventem.

Les services de renseignement ont déjà indiqué ne pas avoir fait usage de ce logiciel.

6) L’Autorité de protection des données ne dispose pas d’une liste d’organisations qui recourent à ce logiciel. Elle n’a pas non plus reçu de plaintes ou de demandes de médiation en matière de reconnaissance faciale.

7) Le règlement général sur la protection des données (RGPD) ne prévoit pas d’interdiction des logiciels de reconnaissance faciale en tant que tels.

On y trouve toutefois une interdiction de principe en ce qui concerne le traitement de données biométriques à la seule fin d’identifier une personne. L’article 9.2. du RGPD donne une énumération limitative des exceptions à cette interdiction (par exemple lorsqu’une personne concernée donne son consentement explicite). L’autorisation du logiciel de reconnaissance faciale dépend donc en premier lieu du fait qu’il soit ou non utilisé dans un contexte dans lequel le motif d’exception à l’interdiction de principe du traitement de données biométriques peut être invoqué.

Dans l’hypothèse où il existe un motif d’exception, tous les autres principes du RGPD – comme le principe de proportionnalité de la méthode par rapport à la finalité – doivent en outre être respectés.

1) & 2) Ik ben inderdaad op de hoogte van de berichtgeving omtrent Clearview AI. Gezichtsherkenning is een relatief nieuwe technologie die vragen oproept met betrekking tot gegevensbescherming.

De Europese Commissie heeft een document gepubliceerd, de White Paper on Artificial Intelligence, dat onder meer betrekking heeft op gezichtsherkenning.

In dit document erkent de Commissie de risico’s van dergelijke technologieën voor bepaalde fundamentele rechten zoals de vrijheid van meningsuiting, de vrijheid van vereniging, het discriminatieverbod, het recht op een privéleven en het recht op gegevensbescherming. Het document stelt dat de Europese Commissie op een breed maatschappelijk debat zal aansturen.

Ik deel ten zeerste de bekommernis dat dit soort technologie een groot risico kan vormen voor de bescherming van de persoonlijke levenssfeer. Een debat over deze kwestie lijkt mij dan ook inderdaad noodzakelijk.

3) tot 5) Om te bepalen welke dienst bevoegd is om dit te onderzoeken, moeten we kijken naar de bevoegdheden van de verschillende onafhankelijke toezichthoudende autoriteiten. De Gegevensbeschermingsautoriteit heeft een algemene controlebevoegdheid, terwijl het Controleorgaan op de politionele informatie (hierna: COC) over een specifieke controlebevoegdheid beschikt voor de politie en het Comité I voor de inlichtingendiensten.

Niet het Comité P maar wel het COC is de aangewezen autoriteit om te onderzoeken of politiediensten gebruik hebben gemaakt van deze technologie. Het COC heeft inmiddels laten weten dat het een onderzoek is gestart over de mogelijke aantijgingen ten aanzien van de Belgische politiediensten of individuele Belgische politieambtenaren, alsook met een bevraging van de Belgische politie rond het gebruik van Clearview.

Volgens het COC gebruikt de politie voorlopig tenslotte geen camera’s met gezichtsherkenning. Er is slechts één geval bekend waarin het COC het gebruik van gezichtsherkenning door de federale politie op de luchthaven van Zaventem heeft stopgezet.

De inlichtingendiensten hebben eerder al aangegeven geen gebruik van deze software gemaakt te hebben.

6) De Gegevensbeschermingsautoriteit beschikt niet over een lijst van organisaties die gebruikmaken van deze software. Zij ontving ook geen klachten of bemiddelingsverzoeken met betrekking tot gezichtsherkenning.

7) De algemene verordening gegevensbescherming (AVG) voorziet niet in een verbod op gezichtsherkenningssoftware als zodanig.

Er rust wel een principieel verbod op de verwerking van biometrische gegevens met het oog op de unieke identificatie van een persoon. Artikel 9.2. van de AVG geeft een limitatieve opsomming van de uitzonderingen op dit verbod (bijvoorbeeld wanneer een betrokkene zijn uitdrukkelijke toestemming geeft). Of gezichtsherkenningssoftware is toegelaten, hangt dus in de eerste plaats af van het feit of deze gebruikt wordt in een context waarin een beroep kan gedaan worden op een uitzonderingsgrond op het principieel verwerkingsverbod van biometrische gegevens.

Gesteld dat er een uitzonderingsgrond voorhanden is, moeten bovendien alle andere principes uit de AVG – zoals het principe van de proportionaliteit van de methode ten aanzien van het doeleinde – gerespecteerd worden.