Lettre ouverte de 51 organisations, dont la LDH, adressée au commissaire européen Didier Reynders
Le 1er avril, une coalition de 51 organisations de défense des droits de l’Homme, des droits numériques et de la justice sociale a envoyé une lettre au commissaire européen à la justice, Didier Reynders, avant la proposition tant attendue de nouvelles lois européennes sur l’intelligence artificielle. La coalition demande au commissaire d’interdire les utilisations de la biométrie qui permettent une surveillance de masse ou d’autres utilisations dangereuses et nuisibles de l’IA.
Cher Commissaire Reynders,
cc : Vice-président exécutif Vestager
cc : Vice-président Jourová
cc : Commissaire Dalli
cc : Directeur général par intérim Saastamoinen, DG-JUST
cc : Cabinet de M. Reynders
Nous sollicitons votre soutien pour une interdiction spécifique des pratiques de surveillance biométrique de masse pour des raisons de droits fondamentaux
Nous sommes une coalition de 51 organisations de défense des droits numériques, des droits de l’homme et de la justice sociale qui travaillent pour les droits fondamentaux des personnes à travers l’Europe. Nous vous écrivons pour vous demander de soutenir notre appel en faveur d’une protection accrue des droits fondamentaux dans la prochaine loi sur l’intelligence artificielle (IA), notamment en ce qui concerne la reconnaissance faciale et d’autres formes de surveillance biométrique de masse.
La Commission européenne s’est fixé la tâche importante de tracer une voie européenne pour l’IA qui place la confiance, l’excellence et la protection des droits fondamentaux au centre de ses préoccupations. Pour atteindre cet objectif, la prochaine proposition législative sur l’IA doit prendre la mesure nécessaire pour interdire les applications de l’IA qui violent irrémédiablement les droits fondamentaux, comme les technologies d’identification biométrique à distance qui permettent une surveillance de masse intrinsèquement non démocratique.
62 organisations de la société civile ont déjà lancé un appel en faveur de l’imposition de limites réglementaires aux applications de l’intelligence artificielle qui restreignent indûment les droits de l’homme, telles que les utilisations des technologies biométriques qui permettent une surveillance de masse, et cet appel a été renforcé par une lettre de 116 députés européens. Des recherches ont montré que les pratiques de surveillance de masse biométrique portent indubitablement atteinte aux droits consacrés par la Charte des droits fondamentaux de l’Union européenne – en particulier, les droits à la vie privée, à la protection des données, à l’égalité, à la non-discrimination, à la liberté d’expression et d’association, à une application régulière de la loi et à une bonne administration, à la présomption d’innocence, aux droits sociaux, aux droits des travailleurs, à la dignité, ainsi qu’aux principes fondamentaux de la justice, de la démocratie et de l’État de droit[1].
Nous souhaitons donc attirer votre attention sur trois points importants :
La société civile demande une interdiction spécifique des pratiques de surveillance de masse biométrique intrinsèquement inutiles et disproportionnées, car les interdictions générales existantes dans le cadre européen de protection des données ne s’avèrent pas suffisantes :
◦ Le traitement des données biométriques est interdit par le règlement général sur la protection des données (RGPD). Pourtant, des exceptions, par exemple sur la base du consentement (article 9(2)(a)), sont invoquées par des acteurs publics et privés déployant des systèmes biométriques à des fins de surveillance de masse. En raison de ces utilisations abusives du consentement comme base juridique et du manque d’application qui en découle, nous sommes fermement convaincus que l’UE a besoin d’une interdiction légale spécifique qui s’appuie sur l’interdiction générale existante dans le RGPD[2].
◦ Le traitement des données biométriques à des fins répressives est limité aux « seuls cas où cela est strictement nécessaire » et proportionné et sur la base du droit de l’Union ou des États membres (directive relative à la protection des données à des fins répressives -UE – 2016/680 ), articles 10 et 10(a)). Cependant, cette exception – associée à l’application inadéquate du principe de nécessité et de proportionnalité – a conduit les entités des États membres à déployer certaines des utilisations les plus néfastes des technologies biométriques à des fins de surveillance de masse – celles des services répressifs – bien que ces utilisations soient en contradiction avec la Charte des droits fondamentaux[3].
◦ Cela signifie qu’en réalité, la surveillance biométrique de masse sévit dans toute l’UE, et que la société civile et les individus supportent la charge d’essayer de mettre fin aux utilisations nuisibles et discriminatoires des données biométriques à des fins de surveillance de masse par une combinaison d’enquêtes, de campagnes, de litiges et de plaintes auprès des autorités de protection des données (APD).
Au lieu de cela, nous demandons un instrument juridique spécifique de l’UE pour garantir que les utilisations biométriques de surveillance de masse ne soient jamais déployées en premier lieu ;
◦ Nous demandons donc l’interdiction de l’utilisation indiscriminée ou arbitrairement ciblée des applications biométriques dans les espaces publics ou accessibles au public (c’est-à-dire la surveillance biométrique de masse) sans exception, en raison du fait que les nombreux risques et préjudices impliqués rendent ces utilisations intrinsèquement inutiles et disproportionnées par rapport au but recherché. Lorsque les utilisations ne conduisent pas intrinsèquement à une atteinte indue aux droits fondamentaux, mais qu’elles limitent néanmoins ces derniers, elles doivent être strictement et manifestement nécessaires et proportionnées.
- La société civile demande des lignes rouges spécifiquement sur les utilisations et applications dangereuses de l’intelligence artificielle :
◦ Nous nous félicitons que la Commission ait choisi de se concentrer sur la manière dont les technologies de l’IA sont utilisées. Par exemple, l’utilisation de la reconnaissance faciale sans discernement ou arbitrairement ciblée dans les espaces publics est une application de l’IA qui, selon nos recherches, restreint indûment les droits fondamentaux ;
◦ Pour que l’UE devienne un leader dans une approche de confiance du développement et du déploiement de l’IA (c’est-à-dire une utilisation de l’IA conforme à la protection des droits fondamentaux), il faudra prendre des décisions sur les applications qui ont leur place dans une société attachée aux droits fondamentaux, et celles qui n’en ont pas. Alors que d’autres pays peuvent ne prêter aucune attention à la protection des droits fondamentaux dans leur quête d’innovation à tout prix, l’UE peut et doit montrer l’exemple en veillant à ce que l’IA innovante développée et déployée à l’intérieur de ses frontières le soit toujours dans le respect des droits fondamentaux ;
◦ Plus de 43 000 citoyens de l’UE ont déjà officiellement ajouté leur voix à l’appel de la société civile en faveur d’une interdiction des pratiques biométriques de surveillance de masse par le biais de la nouvelle initiative citoyenne européenne gérée par la campagne Reclaim Your Face.
Nous pensons qu’il est vital que leurs opinions, exprimées par le biais de cette puissante initiative démocratique, soient prises au sérieux dans la prochaine proposition de réglementation. Ceci est particulièrement important étant donné l’ambition affichée par la Commission dans le livre blanc sur l’IA d’un large débat public.
- L’innovation en matière d’IA en Europe peut prospérer au niveau mondial en respectant les droits fondamentaux :
◦ Avec le RGPD, l’UE a prouvé que notre avantage dans un monde numérisé peut consister à faire en sorte que l’innovation respecte toujours les droits fondamentaux des personnes, et que l’UE peut établir des normes qui protègent les droits des personnes tout en maintenant la compétitivité des marchés.
◦ Nous avons appris que, tant à l’intérieur qu’à l’extérieur de l’UE, le développement et le déploiement sans entrave des technologies biométriques ont de graves conséquences pour les droits humains des personnes et des groupes marginalisés, qui sont souvent soumis de manière disproportionnée à des déploiements discriminatoires de ces technologies tout en étant gravement sous-représentés dans le processus décisionnel de l’UE ;
◦ La surveillance biométrique de masse de la population ouïgoure par la Chine et la surveillance policière disproportionnée des communautés noires par les États-Unis au moyen d’une reconnaissance faciale intrinsèquement discriminatoire ne sont pas des modèles à suivre – et les villes américaines prennent de plus en plus de mesures pour interdire ces utilisations en conséquence. Le fait que l’UE fonde son modèle réglementaire sur la concurrence avec ces pratiques compromettrait les principes et valeurs mêmes sur lesquels l’UE est construite. Nous apprécions que la Commission européenne ait jusqu’à présent accepté le principe d’une interdiction des pratiques de surveillance de masse biométrique.
Afin de protéger davantage les droits fondamentaux en Europe, les signataires de cette lettre appellent donc à :
- Que la proposition législative sur l’intelligence artificielle inclue une interdiction explicite de l’utilisation indiscriminée ou arbitrairement ciblée des données biométriques dans les espaces publics ou accessibles au public, ce qui peut conduire à une surveillance de masse pour des raisons de droits fondamentaux ;
- Des restrictions légales ou des lignes rouges législatives sur toutes les utilisations qui contreviennent aux droits fondamentaux ;
- L’inclusion explicite des communautés marginalisées et affectées dans le développement de la législation et de la politique de l’UE en matière d’IA. Pour une législation sur l’IA véritablement centrée sur l’humain, nous réitérons qu’il doit y avoir des utilisations que l’UE n’autorise pas dans une société démocratique. Nous sommes impatients de travailler avec vous pour faire de l’interdiction de la surveillance biométrique de masse nuisible et violant les droits dans l’UE une véritable réalité.
Cordialement,
Signataires :
•Access Now, International•AlgorithmWatch, Germany•App Drivers and Couriers Union (ADCU), UK•ARTICLE 19, International•Associazione Luca Coscioni, Italy•Big Brother Watch, UK•Bits of Freedom (BoF), the Netherlands•Certi Diritti, Italy•Civil Liberties Union for Europe (Liberties), International•Chaos Computer Club (CCC), Germany•Chaos Computer Club Lëtzebuerg, Luxembourg•Defesa dos Direitos Digitais (D3), Portugal•Dataskydd.net, Sweden•Datenschutzraum e.V., Germany•defend digital me, UK•Digital Rights Ireland, Ireland•Digitalcourage, Germany•Digitale Geselleschaft, Germany•Digitale Gesellschaft CH, Switzerland•Državljan D, Slovenia•Electronic Frontier Finland (Effi), Finland •Elektroniks Forpost Norge (EFN), Norway•Electronic Privacy Information Center (EPIC), International•epicenter.works, Austria•EUMANS, International•European Center for Not-for-profit Law (ECNL), International•European Digital Rights (EDRi), International•European Digital Society (EDS), International•European Evangelical Alliance (EEA), International•European Youth Forum, International•FITUG e.V., Germany•Frënn vun der Ënn, Luxembourg•Hermes Center, Italy•Homo Digitalis, Greece•Human Rights League Slovakia, Slovakia•International Committee on the Rights of Sex Workers in Europe (ICRSE), International•IT Political Association of Denmark (IT-Pol), Denmark•Iuridicum Remedium (IuRe), Czechia•La Ligue des droits de l’Homme (LDH), France•La Quadrature du Net (LQDN), France•LOAD e.V., Germany•Panoptykon Foundation, Poland•PICUM, International•Pravno-informacijski center nevladnih organizacij (PIC), Slovenia•Privacy International, International•Privacy Network, Italy•Science for Democracy, International•Sex Workers’ Rights Advocacy Network (SWAN), International•Statewatch, UK•StraLi for Strategic Litigation, Italy•Vrijschift.org, the Netherlands
Individuals:
•Douwe Korff, Emeritus Professor of International Law•Barbora Messova, lawyer and director of Human Rights League Slovakia•Virginia Fiume, coordinator EUM
Le 1er avril 2021
[1] ‘Ban Biometric Mass Surveillance’, EDRi, May 2020: https://edri.org/wp-content/uploads/2020/05/Paper-Ban-Biometric-Mass-Surveillance.pdf
[2] Pour illustrer davantage le problème des exemptions prévues par le cadre actuel, nous citons l’exemple de l’Italie, où la société civile a réussi à contester la légalité d’une utilisation de la surveillance biométrique de masse à Côme, ce qui a conduit à sa mise hors service, avant que la même utilisation ne soit ensuite déployée à Turin.
[3] C’est le cas au Danemark, où l’État a adopté une législation nationale qui a conduit à la surveillance biométrique de masse « légale » des personnes assistant aux matchs de football.
Télécharger la lettre ouverte en anglais.
