{"id":7462,"date":"2021-06-28T15:52:27","date_gmt":"2021-06-28T15:52:27","guid":{"rendered":"https:\/\/www.greens-efa.eu\/dossier\/?p=7462"},"modified":"2021-09-23T10:22:54","modified_gmt":"2021-09-23T10:22:54","slug":"renforcer-les-droits-pas-le-racisme","status":"publish","type":"post","link":"https:\/\/www.greens-efa.eu\/dossier\/renforcer-les-droits-pas-le-racisme\/","title":{"rendered":"Renforcer les droits, pas le racisme : Pourquoi nous devons combattre la surveillance biom\u00e9trique de masse"},"content":{"rendered":"
\n

Read this article in English<\/a><\/em><\/p>\n<\/div><\/div>\n\n

<\/div>\n\n
\n

Conversation entre Gwendoline Delbos-Corfield<\/a><\/strong> , eurod\u00e9put\u00e9e Verts\/ALE et Laurence Meyer <\/strong>(Fonds pour la libert\u00e9 num\u00e9rique)<\/em>
<\/p>\n<\/div><\/div>\n\n

\n
\n<\/div><\/div>\n\n
\n

Qu’est-ce que la surveillance biom\u00e9trique de masse ?<\/em><\/h4>\n<\/div><\/div>\n\n
\n

La surveillance biom\u00e9trique de masse consiste \u00e0 surveiller, suivre et traiter de quelque mani\u00e8re que ce soit les donn\u00e9es biom\u00e9triques d’individus ou de groupes, de mani\u00e8re aveugle ou arbitrairement cibl\u00e9e. Les donn\u00e9es biom\u00e9triques comprennent des donn\u00e9es tr\u00e8s sensibles concernant notre corps ou notre comportement. Lorsqu’il est utilis\u00e9 pour scanner tout le monde dans les espaces publics ou accessibles au public (une forme de surveillance de masse), le traitement biom\u00e9trique viole un large \u00e9ventail de droits fondamentaux.<\/em>
<\/p>\n<\/div><\/div>\n\n

\n
\"\"
Mass surveillance \/ \u00a9tobias-tullius on unsplash\n\n<\/figcaption><\/figure><\/div>\n<\/div><\/div>\n\n
\n

Gwendoline Delbos-Corfield: <\/strong>Merci de me rejoindre aujourd’hui dans le cadre de la campagne des Verts\/ALE visant \u00e0 interdire la surveillance biom\u00e9trique de masse dans les espaces publics. La surveillance biom\u00e9trique de masse progresse rapidement et nous savons qu’elle constitue une menace pour nos droits fondamentaux. Nous avons r\u00e9cemment eu une grande discussion suite \u00e0 la projection en ligne du documentaire Coded Bias<\/a>, au cours de laquelle nous nous sommes concentr\u00e9s sur les risques et les d\u00e9fis de la surveillance de masse et de la transparence algorithmique. Je suis heureuse que nous puissions poursuivre cette conversation aujourd’hui, et nous concentrer sur un sujet dont nous ne parlons pas assez – comment ces technologies de surveillance peuvent \u00eatre discriminatoires. <\/p>\n<\/div><\/div>\n\n

\n

En tant que responsable de la justice sociale et raciale au Digital Freedom Fund<\/a>, pouvez-vous nous en dire un peu plus sur la fa\u00e7on dont l’utilisation des technologies de surveillance de masse biom\u00e9trique peut \u00eatre discriminatoire ? <\/p>\n<\/div><\/div>\n\n

<\/div>\n\n
\n

Laurence Meyer:<\/strong> Merci de m’avoir invit\u00e9e \u00e0 cette importante discussion ! Pour r\u00e9pondre \u00e0 votre question, nous devons tout d’abord reconna\u00eetre que tous les syst\u00e8mes de surveillance ont un impact discriminatoire dans les soci\u00e9t\u00e9s o\u00f9 il existe un racisme, un h\u00e9t\u00e9ro-sexisme, un cisgenre, un capacitisme (discrimination envers les personnes vivant un handicap), un classisme, etc. syst\u00e9miques. <\/em><\/p>\n<\/div><\/div>\n\n

\n

De multiples \u00e9tudes<\/a> ont montr\u00e9 que la discrimination syst\u00e9mique\nest bien r\u00e9elle en Europe.<\/p>\n<\/div><\/div>\n\n

\n

Ce que nous voulons dire lorsque nous parlons de discrimination syst\u00e9mique, c’est que certaines personnes subissent un impact n\u00e9gatif (et d’autres un impact positif) dans leur vie quotidienne. Cela est d\u00fb \u00e0 la fa\u00e7on dont elles sont cat\u00e9goris\u00e9es par certains attributs. Cela ne se produit pas seulement \u00e0 un niveau interpersonnel – insultes homophobes par exemple – mais aussi \u00e0 un niveau macro\u00e9conomique – lors de la recherche d’un logement, d’un emploi, dans l’enseignement, lors du passage de fronti\u00e8res, lors de contacts avec la police, etc. Concr\u00e8tement, cela signifie que la fa\u00e7on dont je suis identifi\u00e9, selon certains crit\u00e8res (la pigmentation de la peau, ma fa\u00e7on de marcher, le maquillage que je porte ou non, la forme de mon nez ou la largeur de mes \u00e9paules…) a des cons\u00e9quences directes sur mon acc\u00e8s aux ressources.  <\/em><\/p>\n<\/div><\/div>\n\n

\n

Dans le cas des syst\u00e8mes occidentaux de reconnaissance faciale, il a \u00e9t\u00e9 largement d\u00e9montr\u00e9 que les crit\u00e8res utilis\u00e9s pour diff\u00e9rencier et classer les personnes (cette personne est-elle un homme, une femme, une femme blanche, une femme noire, etc.) a conduit \u00e0 une mauvaise identification des personnes qui ne sont pas des hommes cis blancs. De cette fa\u00e7on, cela a conduit \u00e0 une mauvaise identification des femmes noires \u00e0 la peau fonc\u00e9e et des personnes non binaires \u00e0 la peau fonc\u00e9e, dans certains cas les identifiant m\u00eame comme un singe. Nous pouvons voir ici que ce n’est pas tr\u00e8s \u00e9loign\u00e9 des tropes historiques qui ont aliment\u00e9 l’imagerie raciste.<\/em><\/p>\n<\/div><\/div>\n\n

\n

Cela a des cons\u00e9quences tr\u00e8s probl\u00e9matiques lorsque nous utilisons ces m\u00eames syst\u00e8mes dans les syst\u00e8mes \u00e9ducatifs, aux fronti\u00e8res, par les forces de l’ordre, et plus g\u00e9n\u00e9ralement dans tous les domaines o\u00f9 les probl\u00e8mes caus\u00e9s par la discrimination syst\u00e9mique sont document\u00e9s depuis longtemps. L’utilisation de ces syst\u00e8mes peut conduire \u00e0 des arrestations injustifi\u00e9es, par exemple.<\/em>
<\/p>\n<\/div><\/div>\n\n

\n\t\t\t\t\t
\n\t\t\t\t\t\t
<\/div>\n\t\t\t\t\t\t
\u00c0 quoi sert la surveillance biom\u00e9trique de masse et qui l’utilise ?<\/u><\/div><\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\n
<\/div>\n\n
\n

L’autre probl\u00e8me r\u00e9side dans les crit\u00e8res utilis\u00e9s pour identifier les personnes dans les cas de surveillance de masse, par exemple lorsque les agents des forces de l’ordre utilisent la technologie de reconnaissance faciale pour rechercher dans un espace public des personnes susceptibles de correspondre \u00e0 leur liste de surveillance. M\u00eame si les personnes ne sont pas mal identifi\u00e9es, la discrimination est toujours susceptible de se produire en raison du contenu de la liste de surveillance. On se souvient de la Gang Matrix, une base de donn\u00e9es d\u00e9velopp\u00e9e par la police londonienne, sur laquelle se sont retrouv\u00e9s de nombreux jeunes hommes noirs, sans jamais avoir \u00e9t\u00e9 accus\u00e9s d’un crime, et parfois m\u00eame en ayant \u00e9t\u00e9 eux-m\u00eames victimes. Si cette base de donn\u00e9es \u00e9tait utilis\u00e9e en conjonction avec un syst\u00e8me de reconnaissance faciale, elle conduirait \u00e0 une surveillance \u00e9troite de nombreux innocents, voire \u00e0 des arrestations injustifi\u00e9es fond\u00e9es uniquement sur des crit\u00e8res raciaux. <\/em><\/p>\n<\/div><\/div>\n\n

\n

C’est ce que nous voulons dire lorsque nous parlons de la sur-police et de la sur-surveillance d’organisations radicalis\u00e9es.<\/em><\/p>\n<\/div><\/div>\n\n

\n

Enfin, comme les syst\u00e8mes de reconnaissance faciale partent du principe que notre apparence vous dit tout ce que vous devez savoir sur une personne, ils renforcent la fa\u00e7on, probl\u00e9matique, dont nous sommes cat\u00e9goris\u00e9s. Si l’on consid\u00e8re que l’\u00e9limination des diff\u00e9rentes formes d’oppression consiste en fait \u00e0 s’assurer que notre apparence ne joue aucun r\u00f4le dans notre acc\u00e8s aux ressources, le d\u00e9veloppement de ces technologies est donc un grand pas dans la mauvaise direction.
<\/em><\/p>\n<\/div><\/div>\n\n

<\/div>\n\n
\n

Gwendoline Delbos-Corfield:<\/strong> “Vous l’avez d\u00e9j\u00e0 mentionn\u00e9, mais je veux revenir sur ce point important. Nous savons que ces syst\u00e8mes ont des taux d’inexactitude plus \u00e9lev\u00e9s sur des groupes plus sous-repr\u00e9sent\u00e9s comme les femmes, les personnes \u00e0 la peau plus fonc\u00e9e et d’autres groupes marginalis\u00e9s. En fait, une \u00e9tude r\u00e9cente a montr\u00e9 que les programmes commerciaux d’analyse faciale enregistraient des taux d’erreur de plus de 34 % pour les femmes \u00e0 la peau fonc\u00e9e, contre moins de 0,8 % pour les hommes \u00e0 la peau claire, lorsqu’ils tentaient de d\u00e9terminer le sexe. <\/em><\/p>\n<\/div><\/div>\n\n

\n

Pouvez-vous nous en dire un peu plus sur les raisons pour lesquelles les technologies de reconnaissance faciale pr\u00e9sentent des taux d’erreur nettement plus \u00e9lev\u00e9s pour certains groupes de personnes ?  <\/em><\/p>\n<\/div><\/div>\n\n

<\/div>\n\n
\n

Laurence Meyer:<\/strong>“\ufeff\u00c0 mon avis, il y a une r\u00e9ponse courte et une r\u00e9ponse longue \u00e0 cette question. Tout d’abord, je dirais que les taux d’erreur sont plus \u00e9lev\u00e9s pour les femmes blanches, les personnes blanches de sexe diff\u00e9rent, les hommes de couleur, les femmes de couleur et les personnes de couleur de sexe diff\u00e9rent. Une explication plus longue, mais qu’il est important de mentionner, est que tous ces groupes de personnes ne sont pas identifi\u00e9s \u00e0 la m\u00eame fr\u00e9quence<\/em>.<\/p>\n<\/div><\/div>\n\n

\n

La r\u00e9ponse courte est ce que les informaticiens appellent “garbage in, garbage out”.  Et parce que les syst\u00e8mes de reconnaissance faciale sont form\u00e9s principalement sur des hommes blancs cis et con\u00e7us par les m\u00eames d\u00e9mographes, ils sont mieux \u00e0 m\u00eame de reconna\u00eetre ces caract\u00e9ristiques.<\/em><\/p>\n<\/div><\/div>\n\n

\n

La r\u00e9ponse plus longue est que cela reproduit la fa\u00e7on dont les cr\u00e9ateurs comprennent la diff\u00e9rence entre les hommes et les femmes. Si l’on pense, consciemment ou non, qu’un homme est un homme ou qu’une femme est une femme en raison d’attributs corporels sp\u00e9cifiques, par exemple la largeur de leurs \u00e9paules, leur taille, la forme de leur visage, la couleur de leur peau, cela tend \u00e0 exclure beaucoup de gens. Si cette information est introduite dans l’algorithme qui est ensuite utilis\u00e9 par les syst\u00e8mes de reconnaissance faciale, elle amplifie l’exclusion. Ils reproduisent des syst\u00e8mes d’exclusion qui sont ant\u00e9rieurs \u00e0 ces technologies. <\/em><\/p>\n<\/div><\/div>\n\n

\n

Cela me fait penser au <\/em>texte<\/em><\/a> de Sojourner Truth “Ain’t I a woman too” et \u00e0 l’exclusion historique des femmes de couleur – et plus particuli\u00e8rement des femmes noires – de la f\u00e9minit\u00e9, en raison de leurs caract\u00e9ristiques corporelles. On pense aussi \u00e0 la d\u00e9shumanisation historique des personnes handicap\u00e9es. Nous devons nous rappeler que pour de tr\u00e8s nombreuses personnes, \u00eatre humain n’a pas grand-chose \u00e0 voir avec le fait d’\u00eatre un homme ou une femme, et qu’\u00eatre un homme ou une femme n’a pas n\u00e9cessairement grand-chose \u00e0 voir avec les caract\u00e9ristiques physiques. Par cons\u00e9quent, cette question des taux d’erreur plus \u00e9lev\u00e9s concernant certaines cat\u00e9gories de personnes touche \u00e0 quelque chose de beaucoup plus profond qu’une simple question de partialit\u00e9. \u00c0 mon avis, il s’agit de la question de savoir qui est digne d’attention, d’identification et qui est digne d’\u00eatre vu. Nous pouvons \u00e9tablir un parall\u00e8le avec les portraits que nous voyons dans la plupart des mus\u00e9es europ\u00e9ens… et les portraits que nous ne voyons pas. <\/em><\/p>\n<\/div><\/div>\n\n

\n

Certains visages sont repr\u00e9sent\u00e9s de mani\u00e8re \u00e9crasante, tandis que d’autres sont \u00e0 peine visibles.<\/em><\/p>\n<\/div><\/div>\n\n

\n

Cela pose la question suivante : qui peut d\u00e9cider de la technologie qui nous est utile \u00e0 tous ? Et comment pourrions-nous faire mieux ?<\/em><\/p>\n<\/div><\/div>\n\n

\n

Les questions technologiques ne peuvent pas, et ne doivent pas, \u00eatre d\u00e9connect\u00e9es du tableau soci\u00e9tal plus large – elles n’apparaissent pas ex nihilo mais sont le produit d’une certaine vision du monde.<\/em><\/p>\n<\/div><\/div>\n\n

<\/div>\n\n
\n

Gwendoline Delbos-Corfield:<\/strong> “Je suis tout \u00e0 fait d’accord avec cela. Nous avons tendance \u00e0 penser que la technologie est d\u00e9connect\u00e9e de nos soci\u00e9t\u00e9s, mais la r\u00e9alit\u00e9 est que les deux sont interconnect\u00e9es. L’une de mes plus grandes inqui\u00e9tudes est que les citoyen\u00b7ne\u00b7s vivant dans des pays dont le bilan en mati\u00e8re de droits fondamentaux et d’\u00c9tat de droit est discutable puissent d\u00e9sormais voir leur gouvernement utiliser ces technologies pour restreindre davantage leurs droits. <\/em><\/p>\n<\/div><\/div>\n\n

\n

En Hongrie, le gouvernement continue de restreindre la vie des personnes LGBTIQ+ – si ces technologies biom\u00e9triques tombent entre de mauvaises mains, les gouvernements autocratiques pourront surveiller et contr\u00f4ler la vie des opposant\u00b7e\u00b7s politiques et des groupes marginalis\u00e9s dans une mesure encore plus grande. En Serbie, un pays que Freedom House ne consid\u00e8re que comme “partiellement libre”, il semble que le gouvernement ait d\u00e9j\u00e0 commenc\u00e9 \u00e0 d\u00e9ployer des cam\u00e9ras \u00e0 haute r\u00e9solution, \u00e9quip\u00e9es de la technologie de reconnaissance faciale dans la ville de Belgrade. Si l’on n’y prend garde, Belgrade pourrait devenir la premi\u00e8re ville europ\u00e9enne \u00e0 \u00eatre totalement couverte par cette technologie de surveillance biom\u00e9trique – et ce, aux portes m\u00eames de l’Union europ\u00e9enne.<\/em><\/p>\n<\/div><\/div>\n\n

\n\t\t\t\t\t
\n\t\t\t\t\t\t
<\/div>\n\t\t\t\t\t\t
La surveillance biom\u00e9trique de masse est-elle vraiment un probl\u00e8me en Europe ?<\/u><\/div><\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\n
\n

Pourtant, nombreux\u00b7ses sont celles et ceux qui se demandent encore si la surveillance biom\u00e9trique de masse est vraiment un probl\u00e8me ici en Europe. J’entends souvent dire que la surveillance de masse est consid\u00e9r\u00e9e comme un probl\u00e8me am\u00e9ricain ou chinois. Aux \u00c9tats-Unis, il y a des arrestations injustifi\u00e9es bien document\u00e9es, comme le cas de Nijeer Parks dans le New Jersey, et en Chine, il y a une utilisation g\u00e9n\u00e9ralis\u00e9e de la surveillance gouvernementale dans le cadre du syst\u00e8me de cr\u00e9dit de notation sociale. Alors que la proposition de r\u00e8glement de la Commission europ\u00e9enne sur l’intelligence artificielle est d\u00e9sormais sur la table, o\u00f9 en sommes-nous en Europe en mati\u00e8re de surveillance biom\u00e9trique de masse, que pouvons-nous apprendre des contextes d’autres pays et comment pouvons-nous sensibiliser aux dangers de la surveillance de masse ici en Europe ?<\/em><\/p>\n<\/div><\/div>\n\n

<\/div>\n\n
\n

Laurence Meyer: “<\/em><\/strong>Je pense que cette croyance selon laquelle la surveillance de masse est un probl\u00e8me am\u00e9ricain ou chinois qui ne concerne pas l’Europe met clairement en \u00e9vidence le manque de couverture que re\u00e7oit ici la surveillance biom\u00e9trique de masse. Aux \u00c9tats-Unis, des chercheur\u00b7se\u00b7s, en particulier de nombreuses femmes de couleur, ont publi\u00e9 des \u00e9tudes qui peuvent \u00eatre utilis\u00e9es par les journalistes et soutenir leurs efforts d’investigation. En Europe, les \u00e9tudes qui adoptent une approche intersectionnelle, dans tous les domaines, y compris dans celui des nouvelles technologies, peinent \u00e0 recevoir un soutien financier<\/em>. <\/p>\n<\/div><\/div>\n\n

\n

Cela peut donner l’impression que le probl\u00e8me n’existe pas. Ce probl\u00e8me de visibilit\u00e9 est particuli\u00e8rement aigu lorsqu’on parle d’utilisations n\u00e9fastes des technologies biom\u00e9triques car, dans de nombreux cas, elles peuvent \u00eatre utilis\u00e9es \u00e0 notre insu. C’est le cas lorsque la technologie de reconnaissance faciale (FRT) nous filme \u00e0 notre insu ou lorsque, comme ce fut le cas en Su\u00e8de, les forces de l’ordre utilisent une application de reconnaissance faciale dans leur travail quotidien sans aucune autorisation pr\u00e9alable. La r\u00e9alit\u00e9 est donc la suivante : nous ne savons pas dans quelle mesure les syst\u00e8mes de reconnaissance faciale sont utilis\u00e9s et s’ils ont d\u00e9j\u00e0 conduit \u00e0 des arrestations injustifi\u00e9es en Europe. Et cela est, en soi, vraiment inqui\u00e9tant.<\/em><\/p>\n<\/div><\/div>\n\n

\n

Mais nous connaissons de nombreux cas dans lesquels des FRT ont \u00e9t\u00e9 d\u00e9ploy\u00e9s, dans la majorit\u00e9 des cas en dehors de tout cadre l\u00e9gal. EDRi en a dress\u00e9 <\/em>une liste<\/em><\/a> assez compl\u00e8te – ce qui montre d\u00e9j\u00e0 clairement que c’est loin d’\u00eatre un probl\u00e8me uniquement am\u00e9ricain. <\/em><\/p>\n<\/div><\/div>\n\n

\n

Une autre chose \u00e0 ajouter est que nous savons d\u00e9j\u00e0 que des arrestations injustifi\u00e9es se produisent en Europe, suite \u00e0 des pratiques r\u00e9pressives aux dimensions discriminatoires, comme le contr\u00f4le d’identit\u00e9 sans aucun soup\u00e7on d’acte r\u00e9pr\u00e9hensible. En France, en 2018, un homme franco-camerounais <\/em>a \u00e9t\u00e9 envoy\u00e9 dans un centre de d\u00e9tention<\/em><\/a> apr\u00e8s un contr\u00f4le d’identit\u00e9 parce qu’il ne pouvait pas pr\u00e9senter sa carte d’identit\u00e9 aux agents qui l’ont arr\u00eat\u00e9 dans la rue. <\/em><\/p>\n<\/div><\/div>\n\n

\n

Les cas am\u00e9ricains nous montrent une chose certaine : l’utilisation des outils biom\u00e9triques dans le maintien de l’ordre n’emp\u00eache pas les arrestations injustifi\u00e9es, ni les traitements discriminatoires pr\u00e9judiciables. Ils augmentent n\u00e9anmoins le recours \u00e0 la surveillance pour chacun\u00b7e d’entre nous, nous marquant comme des donn\u00e9es \u00e0 enregistrer, \u00e0 identifier et \u00e0 cat\u00e9goriser. C’est \u00e9galement un probl\u00e8me europ\u00e9en.  <\/em><\/p>\n<\/div><\/div>\n\n

\n

La discrimination syst\u00e9mique n’est pas seulement un probl\u00e8me am\u00e9ricain, la surveillance de masse n’est pas seulement un probl\u00e8me chinois. Les technologies biom\u00e9triques sont de plus en plus utilis\u00e9es partout, que nous le sachions ou non. La surveillance biom\u00e9trique de masse ne fera pas dispara\u00eetre comme par magie les probl\u00e8mes qui existent d\u00e9j\u00e0, mais elle les amplifiera.  <\/em><\/p>\n<\/div><\/div>\n\n

<\/div>\n\n
\n

Gwendoline Delbos-Corfield:<\/strong> “Il est clair que ces technologies amplifient les discriminations auxquelles les femmes, les personnes de couleur et les autres groupes marginalis\u00e9s sont d\u00e9j\u00e0 confront\u00e9s dans leur vie quotidienne. <\/em><\/p>\n<\/div><\/div>\n\n

\n\t\t\t\t\t
\n\t\t\t\t\t\t
<\/div>\n\t\t\t\t\t\t
Que pouvons-nous faire pour arr\u00eater la surveillance biom\u00e9trique de masse ?<\/u><\/div><\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\n
\n

Le groupe des Verts\/ALE se bat pour que les r\u00e8gles de surveillance biom\u00e9trique de masse dans l’UE soient renforc\u00e9es dans les ann\u00e9es \u00e0 venir, mais malheureusement, nous savons aussi que cela ne sera pas n\u00e9cessairement possible partout dans le monde. Nous avons d\u00e9j\u00e0 vu que la Commission europ\u00e9enne finance divers projets de surveillance dans le monde par le biais de projets europ\u00e9ens, notamment pour le d\u00e9veloppement d’un syst\u00e8me d’identification biom\u00e9trique au S\u00e9n\u00e9gal et de drones de surveillance au Niger. Nous devons \u00e9galement nous assurer que l’argent de l’UE n’est pas utilis\u00e9 pour mettre en danger les droits humains des personnes vivant en dehors de l’UE et que ces autres r\u00e9gions ne deviennent pas un terrain d’essai pour ces technologies dangereuses. <\/em><\/p>\n<\/div><\/div>\n\n

\n

Permettez-moi de terminer en disant que je crois vraiment que le moment est venu d’avoir un impact \u00e9norme et d’arr\u00eater la propagation de ces technologies de surveillance de masse dangereuses et discriminatoires. Ici, dans l’UE, nous avons maintenant une r\u00e9elle opportunit\u00e9 d’interdire la surveillance biom\u00e9trique de masse. <\/em><\/p>\n<\/div><\/div>\n\n

\n

Merci de vous \u00eatre joint \u00e0 moi aujourd’hui et de votre engagement, Laurence. <\/em><\/strong><\/p>\n<\/div><\/div>\n\n

\n
\n<\/div><\/div>\n\n
\n