Intelligence artificielle/Proposition de la Commission
Une règlementation bienvenue mais qui ne prend pas la mesure des conséquences du déploiement de l'IA
La Commission européenne a présenté aujourd'hui sa proposition de règlement sur l'intelligence artificielle (IA). Le Groupe des Verts/ALE se félicite de la clarté des règles contenues dans la première proposition législative de la Commission. Il regrette néanmoins que la reconnaissance faciale automatique continue d'être autorisée dans les espaces publics.
David CORMAND, membre de la Commission spéciale sur l'intelligence artificielle à l'ère numérique, commente :
« Que l'Europe se saisisse de la question de la régulation de l'intelligence artificielle est une bonne chose. Les applications d'intelligence artificielle se multiplient déjà dans notre vie de tous les jours. Dès lors, poser un cadre contraignant qui protège les citoyens•nes est urgent. Toutefois, nous regrettons qu’à ce stade, la Commission ne prenne pas la mesure des conséquences du déploiement de l'IA.
En premier lieu, la proposition autorise le déploiement de la reconnaissance biométrique en temps-réel par les autorités publiques. Cela ouvre la porte à une surveillance généralisée de la population sous couvert de sécurité publique. Les conditions censées encadrer la pratique sont faibles et ne permettent en aucun cas de garantir le respect de la vie privée et de la présomption d'innocence. Ensuite, le droit de regard et les voies de recours des citoyen-nes sur les applications d'IA sont insuffisantes pour permettre un véritable contrôle permettant de réguler les géants du numérique. Le risque du développement d’un capitalisme de surveillance faisant commerce des données personnelles n’est pas suffisamment pris en compte. Enfin, nous regrettons le déficit de ciblage des différents usages de l’IA dans la proposition : ici, soit une IA est considérée à haut risque et doit être sujette à un certain nombres d'obligations, soit elle ne l'est pas et seul un système de code de conduite volontaire s'applique.
D’un point de vue environnemental, l’impact potentiel du déploiement massif et généralisé d'applications IA n’est à aucun moment évalué.
Il est très parlant qu'aucune disposition ne prévoit la transparence des données pour calculer l’empreinte écologique de ces usages. Aucune mesure ne prévoit l'écoconception des systèmes ni l'impératif de ne les déployer qu'à l'aune de leur apport sociétal et environnemental. Cela souligne, à ce stade, que les objectifs de la transition numérique sont découplés des enjeux écologiques, qu’ils soient climatiques ou en lien avec la préservation de la biodiversité ou des ressources naturelles. »
Gwendoline DELBOS-CORFIELD, membre de la Commission des libertés civiles, de la justice et des affaires intérieures, commente :
« Nous avons besoin d'un règlement sur l'intelligence artificielle dans l'Union européenne pour définir un cadre démocratique et mettre en place des règles éthiques. La question des responsabilités, le respect de nos droits et de nos libertés doivent guider nos choix législatifs. Les promesses d’opportunités économiques font trop souvent minimiser les risques d’insécurité juridique et surtout les risques pour les droits des consommateurs/trices et citoyen·ne·s. Un·e consommateur/trice doit pouvoir être protégé·e si des dommages sont causés par des drones livrant un colis. Un·e citoyen·ne doit pouvoir être protégé·e d’éventuelles discriminations à l’embauche basées sur l'intelligence artificielle. »
« Mais pour l’heure, nous sommes extrêmement inquiet·e·s sur cette proposition de la Commission car elle ne prend pas en considération les dangers posés par ces technologies : la reconnaissance faciale et la surveillance de masse ».
« Le déploiement de la surveillance biométrique, le profilage et la technologie de prédiction comportementale dans nos espaces publics portent une grave atteinte à nos libertés. La Commission européenne ne joue pas son rôle envers les citoyennes et citoyens européen·ne·s en permettant la reconnaissance faciale automatique dans les espaces publics et en ignorant ainsi les demandes de milliers d’entre nous. Nous réclamons une interdiction de ces pratiques de surveillance dans notre vie quotidienne pour que cessent les discriminations à l’égard de certains groupes de personnes : régulièrement, les biais que ces technologies comportent conduisent à l'incrimination de personnes innocentes injustement accusées."
Contexte :
Une enquête menée par YouGov dans 10 pays de l'UE en mars 2021 montre qu'une majorité d'Européens s'oppose à la surveillance biométrique de masse dans les espaces publics. 55% des personnes interrogées s’opposent à l'utilisation de la reconnaissance faciale dans les espaces publics. Les jeunes ( 18 - 34 ans) s'opposent encore plus fortement à l'utilisation de ces technologies (61% des réponses). Les Verts/ALE plaident pour une législation interdisant ces technologies.
