Intelligence artificielle : un logiciel pour déchiffrer les émotions des Ouïghours
Un système de caméra qui utilise l'intelligence artificielle et la reconnaissance faciale pour révéler les états émotionnels a été testé sur des Ouïghours dans le Xinjiang, a appris la BBC.
Un portail de ce qui est officiellement appelé "centre de formation professionnelle" au Xinjiang Un ingénieur logiciel affirme avoir installé de tels systèmes dans des postes de police de la province. Un défenseur des droits de l'homme à qui l'on a montré les preuves les décrit comme choquantes. L'ambassade de Chine à Londres n'a pas répondu directement à ces allégations mais affirme que les droits politiques et sociaux de tous les groupes ethniques sont garantis. Le Xinjiang abrite 12 millions de membres de la minorité ethnique des Ouïghours, dont la plupart sont musulmans. Les citoyens de la province font l'objet d'une surveillance quotidienne. La région abrite également des "centres de rééducation" très controversés, appelés camps de détention de haute sécurité par les groupes de défense des droits de l'homme, où l'on estime que plus d'un million de personnes ont été détenues. Pékin a toujours soutenu que la surveillance était nécessaire dans la région car, selon elle, les séparatistes qui veulent créer leur propre État ont tué des centaines de personnes dans des attaques terroristes. Xinjiang is believed to be one of the most surveilled areas in the world L'ingénieur en informatique a accepté de parler à l'émission Panorama de la BBC sous couvert d'anonymat, car il craint pour sa sécurité. L'entreprise pour laquelle il travaillait reste également confidentielle. Mais il a montré à Panorama cinq photos de détenus ouïghours sur lesquels, selon lui, le système d'IA avait été testé. Les données du système sont censées indiquer l'état d'esprit d'une personne, le rouge suggérant un état d'esprit négatif ou anxieux. "Le gouvernement chinois utilise les Ouïghours comme cobayes pour diverses expériences, tout comme les rats sont utilisés dans les laboratoires", a-t-il déclaré. Et il a décrit son rôle dans l'installation des caméras dans les postes de police de la province : "Nous avons placé la caméra de détection des émotions à 3 mètres du sujet. Elle est similaire à un détecteur de mensonges, mais sa technologie est beaucoup plus avancée." Il a déclaré que les officiers ont utilisé des "chaises de contrainte" qui sont largement installées dans les postes de police à travers la Chine. "Vos poignets sont bloqués en place par des attaches métalliques, et [la] même chose s'applique à vos chevilles". Il a fourni des preuves de la façon dont le système d'IA est conçu pour détecter et analyser des changements même infimes dans les expressions faciales et les pores de la peau. Selon ses dires, le logiciel crée un graphique circulaire, dont le segment rouge représente un état d'esprit négatif ou anxieux. Il a affirmé que le logiciel était destiné à "préjuger sans aucune preuve crédible". Pékin lance un vaisseau dans l'espace avec deux astronautes L'ambassade de Chine à Londres n'a pas répondu aux questions concernant l'utilisation de logiciels de reconnaissance émotionnelle dans la province, mais a déclaré : "Les droits politiques, économiques et sociaux et la liberté de croyance religieuse de tous les groupes ethniques du Xinjiang sont pleinement garantis. "Les gens vivent en harmonie, quelle que soit leur origine ethnique, et jouissent d'une vie stable et paisible, sans restriction à la liberté individuelle." Les preuves ont été montrées à Sophie Richardson, directrice de Human Rights Watch pour la Chine. "C'est un matériel choquant. Ce n'est pas seulement que les gens sont réduits à un diagramme circulaire, ce sont des gens qui sont dans des circonstances très coercitives, sous une pression énorme, qui sont naturellement nerveux et cela est pris comme une indication de culpabilité, et je pense que c'est profondément problématique." Egypte: La "chasse" aux Ouïghours Comportement suspect Selon Darren Byler, de l'université du Colorado, les Ouïghours doivent régulièrement fournir des échantillons d'ADN aux autorités locales, se soumettre à des scans numériques et la plupart doivent télécharger une application téléphonique gouvernementale, qui collecte des données, notamment des listes de contacts et des messages texte. "La vie des Ouïghours consiste désormais à générer des données", a-t-il estimé. "Tout le monde sait que le smartphone est quelque chose que vous devez porter sur vous, et que si vous ne le portez pas, vous pouvez être détenu, ils savent que vous êtes suivi par lui. Et ils ont l'impression qu'il n'y a pas d'échappatoire", a-t-il ajouté. La plupart des données sont introduites dans un système informatique appelé Integrated Joint Operations Platform, qui, selon Human Rights Watch, signale les comportements supposés suspects. "Le système recueille des informations sur des dizaines de comportements différents et parfaitement légaux, par exemple si les gens sortent par la porte de derrière au lieu de la porte d'entrée, s'ils mettent de l'essence dans une voiture qui ne leur appartient pas", a expliqué Mme Richardson. "Les autorités placent maintenant des codes QR à l'extérieur des portes des maisons des gens afin qu'elles puissent facilement savoir qui est censé être là et qui ne l'est pas." Pas de mouvements féministes en Chine Orwellien ? Les liens étroits entre les entreprises technologiques chinoises et l'État font depuis longtemps l'objet d'un débat. Le groupe de recherche américain IPVM affirme avoir découvert des preuves dans des brevets déposés par ces entreprises qui suggèrent que les produits de reconnaissance faciale ont été spécifiquement conçus pour identifier les Ouïghours. Un brevet déposé en juillet 2018 par Huawei et l'Académie des sciences de Chine décrit un produit de reconnaissance faciale capable d'identifier les personnes sur la base de leur appartenance ethnique. Huawei a répondu qu'elle ne "tolère pas l'utilisation de la technologie pour discriminer ou opprimer les membres de toute communauté" et qu'elle était "indépendante du gouvernement" partout où elle opérait. Le groupe a également trouvé un document qui semble suggérer que l'entreprise développait une technologie pour un système dit "Une personne, un dossier". "Pour chaque personne, le gouvernement stockerait ses informations personnelles, ses activités politiques, ses relations... tout ce qui pourrait vous donner un aperçu du comportement de cette personne et de la menace qu'elle pourrait représenter", a indiqué Conor Healey de l'IPVM. Hikvision fabrique une gamme de produits, notamment des caméras "Cela rend toute forme de dissidence potentiellement impossible et crée une véritable prévisibilité pour le gouvernement dans le comportement de ses citoyens. Je ne pense pas que [George] Orwell aurait jamais imaginé qu'un gouvernement puisse être capable de ce genre d'analyse." Huawei n'a pas répondu spécifiquement aux questions concernant sa participation au développement de la technologie pour le système "Une personne, un dossier", mais a répété qu'elle était indépendante du gouvernement partout où elle opérait. L'ambassade de Chine à Londres a déclaré qu'elle n'avait "aucune connaissance" de ces programmes. L'IPVM a également fait savoir qu'il avait trouvé du matériel de marketing de la société chinoise Hikvision faisant la promotion d'une caméra intelligente capable de détecter les Ouïghours, ainsi qu'un brevet pour un logiciel développé par Dahua, un autre géant de la technologie, qui pourrait également identifier les Ouïghours. Bien que faisant partie de la Chine, les Ouïghours sont proches des nations d'Asie centrale Dahua a déclaré que son brevet faisait référence aux 56 ethnies reconnues en Chine et ne visait pas délibérément l'une d'entre elles. La société a ajouté qu'elle fournissait "des produits et des services visant à assurer la sécurité des personnes" et qu'elle se conformait "aux lois et réglementations de chaque marché" sur lequel elle opère, y compris le Royaume-Uni. Hikvision a déclaré que les informations figurant sur son site Web étaient incorrectes et "mises en ligne sans examen approprié", ajoutant qu'elle ne vendait ni n'avait dans sa gamme de produits "une fonction de reconnaissance des minorités ou une technologie analytique". En Chine, Xi Jinping renforce son pouvoir. Le Dr Lan Xue, président du comité national chinois sur la gouvernance de l'IA, a dit ne pas être au courant de ces brevets. "En dehors de la Chine, il y a beaucoup d'accusations de ce genre. Beaucoup ne sont pas exactes et ne sont pas vraies", a-t-il répondu à la BBC. "Je pense que le gouvernement local du Xinjiang avait la responsabilité de vraiment protéger la population du Xinjiang... si la technologie est utilisée dans ces contextes, c'est tout à fait compréhensible", a-t-il ajouté. L'ambassade de Chine au Royaume-Uni s'est défendue plus fermement, en déclarant à la BBC : "Il n'y a pas de technologie de reconnaissance faciale utilisant des analyses ouïghoures, quelle qu'elle soit." Surveillance quotidienne Hu Liu a le sentiment que sa vie est sous surveillance constante On estime que la Chine abrite la moitié des quelque 800 millions de caméras de surveillance dans le monde. Elle compte également un grand nombre de villes intelligentes, comme Chongqing, où l'IA est intégrée aux fondements de l'environnement urbain. Hu Liu, journaliste d'investigation basé à Chongqing, a raconté sa propre expérience à Panorama : "Dès que vous sortez de chez vous et que vous entrez dans l'ascenseur, vous êtes filmé par une caméra. Il y a des caméras partout". "Lorsque je quitte la maison pour aller quelque part, j'appelle un taxi, la compagnie de taxi télécharge les données au gouvernement. Je peux ensuite me rendre dans un café pour rencontrer quelques amis et les autorités savent où je suis grâce à la caméra du café". "Il m'est arrivé de rencontrer des amis et, peu après, quelqu'un du gouvernement me contacte. Ils m'ont prévenu : "ne vois pas cette personne, ne fais pas ceci ou cela". "Avec l'intelligence artificielle, nous n'avons nulle part où nous cacher", a-t-il conclu. La Chine contre-attaque suite au nouveau plan tarifaire de Donald Trump