La CIA a utilisé une photo de pèlerins au hadj pour démontrer ses capacités de surveillance et d’intelligence artificielle
Middle East Eye est en mesure de révéler que la CIA a utilisé une photo de pèlerins assistant au hadj pour illustrer le potentiel des nouvelles technologies de surveillance et d’intelligence artificielle (IA).
Les organisations pour les droits numériques et de la société civile musulmane estiment que l’utilisation de cette photo justifie les vives inquiétudes relatives au développement rapide des outils tels que les logiciels de reconnaissance faciale et illustre un schéma islamophobe au sein des agences de renseignement et de maintien de l’ordre, où les musulmans sont dépeints comme des menaces.
Cette image est apparue dans la présentation d’un cadre de la direction de l’innovation numérique de la CIA sur la façon dont l’adoption des technologies basées sur le cloud par l’agence d’espionnage transforme ses capacités de collecte de renseignements.
S’exprimant lors d’une conférence du secteur public organisée par Amazon Web Services (AWS) en 2018, Sean Roche avait déclaré : « L’âge du renseignement expéditionnaire signifie aller dans des endroits très hostiles très rapidement pour résoudre des problèmes très complexes. »
Il annonçait qu’une petite équipe de programmeurs, de data scientists et d’analystes « qui codent dans ce domaine » avait fourni des « capacités époustouflantes pour trouver des individus auxquels nous nous intéressons ».
« Savoir qui ils sont, ce qu’ils font, leurs intentions, où ils sont », développait Roche, alors vice-directeur de la CIA pour l’innovation numérique.
Cette présentation montrait ensuite une photo de pèlerins assemblés aux alentours de la Grande Mosquée de La Mecque, lieu le plus saint de l’islam et site de la Kaaba.
La photo semble être une image d’archives provenant d’un site de photographie, prise lors du hadj en janvier 2017. Mais un cercle jaune a été ajouté à l’image pour mettre en avant le visage d’un homme dans la foule.
Cibles de facto
MEE n’a pas identifié cet homme. Rien ne suggère qu’il intéresse d’une manière ou d’une autre la CIA.
MEE a demandé à la CIA si elle avait la capacité de déployer des technologies de surveillance pour scruter les gens qui assistent au hadj et si elle le ferait lors du pèlerinage de cette année, qui débute lundi. Mais la CIA n’a pas répondu aux questions de MEE.
Quoi qu’il en soit, l’utilisation de cette photo suscite des inquiétudes parmi les organisations de plaidoyer musulmanes et les juristes spécialistes des technologies de surveillance.
« Les musulmans ne devraient pas être l’exemple de facto de la façon dont les technologies du gouvernement peuvent être déployées »
- Edward Mitchell, CAIR
Edward Mitchell, directeur adjoint national du Conseil des relations américano-islamiques (CAIR), indique à MEE que les musulmans sont depuis longtemps dépeints comme une menace dans les présentations et supports de formation du gouvernement.
« Les musulmans ne devraient pas être l’exemple de facto de la façon dont les technologies du gouvernement peuvent être déployées. Cela vaut en particulier pour les musulmans s’adonnant à leur culte lors du pèlerinage du hadj », estime-t-il.
Ashley Gorski, avocate du projet sécurité nationale de l’Union américaine pour les libertés civiles, affirme à MEE : « La technologie de reconnaissance faciale présente de graves risques pour la vie privée et les libertés publiques. Les gens ont le droit de prier et de vivre leur culte librement, sans crainte d’être suivis par le gouvernement.
« C’est un nouvel exemple de la façon dont les agences de renseignement américaines promeuvent les outils de surveillance comme moyen de surveiller et de contrôler les communautés religieuses, même à l’étranger. »
Apprentissage automatique
Roche décrivait ensuite la façon dont l’agence déploie l’IA pour collecter et traiter les données.
« Nous utilisons l’apprentissage automatique pour quoi ? Notre travail concerne les humains », déclarait Roche.
« Donc nous prenons les bases de données existantes à votre sujet. Les données qui sont déjà là. Les données qui sont structurées et déstructurées, certaines données qui sont créées, et on agrège ces données très rapidement dans l’environnement cloud pour bâtir une signature numérique, pour comprendre notre soi numérique. »
La présentation de Roche au AWS Public Sector Summit intervenait après la signature par la CIA d’un contrat de 600 millions de dollars pour des services cloud avec le géant de la tech en 2014.
En présentant Roche, Teresa Carlson, alors cadre d’AWS, disait qu’il allait évoquer la façon dont l’entreprise avait « permis à la CIA de maintenir sa posture en matière de sécurité et d’accroître le rythme de l’innovation pour conserver une longueur d’avance sur l’ennemi à tout moment ».
Roche a quitté la CIA en 2019 et est désormais directeur national de la sécurité à AWS. Un porte-parole d’AWS s’est refusé à tout commentaire.
Pour Jumana Musa, directrice du Fourth Amendment Center au sein de la National Association of Criminal Defense Lawyers (NACDL) qui conseille les avocats dans des affaires impliquant les nouveaux outils de surveillance, cette présentation souligne les questions concernant la façon dont la technologie est utilisée au-delà des frontières américaines, là où les protections constitutionnelles ne s’appliquent pas.
« Historiquement, le gouvernement américain a des normes totalement différentes lorsqu’il se considère hors des États-Unis pour collecter des informations plutôt que des preuves pour des poursuites judiciaires. Et les règles sont bien moins strictes », observe Jumana Musa.
Reconnaissance faciale
Clare Garvi, avocate en droit de la vie privée travaillant pour la NACDL et spécialiste de la technologie de reconnaissance faciale, l’assure : « Ce n’est pas rien de pouvoir scanner une foule de centaines de milliers de personnes ou plus et de prétendre être capable de les identifier.
« Il n’est pas surprenant que la CIA voie naturellement un attrait dans ce mécanisme de surveillance extrêmement puissant. »
Abordant les dangers potentiels de la technologie de l’IA, Roche commentait : « Certaines personnes sont inquiètes à propos de l’IA. Ne le soyez pas. »
« Il n’est pas surprenant que la CIA voie naturellement un attrait dans ce mécanisme de surveillance extrêmement puissant »
- Clare Garvi, avocate en droit de la vie privée
Citant le futurologue allemand Gerd Leonhard, il assurait : « La prospérité humaine doit rester l’objectif central de tout projet technologique. Le futurisme humaniste. Les machines ne prendront pas le pouvoir. »
Le mois dernier, des dizaines de spécialistes de l’IA ont signé une déclaration mettant en garde contre la menace existentielle pour l’humanité que constitue le développement rapide de cette technologie.
Parmi les risques soulignés par le Center for AI Safety, qui a publié cette déclaration, figuraient le fait de se servir de l’IA comme d’une arme et l’utilisation de cette technologie pour « imposer des valeurs étroites via une surveillance envahissante et une censure oppressive ».
D’autres spécialistes de l’IA jugent ces inquiétudes exagérées.
Traduit de l’anglais (original) par VECTranslation.
Middle East Eye propose une couverture et une analyse indépendantes et incomparables du Moyen-Orient, de l’Afrique du Nord et d’autres régions du monde. Pour en savoir plus sur la reprise de ce contenu et les frais qui s’appliquent, veuillez remplir ce formulaire [en anglais]. Pour en savoir plus sur MEE, cliquez ici [en anglais].
