Jean-Gabriel Ganascia est philosophe, informaticien et chercheur en intelligence artificielle au Laboratoire Informatique de Paris VI. Il préside aussi le comité d’éthique du CNRS. Pour lui, la peur d’une société d’hypersurveillance étatique à la 1984, célèbre roman d’anticipation de George Orwell, n’est plus d’actualité. Car de nouveaux pouvoirs apparaissent, moins visibles et plus dangereux.
L’aéroport de Nice vient de se doter de « e-gates », des bornes de contrôle avec reconnaissance faciale. Pourquoi l’intelligence artificielle semble-t-elle aujourd’hui devenue incontournable dans le domaine de la sécurité ?
Les technologies liées à l’intelligence artificielle, telles la biométrie, la détection de comportements suspects ou l’analyse de données, permettent de désamorcer un certain nombre d’attaques. Et la population exprime de très fortes attentes en termes de sûreté. L’intelligence artificielle (IA) permet d’appréhender la masse d’informations produites, ce que l’on appelle le « big data », et de les analyser pour détecter d’éventuels risques. Toutefois, si l’IA peut servir à assurer la sécurité, elle peut également contribuer à la compromettre. Pensons à la cybercriminalité, au piratage ou au détournement de données. Les criminels se servent également des nouvelles technologies. Il s’agit d’un instrument à double tranchant.
Ces dispositifs « intelligents » ne représentent-ils pas une menace à l’encontre des libertés individuelles ?
Dans les années à venir, chaque société se dotera d’outils en fonction de ses propres besoins et valeurs. Selon les cultures, on peut très bien imaginer être identifié comme des délinquants par une caméra si on ne traverse pas la rue au bon endroit. À titre personnel, je trouve cela terrifiant. Mais les sociétés évoluent… Regardez, il y a encore 10 ans, cela nous aurait paru délirant que l’on fouille nos sacs à l’entrée d’un bâtiment. Et qu’on vide nos bouteilles d’eau ! Nous n’aurions jamais accepté cette mesure sans le spectre du terrorisme. Or cette intrusion violente est aujourd’hui acceptée !
L'artiste Banksy s'est emparé du sujet de la vidéosurveillance.
Le sentiment d’insécurité nous pousserait donc à sacrifier une partie de notre droit à la vie privée ?
Effectivement. Il existe une tension très forte entre trois exigences : la sécurité, l’intimité et la transparence. Je n’imagine pas une société sans l’une d’elles. Nous sommes attachés à la notion de vie privée depuis la fin du XIXe siècle. Mais nous sommes aussi de plus en plus sensibles à l’idée de sécurité et de transparence, qui est contraire à la vie privée. Avec le déploiement de l’intelligence artificielle, des compromis doivent être faits.
Qui fera ces compromis ? Les citoyens sont-ils en capacité d’imposer leurs choix ?
Malheureusement, dans ce nouveau monde, nous ne sommes plus des citoyens, avec des droits et des devoirs, mais des consommateurs et producteurs de données. Les gens sont de plus en plus démunis, ils ont affaire à l’émergence de nouveaux pouvoirs incontrôlés. Les grands acteurs de demain sont les possesseurs des « Orins », les « organismes informationnels », expression qui désigne les technologies capables d’interpréter et de valoriser les masses de données. Nous sommes noyés dans les flux d’informations : la question est de savoir comment donner sens à tout cela. Les détenteurs des « Orins » ont l’ambition de prendre un pouvoir considérable.
Lire notre enquête : Demain, tous vidéoprotégés ?
Les pouvoirs publics font appel à des entreprises de traitement de données pour assurer la protection et la surveillance de la population, comme c’est le cas des « smart and safe city ». Le pouvoir de l’État est-il de plus en plus marginalisé ?
Nous faisons face à des transformations politiques majeures. L’ère de 1984 et de Big Brother est derrière nous. Alors qu’avant, on craignait l’émergence de l’hypersurveillance de l’État central, aujourd’hui ce n’est plus tout à fait cela. Nous entrons dans un nouveau régime « féodal », où il faut moins se méfier de l’État que des entreprises privées qui se partagent les « Orins », tels des seigneurs. Les citoyens ont prise sur les institutions démocratiques, mais se trouvent dépossédés face aux géants de l’internet, par exemple.
Quels contre-pouvoirs peut-on imaginer ?
L’émergence de contre-pouvoirs va être compliquée. Car il nous faut d’abord prendre conscience de l’importance de ces nouveaux pouvoirs invisibles. Il y a quelques années, les gens avaient encore du mal à comprendre l’ampleur du phénomène. Dans Voir et Pouvoir : qui nous surveille ? paru en 2009, je montrais que nous étions passés d’une logique de surveillance à la « sousveillance généralisée » dans laquelle nous avions tous la capacité d’observer autrui. On voit tout le monde et tout le monde nous voit. Donc, nous sommes tous potentiellement des contre-pouvoirs à même de diffuser de l’information et d’influencer la partie.
Dans la société que vous décrivez, fondée sur la visibilité et la transparence, l’image que renvoie l’individu est déterminante. Le projet chinois de « crédit social », système de notation des citoyens, est-il amené à se propager ?
C’est terrifiant ! Ce barème de réputation des citoyens fondé sur le statut économique et social rejoint les dystopies de Black Mirror. Mais il ne faut pas se leurrer : cela existe déjà un peu ici, de façon moins apparente. Pour accéder à un crédit bancaire, nous sommes notés, de même pour les assurances. Pour embaucher, les directeurs de ressources humaines explorent les réseaux sociaux, qui apparaissent comme une sorte de baromètre social. Dans un futur proche, les personnes qui ne produiront pas de données sur internet seront « inexistantes ».
Propos recueillis par Célia Pousset
À lire :
– Voir et pouvoir : qui nous surveille ? de Jean-Gabriel Ganascia, Editions le pommier, 2009.
– Le mythe de la Singularité : faut-il craindre l’intelligence artificielle ? de J-G Ganascia, éditions du Seuil, Collection Sciences Ouvertes, 2017.
