Quand la Chine utilise l’IA pour donner une note de « moralité » aux entreprises
Jusqu’à présent, l’idée d’un système de surveillance automatisé et généralisé au service d’un État totalitaire n’était qu’un fantasme d’écrivain. À partir de 2020, ce sera une réalité pour l’ensemble des ressortissants chinois en raison de la généralisation du « Crédit social ». Derrière cette expression anodine se cache un dispositif de surveillance de masse, basé sur l’intelligence artificielle et le big data, visant à estimer, en temps réel, « l’intégrité sociétale » des Chinois. Concrètement, en fonction de leur comportement économique et social, ces derniers se verront attribuer une note dite de « crédit social » qui, lorsqu’elle sera mauvaise, pourra les empêcher de contracter un emprunt ou plus simplement de prendre un billet de train ou d’avion.
Les entreprises également concernées
Comme vient de le rappeler Jörg Wuttke, le président de la Chambre de commerce de l’Union européenne en Chine, à l’occasion de la publication d’un récent communiqué, le dispositif du crédit social (CSC : Credit social corporate) s’appliquera également aux entreprises dès 2020. Cette fois, ce ne sera plus « l’intégrité sociétale » qui sera recherchée mais « l’intégrité commerciale ». Dans les faits, « les données de toutes les autorités, telles que les taxes, les douanes et l’environnement, seront rassemblées puis organisées par intelligence artificielle », précise Jörg Wuttke. En outre, seront également pris en compte les avis des clients de l’entreprise, de ses partenaires et même les articles publiés dans la presse chinoise. Cela signifie que le seul respect des règlementations ne sera pas suffisant pour obtenir un score de « Crédit social corporate » honorable. D’autant plus que le comportement individuel des salariés clés de l’entreprise pèsera aussi dans la balance. Les entreprises étant, dès lors, fermement invitées à faire régner l’ordre dans leurs rangs, comme l’avait fait Cathay Pacific, en août dernier, en sanctionnant ses salariés ayant participé aux manifestations hongkongaises.
Les mauvais élèves sanctionnés
Toutes les entreprises présentes sur le marché chinois seront concernées par ce système de notation, ce qui inclut nombre d’entreprises exportatrices européennes. Une mauvaise note pouvant ainsi leur interdire de participer à un appel d’offres ou d’obtenir une licence d’importation ou encore de se voir refuser un crédit ou une subvention. Raison pour lesquelles Jörg Wuttke exhorte les entreprises européennes à se préparer à l’entrée en vigueur du CSC, estimant que « le système pourrait en fait créer des conditions plus équitables pour les entreprises internationales et leurs concurrents chinois, car elles seront toutes deux soumises aux mêmes mécanismes de notation du crédit social des entreprises ». Espérons-le.
