Chaque époque donne un visage à l’homme ordinaire. L’Allemagne a eu son Deutscher Michel, homme honnête et laborieux que les caricaturistes du XIXe siècle représentaient volontiers coiffé d’un bonnet de nuit. Il sommeille pendant que d’autres décident de son sort.
La France a eu Jacques Bonhomme. Au Moyen Âge, « Jacques » désigne les gens du peuple, notamment les paysans. Le personnage finit par incarner celui qui cultive, produit, paie l’impôt, part à la guerre et supporte les décisions des puissants.
Le Michel allemand dort pendant que le pouvoir agit, Jacques Bonhomme travaille pendant que le pouvoir décide. Notre époque voit apparaître leur descendant : Jacques Calculé.
Jacques Calculé n’est pas celui qui calcule, il est celui que l’on calcule. Avant même qu’il ne se présente à une entreprise, une banque, un assureur ou une administration, son double numérique l’a précédé. Des modèles ont déjà estimé sa solvabilité, son employabilité, sa productivité, ses préférences ou ses intentions. Jacques Calculé arrive toujours après la représentation de lui-même.
Il travaille, achète, marche, lit, voyage, écrit et converse. Chacun de ses gestes laisse des traces. Les systèmes ne cherchent plus seulement à savoir ce qu’il a fait, ils entendent déterminer ce qu’il fera probablement. Sa biographie devient un profil, son expérience une donnée, son avenir une probabilité. On connaît ses régularités mais non ses raisons. On prévoit certains de ses comportements sans comprendre le sens qu’il leur donne.
La nouveauté n’est pas que l’homme soit mesuré. Il l’est depuis longtemps. Elle tient à la place prise par le calcul dans la représentation que l’homme se fait de lui-même. Nous consultons des scores, des classements, des statistiques et des recommandations qui nous disent ce que nous aimons, ce que nous valons, ce que nous risquons et parfois ce que nous devrions faire. L’homme ne se contente plus d’être calculé : il commence à demander au calcul qui il est.
Un nombre ne commande pourtant rien par lui-même. Un score reste un résultat tant qu’une institution n’en fait pas une décision. Une prédiction reste une hypothèse tant qu’elle ne sert pas à accorder un crédit, sélectionner un candidat, évaluer un salarié ou orienter une existence. Entre le calcul et l’autorité se trouve quelque chose que nous oublions souvent : le crédit que nous lui accordons.
Ce crédit n’est d’ailleurs pas nécessairement accordé par celui qui est calculé. Jacques peut parfaitement ne pas croire à son score ; il suffit que la banque, l’employeur, l’assureur ou l’administration y croie pour que celui-ci produise des effets sur son existence. L’autorité du calcul ne tient donc pas seulement à la confiance que nous lui accordons individuellement mais aux institutions auxquelles nous avons permis d’en faire un principe de décision.
L’intelligence artificielle peut ainsi calculer sans notre assentiment mais elle ne peut faire autorité sans qu’un crédit soit accordé à ses résultats. Elle est, en ce sens, fiduciaire. Quelqu’un, quelque part, doit décider que son calcul mérite d’être cru, suivi ou transformé en décision. Nous finissons parfois par oublier ce geste initial et par attribuer au système une autorité qu’il ne possède pas par lui-même.
La question n’est donc plus seulement de savoir jusqu’où les machines peuvent calculer. Elle est de savoir jusqu’où s’étend la juridiction du calcul. Sur quoi peut-il légitimement avoir le dernier mot ? Un calcul peut établir une probabilité, repérer une régularité, comparer des données. En résulte-t-il pour autant le droit de définir une personne, d’apprécier une situation ou de décider de ce qui doit être fait ?
Jacques Calculé n’est pas simplement l’homme quantifié. Le problème commence lorsqu’il regarde son double numérique et passe, presque sans s’en apercevoir, de « le système dit cela de moi » à « je suis cela ». Une représentation construite à partir de certaines dimensions de son existence devient alors une définition de lui-même.
Jacques Calculé n’est pas l’homme remplacé par la machine. Il est l’homme qui risque de se prendre pour ce que la machine représente de lui.
Une représentation n’a pas besoin d’être fausse pour être réductrice. Un modèle peut prédire correctement certains comportements et rester incapable d’en saisir les raisons. Il peut connaître nos régularités sans connaître nos motifs, être exact sur ce que nous faisons sans comprendre le sens que nous lui donnons. Jamais l’homme ordinaire n’a été aussi documenté, jamais il n’a été aussi facilement résumé.
Le travail en offre une illustration quotidienne. Jacques Calculé apparaît dans les tableaux de bord sous la forme d’objectifs, d’indicateurs et de résultats. Pendant ce temps, il interprète une consigne, répare une erreur, arbitre entre des exigences contradictoires et invente une réponse à l’imprévu. Une partie essentielle de ce qui permet à l’organisation de tenir demeure hors du tableau.
Jacques Calculé n’est pas l’homme remplacé par la machine, il est l’homme minimisé par le modèle. Lorsque le système réussit, on célèbre le calcul. Lorsqu’il rencontre la résistance du réel, Jacques réapparaît : il faut comprendre, interpréter, décider, réparer et répondre des conséquences.
Jacques Bonhomme supportait les décisions prises sans lui. Jacques Calculé supporte les prédictions formulées sur lui. Le premier était invisible aux yeux du pouvoir. Le second vit sous son regard permanent mais risque de n’être visible qu’à travers ce que le calcul peut saisir.
Jacques Bonhomme produisait les richesses qui le dominaient, Jacques Calculé produit les données qui le gouvernent.
Son émancipation ne suppose pas de refuser le calcul. Elle commencera lorsqu’il pourra regarder son double numérique et lui répondre : « Ce que vous calculez n’est pas tout ce que je suis ». Il ne s’agit pas de contester ce que le calcul sait mais de refuser qu’une représentation partielle se donne pour une vérité totale.
Le grand sociologue du travail et philosophe Georges Friedmann appelait de ses vœux un « supplément de conscience et de forces morales ». La formule prend aujourd’hui un relief particulier. À tout supplément de calcul devrait répondre un supplément de conscience.
Les deux ne progressent ni au même rythme ni de la même manière. La puissance de calcul s’accumule, s’achète et se déploie. La conscience se forme dans l’expérience, le doute, la confrontation et la responsabilité. La machine offre même un alibi commode : celui qui suit sa recommandation peut invoquer le « système ». Celui qui s’en écarte doit expliquer son jugement et en assumer les conséquences. Plus la machine paraît savoir moins l’homme se sent autorisé à juger.
Dans ses Dialogues sur le commandement, André Maurois mettait en scène un philosophe et un militaire autour d’une formule remarquable : « C’est parce que c’est mathématique qu’il faut discuter ». La rigueur du calcul ne rend indiscutables ni les hypothèses dont il part, ni les catégories qu’il retient, ni l’usage qui sera fait de ses résultats. Ce qui est exact dans le calcul peut rester discutable dans la décision car le réel n’est pas d’abord possible nous faisait à juste titre remarquer Henri Maldiney.
Le problème n’est peut-être pas que le calcul prenne trop de place mais que nous ne sachions plus exactement jusqu’où s’étend sa juridiction. Nous avons considérablement accru sa puissance sans définir avec la même précision les frontières de son autorité.
Le supplément de conscience dont parlait Friedmann prend ici tout son sens. Il ne viendra pas d’un supplément d’information. Il suppose une éducation au jugement, au doute, à l’attention au singulier, à la confrontation avec le réel et à la responsabilité. Toute la difficulté est là : nous demandons ce supplément de conscience à des êtres auxquels nous retirons peu à peu ce qui pourrait le nourrir. L’éducation elle-même est sommée de prouver son utilité immédiate et de promettre un rendement. La théorie devient suspecte lorsqu’elle ne produit pas immédiatement un résultat, la sagesse davantage encore puisqu’elle se prête mal à la comptabilité. À mesure que les machines deviennent capables de répondre à davantage de questions, il devient plus important d’apprendre quelles questions nous ne devons pas leur abandonner. Encore faudrait-il préserver les infrastructures invisibles qui rendent cette résistance possible : le temps, l’attention, la culture, le doute, la conversation et l’exercice du jugement.
Durant la Grande Guerre, les fantassins se désignaient parfois, avec l’ironie amère des sacrifiés, comme les « pauvres cons du front ». Jacques Calculé pourrait bien devenir le pauvre con du front algorithmique, celui qui fournit les données, subit les décisions et finit par se voir lui-même au nom d’une vérité calculée sur lui.
Il lui reste néanmoins une puissance : reprendre le crédit accordé à la machine. Encore faut-il résister à cette promesse devenue omniprésente de lui épargner l’effort de juger, de choisir et même de penser, comme si le progrès devait désormais se mesurer à la quantité de « temps de cerveau disponible » dont il nous dispense.
Lorsqu’il comprendra qu’un calcul peut être exact sans épuiser le réel, Jacques Calculé cessera de se croire son débiteur. Il deviendra Jacques le Prêteur : celui qui sait que la machine peut continuer à calculer sans son assentiment mais que son autorité ne vient pas du calcul lui-même.
Il ne s’agit pas de retirer à la machine le droit de calculer mais de reprendre ce que nous lui avons accordé sans toujours nous en apercevoir : le droit et l’obligation d’avoir le dernier mot.