À Nouméa comme à Paris ou à San Francisco, des entreprises performantes font la promesse de l'automatisation intelligente, mènent des projets ambitieux et remportent des succès incontestables.

Processus robotisés, agents conversationnels, gains de productivité : les projets sont implémentés, les chiffres suivent, les directions générales se disent très souvent satisfaites. Et pourtant, à y regarder de plus près, quelque chose d'essentiel manque dans ce tableau. Non pas dans la technologie, non pas dans les processus, mais dans une question jamais posée : celle de ce que cette automatisation fait à l'homme qui la pilote, la subit, ou s'en trouve de plus en plus souvent remplacé.

Car le risque porté par les nouvelles technologies, en particulier par l'intelligence artificielle, contrairement à ce que pensent la plupart du temps les directions générales, n'est pas que technique. Il n'est pas non plus simplement réglementaire, ni probablement simplement économique. Parce qu'il touche à ce que nous sommes en train de devenir, individuellement et collectivement, en confiant à des systèmes automatisés des fonctions que nous exerçons nous-mêmes et qui donnent sens à ce que nous sommes et à ce que nous faisons, il est profondément ontologique.

La quête de performance

L'efficacité est un argument convaincant, difficile à contredire. Une entreprise qui automatise ses processus est censée gagner en rapidité, en régularité, en capacité de traitement. Idéalement, cela libère les équipes des tâches répétitives, réduit les coûts d'exploitation, raccourcit les délais de mise sur le marché et accélère les réponses aux clients. Une automatisation réussie se traduit par de meilleurs chiffres, et rapidement les tableaux de bord présentent une image convaincante, pour la plus grande satisfaction des directions générales et des actionnaires.

Cet optimisme est souvent fondé, au moins à court terme. Une PME qui déploie un agent conversationnel pour absorber les demandes courantes peut effectivement gérer une charge croissante sans recruter, diminuer ses temps de réaction et décharger ses personnels de certaines tâches fastidieuses. Un service qui instrumente la détection d'anomalies peut traiter dix fois plus de dossiers avec une fiabilité souvent renforcée. Une administration qui automatise le tri des pièces peut raccourcir les délais, pour le plus grand bonheur des usagers.

Cette performance crée une dynamique qui, selon toute apparence, est vertueuse : les marges obtenues permettent de financer de nouveaux investissements, le temps libéré peut être réalloué à des tâches à plus forte valeur ajoutée. L'image de marque est renforcée, l'organisation étant clairement en avance sur des concurrents plus timorés.

Les nouvelles technologies bénéficient ainsi d'un éclairage cru et intense de la part des experts du domaine, sur des paramètres fondamentaux, rationnels et cohérents.

À première vue, chacun a à y gagner. Qui pourrait s'en plaindre ?

La zone d'ombre

Cette première vue, précisément parce qu'elle résulte d'un éclairage intense sur les promesses des nouvelles technologies, comporte des zones d'ombre. Et ce qui reste dans l'ombre n'est pas un détail : c'est le sujet lui-même.

Que se passe-t-il en effet pour le collaborateur dont la tâche a été automatisée ? Pour le client qui interagit avec un système sans jamais atteindre un interlocuteur humain ? Pour le dirigeant qui prend des décisions éclairées par des algorithmes dont il ne maîtrise pas la logique ? Pour les équipes qui en viennent collectivement à modifier leurs valeurs parce que les décisions sont façonnées par des intelligences artificielles guidées par une éthique qui n'est pas celle de l'entreprise ? Qu'en est-il pour une société qui voit disparaître une des fonctions qui structuraient l'emploi, la reconnaissance, le lien sociétal ?

Ces questions ne sont pas techniques. Elles ne relèvent pas d'un défaut de spécification, d'une faille à corriger, d'une certification à obtenir, encore moins de la menace d'une sanction pour non-conformité réglementaire. Elles touchent à ce qui fait que l'être humain se sent utile, qu'une communauté a du sens, qu'une civilisation transmet autre chose que des flux de données.

Or c'est précisément ce registre que les organisations ne nomment pas, que les experts métier ne traitent pas, et qui reste donc à l'ombre de la lumière portée sur la technique. Les équipes sont outillées pour évaluer un risque de conformité, un risque opérationnel, un risque de réputation, mais elles le sont trop rarement pour penser un risque qui concerne le sens même de ce qu'elles produisent.

Le prix cognitif et social

Bernard Stiegler, philosophe de la technologie, de la culture et de l'éducation, évoque une « misère symbolique » produite par les sociétés qui ne laissent plus à l'esprit le temps de se constituer. Sa pensée résonne d'une manière aiguë à l'heure de l'automatisation généralisée.

Un ami, proche de ses réflexions, me confiait une question qui mérite d'être posée pour elle-même :

« L'être humain moderne dispose-t-il encore des espaces nécessaires pour intégrer ses expériences vécues et les transformer en compréhension, en sens et en connaissance de soi, ou l'accélération permanente de nos sociétés est-elle en train de rompre le processus naturel de construction de l'identité ? »

La question n'est ni anecdotique ni rhétorique. Elle touche au cœur du problème, car l'identité, qu'elle soit individuelle ou collective, se construit dans la capacité à agir et à obtenir des résultats, ce qui implique une inscription dans la durée, dans l'épreuve, dans la possibilité de revenir sur ce qui a été vécu pour en tirer une signification. Or ce que l'automatisation propose, structurellement, c'est l'élimination de l'intervalle temporel, l'immédiateté de la réponse, la suppression de l'attente, mais également l'effacement du temps de la digestion de ce qui est vécu, avec l'impossibilité d'un retour en arrière, puisque le processus lui-même, porté par un automate, nous échappe.

Le risque cognitif et social porté par les nouvelles technologies n'est pas celui que l'on croit. Il ne réside pas dans la perspective d'un remplacement de l'intelligence humaine par une intelligence artificielle générale plus performante. Il réside plus subtilement dans l'érosion silencieuse de notre capacité à produire du sens, à intégrer l'expérience, à nous reconnaître dans le temps tout au long de notre propre existence, au sein d'un organisme social. Les processus automatisés prennent en charge ce qui demandait autrefois un effort d'attention, de coopération, de créativité ; et c'est notre force d'être humain qui s'atrophie peu à peu, à bas bruit. Cela se produit au niveau individuel, mais également au niveau de l'organisation et de la société dans son ensemble, et finit par déplacer ce qu'une collectivité est capable de devenir.

Une variété de menaces, un point aveugle

Pour cerner précisément ce qui est en jeu, on peut distinguer quatre catégories de risques qui, bien qu'indépendantes les unes des autres, s'agencent selon une intensité croissante d'engagement pour l'organisation.

Le risque réglementaire est le plus familier. C'est une pression externe qui s'exerce en termes d'obligations, de contraintes légales ou réglementaires et de sanctions éventuelles. On connaît bien le RGPD, qui protège les individus, en particulier contre les errances du Big Data. Depuis peu, nous avons l'AI Act, qui régule au niveau européen l'usage de l'intelligence artificielle. La robotique et les machines sont également concernées, au travers de la directive européenne dite « règlement Machines », moins connue, qui introduit des exigences pour les machines comportant des éléments numériques.

Le risque technique concerne la fiabilité, la sécurité et la robustesse des systèmes. On parle alors de vulnérabilité, de protection à l'égard de fournisseurs parfois opaques, de protection contre les cyberattaques : des normes comme ISO 27001 et 42001, NIS2 ou DORA en forment un véritable arsenal méthodologique. C'est un risque exogène : on se protège d'une menace qui vient de l'extérieur.

Le risque organisationnel marque un premier basculement vers des sources de menaces internes. Il porte sur la capacité de l'entreprise à s'adapter, à ajuster ses processus, à faire évoluer ses méthodes. Il s'agit pour l'organisation d'effectuer des réglages de fonctionnement sans changer la nature des processus concernés. Grégory Bateson parlait de changement de type 1 : absorber les contraintes par ajustement de l'organisation et du fonctionnement, et non par une remise en cause. Il s'agit d'un changement dans le système.

Le risque ontologique, également endogène, est le plus préoccupant. Il engage un changement de type 2, c'est-à-dire une transformation en profondeur de ce qui forme l'identité même de ce que l'organisation est et fait. Il ne s'agit plus de se protéger au niveau légal ou technique, ni d'optimiser les processus : il s'agit de répondre à une question que les référentiels techniques ne formulent pas. Que sommes-nous en train de devenir ? Devenons-nous ce que nous voulions être ? C'est un changement du système.

Un service de relation client peut voir tous ses indicateurs s'améliorer, délais réduits, satisfaction stable, coûts en baisse, et cesser, dans le même mouvement, d'être ce qu'il était : un endroit où des personnes coopéraient, apprenaient les unes des autres, partageaient une identité commune. Les tableaux de bord enregistrent la matérialité ; ils n'enregistrent pas ce qui forme l'esprit et l'âme de l'organisation.

Pourquoi l'ontologique reste-il dans l'ombre

L'une des raisons pour lesquelles les réalités ontologiques demeurent largement invisibles, c'est précisément qu'elles ne correspondent à aucune fenêtre de la grille de lecture rationnelle dont nous disposons. Il n'y a pas de norme associée, pas de procédure dédiée, pas de département chargé de les traiter. Elles ne se mesurent par aucun indicateur régulier, n'apparaissent donc dans aucun tableau de bord, et ne sont donc pas gérées de manière rationnelle par les différents comités de l'organisation, du moins pas de manière directe.

Il est également difficile de les nommer, parce qu'elles engagent l'organisation dans une intervention sur sa propre identité, sur sa propre légitimité. Or interroger sa légitimité et son identité n'est pas ce que les organisations font spontanément, surtout en période de transformation rapide, encore moins en période de crise. Elles préfèrent, et c'est tout à fait humain, se tourner vers la résolution de l'opérationnel, traiter ce qu'elles savent traiter, quitte à mettre en attente ce qui les obligerait à se réinventer.

Ne pas prendre en compte les risques de type 2, ou les traiter comme des risques de type 1, conduit à des erreurs majeures. Aucun ajustement de processus ne peut résoudre une question existentielle. Traiter une remise en cause identitaire avec les outils de l'efficacité opérationnelle revient à soigner un symptôme sans en chercher l'origine : on corrige sans traiter la cause profonde.

L'enjeu sociétal

À l'échelle de l'entreprise, cette confusion a un coût : celui des transformations qui n'aboutissent pas, des réorganisations qui engendrent autant de problèmes qu'elles n'en règlent, des résistances voire des rejets des projets de transformation.

À l'échelle d'une société, ce que les nouvelles technologies, et l'IA en particulier, bouleversent, ce ne sont pas seulement les chaînes de valeur : ce sont les conditions mêmes de la construction de soi, du lien social, de la transmission entre générations de ce qui fait notre identité et notre cohésion collective.

Lorsqu'une part croissante du travail intellectuel est confiée à des machines, ce n'est pas seulement une question d'emploi qui se pose, c'est une question de rapport au savoir, à l'effort et à la reconnaissance. C'est celle de la place de chacun dans une chaîne de production qui ne sait plus très bien où elle s'arrête et où commence la place de l'humain. Quand la relation de service s'opère principalement par écran interposé, c'est la question même du lien à l'autre qui se transforme. Quand les algorithmes organisent l'attention, hiérarchisent l'information, déterminent ce que nous voyons et ce que nous ignorons, c'est l'autonomie même de la pensée qui est en jeu.

Ces enjeux sont politiques au sens le plus profond du terme : ils concernent la manière dont une société se gouverne elle-même, se définit et choisit ce qu'elle veut préserver, ce qu'elle est prête à transformer et au nom de quoi.

Finalement, quelques questions préalables

Les nouvelles technologies, avec leurs capacités d'intelligence et d'automatisation, tiennent leurs promesses opérationnelles. Les gains de rapidité, de fiabilité et de coûts sont manifestes. Mais l'éclairage disproportionné porté sur leurs aspects techniques laisse dans l'ombre un registre que ni les normes, ni les indicateurs, ni les comités habituels ne saisissent : celui de ce que nous devenons en déléguant à des machines les fonctions qui donnaient un sens à notre travail, à nos liens et à nos décisions.

Prendre en compte les quatre catégories de risque, réglementaire, technique, organisationnel et ontologique, n'est pas un exercice de style. C'est se donner les moyens de mettre en place les outils, les méthodes et les indicateurs qui permettront de garantir que le projet de transformation préserve l'identité de l'organisation et, au-delà, la cohésion d'une société, en évitant de la dissoudre dans la technologie.

La question ontologique ne se traite pas avec les outils de l'efficacité opérationnelle. Elle se pose, elle se nomme, elle se discute. Trois interrogations peuvent ouvrir cette discussion :

• Que voulons-nous que ces nouvelles technologies fassent, et que voulons-nous qu'elles ne fassent pas ? La capacité technique n'est pas une obligation d'usage. Choisir ce que l'on automatise, c'est déjà décider de ce que l'on entend rester.
• Qu'est-ce qui doit demeurer irréductiblement humain ? Le jugement, la responsabilité, la relation à l'autre, l'apprentissage par l'épreuve. Ces fonctions ne sont pas des coûts à optimiser : elles sont ce qui nous permet d'être et de faire ce que nous sommes, individuellement et collectivement.
• À qui revient cette réflexion ? Elle n'appartient pas aux seuls experts techniques. Elle engage les dirigeants, les équipes, et plus largement la société dans son ensemble, qui doit décider de ce qu'elle souhaite être et préserver, de ce qu'elle accepte de transformer, et au nom de quoi.

Poser ces questions sert la transformation, à la condition qu'à la sortie nous soyons encore capables d'être qui nous sommes et de faire ce que nous savons faire aujourd'hui.