La mascarade :

le rôle amplificateur de l’IA

Hubert Landier

Psychanalyse et management (à paraître)

 

La présente réflexion sera fondée sur l’idée selon laquelle toute institution se fonde sur une mascarade. Il faut entendre par là que les acteurs qu’elle mobilise d’une façon ou d’une autre conformément à la raison d’être dont elle se recommande sont conduit à jouer un rôle et à masquer ainsi leur véritable moi. Ils doivent ainsi présenter d’eux-mêmes un moi de substitution, ou de composition, qui peut entrer parfois en conflit avec ce qu’ils sont réellement.

 

Cette tendance, telle qu’elle paraît se développer dans les sociétés contemporaines, sera illustrée par deux cas concrets que l’auteur a pu examiner à l’occasion de sa pratique de la formation d’une part, de l’audit social d’autre part. Ces deux cas se fondent donc sur des éléments d’observation précis, même si la confidentialité à laquelle il est contraint l’obligent à en taire l’identité.

 

En soi, le fait de « jouer un rôle » n’est pas chose nouvelle. Ce qui, par contre, est nouveau, c’est que ce rôle se joue désormais dans un contexte faisant appel massivement à ce qu’il est convenu d’appeler une « intelligence artificielle », même si cette dénomination constitue un facteur d’ambiguïté et de méprise. De là le plan que l’on se propose de suivre, les études de cas proposées étant suivie, dans une deuxième partie, par une analyse de effets de l’intelligence artificielle sur la mascarade telle quelle se joue dans les institutions et sur l’identité de la personne humaine.

 

1 - La mascarade ordinaire dans les institutions

 

Les propos qui suivent étant fondés sur la pratique professionnelle de l’auteur, il convient donc de préciser préalablement en quoi celle-ci aura consisté. En premier lieu, en tant que consultant dans le domaine des relations sociales et humaines, puis d’auditeur social, il aura été introduit dans de nombreuses organisations, à but lucratif ou à finalité non lucrative ou de service public, de la très petite à la très grande, dans tous les secteurs d’activité, en France et dans plusieurs pays étrangers. De ce matériau considérable, conservé sous forme de rapports et de verbatims anonymisés, ceux-ci ayant été recueillis lors d’entretiens en vis-à-vis, on aura retenu pour ce qui suit le cas d’une grande organisation relevant de l’économie sociale et solidaire, à la finalité clairement humaniste et, en principe, désintéressée.

 

Parallèlement à cette activité d’auditeur social, l’auteur aura assuré des formations, dans son domaine de compétence, tant dans le cadre de la formation continue à l’adresse d’adultes déjà en activité qu’à des étudiants en quête d’un mastère ou d’un diplôme équivalent, dans le cadre, donc, d’établissements de formation supérieure, publics ou privés. Ceci l’a conduit à officier dans plusieurs universités (Paris 1, Paris 5, Paris Dauphine, IFOMENE/ICP), à l’Institut d’études politiques de Paris (3ème année, section service public), à l’École centrale (séminaire optionnel sur les relations sociales). Ayant été mis à la retraite d’office à l’âge de 65 ans, c’est-à-dire à une époque où il commençait à exercer correctement son métier d’enseignant, il s’est alors replié sur des écoles de gestion où une telle contrainte n’existait pas. Certaines de ces écoles obéissaient à des règles très semblables à la déontologie universitaire. Il semble toutefois, selon l’expérience accumulée par l’auteur sur l’espace de temps d’une trentaine d’années, que ces règles se soient progressivement dévoyées, certaines de ces écoles s’étant transformées, pour différentes raisons, en établissements dédiées à la seule diffusion de « compétences » conformes à la demande des entreprises et aux canons de la doxa managériale, ceci excluant tout esprit critique. Le premier cas traité dans ce qui suit sera emprunté à l’une d’entre elles, où l’auteur a officié durant plus d’une dizaine d’années.

 

La mascarade dans une école de gestion

 

Soit une école de gestion, ou plutôt, une business school, comme il y en a beaucoup d’autres, ni probablement la pire ni certainement la meilleure. La brochure de présentation sur Internet la présente d’une façon avantageuse ; un diplôme décrit comme étant prestigieux, ouvrant sur de très belles carrières, des partenariats un peu partout dans le monde, des programmes variés et répondant aux exigences les plus sévères, une association d’allumni très active, des campus modernes et confortables, et ainsi de suite. Pas grand-chose sur la recherche et rien du tout sur le corps professoral. Des photos, bien sûr, respectant la parité filles/garçons, parmi lesquels figurent un Asiatique et un Africain, come sur le site de toutes les business schools. Une photo en pleine page de la cérémonie de remise des diplômes, en un lieu inspirant la respectabilité, avec toges, épitoges et mortiers.

 

Afin de pouvoir accéder à une telle reconnaissance, l’impétrant doit se soumettre à trois conditions principales : assumer les droits d’inscription (à partir de 15 000 € par an), signer la feuille de présence (digitalisée) diffusée au commencement de chaque cours, présenter un mémoire - en ayant eu bien entendu recours à une intelligence artificielle pour le composer. La présence obligatoire au cours n’impose pas de le suivre et il est permis, durant celui-ci, de vaquer à ses occupations sur son ordinateur. A peu près tous les étudiants semblent toutefois soucieux d’obtenir leur diplôme (ils accordent ainsi beaucoup d’importance aux notes qui leur sont attribuées par les enseignants). Certains, en minorité, ne dédaignent pas d’apprendre quelque chose au passage et le manifestent par une attitude pro-active lors des jeux de rôles ou des simulations qui leur sont proposés. Les autres sont là, et c’est tout. Les « professeurs » le savent, mais respectent le rituel en s’aidant de planches PowerPoint. Certains ont malgré tout le sentiment d’être utiles et de délivrer des connaissances.

 

Au bout de trois ans, l’étudiant obtient son diplôme et il singe la Sorbonne d’Albert le Grand en revêtant, l’espace de quelques instants, la toge qui lui a été obligeamment prêtée par l’École. La porte lui est enfin ouverte, croit-il, à une belle carrière professionnelle. Après consultation d’Internet et envoi de CV préformatés, il espère être embauché dans une entreprise prestigieuse et bien cotée en termes d’image employeur. Le site de cette entreprise énumère ses valeurs fondatrices, ses méthodes modernes de management, l’esprit d’équipe que l’on y encourage, la passion qui anime ses membres, les possibilités d’évolution, le tout illustré d’une photo du babyfoot disposé près de la cafeteria. Peu importe l’objet de l’entreprise ; s’il s’agit de la production de tondeuses à gazon (celle-ci ayant été concrètement « externalisée » en Chine), il est probable que l’impétrant du siège n’en verra jamais autre part que sur les annonces publicitaires. Peu importe, d’ailleurs : ce qui est important pour lui, c’est de se faire une référence qui permettra de rebondir avantageusement dans une autre entreprise, et si possible, de se faire « chasser ».

 

Quoique fondée sur une pratique personnelle, cette description pourra paraître outrée. Toutefois, pour affirme cela, il faut ne pas y avoir réfléchi ni avoir eu l’occasion de voir in situ comment les choses se passent. La plupart des étudiants s’imaginent que ce cursus scolaire (j’évite ici le mot « académique ») va leur permettre de le valoriser avantageusement, que « les portes de la réussite leur sont ouvertes », qu’ils vont pouvoir réaliser leurs rêves, sans d’ailleurs que ceux-ci soient nécessairement très clairs. Les parents, de leur côté, peuvent être fiers de leur progéniture, pour laquelle ils ont consentis de lourdes dépenses : « Il est aujourd’hui world talents manager chez Buzz & Co et ils envisagent de l’envoyer à l’étranger » (c’est ce qui s’appelle : « faire une carrière internationale »). Ils en parlent avec complaisance à leurs amis. Ce n’est qu’exceptionnellement que le rejeton fait le choix, au terme de ses « études », de pratiquer le métier de boulanger-pâtissier ou de « bifurquer » comme apprenti charpentier. Pour la famille, c’est alors un choc .

 

Il s’agit donc d’une mascarade :

 

•la cérémonie de remise de diplôme, de préférence en un lieu prestigieux loué chaque année pour l’occasion, imite celle d’un diplôme universitaire ; il en va de même du décorum affiché par les documents publicitaires de l’établissement ;

 

•le savoir dispensé se limite grosso modo à l’apprentissage de techniques, ceci excluant à peu près tout esprit critique hors des limites que l’élève est tenu de respecter, y compris dans son mémoire de fin d’études (il ne faut pas inquiéter les « entreprises-partenaires ») et ceci bien que les « soft skills » soient volontiers mises en avant ;

 

•les principes humanistes évoqués dans les documents publicitaires ne sont là qu’à l’état de « buttes-témoin » de l’état d’esprit des fondateurs ;

 

•le diplôme, pour la plupart des élèves, importe plus que le savoir recueilli, certains d’entre eux étant sans illusion sur l’intérêt pour eux de certains enseignements ;

 

•chacun fait mine de jouer le rôle qui lui est imparti : la Direction de l’École, les enseignants et les apprenants eux-mêmes ; il s’agit donc d’un vaste jeu de simulation, la sincérité de tel ou tel acteur constituant pour lui un facteur plutôt défavorable ; autrement dit, il faut « jouer le jeu » ou se retirer, ce qui aura été la décision, en tant que « professeur associé », de l’auteur de ces lignes.

 

La mascarade ainsi décrite est cohérente avec la mascarade qui attend le jeune diplômé dans l’institution dans laquelle il va commencer sa vie professionnelle. Si cette institution se conforme aux canons actuels de l’activité économique et des méthodes managériales visant à la « réussite ». Il se trouve alors exposé aux risques suivants :

 

•s’y plonger avec innocence, au risque de découvrir un jour à quel point il a été manipulé ;

 

•accepter de porter son masque en sachant qu’il s’agit bien d’un masque mais que celui-ci conditionne sa « réussite » même s’il regrette d’avoir à privilégier le paraître et à participer à une action collective dont il n’approuve pas tous les aspects ;

 

•subordonner ses valeurs personnelles, à supposer qu’il y ait réfléchi, ce qui est parfois le cas, à celles qui lui sont imposées comme allant de soi ;

 

•adopter une attitude de cynisme absolu, indépendamment de ses croyances personnelles ;•

 

se démettre brutalement, souvent après une longue période de maturation, au risque d’une rupture définitive avec tout ce qui constituait son univers professionnel ;•

 

attendre l’âge de la retraite avec impatience afin de retrouver sa liberté et son intégrité.

 

N’étant pas psychanalyste, l’auteur de ces lignes, toutefois, ne se risquera pas plus avant dans l’interprétation qu’appellerait ce constat.

 

2.2 – La mascarade au sein d’une grande organisation humanitaire

 

L’institution, bien connue de l’auteur de ces lignes pour y avoir, pendant presque une dizaine d’années, participé à des missions à la fois au niveau de son siège et à celui de structures de proximité, jouit d’une bonne réputation auprès du public. Elle est fondée sur des principes éthiques fortement affirmés et ses adhérents, en tant que bénévoles, affirment y exercer une influence se voulant déterminante. Toutefois, le développement des activités de l’institution les a conduits à confier la conduite de l’action à un staff important de collaborateurs salariés, dont beaucoup travaillent à son siège parisien. Ajoutons qu’une partie importante du budget vient de subventions publiques, parfois à la suite d’un appel d’offre lancé par les pouvoirs publics en vue d’assurer telle ou telle mission. Un important dispositif interne et des contrôles externes sont prévus afin d’empêcher tout risque de dérive par rapport à la raison d’être de l’institution et à l’utilisation des fonds dont elle dispose.

 

Si cette raison d’être, clairement affichée et même proclamée, ne fait aucun doute, il n’est cependant pas absolument certain que tous les adhérents et que tous les salariés en soient véritablement porteurs. Ici et là, certains dirigeants locaux, en tant que bénévoles, se prévalent de leur appartenance à l’institution comme du signe d’un certain statut social et s’y installent pour une durée proportionnelle à leur degré d’inaction. Certaines influences politiques ou philosophiques ne sont pas à exclure. Parmi les salariés, au moins deux catégories peuvent être assez clairement repérées :

 

•certains d’entre eux, notamment parmi les plus anciens, jouent leur rôle par conviction, avec le sentiment de participer à une action collective dont l’utilité ne fait aucun doute, ceci au point qu’il est nécessaire parfois à l’encadrement de les inciter à réduire leur engagement ; ils se savent moins bien payés que ce qu’ils pourraient obtenir ailleurs et s’ils restent, c’est parce que l’institution répond à leurs attentes en matière d’engagement personnel.

 

•D’autres, souvent plus jeunes, considèrent par contre leur présence dans l’institution comme un emploi quelconque, considéré en fonction des opportunités qui se présentaient à eux et de l’équilibre à la fois personnel et financier auquel il leur a permis de parvenir, ceci indépendamment de toute référence à la raison d’être de l’institution, même s’ils mettent volontiers celle-ci en avant afin de se défendre par avance de toute forme d’indifférence. Ils n’hésiteront donc pas à donner leur démission s’ils trouvent mieux ailleurs ou afin de « poursuivre leur carrière ».

 

D’une façon transversale à ces deux profils, il apparaît que certains manifestent un professionnalisme qui les rend quasiment indispensables à un bon fonctionnement de l’institution, tandis que d’autres font preuve d’une faible efficacité, soit parce qu’ils n’ont pas mis à jour leurs pratiques par rapport à l’évolution des techniques, soit parce qu’ils se laissent vivre, étant peu incités à changer de comportement par suite d’une trop grande bienveillance à leur égard. Bien entendu, lorsque cette bienveillance, lorsqu’elle a été longtemps observée à leur égard, laisse place à des remontrances un peu brutales à leurs yeux, il s’agit alors d’un drame qu’ils perçoivent comme une provocation inacceptable, surtout quand elles émanent de plus jeunes.

 

Une première constatation s’impose ainsi. La raison d’être de l’institution, tout en restant globalement intacte, laisse place, notamment parmi les salariés du siège, à des comportements essentiellement fondés sur l’intérêt personnel, indépendamment de la finalité collective, ces comportements étant soigneusement dissimulés par une adhésion proclamée à la raison d’être de l’institution. Un tel comportement relève clairement d’une mascarade, le paraître l’emportant sur l’engagement dans une action collective qui serait porteuse de sens. Cette attitude d’esprit est difficile à repérer et ne l’est qu’à l’occasion de telle ou telle circonstance qui aura obligé l’intéressé à manifester ce qu’il est réellement et donc à se démasquer.

 

Entre les uns et les autres, les choses ne vont pas nécessairement pour le mieux. Il s’agit en fait d’un affrontement entre deux cultures. Les anciens sont portés à qualifier les nouveaux de mécréants par rapport à la raison d’être de l’institution. Les nouveaux peuvent (parfois) reprocher aux anciens, ces pieux croyants, leur manque de compétence ou d’efficacité (cela selon les critères qui sont les leurs). Cette sourde opposition, bien entendu, reste dans le non-dit. Elle ne s’exprime qu’à l’occasion de cas d’espèces et d’accusation ad hominem. Parfois, très loin du siège, une telle opposition, sous une forme un peu différente, peut être de même observée « sur le terrain ». Les rares salariés, isolés au milieu de bénévoles, peuvent se plaindre du manque de compétence de ces derniers. Et les bénévoles, de leur côté, peuvent accuser les salariés d’être payés pour faire ce qu’ils font en tant que bénévoles. Les rapports interpersonnels dissimulent alors des problèmes structurels.

 

Il faudrait, pour faire face à ces sources de tension, une gouvernance forte. Or, elle ne l’est pas, et cela indépendamment des personnes qui en assurent la fonction. Théoriquement, l’institution est gouvernée par des adhérents démocratiquement élus d’étage en étage. Elle serait aidée en cela par des salariés, ceci par délégation de responsabilité. Pratiquement, la majorité des adhérents ignorent largement ce qui se passe au sommet. Quand ils évoquent le siège entre eux, c’est pour en souligner la lourdeur, les procédures qu’il impose et le caractère bureaucratique. Quant aux élus eux-mêmes, ils ont, en fait, largement délégué non seulement l’exécution de leurs orientations, mais la responsabilité de la politique mise en œuvre. Leur responsabilité d’administrateurs ne les occupe pas à temps complet. Bien entendu, leur bonne volonté n’est pas en cause, non plus que leur compétence. Simplement, ce qui se passe, c’est que la technostructure exerce en réalité l’essentiel du pouvoir. Or, ses membres ont leurs intérêts propres en tant que membre de cette technostructure. Il en résulte que certaines décisions qui devraient être prises ne le sont pas, ou que des dérives sont acceptées çà et là sans que l’on y trouve matière à réagir vigoureusement comme il le faudrait. Le mot d’ordre implicite est : « pas de vagues ». Le manque de compétences d’un pieux croyant un peu fatigué ou l’arrivisme désinvolte d’un « jeune manager visionnaire » qui se décrit comme tel dans le journal des anciens de son école sont donc également acceptés.

 

Au total, la cohérence a cessé d’être entre la finalité de l’institution et nombre de comportements qu’elle abrite. Pendant que les uns s’épuisent à faire avancer les choses, d’autres se laissent vivre ou se préoccupent d’abord de défendre leur près carré. Aucun contre-pouvoir efficace ne se manifeste vraiment. La finalité de l’institution interdit en effet aux critiques de s’exprimer dans la mesure où elles porteraient atteinte à sa réputation, qu’il convient de sauvegarder à tout prix contre d’éventuelles dénonciations publiques venues de l’extérieur. Le piège se referme : il faut subir accepter de subir l’inacceptable afin de préserver la cause. La grandeur prêtée à celle-ci sert de justification au silence de ceux qui y croient. La mascarade devient une nécessité. Il est permis de penser qu’une telle situation est également celle de nombre d’institutions à vocation non lucrative et que fonde une raison d’être respectable et moralement élevée. Le prêtre qui a perdu la foi dit sa messe sans croire à ce qu’il dit, mais tant pis : que pourrait-il faire d’autre à moins d’un immense effort personnel de renonciation ? Il ne s’agit donc pas seulement d’activités marchandes. Et il est permis d’affirmer que toute forme d’institution génère, afin de se maintenir, une forme de mascarade, et ceci quel que soient son objet ou sa forme.

 

2 – L’effet amplificateur de l’IA

 

Cette posture, qui relève de l’imposture, se trouve amplifiée par les moyens que lui offrent les outils issus de l’IA. Ceux-ci tendent en effet à l’éloigner un peu plus du réel pour l’enfermer dans un monde simulé. Ce monde simulé relève alors du rêve, ou plutôt du fantasme, loin de la réalité brute telle qu’elle s’impose en dernière instance à l’être humain. Ce monde fantasmé peut rester fermé sur lui-même jusqu’à l’obsolescence du sujet humain en tant que sujet ; mais il peut aussi être brisé par un brutal retour au réel dont les effets seront dévastateurs, obligeant l’intéressé à revenir à son vrai moi jusqu’ici dissimulé par le masque qu’il portait, son moi mondain, son moi simulé. En facilitant cet éloignement du réel et l’enfermement de l’intéressé dans son personnage, attelé à sa « réussite » scolaire, puis professionnelle, l’IA a ainsi pour effet d’enfermer un peu plus l’être humain dans un jeu de simulacre qui le conduit à ignorer l’effondrement planétaire du plancher où il se produit en tant qu’acteur et porteur de masque.

 

A cela s’ajoute ceci : une société, pour « faire société » se fonde nécessairement sur le contact d’humain à humain. Je fais société avec mon libraire quand je lui achète un livre après lui avoir demandé ce qu’il en pense. Ce lien se trouve rompu dès lors que j’achète le livre sur Amazon qui m’en assurera la livraison dans ma boite aux lettres sans qu’il n’y ait plus aucun contact humain. La relation entre « je » et « tu », qui constitue le fondement de toute société, se trouve donc désormais médiatisée par ce moyen technique que représente l’IA. Contrairement à ce qui peut parfois être dit, je ne dialogue pas avec une IA. Je ne peux que la considérer comme un outil, au même titre qu’un marteau, ou me laisser guider par elle, auquel cas elle prend la forme d’une déité.

 

2.1 – L’IA ne traite pas du réel, mais de l’image que l’être humain se fait du réel

 

L’intelligence sera définie dans ce qui suit comme la capacité d’un être humain à se maintenir en vie en anticipant et en tenant compte des modifications de son environnement, ce qui suppose de sa part une forme de plasticité . Elle suppose la capacité d’autopoïèse telle qu’elle a été décrite par Francisco Varela . Ainsi se dessine une « zone grise » entre ordre et désordre, ou comme le dit Henri Atlan, « entre le cristal et la fumée » . C’est dans cet entre-deux imprévisible auquel parvient un système en déséquilibre, en effet, que surgissent les bifurcations porteuses de changement. Il en résulte qu’au fur et à mesure de son développement et de modifications qu’il impose au milieu qui est le sien , l’être humain construit le monde qui lui est spécifique , la représentation intérieure qu’il se fait de ce qui lui est extérieur, concurremment avec les représentations différentes que s’en font d’autres espèces vivantes, voire d’autres communautés appartenant à l’Humanité, présente ou passée. L’IA n’obéit à aucune de ces caractéristiques et ne peut dont être considérée comme une intelligence. Il s’agit d’un système sophistiqué de computation, ce qui est tout différent. Un concombre de mer peut être considéré comme plus intelligent que Chat GPT :

 

l’IA ne vise pas à se maintenir en vie en tant que système organisé, mais à délivrer un résultat répondant à une attente exprimée de l’extérieur par un signal,

 

•cette réponse au signal qui lui est adressé ne peut être fondée que sur ce qu’elle a emmagasiné en tant que data, ces data étant modifiées et retraitées selon un protocole qui lui est également imposé de l’extérieur, mais jamais d’une manière autonome, réflexive et disruptive telle qu’il en résulterait un savoir véritablement nouveau,

 

•elle ne dispose d’aucune plasticité par rapport à l’évolution de son environnement et ses résultats se trouvent entièrement déterminés par les données dont elle dispose ; le monde dans lequel elle se meut est celui, et n’est que celui, de l’opérateur qui l’actionne en tant que machine,

 

•la comparaison entre son organisation et l’organisation d’un cerveau humain constitué de neurones, initiée par Marvin Minsky , est trompeuse car elle ne prend pas en compte ce qu’est le comportement de la substance vivante qu’est un neurone,

 

•l’IA ne se développe pas ; elle ne fait que saturer progressivement l’espace dont elle dispose.

 

A cela s’ajoute un point d’une extrême importance : les informations que traite l’IA ne correspondent pas au réel mais à la façon dont celui-ci est conçu par son opérateur. Ce qu’elle traite, ce sont des noms et des concepts, non les choses elles-mêmes. Ses sorties d’information, telles qu’elles résultent de ses calculs, correspondent donc non pas à la réalité sensible mais à une interprétation logique de la réalité, celle-ci étant variable d’un univers culturel à un autre. Ce qu’elle produit est compréhensible dans le contexte de la modernité techno-industrielle mais ne le serait en aucun cas pour un Navajo, ni même pour un Européen de la période de la Renaissance. Il est donc permis d’affirmer qu’elle présente un caractère réducteur dans la mesure où elle ne prend en compte que ce qui semble pertinent à son opérateur humain. Ses calculs aboutissent à des résultats qui peuvent être considérés comme justes, mais nullement comme étant vrais. Ils sont effectués selon une logique qui ne présente en aucun cas un caractère universel. Ces résultats, aussi justes soient-ils, peuvent n’avoir aucun sens en termes d’adéquation par rapport à la réalité. Ils se fondent en effet sur un « langage » (en réalité, il s’agit d’un codage) dépourvu de toute forme de polysémie, la logique binaire sur laquelle elle se fonde excluant par avance toute forme de tiers inclus et d’incertitude. L’IA admet que 2 + 2 font 4 ; elle est incapable d’envisager que cela fasse 3, 8 ou 4, 2 selon les circonstances. Elle conçoit une « bougie » et un « cierge » comme étant identiques, ce qui n’est pas vrai lorsqu’il s’agit de l’offrir à une icône de la Panaghia.

 

L’IA place ainsi son utilisateur dans le cadre de l’enfermement du technicien qui l’a programmée. On en proposera ici un exemple. Dans son Traité du milieu, le grand philosophe indien Nagarjuna, vers le 3ème siècle de notre ère, exprime ainsi son tétralemme logique :

 

Tout est vrai, non vrai,

Vrai et non vrai,

Ni vrai ni non vrai .

 

Pour l’IA une chose ne peut être elle-même et son contraire ; elle se conforme au double principe logique formulé par Aristote : le principe d’identité et le principe de contradiction. Il s’agit là d’une logique qui était indiscutée voici peu encore en Occident. Mais comment alors expliquer en physique quantique, que l’électron puisse être à la fois un corpuscule et une fonction d’onde ? De nombreux physiciens se sont acharnés sur cette impasse logique. Louis de Broglie parlait d’une « onde à bosse » , Bernard d’Espagnat d’une « réalité cachée » . Il aura fallu toute la subtilité de Basarab Nicolescu , se fondant sur la philosophe de Stéphane Lupasco , pour admettre que cette contradiction puisse ne pas en être une dès lors que l’on se situe, selon le principe du tiers inclus, à un autre niveau de réalité.

 

L’IA présente ainsi un double enfermement :

 

•elle nous enferme dans une conception dépassée de la logique scientifique, et donc du savoir,

 

•elle nous enferme dans le cadre de la logique occidentale, à l’exclusion de toutes les autres, et notamment des logiques orientales, bien que la pertinence de celles-ci ait été reconnue par nombre de scientifiques occidentaux .

 

Il est permis d’en conclure que son usage doit être subordonné à une extrême prudence. Dans le cadre de certaines limites, elle peut constituer un outil extrêmement précieux ; les logiciels de traduction automatique (à condition de soigneusement réviser les textes), les logiciels résumant une conférence ou une réunion (à condition de les expurger de leurs incongruités), les logiciels d’IA générative (en tant que sources de documentation ou de rédaction automatique d’un texte) constituent, comme pour beaucoup d’autres, des outils courants pour l’auteur de ces lignes. Il ne s’agit donc pas d’en nier l’utilité. Ce dont il s’agit, c’est d’en mesurer les dangers. On n’en retiendra ici que quelques-uns :

 

1 - Le premier, c’est de confondre la description de la réalité avec la réalité elle-même. La civilisation techno-industrielle est fondée sur le postulat suivant : la vision du monde qu’elle propose présenterait un caractère universel surplombant les ontologies propres aux cultures qui lui échappent encore, au moins partiellement . Au niveau individuel, chacun se trouve ainsi porté à croire que la réalité correspond à ce qu’il en voit et à la façon dont il la comprend. Par extension, il peut en venir à croire également que ce que lui « dit » l’IA générative correspond à la réalité, ceci alors même qu’il s’agit d’une interprétation, historiquement datée, de cette même réalité. Or, il s’agit là d’une illusion.

 

2 - L’IA, en second lieu, tend à limiter l’intelligence du monde à une logique opératoire, indépendamment de ses autres formes, que l’on qualifiera ici de « poétiques » faute de mieux et qui englobent d’autres modes d’accès à la réalité : pratique artistique, démarche spirituelle. L’IA se fonde sur des dénombrements et des calculs. Ce qui n’est ni dénombrable ni calculable lui échappe. Elle peut compter le nombre de roses sur l’étal du fleuriste mais elle ne peut prendre en compte ce qu’est la rose de Silésius . Elle ne peut non plus accéder aux lemmes de Yamauchi Tokuryû dans la mesure où ils précèdent leur encastrement conceptuel computable. Et de même, elle ne peut accéder au savoir d’un Jivaro dans la mesure où celui-ci s’exprime sous forme d’images, non de concepts. Les produits de l’IA correspondent donc à une perception et à une analyse très limitée du réel, propre à l’Occident contemporain et qui n’épuise en rien ce qui est. Elle enferme donc ses pieux croyants dans une vision du monde partielle et qui appartient sans doute déjà au passé.

 

3 - La croyance en l’intelligence de l’IA risque ainsi d’encourager la paresse intellectuelle consistant à la croire intelligente et à s’en remettre à elle afin d’éviter l’effort de réfléchir. En fondant son jugement sur ce que lui propose l’IA, celui qui l’utilise en s’en remettant à elle ne fait qu’obéir aux injonctions implicites de l’opérateur qui en a assuré la programmation. Et soit il ne s’en rend pas compte, soit il s’en rend compte mais accepte implicitement de s’y soumettre. De ce point de vue, l’IA ne fait qu’amplifier les techniques qui animent « Big brother » selon 1984 de George Orwell. Elle constitue un facteur d’ « obsolescence de l’homme », pour reprendre la formule de Günther Anders et réduit le sujet humain à un appendice de la machine et de la méga-machine .

 

Au total, l’IA risque donc d’enfermer un peu plus le sujet humain de l’ère techno-industrielle dans un monde artificiel qui n’a plus qu’une lointaine correspondance avec l’étant-là matériel et avec la vie. S’agit-il là d’une dérive définitive. Non ? Il suffit pour le sujet humain, afin de reprendre l’initiative et de renouer avec la vie, de lui couper l’alimentation électrique. Et s’il ne le fait pas de son plein gré, il se pourrait qu’il y soit contraint par l’impossibilité, qui pourrait ne pas être très éloignée, de produire en quantité suffisante l’énergie requise par l’IA.

 

2.2 – La destruction du lien humain

 

Quelle est, pour commencer, la nature du lien humain ? Il s’agit, dira-t-on, de l’appartenance à une même communauté. Mais alors, est-ce celle-ci qui nous fait devenir sujet ? Ne réduit-elle pas le Dasein que je cherche à être au « on » de la Cité ? Peut-être s’agit-il du partage, conscient ou inconscient, de mêmes croyances ? Mais alors, en quoi respectent-elles ma liberté, en tant que « moi » ? Suis-je toujours un sujet, ou un sujet présumé tel sans qu’il le soit vraiment ? A cette question, Descartes répond en nous envoyant sur une voie de garage : « je pense donc je suis ». Me voilà enfermé dans ma subjectivité. Allons plus loin. Le lien humain, dans ce qui suit, sera défini par le regard de l’autre.

 

Évoquer le visage de l’autre comme fondateur de la personne humaine nécessiterait ici de longues citations d’Emmanuel Levinas. Retenons celle-ci, quand il évoque « l’épiphanie du visage dans le face-à-face » :

 

Rassemblement tout autre que la synthèse, il instaure une proximité différente de celle que règle la synthèse des données et les réunit en un ‘’monde’’, des parties en un tout. La ‘’pensée’’ éveillée au visage ou par le visage est commandée par une irréductible différence : pensée qui n’est pas une pensée de, mais d’emblée une pensée pour…, une non-in-différence pour l’autre rompant l’équilibre de l’âme égale et impassible du connaître. Signifiance du visage : éveil à l’autre homme dans son identité indiscernable pour le savoir, approche du premier venu dans sa proximité du prochain, commerce avec lui, irréductible à l’expérience ».

 

Le regard de l’autre, ce n’est pas l’acquisition d’une connaissance, c’est l’expérience concrète, immédiate et non reproductible d’une ouverture à ce qui n’est pas moi. Un éclair. Une expérience vivante, non l’acquisition d’un savoir à partir d’un stock de savoirs qui auraient été entreposés quelque part en vue d’être traités selon un certain classement afin d’être mis à ma disposition. « Lui » et « moi », nous faisons société, nous inventons une relation de sujet à sujet. Celui qui parle ainsi, Lévinas, a connu les camps de la mort. Et sa voix a du poids quand il affirme que l’on ne peut pas tuer quelqu’un en le regardant dans les yeux.

 

Lévinas n’est pas seul à affirmer le rôle fondateur de l’altérité. Il faudrait citer ici Martin Buber, évoquant le couple Je-Tu ; Aristote, cité par Paul Ricoeur : « L’ami, en tant qu’il est cet autre soi a pour rôle de pourvoir à ce qu’on est incapable de se procurer par soi-même » ; Paul Ricoeur lui-même : « je ne puis m’estimer moi-même sans estimer autrui comme moi-même » , rejoignant la formulation de la règle d’or ; Heidegger, dans son Acheminement vers la parole, du regard qui ne peut être dit à la parole qui tente de l’exprimer ensuite, mais ensuite seulement ; Habermas et l’attention qu’il porte à la délibération . Ayant analysé cela ailleurs , je n’y reviendrai pas. Ce qu’il faut retenir : l’intervention d’une intelligence artificielle ne saurait, sans graves dommages, se substituer à l’échange de personne à personne. Or, c’est cela qui fait problème avec son développement exponentiel dans tous les domaines de ce qu’est aujourd’hui la vie en société. Prenons-en quelques exemples :

 

•si je me rends chez mon épicier afin d’y acheter des fruits, j’entame avec lui une courte conversation ; nous faisons société en évoquant les prix qui montent et le temps qu’il fait ; cet échange se raccourcit si je me rends dans un supermarché ; et il disparaît out-à-fait si celui-ci a mis en place des caisses automatiques ; le « moi-et-tu » laisse place à un interface avec une machine ;

 

•en tant qu’enseignant, je suis supposé m’intéresser à chacun de mes élèves et je cherche à l’orienter dans ses efforts ; le remplacement de l’enseignant par un tutoriel généré par l’IA a pour effet de substituer à ses conseils un simple signal de succès ou d’échec et, pire, une recommandation qui ne peut qu’être impersonnelle, toujours en retard par rapport à l’intelligence humaine ; elle n’est donc qu’un simulacre et le danger est pour l’élève, de la confondre avec une intelligence vivante et réactive à ce qu’il veut dire au-delà des mots qu’il emploie ; cette invitation à déléguer à une machine sa capacité de réflexion le dispense de réfléchir par lui-même et lui permet de produire automatiquement d’excellents mémoires de mastère sans aucune faute de logique ni d’orthographe ;

 

•le mangement de l’entreprise ou de toute forme d’organisation, par des algorithmes portant sur des chiffres a pour effet d’effacer toute forme de responsabilité, la « décision » étant désormais assumée par la machine ou adoptée par la seule référence aux data qu’elle procure sous forme de tableurs Excel, et cela indépendamment de la réalité, telle qu’elle est en partie incalculable ; il en résulte une disjonction avec le réel, entre l’organe décideur et les acteurs impliqués « sur le terrain » qui ne peut qu’échapper en dernière instance à toute forme de contrôle à distance et déboucher sur des orientations délirantes ;

 

•le médecin n’est plus ce praticien s’adressant à « son » malade selon le Serment d’Hippocrate mais un simple agent de santé appliquant un protocole d’intervention défini par les pouvoirs publics selon une grille de tarification précise, ceci sans aucune attention ni même parfois aucun regard pour la personne du malade qui est pourtant là devant lui, qu’il ne connaît pas (car il n’en a pas le temps) et qu’il ne connaîtra sans doute jamais ; la pratique de la médecine, indépendamment des progrès techniques, se réduit dès lors à une suite d’actes médicaux s’enchaînant les uns les autres d’analyse en analyse ;

 

•le mourant peut voir confiées ses dernières paroles à un « robot conversationnel » permettant à l’institution chargée d’abriter ses derniers jours d’économiser le temps d’une infirmière ; il s’agit alors de lui donner l’illusion d’une présence humaine au moment même où celle-ci lui serait la plus nécessaire ;

 

•les formalités administratives les plus banales se trouvent désormais médiées par des robots conversationnels supposés apporter une réponse à toutes les questions que se pose le demandeur ; seul échappe à leur programmation le « cas particulier » plus ou moins insoluble qui fonde la demande formulée par l’usager ; en l’absence pour lui de pouvoir se repérer dans le labyrinthe informatique dans lequel il se trouve, il lui devient alors impossible de faire entendre sa demande et de faire valoir ses droits, que ce soit en tant que client ou en tant que citoyen.

 

•Le guerrier traditionnel, l’arme au poing, regardait son adversaire dans les yeux avant de se jeter sur lui ; le pilote de l’avion qui lâcha la bombe atomique à Hiroshima ne voyait pas directement les conséquences de son acte mais au moins, il était dans l’avion ; le servant d’un drome tueur se tient assis dans une salle de contrôle à peut-être des milliers de kilomètres de la destination prévue, et il manipule son instrument comme il le ferait s’il s’agissait d’un jeu vidéo ; l’ennemi à « liquider » est devenu pour lui une pure abstraction.

 

L’IA constitue ainsi un puissant outil de désagrégation du lien social dans la mesure où elle se présente comme l’outil qui permettra, par souci de commodité pour celui qui la met en œuvre, de se passer de toute attention, et donc comme un substitut à la réflexion personnelle et à l’intelligence situationnelle. Elle constitue une invitation à se blottir dans une démarche décervelante réduisant l’être humain à un individu – ou une chose parmi d’autres choses - au sein de la méga-machine. Le visage de l’autre a disparu.

 

Cette disparition de la personne en tant que sujet présentant un visage qui lui est propre est probablement ce qu’il y a de plus grave. Ce qu’apprennent les élèves dans leur business school ne porte pas sur la réalité mais sur un modèle de réalité. Le gestionnaire RH, dans telle grande organisation, se préoccupe de ce que les rapports d’entretiens annuels ont bien été remis en temps voulu, non de cette personne qui souffre au point d’avoir été reconnue par son médecin comme étant en burn out. Cette vision technicienne des rapports humains se trouve augmentée par l’usage de l’IA sans que l’on puisse décider si c’est l’usage de l’IA qui engendre une vision technicienne ou si c’est celle-ci qui explique l’usage intensif de l’IA. Derrière l’une et l’autre, le visage attentif de celui qui vous regarde en souffrant, en espérant ou en voulant communiquer sa joie disparaît pour laisser place à un terne algorithme qui n’a plus rien à voir avec l’être du réel, autrement dit avec une ontologie du réel.

 

Or, cette disparition de l’être humain ne peut conduire qu’à un développement de la violence, de la violence scolaire à la violence internationale. Il n’y a plus de possibilité de s’accorder de l’un à l’autre, puisque l’algorithme a déjà tout dit. C’est donc la disparition de la négociation, de la médiation et de la diplomatie derrière l’exactitude d’un calcul qui n’a de vrai que le degré de vérité que chacun veut bien lui donner selon le point de vue particulier qui est le sien. L’algorithme, autrement dit, conduit à confondre exactitude du calcul et vérité de l’être, faisant obstacle au passage du « je » à un « nous » partagé intégrant, à un autre niveau de réalité, selon l’approche transdisciplinaire, les contradictions en présence. Il n’est plus de tiers inclus possible face à) l’exactitude du calcul : l’électron est soit une particule, soit une onde, mais ne saurait être autre chose, qui se cache au-delà des mots et des modèles.

 

Conclusion

 

Dans un passage vieux de près de cinquante ans à une époque où il n’était pas encore question d’une « intelligence artificielle », et qui mérite d’être longuement cité, Jean Baudrillard analyse ce déplacement du réel à la simulation du réel, et donc d’une société fondée sur l’omniprésence de la mascarade :

 

« Dans ce passage à un espace dont la courbure n’est plus celle du réel, ni celle de la vérité, l’ère de la simulation s’ouvre (…) par une liquidation de tous les référentiels – pire : par leur résurrection artificielle dans un système de signes, matériau plus ductile que le sens, en ce qu’il s’offre à tous les systèmes d’équivalence, à toutes les oppositions binaires, à toute l’algèbre combinatoire. Il ne s’agit plus d’imitation, ni de redoublement, ni même de parodie. Il s’agit d’une substitution au réel des signes eu réel, c’est-à-dire d’une opération de dissuasion de tout processus réel par son double opératoire, machine signalétique métastable, programmable, impeccable, qui offre tous les signes du réel et en court-circuite toutes les péripéties » .

 

L’IA signe ainsi la domination de l’institution, à la fois impersonnelle et aveugle quant aux réalités de la vie, par rapport au sujet humain. L’humain est contraint de s’y plier ou de se rebeller, pour autant qu’il en a la possibilité. Il peut aussi s’efforcer d’en conserver la maîtrise par sa façon personnelle de l’utiliser. Elle peut alors être d’une grande utilité. Mais il peut aussi se heurter aux exigences que lui imposent les institutions auxquelles il est conduit à s’adresser : prestataires de service, services de santé, administrations publiques, désormais dépourvues de toute possibilité pour le demandeur de pouvoir s’adresser à un interlocuteur humain, condamnant ainsi à l’impuissance quiconque ne maîtrise pas les outils numériques.

 

L’intervention humaine étant ainsi court-circuitée en même temps que dissimulée derrière les algorithmes imposés, la vie en société en vient à se réduire à une interface obligée avec des institutions, le face-à-face humain étant réduit aux seules relations interpersonnelles familiales ou de simple voisinage. Au sein même de l’institution se pose la question de la responsabilité. Tout agent se trouver en effet réduit au rôle de l’exécutant, contraint de s’en remettre à ce qu’attend de lui la méga-machine, l’obligeant, soit à y croire avec naïveté, soit à s’en retirer, ce qui ne lui est pas toujours possible, soit à adopter une attitude schizophrènogène consistant à se constituer un moi de substitution afin de respecter les prescriptions qui lui sont imposées.

 

Inutile ici de citer la Conditions de l’homme moderne d’Hannah Arendt. On se rendra directement au livre de Günther Anders, Hiroshima est partout , où se trouve publiée sa correspondance avec Claude Eatherly. Eatherly était l’un des membres de l’équipage de l’avion qui largua la bombe atomique sur Hiroshima, le 6 août 1945, et cela sans qu’il eût été averti de l’objet de la mission. Comme preuve de son caractère bénéfique, son avion avant son décollage avait fait l’objet d’une bénédiction. Contrairement à d’autres, il en subit un sentiment de culpabilité qui conduisit l’US Air Force à l’intégrer (malgré lui et en toute illégalité) dans un hôpital psychiatrique ; c’est de là et dans ces conditions qu’il entretint une longue correspondance avec le philosophe anarchiste allemand Günther Anders. Le texte qu’on va lire est daté du 12 juin 1959 :

 

« Bien que n’ayant été, je l’espère, en aucun cas un fanatique religieux ou politique, je suis convaincu depuis quelque temps que la crise que nous traversons tous appelle un profond réexamen de l’ensemble de nos valeurs et de nos engagements. Dans le passé, il a parfois été possible pour les hommes de vivre ‘’en roue libre’’ sans se poser trop de questions essentielles sur leur façon de penser ou d’agir - mais il est dorénavant clair que cette époque est révolue. Je pense au contraire que nous approchons à grand pas d’une situation dans laquelle nous serons obligés de réexaminer notre désir d’abandonner la responsabilité de nos pensées et de nos actions à des institutions telles que les partis politiques, les syndicats, l’Église ou l’État » .

 

​