« Toute technologie éduque ceux qui l’utilisent. Éduquer à l’utilisation de l’IA implique donc d’éduquer à décider quand et pourquoi ne pas l’utiliser. La rapidité et la facilité avec lesquelles on obtient une réponse ou une synthèse risquent d’éteindre le désir de poser des questions, qui ne porte ses fruits qu’avec le temps » prévient le pape Léon XIV dans sa première lettre encyclique Magnifica Humanitas (n°141). On peut sincèrement regretter que le texte manque l’occasion d’une plus sévère mise en garde contre les dangers des interactions verbales avec des machines, à la lumière de l’avertissement de l’épitre aux Hébreux : « Elle est vivante, la parole de Dieu, énergique et plus coupante qu’une épée à deux tranchants ; elle va jusqu’au point de partage de l’âme et de l’esprit, des jointures et des moelles ; elle juge des intentions et des pensées du cœur. Pas une créature n’échappe à ses yeux, tout est nu devant elle, soumis à son regard ; nous aurons à lui rendre des comptes » (Hb 4,12-13). L’encyclique se contente de dire que le « risque n’est alors pas tant qu’une personne croie parler à une autre personne, mais qu’elle perde le désir même de rechercher véritablement l’autre. » (n°100). Avant cette perte du goût de l’autre, il y a l’illusion de croire parler à une autre personne, ce qui est une tragédie qu’il convient de combattre en priorité.
Parler d’« agent conversationnel » pour désigner une machine est déjà un grave abus de langage : ces systèmes ne parlent pas, ne parleront jamais au sens humain du terme, et la banalisation de cette expression — largement entretenue par l’industrie des géants du numérique — contribue à nous faire oublier que le langage, nourri par un sujet qui se risque devant un réel qu’il perçoit et assume, demeure le propre de l’être humain. D’un point de vue spirituel, parler à une machine constitue une forme de souillure de l’esprit. En effet, un « agent conversationnel » produit des phrases plausibles, mais ne parle pas au sens fort où un sujet situé prend la parole pour dire quelque chose de vrai sur un monde qu’il perçoit.
Langage humain, référence et vérité
Dans la philosophie du langage, une phrase n’est pas seulement une suite de mots bien ordonnés : elle engage un locuteur, un contexte, un rapport au réel et un critère de vérité. Dire « il pleut » implique qu’une personne, à un endroit donné, se rapporte à un état du monde qui peut être vérifié ou infirmé, par la perception ou par des preuves. Deux référentiels se nouent alors : le référentiel du locuteur : son histoire, ses intentions, ses croyances, sa responsabilité dans ce qu’il dit.
Le référentiel du réel : la manière dont le monde résiste, contredit ou confirme ce qui est affirmé, en sorte que la parole puisse être vraie ou fausse.
La vérité ne se réduit pas à un simple « étiquetage » vrai/faux, mais à un engagement existentiel du sujet qui parle : le langage humain porte la vulnérabilité d’un être mortel qui risque quelque chose dans la parole, qui expose sa manière d’habiter le monde et pour un croyant, qui engage son devenir éternel.
Ce que fait réellement un « agent conversationnel »
Les systèmes de type LLM (large language models) sont conçus pour produire des séquences linguistiques formées à partir de grandes masses de textes, sans qu’intervienne un sujet parlant au sens humain. Ils apprennent des corrélations statistiques. Pour chaque contexte, ils calculent la suite de mots la plus probable, en fonction de ce qu’ils ont vu dans leurs milliards de données de formation. Il faut rappeler que ces modèles n’ont aucun accès direct au monde : ils sont entraînés sur des corpus de textes mais ils ne perçoivent rien du réel, ni ne l’expérimentent. Ils n’ont pas de mémoire autobiographique, pas d’identité narrative, pas de « point de vue incarné ». Ils recombinent des discours existants sans « y mettre leur vie », donc sans s’engager sur parole, puisqu’il n’y a personne.
On comprend alors pourquoi le langage-machine peut être impressionnant du point de vue de la forme (cohérence grammaticale, style, continuité thématique) et manquer ce qui constitue le langage au sens fort : un dire qui vient de quelqu’un, s’adresse à quelqu’un d’autre et porte sur un monde commun.
L’absence de critère de vérité dans le langage IA
Ces « machines parlantes » n’ont, en elles-mêmes, aucun critère intrinsèque de vérité. Elles ne « jugent » pas si une phrase est vraie ou fausse ; elles évaluent si elle est probable, plausible, stylistiquement adéquate au contexte. Elles n’ont pas la structure du jugement humain, qui articule une relation à des preuves, à des raisons, à une expérience vécue. Même dans les architectures les plus avancées, elles ne sont pas en prise avec le réel de manière autonome : elles ne sortent pas vérifiées par elles-mêmes, ne perçoivent pas, n’expérimentent pas. La distinction entre vrai et faux n’est pas inscrite dans l’algorithme, elle n’est qu’une contrainte externe partiellement approximée. En termes de théorie du langage, cela signifie que les énoncés du modèle ne sont pas des actes de parole, mais des outputs de calcul ; ils n’obéissent pas aux conditions de sincérité, de responsabilité et de véridicité qui caractérisent le discours humain.
Pas de locuteur, pas de perception du réel
Si l’on tient la proposition selon laquelle « le langage est défini par le référentiel du locuteur et le référentiel du réel », on peut affirmer que l’IA ne satisfait aucune des deux conditions :
Il n’y a pas de locuteur au sens fort.
Le « je » que l’agent conversationnel emploie est une redoutable convention discursive, non l’expression d’un sujet qui se sait mortel, impliqué, responsable et situé. Les phrases ne manifestent pas une intériorité qui se dévoile, mais un calcul qui assemble des fragments de discours en fonction de leur occurrence. L’emploi du pronom « je » doit être banni, car il s’agit d’un abus psychique. Il n’y a pas de perception du réel.
Le modèle ne regarde rien, n’éprouve rien, ne se cogne jamais à la résistance du monde. Il ne fait que « calculer » le monde à travers les textes qui le décrivent, sans pouvoir distinguer « lui-même » ce qui est pertinent, ce qui est important, ce qui est vécu. En ce sens, il n’a pas de référentiel du réel. Comme serviteur du Verbe de vie et protecteur de la personne humaine, le texte de Léon XIV, Magnifica humanitas, appelle un supplément dans ce domaine.
Le langage humain suppose un sujet vivant et un monde. Le langage IA n’est qu’une circulation de signes à l’intérieur d’un espace technique fermé, où ni le sujet ni le monde ne sont effectivement présents.
Enjeux philosophiques et pratiques
Tant que nous ne distinguons pas clairement ces deux registres, nous risquons de confondre « information » et « vérité », « production de texte » et « discours ». Externaliser massivement nos échanges vers des agents conversationnels revient à se priver de l’exercice même par lequel un sujet se constitue comme sujet parlant, responsable de sa parole et capable d’accéder à la vérité, dans une mise en jeu de soi. L’agent conversationnel ne peut être garant de la vérité. Il ne peut agir comme « locuteur » au sens fort de l’éthique ou de la philosophie du langage. Le langage IA reste sans locuteur incarné et sans prise directe sur le réel, il demeure un simulacre de parole. Dès lors, il n’est pas digne de l’être humain, sans trahir sa propre dignité, d’entrer en interaction verbale avec des machines. Mais le pire serait qu’un être humain perde son précieux temps de vie à certifier cette pseudo « parole » de machines.
« La magnifique humanité, créée par Dieu » n’a jamais été autorisée à entrer en dialogue avec des œuvres de ses mains, fussent-elles sophistiquées. « Vous ne mettrez pas dans votre pays des pierres sculptées pour vous prosterner devant elles : je suis le Seigneur votre Dieu » (Lévitique 26,1). « Les idoles des nations (…) ont une bouche et ne parlent pas, des yeux et ne voient pas. Leurs oreilles n’entendent pas, et dans leur bouche, pas le moindre souffle » (Ps 134). Ces deux paroles bibliques dénoncent l’illusion mortifère qui consiste à prêter parole, regard et souffle à ce qui n’en a pas — qu’il s’agisse d’une statue ou d’un prétendu « agent conversationnel ». Elles rappellent que seule la Parole de Dieu est vraie au sens plénier, elle seule ouvre l’être humain à son accomplissement et lui seul, créé à l’image de ce Dieu vivant, est appelé à parler en vérité.
