On ne parle pas aux machines

Pourquoi devrions-nous nous inquiéter du développement de la parole artificielle dans nos vies quotidiennes ?

Cette inquiétude s’exprime dès 2020, dans les propos du psychiatre Serge Tisseron [1] qui alertait sur les effets des interactions verbales avec les machines. C’était donc bien avant le raz-de-marée des intelligences artificielles génératives. Il disait : «  la machine parlante risque de confronter l’homme à deux caractéristiques qui lui ont permis de se socialiser et de conquérir le monde, mais qui pourraient le perdre à partir du moment où elles seraient exploitées sans autre préoccupation par les marchands : la recherche d’un interlocuteur attentif et jamais fatigué de l’écouter, et la tendance à attribuer aux objets qui attirent son attention, des dispositions bienveillantes ou hostiles. Ce qui nous amène à cette question : si la synthèse vocale simplifie nos relations aux machines, ne va-t-elle pas compliquer nos relations avec nous-mêmes et avec nos semblables ?  » La projection d’une sort de qualité d’humanité sur les machines, on parle d’anthropomorphisation des machines, est un redoutable danger.

Que savons-nous aujourd’hui de la nature de cette parole synthétique, et pourquoi est-elle si troublante ?

Dans le même sens, Alexeï Grinbaum [2] s’interrogeait sur la nature de ce langage sans origine humaine, produit par la seule puissance des calculateurs. La voix des machines mime le langage humain, sans que l’oreille ne puisse distinguer l’authenticité de sa source. Elle ne provient ni d’un corps et n’est portée par aucun souffle. Elle n’est qu’une apparence sans présence. «  Ça parle  », mais personne ne parle. Car il n’y a personne. Voilà ce qui est particulièrement troublant.

Pourquoi réagissons-nous si peu à cette invasion des voix artificielles ?

Et bien là encore, Alexeï Grinbaum explique que «  la machine parlante, aussi simple qu’elle soit, exerce déjà un effet sur l’utilisateur, même si celui-ci sait bel et bien que c’est une machine.  » [3] Nous sommes aujourd’hui tout à la fois séduits et submergés par des «  voix sans esprit  », des «  paroles sans conscience  ». Notre désarmement collectif face à ce phénomène révèle une profonde ignorance sur la spécificité de la parole humaine. Notre faible résistance sinon l’adoption très rapide, traduit l’ignorance générale sur la spécificité de la parole dans son rapport avec la nature humaine. Notre nature humaine n’est pas encore achevée en chacun de nous et la parole n’est pas un simple outil : elle est le lieu même où se joue notre humanisation.

En quoi la parole est-elle essentielle au processus d’humanisation ?

L’homme, nous l’avons dit, n’est pas un être achevé à sa naissance. Il est perpétuellement en devenir. Il peut s’élever et devenir humain ou se déshumaniser. Et la parole joue ici un rôle décisif. Tout au long de notre existence, nous assimilons des paroles comme un aliment vital pour l’esprit. Elles nourrissent notre psychisme, construisent notre intelligence du monde et forgent notre rapport au réel. L’être humain est le seul mammifère qui, pour vivre pleinement, doit impérativement produire du sens, élaborer des représentations, chercher la cohérence des choses. C’est son impératif vital : s’arracher à l’absurde, refuser la confusion, discerner le vrai. Ce travail intérieur est l’œuvre de son âme. C’est en elle qu’il peut dire « je » et accéder à la pleine dimension de sa personne. C’est bien là que se joue à la fois sa grandeur et sa vulnérabilité. Car il peut terriblement se blesser en se concevant faussement lui-même, en se trompant sur les réalités. La vérité lui est vitale, le mensonge lui est un poison mortel.

Quel est le danger si nous ne prenons pas conscience de ce lien entre parole et humanité ?

C’est essentiellement de nous laisser instrumentaliser par des projets technologiques qui disposent d’un pouvoir de diffusion considérable et d’une autorité sans opposition. Pour tromper quelqu’un, il suffit de lui parler. La crédulité fait le reste. C’est pourquoi il devient urgent de comprendre la nature de la parole humaine, avant que le déferlement des voix synthétiques ne submerge nos existences — dans nos foyers, nos lieux de travail, nos environnements culturels. La machine n’a pas droit à la parole, parce qu’elle n’a tout simplement pas de parole. Réfléchissons à ce que signifie de parler à des machines.

Qu’est-ce qui distingue fondamentalement la parole humaine d’une émission vocale artificielle ?

Pour qu’il y ait véritablement « parole », il faut pouvoir la donner. « Donner sa parole » consiste à s’engager, à se livrer. La vérité de nos énoncés se mesure à la capacité de les assumer, jusqu’au bout — et parfois jusqu’à la mort. Une parole authentique est toujours habitée. Elle engage tout l’être dans son histoire. Rien de cela pour les machines qui se contentent de générer des signaux sonores. Nos facultés mentales décryptent ce langage comme s’il était humain et porteur de sens. Mais cela reste un simulacre. Lorsqu’une machine parle, il n’y a ni capacité de vérité, ni capacité de don de soi, tout simplement parce qu’il n’y a personne. La parole vient seulement d’une personne, car la personne est une parole.

Quel est le risque alors de banaliser la parole des machines dans nos interactions quotidiennes ?

Voilà bien ce que nous devons redécouvrir, d’urgence, avant que l’habitude de parler inconsidérément aux machines n’érode la profondeur de nos relations humaines. Ce n’est pas parce qu’une interface est fluide, performante et conviviale qu’elle est digne de notre parole. Elle déshumanise. «  On projette donc des connaissances, des états d’âme, des émotions, voire de la responsabilité. Et c’est là que cela devient problématique parce que ces agents ne sont pas responsables (…) il n’y a pas de système artificiel «  éthique par conception. [4] »

Les machines ne peuvent-elles pas malgré tout transmettre un semblant de vérité ?

L’humain seul est capable d’humaniser. Même s’il est faillible, même s’il peut mentir, instrumentaliser ou pervertir la parole, il est aussi le seul à pouvoir chercher la vérité, la défendre, la transmettre. Les machines, elles, n’ont aucun intérêt à dire vrai. Elles ne connaissent pas la vérité. Elles ignorent tout de la dignité humaine, de sa vocation spirituelle, de son appel à la vie divine. Il y a de très grands enjeux dans l’accomplissement – le devenir -de la vie humaine et aucun enjeu dans la vie – dans le fonctionnement - des machines.

En quoi la tradition chrétienne éclaire-t-elle cette réflexion sur le logos et la parole ?

Le logos, en l’homme, n’est pas qu’une capacité cognitive : il est l’empreinte d’une instance créatrice, d’une force qui engendre et qui vivifie. La parole est capable d’avoir des effets, de donner la vie. Les chrétiens le savent : «  Au commencement était le Verbe, et le Verbe était la vie des hommes.  » Il leur revient d’en témoigner avec force, pour eux-mêmes et pour tous les hommes partageant une même humanité. Car le combat n’est plus seulement écologique, lié à la préservation du monde matériel. Il est aussi, et peut-être plus encore psychique et spirituel. C’est l’intérieur de l’homme qui est menacé.

Quels dangers concrets représentent ces objets parlants dans le développement des enfants ?

Il faut bien comprendre que quand une parole pénètre notre esprit, elle y dépose une empreinte. Si cette parole est toxique, elle peut empoisonner notre psychisme en profondeur. Que dire de ces jouets terrifiants, peluches ou assistants vocaux connectés, qui simulent des conversations pour «  stimuler  » l’enfant ? C’est un drame silencieux. Une méconnaissance grave de la vie la vie psychique et spirituelle de l’enfant. Une sortie de route contre laquelle les pédopsychiatres du monde entier alertent, souvent en vain. Comment empêcher que nos enfants projettent des émotions ou des responsabilités sur des machines, qui ne sont en rien des agents moraux ?

Pourquoi sommes-nous si vulnérables à ces technologies séduisantes ?

Nous devrions nous souvenir que les régimes totalitaires ont su, par le passé, pervertir le langage pour mieux asservir les consciences. Le danger aujourd’hui est plus insidieux : la manipulation du langage par le totalitarisme numérique s’est imposée sans bruit et de manière indolore avec le consentement passif et irréfléchi de sociétés plus avides de confort que d’humanité et de vérité. La fascination qu’exercent sur nous les performances techniques des outils numériques, traduit un vide spirituel béant que nous répugnons à honorer : notre véritable fécondité spirituelle. C’est pourtant là que se joue notre humanité.

Que pouvons-nous faire pour préserver notre humanité dans ce nouveau contexte technologique ?

Il nous revient de préserver un espace intérieur, une zone à défendre. Et la règle est claire, le principe élémentaire : on ne parle pas à une machine. Et si l’on utilise la voix pour des commandes vocales, jamais, jamais on n’y engage ses émotions. Seule une personne est digne de recevoir notre parole. Ne jetez pas vos perles aux machines.

Je propose de réfléchir à un principe de précaution anthropologique. On ne confie jamais les commandes d’un avion à un amateur encore moins à un enfant. On ne devrait pas davantage autoriser l’interaction verbale avec une machine à quiconque n’a pas reçu une formation rigoureuse sur ce que signifie parler et écouter, se construire dans et par la parole. Notre rapport à la vérité est en jeu, mais aussi la santé psychique des individus, en particulier des plus jeunes.
L’usage d’agents conversationnels ne devrait jamais être banalisé. Il requiert un certain discernement. Permettre à quiconque d’interagir sans précaution avec une machine conçue pour simuler la parole humaine, reviendrait à installer un enfant à la place du pilote dans l’avion. L’imprudence confine alors à l’inconscience. Le langage des machines est une imitation du langage naturel conçue pour simuler la présence et l’écoute. Il joue le jeu de la relation et se joue de vous. Mais il n’y a personne.

Quel est le cœur de l’alerte à donner ?

Le psychisme humain se nourrit de paroles vraies, habitées, prononcées par des personnes réelles. Il implique la reconnaissance d’un interlocuteur capable de s’engager et de répondre. Une parole sans présence est d’emblée une parole toxique. Elle crée une grave confusion dont les conséquences apparemment invisibles demeurent pourtant imprévisibles. On ne devra autoriser les interactions prolongées avec des intelligences artificielles verbales qu’à des adultes formés, capables de résister à la suggestion trompeuse d’une présence simulée. L’enjeu réel relève de la santé publique, car la confusion progressive entre vraie et fausse parole mine la structure intérieure des personnes, particulièrement dans les âges fragiles où le psychisme se forme et se cherche. Plus encore c’est tout l’édifice social et le rôle social de la vérité qui est en jeu. Ne pas en tenir compte aujourd’hui, nous expose à un effondrement silencieux des structures symboliques de l’humain. Notre confort ne peut s’obtenir au dépend de la vérité des personnes.