Le vrai danger des IA génératives

Dans un texte dense et critique, le philosophe Jean-Pierre Dupuy [1] interroge les effets du développement des technologies d’intelligence artificielle générative (IAG). Il les qualifie de « catastrophe annoncée ». C’est dans leur mode de fonctionnement même qu’il faut selon lui, trouver les travers de leurs usages.

En effet, les concepteurs de l’IA travaillent sur des modèles mathématiques de corrélations et entendent « se passer des causalités ». Ces deux notions de causalité et de corrélation nous sont peu familières. La corrélation entre deux évènements n’implique pas nécessairement une relation de causalité. Il peut exister un ensemble d’autres facteurs tiers, qui nous sont le plus souvent inconnus et qui peuvent éclairer les chaines causales. Ainsi pour Jean-Pierre Dupuy, en « se détournant des principes et des concepts fondamentaux de la connaissance, l’idéologie des IA s’avère extraordinairement dangereuse au plan éthique ». Pourquoi ? Parce qu’il en va de notre propre perception et de notre connaissance du monde, de sa vie et finalement de la représentation que nous nous en faisons à l’aune de ces connaissances. Il demeurera toujours des paramètres inconnus et d’autres inconnaissables, pour rendre compte de la cause des phénomènes. C’est pourquoi, il faut résister à « l’avènement d’une science matérialiste et logico-mathématique de l’esprit humain. » Les milliards de calculs des algorithmes n’expliquent rien, ils permettent seulement une présentation séduisante par des corrélations. L’intuition, l’inspiration et l’imagination n’existent pas dans ce paramétrage fermé. C’est l’immense différence entre l’intelligence humaine capable d’inspiration, et ladite « intelligence artificielle » seulement capable d’opérations.

Le principe de l’IA générative réside dans la production d’inférences, de relations de probabilités. Ces calculs mettent en réseaux des informations et mesurent l’indice de probabilité au moyen de « neurones formels » par analogie avec le cerveau humain. Le système est capable de « repérer des régularités, sous forme par exemple de corrélations ». Grâce à des quantités gigantesques de données dans tous les domaines, qu’on appelle le Big Data, la machine rend compte de la probabilité d’un résultat. Son intelligence se réduit à « prévoir le signe le plus probable qui prolonge un corpus déjà donné ou construit ». Nous sommes donc face à un perroquet savant, tellement troublant tant « ses performances peuvent être spectaculaires. »

Cette technique étant expliquée, Jean-Pierre Dupuy discerne une « menace plus insidieuse, car elle porte sur trois des questions que posait Kant : Que puis-je connaître ? Que dois-je faire ? Et qu’est-ce que l’homme ? Que puis-je espérer ? »
Le risque vient de ce que les réponses à ces questions proviennent non plus de réflexions ou d’intuitions mais seulement de corrélations. « Comment vivre sans un inconnu devant soi ?  » demandait le poète René Char. Un monde sans inconnu devant soi, sans un au-delà serait invivable pour l’homme qui s’enfermerait dans un monde auto-explicatif qui aurait réponse à tout. Le défi éthique tient dans la confusion entre connaissance et compréhension, entre mesure et explication. Emmanuel Kant savait « le rôle indispensable des hypothèses dans la démarche scientifique qui procède par conjectures et réfutations ». Or, « l’idéologie véhiculée par le « Big Data » ne promet qu’une chose : prévoir ! D’où la formule : « avec assez de données, les chiffres parlent d’eux-mêmes. » Les textes produits par des IA génératives sont seulement calculés. Ils ne sont pas réfléchis, ni pensés. L’infinité des pensées possibles de l’esprit humain leur reste inaccessible. Ici le chiffre (le calcul) produit un verbe qui n’est pas un verbe (une pensée). C’est une certaine contrefaçon de la pensée que « de faire parler les chiffres ».

«  Il fut un temps où la possession du savoir allait de pair avec la compréhension du passé ; elle est solidaire aujourd’hui de la capacité à prédire l’avenir.  » (…) Si, à défaut de comprendre, prévoir est tout ce que l’IA générative a à offrir, il aura sacrifié la compréhension à une capacité de prédire qui ne repose sur rien que l’on puisse appréhender. »

Les IA génératives restent un outil, une machine à calculer, mais capables de traduire des chiffres en mots. La question éthique vient de ces mots qui sont des mots dans leur forme mais non dans leur origine. L’origine du mot vient de l’esprit humain qui opère selon une certaine organisation logique et instaure des classes d’objets. L’esprit humain est doué d’une capacité d’analyse des phénomènes, c’est le discernement humain. Il y engage son propre avenir et n’a pour boussole que la vérité. Pour savoir où il va, où il doit aller, ce qu’il peut espérer, l’homme doit savoir d’où il vient et pour quoi il vit (finalité et causalité réunies). Ces réponses ne sont jamais acquises définitivement. Elles demeurent ouvertes et sujettes à des approfondissements. La richesse de l’esprit humain n’est en rien comparable à la puissance de calcul d’une machine, au demeurant aveugle sur son propre avenir. Se reposer sur le calcul d’une machine pour optimiser ses choix est un acquis incontestable dans quantités de domaines. Mais il deviendrait un risque si l’on se confiait dans l’énoncé d’un sens. Seule la pensée humaine élabore du sens et réalise l’épaisseur humaine de la personne. L’homme tout entier se tient dans sa pensée. C’est à lui de renouveler sa capacité logique pour comprendre ce qu’aucune machine ne peut lui prédire : l’espérance née d’une cause incalculable : l’amour. « L’être humain est un être de relations, on ne peut le concevoir comme une monade sans communication avec des semblables, il lui faut communiquer » explique Jean-François Froger. «  Il va communiquer du sens, un sens qu’il forme en lui au moyen de sa pensée. Pour que la pensée s’exprime, il faut qu’elle se manifeste dans un langage qui va prendre la place des choses et s’y substituer habituellement : le langage est ce par quoi nous saisissons les choses, nous les nommons. Nous faisons - à tort - du langage, un auteur exprimant de la pensée. Alors que c’est la pensée qui produit le langage. » [2] Les machines parlantes n’ont pas à strictement dit de langage. Il sera intéressant, dans une autre réflexion, de comprendre en quoi ces nouvelles technologies servent le projet de réaliser l’unification de l’humanité à la manière d’une nouvelle tour de Babel.

« Une chose est certaine » conclut Jean-Pierre Dupuy, « le rouleau compresseur du Big Data, si on le laisse avancer, écrasera les distinctions conceptuelles les plus fondamentales dont aucune éthique ne saurait se passer.  » « Que dois-je faire ? qu’est-ce que l’homme ? que peut-il espérer ? » se demandait Kant. A l’approche des fêtes religieuses de Pâques, il se pourrait bien que le cadre liturgique demeure pour l’être humain l’espace inviolé où se révèle son ouverture à l’infini. C’est là que sa puissance de symboliser dépasse la puissance de calculer, et le rend disponible à l’accueil d’une causalité qui échappe à toute corrélation.