Robotique et éthique (1ere partie)

Le mot « robot [1] » dérive du mot slave « robota », qui se traduit par servitude, travail forcé ou corvée. L’étymologie rappelle que l’essor de la robotique a permis de contourner la pénibilité et la fatigue du travail grâce aux avancées de l’informatique. La robotique s’est installée dans nos vies avec les aprioris favorables d’indépendance, d’aisance et de liberté.

L’efficacité technique et les performances informatiques ont permis l’essor des sociétés de production et encouragé la consommation. Le capitalisme libéral et sa main invisible du marché, l’énergie à grande échelle ont rendu possible la percée « des muscles mécanisés ». La diffusion du numérique a élevé le niveau de vie en même temps qu’elle déclassait des centaines d’emplois.

Cette évolution liée au progrès technologique n’est pas surprenante. Ce qui l’est davantage vient de ce que désormais la machine ne remplace plus seulement des acteurs de la vie économique, mais elle concurrence ceux qui l’organisent. « Les avancées de la robotique sont telles que la nature du robot a changé : du robot de service nous passons à un robot collaboratif. La robotique distribuée, machine simple, programmée, qui a pour but d’assister l’homme, est passée à la robotique renforcée, complexe, qui a pour but de renforcer l’intelligence humaine » [2]. La machine est capable de déterminer plus rapidement et précisément des options stratégiques. Songeons au trading haute fréquence dans le domaine de la finance. La machine peut proposer ou décider de choix, elle peut aussi proposer et créer elle-même des contenus. Aujourd’hui et demain les robots sont davantage des machines qui « étendent conjointement notre corps, notre esprit et notre système relationnel » explique Pierre-Yves Oudeyer, Directeur de recherche à l’Institut français de recherche en informatique et automatisation (INRIA) [3].

Nous sommes bien passés d’une substitution physique de l’homme par la machine (force de travail, cadence de production, précision…) à une substitution d’ordre mental : les intelligences artificielles (IA) analysent, écrivent, parlent, dessinent… En somme, elles conçoivent ! Or, la conception, l’élaboration mentale, était jusque-là la capacité rationnelle propre de l’être humain. Par leur puissance de calculs, les machines sont désormais capables de copier ce processus mental, de contrefaire la pensée et d’en produire des effets sans la moindre pensée réelle. Cette puissance ahurissante de calcul donne le change – l’illusion - d’une création mentale. Ainsi, établir une conversation verbale avec un robot, un chatbot ou agent conversationnel en français, est déjà très répandu. La machine produit un ordonnancement de mots, de phrases et suggère du sens à un esprit humain. S’il est vrai que l’être humain vit de paroles, que signifie l’assimilation de « parole-machine » ? Quels en seront les effets en termes de représentation du sens, de compréhension ? Après la synchronisation des émotions par la diffusion massive d’images en temps réel, sur tous les écrans du monde (songeons à l’émotion mondiale de la Reine d’Angleterre, Elisabeth II) voici venir le cadrage de la raison par le conditionnement des paroles accessibles ? En donnant la parole aux machines, l’être humain s’autorisera-t-il encore à parler demain ?

La « parole-machine » ne permet pas un dialogue au sens propre du terme, car la machine interprète et calcule seulement. Elle n’a pas de « logos », pas de raison propre de chercher le vrai dans ce qui est énoncé. Elle n’a pas d’enjeu propre à la vérité. Elle peut tout aussi bien produire du faux sans état d’âme… et pour cause. Cette production de contenus sans présupposés éthiques ouvre la voie à toutes les invraisemblances, dont il nous faut à présent prendre conscience.