Influence des technologies et technologie d’influence

Une récente étude parue dans le Journal of Economic Behaviour [1], propose une évaluation des biais politiques et des valeurs portées dans l’intelligence artificielle générative. Les chercheurs [2] ont souhaité contribuer à une meilleure compréhension des tendances idéologiques encodées dans les modèles de langages (LLM). Ils appellent à une plus grande transparence et à une plus grande responsabilisation de la part des développeurs et des régulateurs d’IA pour identifier et atténuer ces risques de manière proactive avant que le potentiel de ces « robots computationnels » (systèmes d’IA génératives) ne devienne un canal puissant pour amplifier la désinformation, semer la division des sociétés et saper les principes qui fondent les sociétés démocratiques.

Chacun a pu mesurer à quel point les algorithmes d’intelligence artificielle (IA) prennent déjà de plus en plus de décisions au nom des personnes, positionnant l’IA comme un agent actif dans le monde réel. Cette technologie non seulement fait des choix, mais diffuse également des préférences sociales. Bien que la plupart des informaticiens aient déjà attiré l’attention sur ces risques, les auteurs font valoir qu’un cadre est essentiel pour répondre efficacement à l’enjeu de régulation de l’équité algorithmique. Il est important que tous les utilisateurs accèdent à une meilleure compréhension des biais encodés dans les modèles de langage (LLM) et de leurs implications dans divers domaines.
Il est ainsi possible de montrer comment des changements subtils dans le langage peuvent façonner les perceptions et les attitudes des individus. L’influence potentielle des chatbots d’IA
sera particulièrement puissante dans les moteurs de recherche, le journalisme, l’éducation, la recherche… Afin de contrer les effets potentiellement nocifs de l’IA, révéler que la source est un algorithme autoriserait une plus grande transparence, disons une transparence algorithmique.

Les biais algorithmiques des IA sont à rapprocher d’une technique d’influence plus artisanale appelée l’astroturfing [3]. Il s’agit « d’une tactique qui consiste à usurper et instrumentaliser des mouvements citoyens afin de soutenir des intérêts particuliers. Outil de désinformation, de lobbying, de militantisme, mais aussi de relations publiques, l’astroturfing englobe un ensemble de stratégies de communication [4]  » .
Cette pratique vise à donner de la crédibilité aux déclarations ou aux organisations, mais en dissimulant des informations sur les liens qu’ils entretiennent entre elles, qu’ils soient financiers ou autre. L’avènement des IA génératives et en elles des biais algorithmiques offre un éventail de nouvelles possibilités pour diffuser dans l’opinion certaines représentations. L’astroturfing classique de commentaires sur les réseaux sociaux sera fortement augmenté en utilisant les IA. Au-delà des biais encodés dans les modèles de langage qui diffusent sournoisement une idéologie, un « astroturfing automatisé » voit le jour grâce aux IA. En somme, les techniques d’influence et de fabrique de l’opinion ont aujourd’hui une puissance d’autant plus considérable qu’elle est invisible et indécelable par les utilisateurs.

En participant à la vie des sociétés à travers le monde, l’Eglise catholique entend accompagner les transformations sociales induites par l’arrivée des technologies d’intelligence artificielle. C’est pourquoi elle rappelle les invariants anthropologiques qui permettent aux personnes comme aux sociétés de se déployer de manière cohérente et respectueuse, tournées vers le bien commun et de la préservation de la dignité humaine.

C’est en ce sens que le Saint Siège a fait paraître une note sur les relations entre l’intelligence humaine et l’intelligence artificielle, intitulée « Antiqua et nova » [5]. Dans ce document l’Eglise catholique rejoint « les préoccupations critiques sur le rôle potentiel de l’IA dans la crise croissante de la vérité dans l’espace public. Cette technologie, conçue pour apprendre et faire certains choix de manière autonome, s’adaptant à de nouvelles situations et fournissant des solutions non prévues par ses programmeurs, soulève des questions fondamentales sur la responsabilité éthique et la sécurité humaine, avec des implications plus larges pour la société dans son ensemble. Cette nouvelle situation a incité de nombreuses personnes à réfléchir à ce que signifie être humain et au rôle de l’humanité dans le monde. »
Consciente que « l’IA marque une nouvelle phase importante dans l’engagement de l’humanité avec la technologie, (…) l’Eglise interroge ses impacts à l’échelle mondiale et dans un large éventail de domaines, y compris les relations interpersonnelles, l’éducation, le travail, l’art, les soins de santé, le droit, la guerre et les relations internationales. (…) Il est essentiel de considérer ses implications anthropologiques et éthiques. Cela implique non seulement d’atténuer les risques et de prévenir les dommages, mais aussi de garantir que ses applications soient utilisées pour promouvoir le progrès humain et le bien commun. »
A la lumière de ce document, le Service pour les Professionnels de l’Information se propose, dans une série de productions à venir, de distinguer les concepts d’intelligence dans l’IA et dans l’intelligence humaine. Elles permettront d’explorer la compréhension chrétienne de l’intelligence humaine, et de suggérer des lignes directrices pour garantir un développement et une utilisation de l’IA respectueuse de la dignité humaine et au service du développement intégral de la personne et de la société.