L’illusion d’un monde sans défaillance

Nous avons vu que les développements techniques, en dépit des formidables avancées qu’ils permettent, fragilisent la vie sociale en ce qu’ils rendent superflu les relations de confiance. Ils permettent de substituer une logique de performance et d’efficacité à la relation de confiance. C’est « la gouvernance par les nombres ».

Si toute vie sociale repose sur le principe de confiance, la confiance repose toujours sur une parole donnée. La performance technique se présente donc comme un substitut avantageux qui permet ne pas prendre le risque de la confiance en l’autre, dans la mesure où elle expose à de l’inattendu.

Dans son livre « Simulacre et simulation » paru en 1981, Jean Baudrillard interrogeait déjà les effets sur la société du développement technique. Il voyait «  l’institution d’un modèle de régulation universelle, un microcosme programmé, ou rien ne peut être laissé au hasard. Trajectoire, énergie, calcul, physiologie, psychologie, environnement - rien ne peut être laissé à la contingence, c’est l’univers total de la norme - la loi n’y existent plus, c’est l’immanence opérationnelle de tous les détails qui font loi. (…) Le développement technique est porté par l’illusion d’un monde sans défaillance. (…) L’opération minutieuse de la technique sert de modèle à l’opération minutieuse du social. Ici non plus, rien ne sera plus laissé au hasard, c’est d’ailleurs cela la socialisation, qui a commencé depuis des siècles, mais qui est entrée désormais dans sa phase accélérée, (…) : dissuasion généralisée de tout hasard, de toute accident, de toute transversalité, de toute finalité, de toutes contradictions, rupture ou complexité dans une socialité irradiée par la norme, vouée à la transparence signalétique des mécanismes d’information. [1] »

Qui pourra procéder à des évaluations régulières des risques systémiques des milliers d’algorithmes qui décident du contenu de nos écrans et façonnent des vérités ? La réponse est surprenante et nous l’entendons la bouche de Cathy O’Neil, une data scientist qui travaille avec des agences gouvernementales américaines pour examiner les algorithmes des entreprises. Elle déclare que « la majorité des algorithmes des plateformes internet actuelles repose sur le « machine learning » (apprentissage automatique), qui automatise des processus comme le ciblage publicitaire en permettant de prédire les comportements des utilisateurs à partir de vastes stocks de données. Contrairement aux algorithmes traditionnels, qui contiennent des règles explicites codées par des ingénieurs, la plupart des systèmes d’apprentissage automatique sont des boîtes noires, ce qui rend difficile la compréhension de leur logique ou l’anticipation des conséquences de leur utilisation. (…) Même les ingénieurs ont du mal à régler précisément les comportements de ces systèmes. Il est clairement impossible de contrôler ce que fait un moteur de recommandation dans son ensemble. [2] »
C’est à l’opinion publique de savoir mettre une limite à l’intrusion des systèmes d’informations dans la vie sociale. De même que nous sommes à seuil d’un point de vue de l’écologie environnementale, de même nous sommes à un seuil en matière de préservation des libertés individuelles, et du bénéfice supérieur de préserver des relations interpersonnelles sans médiation technique.
Cela suppose cependant une prise de conscience des individus et un effort de prise de distance d’avec les outils technologiques dont la dépendance ne cesse de croître. Oserons-nous affirmer que l’humain prime la machine, que la relation de confiance humanise plus que nos systèmes techniques ? C’est sans doute maintenant que se joue l’avenir de nos sociétés.