Dans son dernier ouvrage, Vallée du Silicium (Seuil, avril 2024), le célèbre écrivain Alain Damasio entreprend de porter un regard critique sur la technologie et de formuler ainsi une « authentique technocritique ». Et certes, Damasio souligne très justement nombre de problèmes que pose la technologie. Cependant, comme à son habitude, il passe malheureusement à côté de l’essentiel. Pour l’illustrer, je me propose de commenter un long passage de son livre dans lequel il récuse l’idée extrêmement répandue selon laquelle « la technologie est neutre, son impact ne dépend au fond que du bon ou mauvais usage qu’on en fait ». Voici ce qu’en dit Damasio :
« C’est une idée courte, et même une idée stupide, quadruplement stupide. Il n’est jamais inutile de redire pourquoi :
1° Parce que la technique porte en elle une valeur latente : l’efficacité. Autrement formulé : la possibilité d’agir sur nos environnements de façon forte. Toute machine prédétermine l’utilisateur à faire de l’efficacité la valeur de son action, avant tout choix de sa part. Cette valeur a contaminé tous les domaines au point qu’un startupeur se doit aujourd’hui d’être, sur les plans à la fois professionnels, économiques, sportifs ou sexuels, performant.
Plus profondément, la technique est une manière de dévoiler le réel comme ce qui doit être arraisonné, pointait déjà Heidegger, c’est-à-dire mis à la raison, mobilisé, exploité et mis en demeure de livrer une énergie qui puisse être extraite et accumulée. Ce qui, évidemment, n’a rien de neutre. D’autres rapports au réel étaient et demeurent possibles : la recherche d’harmonie, l’écoute, la contemplation, la symbiose…
2° Parce qu’en amont, l’innovation technologique dépend de la Recherche qui dépend elle-même des crédits de recherche ou du capital-risque investi, et donc déjà d’une forte présélection des découvertes, produits et services et qu’on juge a priori “utiles” à développer car lucratifs. La machine reste donc toujours “sociale avant d’être technique” (Deleuze), c’est-à-dire qu’elle présuppose en univers capitaliste, pour être finalement fabriquée, une attente du marché et une rentabilité. Des millions d’innovations qui amélioreraient notre condition commune ne passeront jamais le seuil de la fabrication. Aucune neutralité donc, dans la possibilité même d’exister.
Prenons deux exemples. Une puce RFID prédétermine, dès sa conception, qu’on va chercher à identifier chaussures, doudous, oiseaux, lynx, arbres, motos et même nos propres enfants afin d’assurer la traçabilité de ces cibles : rien ne peut plus exister et bouger sans être aimablement traqué. Donnez-moi vos coordonnées. L’IA générative : ses développements technologiques seront toujours soumis aux biais et aux impératifs (financiers, gouvernementaux, voire personnels) de ceux qui les contrôlent et en tirent profit, et non alignés sur une recherche du bien commun ou de l’éducation éclairée de tous.
3° Parce qu’en aval, une technologie induit une multitude d’effets, souvent difficiles à anticiper : elle réinvente des pratiques et reformate des comportements, elle enfante parfois une culture entière (le jeu massivement multijoueur, les danses internet, les animatiques) juste par les interactions nouvelles qu’elle offre. S’en servir, c’est déjà transformer ses rapports à soi et ses relations aux autres, se ménager de nouvelles prises et consentir à de futures emprises en mutilant d’anciennes capacités qu’on sous-traite à l’appli. Le numérique livre sans cesse des options inattendues qu’on n’imaginait pas entrer dans les usages. La géolocalisation par portable n’était pas prévue à l’origine, pas plus que l’explosion des SMS autocomplétés ou la généralisation d’une norme sociale : rester joignable. L’IA générative n’était pas conçue pour humilier des femmes avec des deepfakes pornographiques élaborés à partir de vidéos ordinaires. Tes mails n’avaient pas vocation à être lus et dataminés.
4° Enfin parce que toute technologie porte en elle un nouveau rapport au monde. On croit utiliser un frigo quand c’est notre façon de nous nourrir qui est révolutionnée par le stockage des aliments frais. La machine situe notre liberté et notre liberté s’exerce face à elle, en elle. Nous sommes libres de nos usages de la machine, libres même de ne pas l’utiliser, parfois. Mais c’est une liberté en situation, déjà située, un libre-arbitre qui s’exerce à l’intérieur d’un monde transformé et repotentialisé par la machine où il devient impossible de se comporter comme si elle n’existait pas. La voiture a littéralement “inventé” les routes, les parkings et les trottoirs, elle a appelé l’extraction du pétrole et intégralement refondé l’aménagement du territoire. Les réseaux sociaux ont inventé la communauté sans présence, l’auto-exposition, le selfie, l’exclusion possible, le harcèlement et la lapidation numériques. L’IA est en train d’inventer l’auto-discussion et le jumeau numérique, parmi des centaines de réinventions de nos façons de travailler.
À cette quadruple aune, croire encore en la neutralité des technologies qu’on nous propose n’est même plus de la naïveté. C’est une faute politique. »
Les quatre points énoncés par Damasio sont justes. Mais une première question se pose. Pourquoi, après avoir pertinemment exposé des problèmes inhérents à la technologie, Damasio échoue-t-il, dans le reste de sa pensée, à tirer les conséquences qui s’imposent (avec une certaine évidence) ? Si la (haute) technologie n’est pas neutre, si elle « présuppose un univers capitaliste », si elle induit – impose – un « nouveau rapport au monde », et même un nouvel agencement du monde « où il devient impossible de se comporter comme si elle n’existait pas », et si elle génère une foultitude d’effets imprévisibles, potentiellement très dangereux ou très nuisibles, alors pourquoi Damasio s’imagine-t-il qu’il devrait être possible et même souhaitable de construire « un art de vivre avec l’IA », de traiter les technologies « comme des sujets », de cohabiter avec elles « dans la convivialité » ? De tels souhaits semblent partir du principe qu’en fait, la technologie est neutre, qu’elle n’impose finalement rien, qu’elle peut être domptée.
Le discours de Damasio qui, d’un côté, réfute l’idée selon laquelle la technologie serait « neutre », participe en fait, de l’autre, à l’avaliser. Damasio pense que l’IA et l’essentiel du techno-monde contemporain ne posent pas intrinsèquement problème, et que toute l’affaire consiste, pour nous, à essayer d’en faire de bons usages. Dans une interview pour La Croix, il affirme sans ambages que des technologies comme le « jeu vidéo », « l’IA générative » et « les réseaux sociaux » sont « des outils d’émancipation formidables », mais que « mal utilisés », ces technologies peuvent aussi être « des vecteurs d’aliénation extraordinaires[1] ». Ce qui revient à dire que ces technologies sont « neutres » et que leur impact « ne dépend au fond que du bon ou mauvais usage qu’on en fait ». Damasio soutient donc lui aussi l’« idée stupide, quadruplement stupide », qu’il prétend par ailleurs contester.
Comme quoi, l’écriture d’un livre supplémentaire sur le sujet n’y aura rien fait. Concernant la technologie, Damasio serine la même idée naïve (et « stupide, quadruplement stupide ») depuis des années. Déjà, en 2021, au média de la fondation de Yann Arthus-Bertrand GoodPlanet mag’, il soutenait qu’un autre usage de la technologie était possible, juste et bon. Il affirmait en effet que nous n’avons pas à renoncer à l’internet et au smartphone, deux outils « extraordinaires et porteurs d’émancipation », qu’il ne s’agit surtout pas « de nous couper de tout ce qu’ils apportent de formidable » (« le fait d’accéder via son smartphone à toutes les musiques du monde est fabuleux, idem pour les films ou l’accès à Wikipédia[2] »). Non, ce qu’il nous faut, selon Damasio, c’est juste trouver un « savoir-vivre optimal et intelligent avec la technologie numérique » afin de conserver le « pouvoir émancipateur de la technologie[3] ».
Somme toute, la (pseudo) technocritique d’Alain Damasio est donc à peu près la même que celle de l’ex-employé de Google Tristan Harris, grand prêtre de l’avènement d’une meilleure technologie, fondateur et président du Center for Humane Technology (« Centre pour une technologie humaine »), financé par une flopée de milliardaires et de multinationales de la tech au travers de fondations privées (la Silicon Valley Community Foundation, notamment, qui reçoit de l’argent du créateur de Facebook, Mark Zuckerberg, de GoPro, Apple, et j’en passe, mais aussi la fondation du créateur d’eBay, Omidyar Network, la fondation Ford, plusieurs fondations liées à la merveilleuse famille Pritzker, etc.). L’objectif du Center for Humane Technology consiste à « aligner la technologie avec les meilleurs intérêts de l’humanité ». Car selon Harris : « La technologie n’est pas mauvaise en soi. Il faut juste qu’elle soit réorientée pour être constructive[4]. » Autrement dit, la technologie est « neutre », tout dépend de ses usages, nous devons simplement apprendre à bien l’utiliser. Damasio dit la même chose (mais soutient aussi l’inverse, en gymnaste professionnel).
Contre cette idée selon laquelle la technologie serait neutre, et selon laquelle tout dépendrait simplement de l’usage qu’on choisit d’en faire, il faut relire les quatre points avancés par Damasio (la longue citation au début de ce texte). Mais il faut en ajouter un cinquième, qui mériterait peut-être de figurer en premier.
*
5. La technologie n’est pas neutre, parce que toute technologie doit être conçue et produite, et que cette conception et cette production impliquent une foultitude de choses (des matériaux, des savoir-faire, une force de travail, un certain état d’esprit, qui lui-même découle de certaines conditions sociales, et potentiellement des outils, voire des machines et des infrastructures, tout un ensemble de structures sociales, organisationnelles, etc.), ce qui n’a rien de « neutre ».
Ceux qui affirment — souvent sans avoir sérieusement réfléchi au sujet — que les technologies sont « neutres » pour la raison qu’on peut, par exemple, utiliser un couteau pour couper du beurre ou trancher la gorge de son voisin se trompent lourdement. Oui, on peut utiliser un couteau pour couper du beurre ou trancher la gorge de son voisin. Mais non, cela ne veut certainement pas dire que cette technologie serait « neutre ». Cela témoigne uniquement d’une certaine polyvalence dans l’utilisation des outils technologiques. En conclure que la technologie est « neutre », c’est occulter ou ignorer totalement les conditions d’obtention, de réalisation, de production dudit couteau. C’est occulter ou ignorer totalement la manière dont la technologie prise en exemple est fabriquée. C’est partir du principe que la technologie est déjà là — un peu comme si les technologies tombaient du ciel ou poussaient naturellement dans les arbres, ou comme s’il ne s’agissait que de simples outils flottant dans l’espace-temps, n’impliquant rien, issus de rien, n’attendant que d’être bien ou mal utilisés.
C’est pourquoi, suivant une analyse politique, on peut grosso modo distinguer deux types de technologies, comme l’avait remarqué le sociologue et historien états-unien Lewis Mumford.
D’une part, il y a les technologies qui, pour être conçues et produites, exigent de nombreuses connaissances et savoir-faire, l’utilisation de très nombreux outils ou machines, l’existence de tout un réseau d’infrastructures, une vaste division et une vaste spécialisation du travail, et donc une organisation sociale hiérarchique en mesure d’administrer une telle division et spécialisation du travail, de produire des ouvriers, des ingénieurs, des cadres, des technocrates. Mumford parlait, pour désigner ce type de technologies, de « techniques autoritaires[5] ». Ces « techniques autoritaires », qui remontent « à peu près au quatrième millénaire avant notre ère », ainsi qu’il le relevait, se développent grâce au « contrôle politique centralisé qui a donné naissance au mode de vie que nous pouvons à présent identifier à la civilisation, sans en faire l’éloge ». Elles reposent sur « une contrainte physique impitoyable, sur le travail forcé et l’esclavage », c’est-à-dire sur « la création de machines humaines complexes composées de pièces interdépendantes, remplaçables, standardisées et spécialisées — l’armée des travailleurs, les troupes, la bureaucratie », et ont pour effet de ne conférer « l’autorité qu’à ceux qui se trouvent au sommet de la hiérarchie sociale ».
Les centrales nucléaires, les plateformes pétrolières, les panneaux solaires photovoltaïques, les éoliennes industrielles, les smartphones, les télévisions, les ordinateurs, l’IA générative et la quasi-totalité des technologies modernes appartiennent à cette catégorie des « technologies autoritaires ».
De l’autre côté, on retrouve les technologies démocratiques, ou « techniques démocratiques » dans le vocabulaire de Mumford. Par « techniques démocratiques », il désignait les outils ou les technologies qui reposent sur « une méthode de production à petite échelle », qui favorisent « l’autogouvernement collectif, la libre communication entre égaux, la facilité d’accès aux savoirs communs, la protection contre les contrôles extérieurs arbitraires » et « l’autonomie personnelle », et qui confèrent « l’autorité au tout plutôt qu’à la partie ». La « technique démocratique », reposant « principalement sur la compétence humaine et l’énergie animale mais toujours activement dirigée par l’artisan ou l’agriculteur », exige « relativement peu », est « ingénieuse et durable » et « très facilement adaptable et récupérable ». Historiquement, ces techniques démocratiques remontent « aussi loin que l’usage primitif des outils » et ont ainsi « sous-tendu et soutenu fermement toutes les cultures historiques jusqu’à notre époque ».
(On parle de techniques ou de technologies « démocratiques » parce que ce type de technologie est compatible avec une organisation sociale réellement démocratique. L’utilisation de ce type de technologie est une condition de l’organisation démocratique, mais pas une garantie. Des sociétés n’utilisant que des technologies de ce type peuvent être très autoritaires, ainsi que l’histoire et l’ethnologie nous l’enseignent. Mais l’inverse n’est pas vrai. Si les technologies démocratiques peuvent être produites et utilisées par des communautés démocratiques ou des sociétés autoritaires, les technologies autoritaires ne peuvent pas être produites et utilisées par des sociétés démocratiques : les technologies autoritaires exigent et produisent une organisation sociale autoritaire.)
Dans la catégorie des technologies démocratiques, on retrouve par exemple les types d’habitations que construisent ou construisaient d’innombrables sociétés autochtones d’ici et de là, comme les wigwams et les tipis des amérindiens, de très nombreux types de longères ou maisons longues traditionnelles, ou encore les pagliaghji corses, des outils comme l’arc, la flèche, la sagaie, la hache, le couteau, le panier en osier, toutes sortes de poteries, etc.
Le cas des objets comme le couteau (ou l’arc, le tipi ou la hache) est spécial dans la mesure où il en existe des versions très simples, dont les implications sociales et matérielles sont minimes, et des versions complexes, dont les implications sociales et matérielles sont innumérables. Un couteau ne possède pas les mêmes implications sociales et matérielles selon qu’il s’agit d’un couteau (préhistorique) en silex ou en obsidienne ou d’un couteau acheté chez Ikea en acier inoxydable (comprenant du chrome, du molybdène et du vanadium) avec manche en polypropylène : les procédés de fabrication, les matériaux et le type de main d’œuvre nécessaires, les savoir-faire impliqués ne sont pas du tout les mêmes. Le couteau préhistorique correspond à la catégorie des technologies démocratiques, le couteau Ikea à celle des technologies autoritaires.
Les technologies autoritaires se caractérisent aussi par une très forte interdépendance systémique, contrairement aux technologies démocratiques. Pour fabriquer un panier en osier, vous n’avez besoin que d’un peu d’osier, de vos mains et d’un savoir-faire relativement simple, facilement concevable par un humain seul ou par une société à taille humaine, et facilement transmissible d’humain à humain. La fabrication du panier en osier ne requiert pas l’utilisation et la fabrication préalable d’autres outils ou de machines. En revanche, pour fabriquer un téléphone portable, une voiture, un ordinateur, un panneau solaire photovoltaïque, un réfrigérateur, un marteau arrache-clous de chez Leroy Merlin (doté d’un « manche ergonomique en fibre de verre » et d’un « revêtement antidérapant pour un meilleur confort à l’utilisation »), une cuillère en plastique ou même un vélo, vous avez besoin d’utiliser un grand nombre d’outils et de machines (et d’infrastructures diverses et variées) qu’il vous faut au préalable avoir fabriqués, et dont la fabrication implique, elle aussi, l’utilisation d’un grand nombre d’outils et de machines (et d’infrastructures diverses et variées) qu’il vous faut au préalable avoir fabriqués, et ainsi de suite. Les technologies modernes, les technologies autoritaires, s’inscrivent dans – exigent – un réseau techno-industriel, économique et social très vaste et très complexe.
*
Pour concevoir des sociétés réellement démocratiques et mettre un terme à la destruction du monde, nous devrions collectivement renoncer aux technologies autoritaires et/ou les combattre. Malheureusement, ce n’est ni ce que préconise Damasio, qui affirme que toutes les technologies, en fait, sont neutres et peuvent être bien utilisées (il suffirait, selon Damasio, que le « ministre de l’éducation nationale » décide de faire « de la techno la troisième matière pilier, avec les maths et le français », et hop, les technologies seraient bien utilisées et ne poseraient plus problème !), ni ce que souhaite la bourgeoisie culturelle (les journalistes de Télérama, Libération, Le Monde, L’OBS, Radio France, Les Inrocks, Reporterre, Socialter, Le Figaro, etc.) qui n’a pas manqué d’encenser son dernier ouvrage.
Aucune technologie n’est « neutre ». Toute technologie exige, pour être conçue et produite, un ensemble incompressible de choses sur les plans social et matériel (écologique). Vous pouvez bien souhaiter, comme Damasio, que les êtres humains apprennent à bien utiliser leurs smartphones, mais de tels souhaits ne changent rien au fait que les smartphones doivent d’abord être produits, et que leur production exige l’extraction ou l’obtention d’un certain nombre de matières premières, le traitement desdits matières premières dans des usines (et donc la construction, au préalable, de ces usines, avec tout ce que cela implique), leur acheminement via des infrastructures (même chose que pour les usines), des individus acceptant de (plus honnêtement : contraints de) travailler à l’extraction de ces matières premières, à leur traitement, leur acheminement, et toute une myriade de choses (une organisation sociale en mesure d’orchestrer tout cela, etc.). Tout ça n’a rien de « neutre » et ne disparaîtra pas parce que vous utilisez votre smartphone pour discuter de politique ou pour apprendre à reconnaître les papillons plutôt que pour prendre des selfies ou pour scroller.
Occulter les implications fondamentales de la conception et de la production de toute technologie dans une discussion des raisons pour lesquelles la technologie n’est pas « neutre », il fallait le faire. Damasio l’a fait. Son livre ne contient que quelques très brèves mentions des exigences matérielles de la production des technologies modernes. On n’y trouve rien, par exemple, sur les conflits meurtriers et écologiquement dévastateurs, suscités par le développement technologique mondial, qui ravagent le Congo, ni sur les enfants exploités dans les mines du pays. Selon France inter, « Alain Damasio est parti dans la Silicon Valley se confronter à un réel qu’il n’anticipait pas[6] ». À Madame Figaro, Damasio confie que s’il a voulu « aller là-bas », c’était pour « s’approcher de l’épicentre, tenter de sentir ce qui vient, de comprendre un peu mieux ce monde qu’ils nous fabriquent et qui est déjà sensible sur place : métavers, IA, voitures autonomes, santé connectée, tout naît et bourgeonne dans la baie de San Francisco[7]. »
Il y a évidemment du vrai là-dedans, mais pour se confronter au réel, peut-être aurait-il été judicieux de se rendre dans les zones d’exploitation minière, où l’on peut aussi arguer que tout commence concrètement, étant donné qu’avant l’utilisation de l’objet technologique vient sa production. Bien sûr, un voyage dans une zone de guerre au Congo, au Soudan, au Rwanda, en Ouganda, au Burundi, en Tanzanie ou en Angola, à la découverte de l’extraction du coltan ou de quelque autre minerai, une plongée dans le quotidien misérable des ouvriers des mines de nickel en Indonésie, une immersion au sein des communautés indigènes du Chili, dépossédées par le boom de l’extraction du lithium, tout ça fait moins rêver qu’un séjour en Californie. Mais prétendre formuler une analyse « technocritique » en ignorant largement les implications matérielles fondamentales de la technologie, c’est un peu se moquer du monde.
Quoi qu’il en soit, cette absence de prise en compte sérieuse des implications matérielles de la technologie participe sans doute à expliquer pourquoi Damasio se retrouve, encore une fois, à défendre et célébrer le système technologique sous couvert d’en produire une critique.
Nicolas Casaux
- « Alain Damasio : “Nous sommes des barbares des technologies” », propos recueillis par Vincent Poumier et Pierre Sautreuil, La Croix, 15 mai 2024. ↑
- « Alain Damasio : “aujourd’hui, on est dans l’orgie numérique” », GoodPlanet mag’, 8 mars 2021. ↑
- Ibid. ↑
- Guillaume Grallet, « Les vrais dangers des écrans », 28 août 2019, Le Point. ↑
- Pour tout ce passage sur les techniques autoritaires et démocratiques, cf. Lewis Mumford, Technique autoritaire et technique démocratique [1963], 2021, La Lenteur. ↑
- « Alain Damasio : “Être conscient de ne pas être dans la matrice est un immense bonheur” », France inter, 19 juin 2024. ↑
- « Alain Damasio : “La dépendance aux plateformes a été construite par les Gafam pour maximiser le temps qu’on y passe” », Madame Figaro, 8 juin 2024. ↑
Source: Lire l'article complet de Le Partage