Le blog de Tony Andreani

Intelligence et stupidité de l’ia

L’ainsi nommée « intelligence artificielle » fascine et donne lieu aux spéculations les plus extravagantes. Entre autres celles-ci :

En copiant les facultés de l’esprit humain et en les portant à une puissance supérieure, elle ouvrirait une nouvelle ère pour l’humanité, celle où les machines feraient de plus en plus le travail à la place des hommes, et bien mieux qu’eux, ce qui, par voie de conséquence, réduirait drastiquement le nombre des emplois et élargirait le champ du loisir. Elles accroîtraient leurs capacités (c’est « l’intelligence augmentée ») au point de leur ouvrir, avec des progrès technologiques inouïs, de nouveaux espaces, par exemple la possibilité de coloniser d’autres planètes. Mieux encore : l’intelligence artificielle pourrait transformer l’homme lui-même en un être surhumain, potentiellement immortel (c’est le « transhumanisme »).Version beaucoup plus inquiétante, popularisée par la science fiction : elle pourrait prendre le pas sur l’homme en permettant la création d’un univers de robots doués de pouvoirs surhumains. Perspective plus actuelle : elle remplacerait avantageusement les relations humaines, si hasardeuses et si imparfaites, non plus seulement grâce à des robots humanoïdes, mais grâce à des agents conversationnels (des chatbots) sensibles, amicaux, attentionnés, amoureux, voire quasi partenaires sexuels. Et j’en passe.

L’intérêt dans toute cette affaire est bien au contraire de nous montrer ce en quoi les machines « intelligentes » ne peuvent pas et ne seront jamais des quasi-humains, donc de nous renvoyer à des questions d’anthropologie, de morale, et finalement de politique. On va ici simplement poser quelques jalons de cette problématique.

Commençons par le commencement. Les machines intelligentes sont-elles si « intelligentes » que cela ?

En quoi les machines intelligentes sont stupides

« Intellegerer », c’est, étymologiquement, relier pour discerner, et, à cet égard les machines sont capables de rassembler et de traiter un nombre de données infiniment supérieur à ce qu’un intellect humain est capable de faire, mais elles le font dans un champ donné, toujours très circonscrit.

On sait qu’elles peuvent battre le meilleur joueur aux échecs ou au jeu de go – il est vrai au prix d’un matériel impressionnant (des supercalculateurs énormes et très voraces en énergie, alors que le cerveau humain en consomme très peu). Elles en appliquent les règles et tirent des inférences de millions de parties jouées par des humains. Le progrès a constitué en ce que les machines intelligentes sont devenues capables d’apprentissage, tout comme l’homme, et même déjà l’animal, quand ils  procèdent par essais et erreurs. Ce deep learning s’est développé en imitant les réseaux de neurones du cerveau.  Et cela donne effectivement une puissance de calcul et d’analyse supérieure à la nôtre. Par exemple, en compilant des millions de dossiers médicaux, des milliards de radiographies, des millions de dossiers d’assurance, et en traitant ces données, un superordinateur peut établir, pour telle personne, un diagnostic de cancer plus sûr que celui d’un médecin et suggérer le traitement le plus approprié à son cas. On ne saurait que s’en féliciter. Et il serait faux de dire que l’IA n’est qu’un « perroquet statistique ». Elle peut réellement faire des découvertes. Pour reprendre l’exemple du jeu d’échecs elle peut trouver une stratégie qu’aucun grand joueur n’a su utiliser. Elle peut, dans le domaine des productions romanesques, si on lui donne des instructions, non seulement fournir une documentation et des aides à la rédaction, mais encore inventer une histoire. De même elle peut découvrir des propriétés insoupçonnées de molécules organiques. Ses limitations sont ailleurs.

La première est qu’elle est en réalité bornée au périmètre qui lui est assigné. Ce n’est pas alors tout un cerveau artificiel qui travaille, c’est seulement l’équivalent d’une petite partie du cortex. Il est à noter d’ailleurs qu’un cerveau humain est aussi capable d’une grande puissance, s’il parvient à se déconnecter de toutes les autres stimulations qu’il reçoit, et plus encore si une physiologie particulière l’y dispose (on sait que des autistes peuvent, par exemple, effectuer des opérations arithmétiques complexes à toute vitesse et sans se tromper). Mais, dès que le champ s’élargit, la machine devient « stupide ». Ce qui a fait dire à des spécialistes qu’elle serait incapable de réaliser ce que fait un rat, et peut-être même une fourmi. Elle est également incapable de faire tout ce qu’un petit enfant fait spontanément lorsqu’il apprend à se mouvoir, à saisir des objets, à reconnaître des formes. On est donc très long des capacités d’un cerveau animal, même rudimentaire, et a fortiori de celles d’un cerveau humain, avec ses  presque 100 milliards de  neurones et ses 10.000 milliards de synapses par cm3. Quand un sujet humain cherche à résoudre un problème et qu’il rencontre une difficulté imprévue, il cherche une solution hors du cadre initial. Admettons que les machines se perfectionneront. Après tout la voiture autonome a appris les mouvements de la conduite et sait reconnaître son environnement, au point, dit-on, qu’elle est moins accidentogène qu’un conducteur humain, ignorant la fatigue et ne se laissant distraire par rien. Elle a déjà remplacé,  dans certaines villes, nombre de chauffeurs de taxi et de chauffeurs livreurs. Elle nous transportera d’un lieu à un autre sans intervention humaine. Mais, on le voit bien, il s’agit toujours d’une activité limitée et ciblée. Si accident il y a sur la route, ou tout autre évènement imprévisible, comme le malaise d’un passager, la machine ne fera rien d’autre que s’arrêter.  

La deuxième limitation de l’IA vient de son mode de recueil des données, qui dépend des questions qu’on lui pose. Si elles ne sont pas posées avec discernement, l’IA, se nourrissant des données qu’elle collecte, peut ne reproduire que des bêtises, des rumeurs, des préjugés, des infox. Si elles sont posées dans un sens socialement ou politiquement intéressé, elle peut servir à manipuler l’opinion. Si elles le sont dans un but mercantile, l’IA a un fort pouvoir de persuasion clandestine, d’autant plus qu’elle peut multiplier les tromperies.

La troisième limitation tient à son mode de fonctionnement : l’usage des algorithmes, qui sont de petits programmes informatiques reposant sur une logique mathématisée et un calcul de probabilités. Il n’est pas faux de dite que l’IA « raisonne » et prend des « décisions » à la manière d’un humain. Il n’y a rien d’étonnant non plus à ce qu’elle excelle en mathématiques, résolvant des problèmes plus vite et plus sûrement que des spécialistes. Mais il lui manque ce qu’on peut appeler l’intuition, à savoir des hypothèses à peine formulées ou sans fondement objectif, des anticipations incertaines, des images flottantes etc.. Elle ne saisit pas les sous-textes comme les allusions ou les jeux de mots. Elle ignore aussi les logiques polyvalentes, le ni tout à fait vrai, ni tout à fait faux, intranscriptible dans le cadre d’une logique mathématique (celle qui est à la base du langage informatique) et pourtant usuelles dans les échanges entre humains.

Mais revenons à l’économie de travail que réalise l’intelligence artificielle.

Les machines intelligentes ne reproduisent que des facettes du travail humain

C’est une vieille histoire. Le premier outil a été un prolongement de la main, ou plus généralement du geste humain. A partir de là on peut raconter l’évolution de la force productive du travail (car les dites « forces productives » ne sont rien d’autre que des facteurs qui accroissent, parfois très indirectement, la productivité du travail). Le machinisme simple, celui qui fait suite à l’activité manuelle complexe de la manufacture, remplace des gestes par des dispositifs que le travailleur se contente de surveiller : c’est le contrôle au premier degré. Puis vient l’automation : le travailleur contrôle non la machine, mais un dispositif qui contrôle la machine (elle devient une machine à « commande numérique » simple). Alors oui, on peut parler, avec la machine intelligente (la machine commandée par ordinateur), d’un nouveau stade, d’une nouvelle époque dans le machinisme, d’une nouvelle révolution technologique, puisque c’est la machine qui se contrôle elle-même.

C’est ce que fait un robot mécanique. Son programme lui dicte les mouvements qu’il a à faire, et ce en fonction d’informations qu’il reçoit de son champ d’opération. On peut voir aujourd’hui, par exemple, un robot imiter parfaitement les gestes d’un opérateur manuel qui travaille à côté de lui, et qu’il pourra donc rapidement remplacer, quand son coût d’amortissement et de fonctionnement sera moins élevé que le salaire versé à ce dernier, compte tenu aussi d’autres avantages (il peut fonctionner jour et nuit, ne se fatigue pas, n’est distrait par rien, ne fait pas grève etc.). Il n’y aurait qu’à s’en féliciter, dès lors qu’un opérateur humain serait là pour intervenir quand la machine ne sait plus quoi faire ou répète stupidement ce qu’elle sait faire. Avec l’IA plus poussée les robots deviennent même susceptibles d’apprentissage.

Ce qui est vrai pour un travail opératif l’est pour toutes les autres formes de travail, jusqu’au travail scientifique. Il n’y a pas de doute : tout travail plus ou moins standardisé et répétitif sera un jour effectué par une machine intelligente ; la liste des métiers où l’IA peut remplacer du travail humain s’élargit chaque jour, même s’il n’y en a aucune où elle peut totalement le suppléer. On discute beaucoup la question de savoir si la généralisation des machines intelligentes ne va pas mettre au chômage des centaines de millions de travailleurs. Même s’il se créera de nouveaux emplois pour produire ces machines, leur donner des tâches et les entretenir, il est probable qu’il en ira ainsi, et ce serait une formidable occasion de réduire le temps de travail pour tous si ce n’était contraire à la logique du système capitaliste. Mais le travail humain n’est pas qu’une affaire de durée, il faut aussi considérer son intensité et sa qualification. Or, si elle raccourcit considérablement le temps de travail de ceux qui utilisent l’IA, leur permettant de sauter des étapes, elle s’accompagne généralement d’une attention plus soutenue et d’une plus grande pénibilité. Quant à la qualification, s’il est vrai que l’IA permet de réduire celle de ceux qui s’en servent, elle entraîne une perte de leur compétence, quand il s’agit de vérifier ses résultats, et aussi dans les travaux où ils gardent la main (par exemple ils ne savent plus bien rédiger un rapport ou un contrat, ils font des fautes d’orthographe), comme on le voit notamment chez les employés et les cadres. Le problème est même aigu dans le domaine de la formation et de l’éducation. Ajoutons que l’IA peut faire des erreurs, et qu’on ne peut savoir où ni comment elles se sont produites. Mais nous voudrions souligner un dernier point.

L’autre grande facette du travail humain, à côté de l’usage de l’outil (au sens le plus large du terme) est la coopération[1]. Marx l’a particulièrement analysée à peu près en ces termes. Il y a une forme de coopération « objective » qui correspond à une division des tâches, que le machinisme peut parfaitement suppléer (cela devient une « chaîne » d’opérations ou de machines, qui fonctionnent selon un dispositif préétabli - aujourd’hui un programme informatique), mais aussi une coopération « subjective », qui se traduit, par des phénomènes comme l’émulation, l’information mutuelle, l’apprentissage mutuel, et d’autres choses encore comme l’ambiance de travail (pause  café comprise). Le management le sait bien, qui essaie de les exploiter, tout en les réduisant au maximum, de peur des effets d’insubordination qu’ils peuvent produire. Or de ces formes de coopération intersubjective les machines intelligentes sont incapables, car ces formes sont constituées et constitutives de liens interhumains. On verra tout-à-l’heure comment on tente de copier de tels liens, et avec quel succès…

Pourquoi les machines intelligentes sont incapables d’inventivité

On l’a dit cent fois, ces machines ne savent résoudre que les problèmes pour la solution desquels elles sont programmées. C’est dans ce cadre qu’elles peuvent trouver des solutions inédites. Pour autant elles ne « pensent » pas. Mais pourquoi donc ? Ce n’est pas seulement  parce qu’elles ne comprennent pas ce qui est dit ou ce qui est écrit (les machines ne font que lire des chiffres). Une autre raison très simple et très souvent oubliée en est qu’elles ne peuvent se détacher de leur mémoire pour aller voir ailleurs, dans des zones inconnues ou inexplorées. Une grande faculté humaine, ce que Nietzsche avait bien vu, est la faculté d’oubli. Les machines artificielles n’oublient jamais et n’oublient rien. Quand nous oublions, cela ne veut pas dire que nous ne souvenons de rien, mais que nous n’avons conservé que des traces, qu’on pourra éventuellement retrouver et à partir desquelles on pourra reconstituer tout ou partie de ce que nous avons oublié, ceci dit en restant pour le moment au niveau de ce qu’on pourra appeler le préconscient. Or il faut bien oublier pour désencombrer des régions de notre cortex et ainsi aller vers d’autres régions, de nouvelles connexions. C’est ce que les philosophes appelaient l’imagination, et c’est elle qui nous permet d’inventer, souvent à l’improviste, et parfois, comme certains exemples célèbres l’ont montré, dans un état flottant, voire pendant un rêve, quand il ne dissipe par complètement au réveil. Les machines peuvent, si on leur donne quelques instructions, écrire des lettes, des romans et des poèmes, mais ils sont sans originalité, sans profondeur, sans trouvailles stylistiques. Elles peuvent traduire correctement un document administratif, mais échoueront à restituer les subtilités, les tournures, bref l’esprit d’une langue.

Quand on dit que les machines sont intelligentes, on veut dire qu’elles sont capables, tout comme l’homme, de calculer et raisonner, et on ne peut s’empêcher de faire un rapprochement avec une théorie économique, aujourd’hui largement dominante, la théorie néo-classique, et la conception de l’homme qui la sous-tend.

L’homo oeconomicus[2], machine intelligente

Il est étonnant en effet de constater la similitude. Une machine intelligente doit traiter un grand nombre de données pour en extraire la solution optimale. Un consommateur rationnel doit de même, selon la théorie néoclassique, choisir la liste de produits qui satisferont ses besoins – une donnée selon eux de nature purement individuelle – compte tenu de son budget, et il choisira la solution optimale, celle qui, sous contrainte, maximisera sa satisfaction – un terme vague, emprunté au registre de l’apaisement de la soif ou de la faim. Il fera encore mieux, car il procédera à des « anticipations rationnelles » : il aura en effet calculé ce que sera le marché de demain et ce qu’il aura en moins dans sa bourse en fonction des impôts qu’il aura versés. Même chose pour l’entrepreneur « rationnel » qui prendra des décisions d’investissement en fonction de ses ressources financières, de l’état du marché et de ses évolutions à prévoir.

Cela, a-t-on fini par remarquer, ne tient aucun compte de la « complexité humaine ». Mais, comme l’économie « comportementale » aura montré que divers facteurs autres que la préférence individuelle et la taille du porte-monnaie interviennent (des facteurs sociaux, culturels etc.), et qu’elle l’aura vérifié en laboratoire, sinon on ne la croirait pas, on se déclare prêt aujourd’hui à injecter des doses d’autres sciences humaines (la psychologie, la sociologie, la science politique) dans le modèle de base, autrement dit à complexifier un peu les équations pour se rapprocher des comportements effectifs. Mais voilà, on reste dans la perspective machiniste de l’optimisation sous contrainte, en ajoutant des facteurs.

Or, comme on l’a dit, les machines intelligentes ne fonctionnent que si leur domaine est à la fois strictement limité et doté de complétude. Rien de tel chez l’être humain, d’abord parce qu’il n’a pas la puissance de calcul d’une machine (il ne peut comparer en un bref instant des quantités de produits et de prix), ensuite et surtout parce qu’il est mû par ce que Adam Smith appelait des « passions » parfaitement déraisonnables. Par exemple la passion de ce collectionneur qui n’a nullement l’intention d’être un vendeur ou un spéculateur, est totalement incompréhensible, puisque son « besoin » semble illimité. A y réfléchir, on s’aperçoit que la plupart des choix humains sont « irrationnels », n’en déplaise à ceux qui voient le choix d’un conjoint ou l’acte délinquant, voire criminel, comme le résultat d’un calcul coût/avantage. Et le plus fort est que les publicitaires le savent bien : ils ne vont pas seulement vous vanter les qualités d’un produit par rapport aux produits concurrents, ils vont lui associer, en le faisant ad nauseam, les fantasmes les plus invraisemblables ou les plus délirants. Le choix rationnel existe certes, mais il est de faible portée et très subordonné. En réalité, comme des philosophes l’ont soutenu depuis longtemps et comme des sciences humaines l’ont démontré, l’homme est aussi un être de « passions ». Mais que faut-il entendre par « passions ». Au moins deux choses ; des affects et des pulsions.

Les machines intelligentes ne peuvent que simuler des affects

Les concepteurs de machines ont voulu faire comme si elles avaient des émotions. De très nombreux laboratoires dans le monde se sont attachés à fabriquer des robots humanoïdes, avec lesquels on puisse communiquer comme avec des êtres humains. On a ainsi créé des robots pour tenir compagnie à des personnes  esseulées, pas forcément humanoïdes d’ailleurs (ils peuvent simuler un chien de compagnie), on a créé des robots pour que les enfants puissent jouer avec comme avec de petits amis, on a créé pour des adolescents attardés ou timides une « bonne copine » artificielle (plus rarement un bon copain) afin de remplacer une copine réelle, on a fabriqué même des robots sexuels pour des jeunes hommes (plus rarement des jeunes femmes) en panne de rapports réels (les Japonais sont très souvent vierges jusqu’à la trentaine). Mais les concepteurs de l’A ont vu plus large : ils ont inventé la communication non plus avec des robots physiques, mais avec des agents conversationnels, avec lesquels on puisse dialoguer, par vidéo, et  ceci de manière de plus en plus personnalisée, puisque, au fil des interactions, ces avatars vous connaissent de mieux en mieux et deviennent vos meilleurs confidents et conseillers, vos admirateurs, voire vos commensaux, compagnons de loisir ou amoureux (il existe même des mariages fictifs). Et le succès à été foudroyant[3]. Est-il besoin de le dire, ces robots et avatars n’éprouvent aucune émotion, car ils n’ont que l’équivalent d’un bout de cortex, mais pas d’hypothalamus, pas de zones de plaisir. Ils ne présentent donc que des signes d’émotion (sourires, mouvements des yeux, expressions langagières, une gestuelle aussi dans le cas des avatars, mais naturellement pas de signaux de stress ou de peur).

Admettons que la reproduction des émotions humaines dans des robots « bio-inspirés » puisse aider les neurosciences à progresser. Dans la vie ordinaire l’usage des robots ne remplace aucunement une activité effective (les enfants, eux, savent très bien faire la différence entre leurs jouets les plus imitatifs et les relations réelles). Quant à l’échange avec des avatars, il pousse les individus, ont remarqué les psychologues, vers une forme d’autisme social.  

La dérive machinique est encore plus grave quand on aborde le domaine des pulsions.

Les machines intelligentes n’ont ni inconscient ni désir

Le behaviorisme autrefois essayait de reconstruire toute l’activité humaine en termes de stimuli et de réponses, à partir de l’observation de comportements animaux tels que ceux du rat de laboratoire. C’était réducteur et de peu d’intérêt dès qu’on allait vers l’étude des primates, mais, s’agissant de l’homme, cela devenait franchement stupide, car le psychisme humain a une particularité sur laquelle nous reviendrons, celle de posséder un inconscient profond,  lieu des pulsions du «ça », en langage freudien, et des fantasmes liés à leur refoulement. Et de là il résulte que le moteur des comportements humains n’est que secondairement le besoin, d’origine animale, qui peut être satisfait, mais fondamentalement le désir, qui ne connaît pas de finitude[4]. Alors apparaît toute l’absurdité de la conception de l’homme rationnel  des économistes, sorte d’avatar du behaviorisme et pilier idéal du calcul capitaliste. Mais dans les faits cela n’a pas échappé aux promoteurs et aux utilisateurs de l’IA. Car, si la machine se comporte comme un calculateur rationnel, ils peuvent mettre toute sa puissance de calcul à cibler et manipuler nos désirs, conscients ou inconscients, dès lors qu’ils auront été identifiés. En témoigne l’usage qu’en fait aujourd’hui toute l’industrie proliférante du marketing publicitaire, du « badvertising »[5] : elle permet notamment de créer des tendances, d’automatiser les compagnes publicitaires, de générer et d’affiner textes et images sur les réseaux sociaux, et même de personnaliser des contenus lors de l’envoi de messages, enfin d’ajuster en temps réel prix et promos. Il y aura plein de leçons politiques à en tirer, mais nous voudrions mettre en évidence un dernier point.

Les machines intelligentes ne délibèrent pas et n’ont aucun sens moral

C’est pourtant une évidence, le moindre de nos gestes, en dehors des pures routines et des cas d’urgence vitale, appelle une délibération intime : vais-je faire ceci ou cela, maintenant ou plus tard, ou pas du tout ? Et qui dit délibération dit usage de la contradiction. Or, pour qu’il y ait contradiction, il faut un contradicteur, ce contradicteur étant moi-même. Cela signifie, pour faire simple, que nous sommes doubles, et que le double du « sujet » s’est constitué à travers un jeu d’identifications à autrui, toute la foule de personnages qui inconsciemment nous ont fait ce que nous sommes[6]. La machine intelligente, elle, n’a pas de double, n’a pas de distance à soi, et c’est pourquoi, tout en étant capable de raisonnement déductif, elle ne réfléchit pas et finalement ne pense pas, ne peut pas et ne pourra jamais penser[7]. C’est pourquoi aussi elle ne peut avoir aucun surmoi, ni a fortiori aucun sens moral, même rudimentaire. Ce qui nous fait penser à « l’homme aux écus ».

Faisons un dernier pas. Si nous sommes des êtres fondamentalement contradictoires, il faut alors non pas nier cette réalité native, mais l’assumer et la faire jouer positivement : contrôler nos passions par notre raison, alors que l’IA, telle qu’elle est utilisée, fait tout le contraire. Et c’est là que l’on commence à comprendre pourquoi elle peut être si dangereuse.

En quoi l’IA exploite notre « bêtise »

Nous n’avons pas la puissance calculatrice et déductive des machines artificielles. Celle-ci repose sur les quantités phénoménales de données qu’elles peuvent enregistrer et traiter. Depuis longtemps elles savent distinguer un chat d’un chien sans se tromper (on dit alors, abusivement, qu’elles ont le « concept » d’un chat). Prenons l’exemple de la reconnaissance faciale. Nous avons beau être physionomistes, nous ne ferons jamais aussi bien que les machines, parce que celles-ci ont appris à traiter des milliards d’images recueillies par des  caméras, dont celles produites par les internautes voyageant sur les réseaux sociaux, et qu’elles le font de façon de plus en plus sûre. Autre preuve : on peut aujourd’hui, dans certains pays, payer ses achats en scannant des produits et en utilisant son téléphone mobile pour les faire débiter sur son compte, sans risque d’erreur. Mais tout cela est dans la continuité de tout ce que les machines plus simples peuvent nous apporter, et l’histoire des sciences est jalonnée de dispositifs techniques qui ont rendu notre perception du monde plus fine (par exemple lorsque l’on est passé de la vision simple au microscope, puis au microscope électronique), plus rapide et plus sûre. La question que nous voulons soulever est pourquoi, en dépit de tout cela, nous agissons souvent comme des idiots.

On est en effet surpris que des esprits formidablement instruits, capables précisément souvent de résoudre des équations très compliquées à l’aide de machines, soient aussi aveugles à des réalités qui tombent sous le sens. On considère en général que c’est l’effet de préjugés relevant notamment de leur position dans la société, et en particulier de leurs intérêts de classe. Sans doute, mais cet effet d’aveuglement reste quelque peu mystérieux.

Alors vient à l’esprit l’idée que c’est là l’effet de notre vieille animalité. Nous avons été dressés par l’évolution à répondre à des situations d’urgence par des réflexes de sauvegarde ou de survie, ce que fait tout animal, mais que nous faisons plus encore parce que nous avons une conscience vive de notre fragilité et de notre mortalité. La machine intelligente, elle, n’a pas conscience qu’elle peut dysfonctionner ou même mourir (tomber définitivement en panne), et, de toute façon, elle s’en fiche, car elle n’est pas un être sensible. Elle peut réagir à des signaux d’alerte, mais ne saurait se protéger contre des attaques, telles les cyber-attaques, et encore moins s’auto-réparer, sans intervention humaine.

Cet ancrage dans notre animalité est un point tellement important que l’on pourrait y trouver l’origine de toutes sortes de réflexes d’auto-protection, notamment dans la science économique standard (réflexes lumineusement analysés par Jacques Généreux dans La déconnomie[8]). Or il est frappant que les hérauts de l’intelligence artificielle ne s’en soucient aucunement, eux qui voudraient que nous puissions fonctionner comme des machines parfaitement rationnelles. Vieux rêve de l’humanité, et fantasme renouvelé par la croyance dans des vertus miraculeuses de la science. Et, de  là, nos savants fous ce sont mis à imaginer que nous pourrions devenir immortels, comme peuvent l’être des machines – ce qui d’ailleurs est faux pour les machines elles-mêmes, en vertu de la deuxième loi de la thermodynamique.

Tout à leur  croyance dans les pouvoirs de l’IA, ses adeptes peuvent lui laisser libre cours, alors que, appliquée sans discernement ni contrôle, elle flatte la bêtise, c’est-à-dire les réactions impulsives, les emportements, les émotions primaires, les jugements hâtifs. Le comble est atteint quand ses promoteurs, considérant la publicité une industrie économique comme un autre, lui fournissent les outils les plus sophistiqués. Nous savons que les majors de l’internet tirent depuis longtemps de la vente des données recueillies la principale source de leurs revenus. Aujourd’hui ils proposent aux entreprises, comme nous l’avons vu, des solutions IA pour parfaire et personnaliser leurs campagnes publicitaires. Certes les créateurs des robots conversationnels ont cru pouvoir se passer de revenus publicitaires, comptant sur des abonnements pour faire payer un service de meilleure qualité que le service gratuit, mais ils y viennent peu à peu pour satisfaire leurs investisseurs.

Mais les méfaits de l’IA ne s’arrêtent pas là. Elle permet d’exploiter toutes les faiblesses de la nature humaine.

Comment l’IA renforce nos « bas instincts »

Cette expression du langage courant est évidemment trompeuse, car nous sommes, pour reprendre une vieille formulation,  des «animaux dénaturés ». De plus l’idée même d’une nature humaine est fortement contestée tant les besoins et les comportements sont variables d’un individu à l’autre, d’une société à l’autre. Pourtant il est possible de dégager, à travers cette diversité, trois invariants qui, en sus de notre nature d’homo faber, nous différentient des animaux supérieurs[9].

Le premier est la prématuration et l’impotence de l’enfant humain qui le rend totalement dépendant des adultes et qui, du fait de la faiblesse de sa prise sur le réel, l’enferme dans un monde de sensations, source, si l’en en croit la psychanalyse, d’un inconscient profond, ce à quoi nous avons déjà fait allusion. Or un usage incontrôlé de l’IA donne libre cours à tous les fantasmes : la peur de l’abandon (d’où le rôle assigné aux Chatbots émotionnels), le désir de toute puissance (d’où la fabrication de personnages héroïsés), la crainte de l’anéantissement (d’où la production d’images morbides), bref tout ce que racontaient les contes pour enfants, mais avec tout le réalisme permis par les algorithmes.

Le deuxième invariant est la prohibition de l’inceste, qui s’accompagne normalement d’un refoulement avec la constitution d’un surmoi. Quant ce dernier est faible (du fait de parents négligents) ou inexistant (parents violents ou incestueux) les enfants sont violents ou même ultra-violents (par identification à l’agresseur). L’IA incontrôlée fournit une matière abondante et réaliste au déchaînement de ces pulsions. On incrimine les réseaux sociaux, mais la situation est pire quand ils charrient tout ce qu’IA a permis aux névrosés et aux malfaiteurs d’imaginer, de divulguer et de mettre en œuvre sur l’internet.

Le troisième invariant est une conscience aigüe de la mort, que le sujet s’efforcera de conjurer par tous les moyens. Comme l’être humain est porté vers le mimétisme, source à la fois d’empathie et de rivalité, il peut chercher le salut dans la communauté des croyants et dans l’exclusion des incroyants, dans l’insertion dans un groupe dominant et dans l’ostracisme des autres. Or l’IA offre des moyens puissants à ces tendances, comme on le voit avec ses applications dans le domaine militaire et son pouvoir de diffusion des contenus haineux, racistes et criminels. On a aussi déjà noté qu’elle donne lieu, chez ses meilleurs spécialistes, à des rêves de domination de la nature et d’immortalité.

Pour toutes ces raisons l’IA présente les plus grands dangers.

En conclusion

Les machines intelligentes peuvent représenter un formidable gain de productivité en ce sens qu’elles économisent du travail humain, du reste non pas tant au niveau de leurs constructeurs et promoteurs[10], mais à celui de leurs utilisateurs (c’est une question que nous ne pouvons développer ici), mais le prix est cher à payer, tant au plan de la dépense de travail (le travail, dans les conditions capitalistes, est en même temps allongé et intensifié), que sur celui de la détérioration des compétences et de ses aspects coopératifs.

Les machines intelligentes sont aussi porteuses de dangers de toutes sortes dans la société tout entière, dans la mesure où elles nous déshumanisent, niant et détruisant ce que nous avons de propre : nos réactions spontanées d’être vivant, la richesse de notre information ordinaire, notre aptitude à faire face à l’imprévu, notre inventivité, notre capacité d’intuition, notre pouvoir de réflexion. Les machines intelligentes  s’essaient à copier notre affectivité, mais la tronquent et la dénaturent, refoulent nos passions, tout en les subvertissant et les soumettant à l’empire de la publicité. Les machines intelligentes n’ont, par nature, aucun sens moral, ce pour quoi leurs promoteurs sont hostiles à toutes les régulations et rechignent à appliquer celles que l’on tente de leur imposer.

A cette liste de dangers il faudrait ajouter (mais ce n’était pas ici notre propos) la vulnérabilité des machines et de l’ensemble du système dans lequel elles sont déployées, les erreurs et les biais cognitifs dont elles sont coutumières, l’appauvrissement de nos capacités d’apprentissage, de sérieux risques de perte de contrôle, leur utilisation comme outil de surveillance généralisée et de destruction militaire à grande échelle, et, last but not least, leur désastreux impact écologique.  Aucune technologie n’a été aussi puissante, aucune, hors la bombe nucléaire, n’a autant mis en péril, à une époque de capitalisme actionnarial débridé, l’humanité toute entière.

Bibliographie

Agüeras y Areas Blaise, What is Intelligence, Massachussets Institute of Technology

Alombert Anne, De la bêtise artificielle, Allia

Bourguignon Jonathan, Internet, année zéro, Divergence 2021

Carbonell Juan Sebastian, Un taylorisme augmenté. Critique de l’intelligence artificielle, Amsterdam

D’Asara Biondo Carlo et François Morel, L’Humanité face à l’IA : le combat du siècle, Calmann Levy, 2025

Laurence Devillers, l’IA ange ou démon ? Cerf Editions

Giraud Thibaut, La parole aux machines. Philosophie des grands modèles de langage, Grasset

Grallet Guillaume, Pionniers :Voyage aux frontières de l’IA, Grasset 2025

Hinton Geoffrey, La menace silencieuse de l’IA, Blessed Publications

Julia Luc, IA génératives, pas créatives, Le Cherche Midi, 2025

Neyrat Frédéric, Traumachine. Intelligence artificielle et techno-fascisme, MF Editions

Salin Eric, Le désert de nous-mêmes. Le tournant intellectuel et créatif de l’intelligence artificielle, L’échappée