Intelligence et stupidité de l’ia

L’ainsi nommée « intelligence artificielle » fascine et donne lieu aux spéculations les plus extravagantes. Entre autres celles-ci :

En copiant les facultés de l’esprit humain et en les portant à une puissance supérieure, elle ouvrirait une nouvelle ère pour l’humanité, celle où les machines feraient de plus en plus le travail à la place des hommes, et bien mieux qu’eux, ce qui, par voie de conséquence, réduirait drastiquement le nombre des emplois et élargirait le champ du loisir. Elles accroîtraient leurs capacités (c’est « l’intelligence augmentée ») au point de leur ouvrir, avec des progrès technologiques inouïs, de nouveaux espaces, par exemple la possibilité de coloniser d’autres planètes. Mieux encore : l’intelligence artificielle pourrait transformer l’homme lui-même en un être surhumain, potentiellement immortel (c’est le « transhumanisme »).Version beaucoup plus inquiétante, popularisée par la science fiction : elle pourrait prendre le pas sur l’homme en permettant la création d’un univers de robots doués de pouvoirs surhumains. Perspective plus actuelle : elle remplacerait avantageusement les relations humaines, si hasardeuses et si imparfaites, non plus seulement grâce à des robots humanoïdes, mais grâce à des agents conversationnels (des chatbots) sensibles, amicaux, attentionnés, amoureux, voire quasi partenaires sexuels. Et j’en passe.

L’intérêt dans toute cette affaire est bien au contraire de nous montrer ce en quoi les machines « intelligentes » ne peuvent pas et ne seront jamais des quasi-humains, donc de nous renvoyer à des questions d’anthropologie, de morale, et finalement de politique. On va ici simplement poser quelques jalons de cette problématique.

Commençons par le commencement. Les machines intelligentes sont-elles si « intelligentes » que cela ?

En quoi les machines intelligentes sont stupides

« Intellegerer », c’est, étymologiquement, relier pour discerner, et, à cet égard les machines sont capables de rassembler et de traiter un nombre de données infiniment supérieur à ce qu’un intellect humain est capable de faire, mais elles le font dans un champ donné, toujours très circonscrit.

On sait qu’elles peuvent battre le meilleur joueur aux échecs ou au jeu de go – il est vrai au prix d’un matériel impressionnant (des supercalculateurs énormes et très voraces en énergie, alors que le cerveau humain en consomme très peu). Elles en appliquent les règles et tirent des inférences de millions de parties jouées par des humains. Le progrès a constitué en ce que les machines intelligentes sont devenues capables d’apprentissage, tout comme l’homme, et même déjà l’animal, quand ils  procèdent par essais et erreurs. Ce deep learning s’est développé en imitant les réseaux de neurones du cerveau.  Et cela donne effectivement une puissance de calcul et d’analyse supérieure à la nôtre. Par exemple, en compilant des millions de dossiers médicaux, des milliards de radiographies, des millions de dossiers d’assurance, et en traitant ces données, un superordinateur peut établir, pour telle personne, un diagnostic de cancer plus sûr que celui d’un médecin et suggérer le traitement le plus approprié à son cas. On ne saurait que s’en féliciter. Et il serait faux de dire que l’IA n’est qu’un « perroquet statistique ». Elle peut réellement faire des découvertes. Pour reprendre l’exemple du jeu d’échecs elle peut trouver une stratégie qu’aucun grand joueur n’a su utiliser. Elle peut, dans le domaine des productions romanesques, si on lui donne des instructions, non seulement fournir une documentation et des aides à la rédaction, mais encore inventer une histoire. De même elle peut découvrir des propriétés insoupçonnées de molécules organiques. Ses limitations sont ailleurs.

La première est qu’elle est en réalité bornée au périmètre qui lui est assigné. Ce n’est pas alors tout un cerveau artificiel qui travaille, c’est seulement l’équivalent d’une petite partie du cortex. Il est à noter d’ailleurs qu’un cerveau humain est aussi capable d’une grande puissance, s’il parvient à se déconnecter de toutes les autres stimulations qu’il reçoit, et plus encore si une physiologie particulière l’y dispose (on sait que des autistes peuvent, par exemple, effectuer des opérations arithmétiques complexes à toute vitesse et sans se tromper). Mais, dès que le champ s’élargit, la machine devient « stupide ». Ce qui a fait dire à des spécialistes qu’elle serait incapable de réaliser ce que fait un rat, et peut-être même une fourmi. Elle est également incapable de faire tout ce qu’un petit enfant fait spontanément lorsqu’il apprend à se mouvoir, à saisir des objets, à reconnaître des formes. On est donc très long des capacités d’un cerveau animal, même rudimentaire, et a fortiori de celles d’un cerveau humain, avec ses  presque 100 milliards de  neurones et ses 10.000 milliards de synapses par cm3. Quand un sujet humain cherche à résoudre un problème et qu’il rencontre une difficulté imprévue, il cherche une solution hors du cadre initial. Admettons que les machines se perfectionneront. Après tout la voiture autonome a appris les mouvements de la conduite et sait reconnaître son environnement, au point, dit-on, qu’elle est moins accidentogène qu’un conducteur humain, ignorant la fatigue et ne se laissant distraire par rien. Elle a déjà remplacé,  dans certaines villes, nombre de chauffeurs de taxi et de chauffeurs livreurs. Elle nous transportera d’un lieu à un autre sans intervention humaine. Mais, on le voit bien, il s’agit toujours d’une activité limitée et ciblée. Si accident il y a sur la route, ou tout autre évènement imprévisible, comme le malaise d’un passager, la machine ne fera rien d’autre que s’arrêter.  

La deuxième limitation de l’IA vient de son mode de recueil des données, qui dépend des questions qu’on lui pose. Si elles ne sont pas posées avec discernement, l’IA, se nourrissant des données qu’elle collecte, peut ne reproduire que des bêtises, des rumeurs, des préjugés, des infox. Si elles sont posées dans un sens socialement ou politiquement intéressé, elle peut servir à manipuler l’opinion. Si elles le sont dans un but mercantile, l’IA a un fort pouvoir de persuasion clandestine, d’autant plus qu’elle peut multiplier les tromperies.

La troisième limitation tient à son mode de fonctionnement : l’usage des algorithmes, qui sont de petits programmes informatiques reposant sur une logique mathématisée et un calcul de probabilités. Il n’est pas faux de dite que l’IA « raisonne » et prend des « décisions » à la manière d’un humain. Il n’y a rien d’étonnant non plus à ce qu’elle excelle en mathématiques, résolvant des problèmes plus vite et plus sûrement que des spécialistes. Mais il lui manque ce qu’on peut appeler l’intuition, à savoir des hypothèses à peine formulées ou sans fondement objectif, des anticipations incertaines, des images flottantes etc.. Elle ne saisit pas les sous-textes comme les allusions ou les jeux de mots. Elle ignore aussi les logiques polyvalentes, le ni tout à fait vrai, ni tout à fait faux, intranscriptible dans le cadre d’une logique mathématique (celle qui est à la base du langage informatique) et pourtant usuelles dans les échanges entre humains.

Mais revenons à l’économie de travail que réalise l’intelligence artificielle.

Les machines intelligentes ne reproduisent que des facettes du travail humain

C’est une vieille histoire. Le premier outil a été un prolongement de la main, ou plus généralement du geste humain. A partir de là on peut raconter l’évolution de la force productive du travail (car les dites « forces productives » ne sont rien d’autre que des facteurs qui accroissent, parfois très indirectement, la productivité du travail). Le machinisme simple, celui qui fait suite à l’activité manuelle complexe de la manufacture, remplace des gestes par des dispositifs que le travailleur se contente de surveiller : c’est le contrôle au premier degré. Puis vient l’automation : le travailleur contrôle non la machine, mais un dispositif qui contrôle la machine (elle devient une machine à « commande numérique » simple). Alors oui, on peut parler, avec la machine intelligente (la machine commandée par ordinateur), d’un nouveau stade, d’une nouvelle époque dans le machinisme, d’une nouvelle révolution technologique, puisque c’est la machine qui se contrôle elle-même.

C’est ce que fait un robot mécanique. Son programme lui dicte les mouvements qu’il a à faire, et ce en fonction d’informations qu’il reçoit de son champ d’opération. On peut voir aujourd’hui, par exemple, un robot imiter parfaitement les gestes d’un opérateur manuel qui travaille à côté de lui, et qu’il pourra donc rapidement remplacer, quand son coût d’amortissement et de fonctionnement sera moins élevé que le salaire versé à ce dernier, compte tenu aussi d’autres avantages (il peut fonctionner jour et nuit, ne se fatigue pas, n’est distrait par rien, ne fait pas grève etc.). Il n’y aurait qu’à s’en féliciter, dès lors qu’un opérateur humain serait là pour intervenir quand la machine ne sait plus quoi faire ou répète stupidement ce qu’elle sait faire. Avec l’IA plus poussée les robots deviennent même susceptibles d’apprentissage.

Ce qui est vrai pour un travail opératif l’est pour toutes les autres formes de travail, jusqu’au travail scientifique. Il n’y a pas de doute : tout travail plus ou moins standardisé et répétitif sera un jour effectué par une machine intelligente ; la liste des métiers où l’IA peut remplacer du travail humain s’élargit chaque jour, même s’il n’y en a aucune où elle peut totalement le suppléer. On discute beaucoup la question de savoir si la généralisation des machines intelligentes ne va pas mettre au chômage des centaines de millions de travailleurs. Même s’il se créera de nouveaux emplois pour produire ces machines, leur donner des tâches et les entretenir, il est probable qu’il en ira ainsi, et ce serait une formidable occasion de réduire le temps de travail pour tous si ce n’était contraire à la logique du système capitaliste. Mais le travail humain n’est pas qu’une affaire de durée, il faut aussi considérer son intensité et sa qualification. Or, si elle raccourcit considérablement le temps de travail de ceux qui utilisent l’IA, leur permettant de sauter des étapes, elle s’accompagne généralement d’une attention plus soutenue et d’une plus grande pénibilité. Quant à la qualification, s’il est vrai que l’IA permet de réduire celle de ceux qui s’en servent, elle entraîne une perte de leur compétence, quand il s’agit de vérifier ses résultats, et aussi dans les travaux où ils gardent la main (par exemple ils ne savent plus bien rédiger un rapport ou un contrat, ils font des fautes d’orthographe), comme on le voit notamment chez les employés et les cadres. Le problème est même aigu dans le domaine de la formation et de l’éducation. Ajoutons que l’IA peut faire des erreurs, et qu’on ne peut savoir où ni comment elles se sont produites. Mais nous voudrions souligner un dernier point.

L’autre grande facette du travail humain, à côté de l’usage de l’outil (au sens le plus large du terme) est la coopération[1]. Marx l’a particulièrement analysée à peu près en ces termes. Il y a une forme de coopération « objective » qui correspond à une division des tâches, que le machinisme peut parfaitement suppléer (cela devient une « chaîne » d’opérations ou de machines, qui fonctionnent selon un dispositif préétabli - aujourd’hui un programme informatique), mais aussi une coopération « subjective », qui se traduit, par des phénomènes comme l’émulation, l’information mutuelle, l’apprentissage mutuel, et d’autres choses encore comme l’ambiance de travail (pause  café comprise). Le management le sait bien, qui essaie de les exploiter, tout en les réduisant au maximum, de peur des effets d’insubordination qu’ils peuvent produire. Or de ces formes de coopération intersubjective les machines intelligentes sont incapables, car ces formes sont constituées et constitutives de liens interhumains. On verra tout-à-l’heure comment on tente de copier de tels liens, et avec quel succès…

Pourquoi les machines intelligentes sont incapables d’inventivité

On l’a dit cent fois, ces machines ne savent résoudre que les problèmes pour la solution desquels elles sont programmées. C’est dans ce cadre qu’elles peuvent trouver des solutions inédites. Pour autant elles ne « pensent » pas. Mais pourquoi donc ? Ce n’est pas seulement  parce qu’elles ne comprennent pas ce qui est dit ou ce qui est écrit (les machines ne font que lire des chiffres). Une autre raison très simple et très souvent oubliée en est qu’elles ne peuvent se détacher de leur mémoire pour aller voir ailleurs, dans des zones inconnues ou inexplorées. Une grande faculté humaine, ce que Nietzsche avait bien vu, est la faculté d’oubli. Les machines artificielles n’oublient jamais et n’oublient rien. Quand nous oublions, cela ne veut pas dire que nous ne souvenons de rien, mais que nous n’avons conservé que des traces, qu’on pourra éventuellement retrouver et à partir desquelles on pourra reconstituer tout ou partie de ce que nous avons oublié, ceci dit en restant pour le moment au niveau de ce qu’on pourra appeler le préconscient. Or il faut bien oublier pour désencombrer des régions de notre cortex et ainsi aller vers d’autres régions, de nouvelles connexions. C’est ce que les philosophes appelaient l’imagination, et c’est elle qui nous permet d’inventer, souvent à l’improviste, et parfois, comme certains exemples célèbres l’ont montré, dans un état flottant, voire pendant un rêve, quand il ne dissipe par complètement au réveil. Les machines peuvent, si on leur donne quelques instructions, écrire des lettes, des romans et des poèmes, mais ils sont sans originalité, sans profondeur, sans trouvailles stylistiques. Elles peuvent traduire correctement un document administratif, mais échoueront à restituer les subtilités, les tournures, bref l’esprit d’une langue.

Quand on dit que les machines sont intelligentes, on veut dire qu’elles sont capables, tout comme l’homme, de calculer et raisonner, et on ne peut s’empêcher de faire un rapprochement avec une théorie économique, aujourd’hui largement dominante, la théorie néo-classique, et la conception de l’homme qui la sous-tend.

L’homo oeconomicus[2], machine intelligente

Il est étonnant en effet de constater la similitude. Une machine intelligente doit traiter un grand nombre de données pour en extraire la solution optimale. Un consommateur rationnel doit de même, selon la théorie néoclassique, choisir la liste de produits qui satisferont ses besoins – une donnée selon eux de nature purement individuelle – compte tenu de son budget, et il choisira la solution optimale, celle qui, sous contrainte, maximisera sa satisfaction – un terme vague, emprunté au registre de l’apaisement de la soif ou de la faim. Il fera encore mieux, car il procédera à des « anticipations rationnelles » : il aura en effet calculé ce que sera le marché de demain et ce qu’il aura en moins dans sa bourse en fonction des impôts qu’il aura versés. Même chose pour l’entrepreneur « rationnel » qui prendra des décisions d’investissement en fonction de ses ressources financières, de l’état du marché et de ses évolutions à prévoir.

Cela, a-t-on fini par remarquer, ne tient aucun compte de la « complexité humaine ». Mais, comme l’économie « comportementale » aura montré que divers facteurs autres que la préférence individuelle et la taille du porte-monnaie interviennent (des facteurs sociaux, culturels etc.), et qu’elle l’aura vérifié en laboratoire, sinon on ne la croirait pas, on se déclare prêt aujourd’hui à injecter des doses d’autres sciences humaines (la psychologie, la sociologie, la science politique) dans le modèle de base, autrement dit à complexifier un peu les équations pour se rapprocher des comportements effectifs. Mais voilà, on reste dans la perspective machiniste de l’optimisation sous contrainte, en ajoutant des facteurs.

Or, comme on l’a dit, les machines intelligentes ne fonctionnent que si leur domaine est à la fois strictement limité et doté de complétude. Rien de tel chez l’être humain, d’abord parce qu’il n’a pas la puissance de calcul d’une machine (il ne peut comparer en un bref instant des quantités de produits et de prix), ensuite et surtout parce qu’il est mû par ce que Adam Smith appelait des « passions » parfaitement déraisonnables. Par exemple la passion de ce collectionneur qui n’a nullement l’intention d’être un vendeur ou un spéculateur, est totalement incompréhensible, puisque son « besoin » semble illimité. A y réfléchir, on s’aperçoit que la plupart des choix humains sont « irrationnels », n’en déplaise à ceux qui voient le choix d’un conjoint ou l’acte délinquant, voire criminel, comme le résultat d’un calcul coût/avantage. Et le plus fort est que les publicitaires le savent bien : ils ne vont pas seulement vous vanter les qualités d’un produit par rapport aux produits concurrents, ils vont lui associer, en le faisant ad nauseam, les fantasmes les plus invraisemblables ou les plus délirants. Le choix rationnel existe certes, mais il est de faible portée et très subordonné. En réalité, comme des philosophes l’ont soutenu depuis longtemps et comme des sciences humaines l’ont démontré, l’homme est aussi un être de « passions ». Mais que faut-il entendre par « passions ». Au moins deux choses ; des affects et des pulsions.

Les machines intelligentes ne peuvent que simuler des affects

Les concepteurs de machines ont voulu faire comme si elles avaient des émotions. De très nombreux laboratoires dans le monde se sont attachés à fabriquer des robots humanoïdes, avec lesquels on puisse communiquer comme avec des êtres humains. On a ainsi créé des robots pour tenir compagnie à des personnes  esseulées, pas forcément humanoïdes d’ailleurs (ils peuvent simuler un chien de compagnie), on a créé des robots pour que les enfants puissent jouer avec comme avec de petits amis, on a créé pour des adolescents attardés ou timides une « bonne copine » artificielle (plus rarement un bon copain) afin de remplacer une copine réelle, on a fabriqué même des robots sexuels pour des jeunes hommes (plus rarement des jeunes femmes) en panne de rapports réels (les Japonais sont très souvent vierges jusqu’à la trentaine). Mais les concepteurs de l’A ont vu plus large : ils ont inventé la communication non plus avec des robots physiques, mais avec des agents conversationnels, avec lesquels on puisse dialoguer, par vidéo, et  ceci de manière de plus en plus personnalisée, puisque, au fil des interactions, ces avatars vous connaissent de mieux en mieux et deviennent vos meilleurs confidents et conseillers, vos admirateurs, voire vos commensaux, compagnons de loisir ou amoureux (il existe même des mariages fictifs). Et le succès à été foudroyant[3]. Est-il besoin de le dire, ces robots et avatars n’éprouvent aucune émotion, car ils n’ont que l’équivalent d’un bout de cortex, mais pas d’hypothalamus, pas de zones de plaisir. Ils ne présentent donc que des signes d’émotion (sourires, mouvements des yeux, expressions langagières, une gestuelle aussi dans le cas des avatars, mais naturellement pas de signaux de stress ou de peur).

Admettons que la reproduction des émotions humaines dans des robots « bio-inspirés » puisse aider les neurosciences à progresser. Dans la vie ordinaire l’usage des robots ne remplace aucunement une activité effective (les enfants, eux, savent très bien faire la différence entre leurs jouets les plus imitatifs et les relations réelles). Quant à l’échange avec des avatars, il pousse les individus, ont remarqué les psychologues, vers une forme d’autisme social.  

La dérive machinique est encore plus grave quand on aborde le domaine des pulsions.

Les machines intelligentes n’ont ni inconscient ni désir

Le behaviorisme autrefois essayait de reconstruire toute l’activité humaine en termes de stimuli et de réponses, à partir de l’observation de comportements animaux tels que ceux du rat de laboratoire. C’était réducteur et de peu d’intérêt dès qu’on allait vers l’étude des primates, mais, s’agissant de l’homme, cela devenait franchement stupide, car le psychisme humain a une particularité sur laquelle nous reviendrons, celle de posséder un inconscient profond,  lieu des pulsions du «ça », en langage freudien, et des fantasmes liés à leur refoulement. Et de là il résulte que le moteur des comportements humains n’est que secondairement le besoin, d’origine animale, qui peut être satisfait, mais fondamentalement le désir, qui ne connaît pas de finitude[4]. Alors apparaît toute l’absurdité de la conception de l’homme rationnel  des économistes, sorte d’avatar du behaviorisme et pilier idéal du calcul capitaliste. Mais dans les faits cela n’a pas échappé aux promoteurs et aux utilisateurs de l’IA. Car, si la machine se comporte comme un calculateur rationnel, ils peuvent mettre toute sa puissance de calcul à cibler et manipuler nos désirs, conscients ou inconscients, dès lors qu’ils auront été identifiés. En témoigne l’usage qu’en fait aujourd’hui toute l’industrie proliférante du marketing publicitaire, du « badvertising »[5] : elle permet notamment de créer des tendances, d’automatiser les compagnes publicitaires, de générer et d’affiner textes et images sur les réseaux sociaux, et même de personnaliser des contenus lors de l’envoi de messages, enfin d’ajuster en temps réel prix et promos. Il y aura plein de leçons politiques à en tirer, mais nous voudrions mettre en évidence un dernier point.

Les machines intelligentes ne délibèrent pas et n’ont aucun sens moral

C’est pourtant une évidence, le moindre de nos gestes, en dehors des pures routines et des cas d’urgence vitale, appelle une délibération intime : vais-je faire ceci ou cela, maintenant ou plus tard, ou pas du tout ? Et qui dit délibération dit usage de la contradiction. Or, pour qu’il y ait contradiction, il faut un contradicteur, ce contradicteur étant moi-même. Cela signifie, pour faire simple, que nous sommes doubles, et que le double du « sujet » s’est constitué à travers un jeu d’identifications à autrui, toute la foule de personnages qui inconsciemment nous ont fait ce que nous sommes[6]. La machine intelligente, elle, n’a pas de double, n’a pas de distance à soi, et c’est pourquoi, tout en étant capable de raisonnement déductif, elle ne réfléchit pas et finalement ne pense pas, ne peut pas et ne pourra jamais penser[7]. C’est pourquoi aussi elle ne peut avoir aucun surmoi, ni a fortiori aucun sens moral, même rudimentaire. Ce qui nous fait penser à « l’homme aux écus ».

Faisons un dernier pas. Si nous sommes des êtres fondamentalement contradictoires, il faut alors non pas nier cette réalité native, mais l’assumer et la faire jouer positivement : contrôler nos passions par notre raison, alors que l’IA, telle qu’elle est utilisée, fait tout le contraire. Et c’est là que l’on commence à comprendre pourquoi elle peut être si dangereuse.

En quoi l’IA exploite notre « bêtise »

Nous n’avons pas la puissance calculatrice et déductive des machines artificielles. Celle-ci repose sur les quantités phénoménales de données qu’elles peuvent enregistrer et traiter. Depuis longtemps elles savent distinguer un chat d’un chien sans se tromper (on dit alors, abusivement, qu’elles ont le « concept » d’un chat). Prenons l’exemple de la reconnaissance faciale. Nous avons beau être physionomistes, nous ne ferons jamais aussi bien que les machines, parce que celles-ci ont appris à traiter des milliards d’images recueillies par des  caméras, dont celles produites par les internautes voyageant sur les réseaux sociaux, et qu’elles le font de façon de plus en plus sûre. Autre preuve : on peut aujourd’hui, dans certains pays, payer ses achats en scannant des produits et en utilisant son téléphone mobile pour les faire débiter sur son compte, sans risque d’erreur. Mais tout cela est dans la continuité de tout ce que les machines plus simples peuvent nous apporter, et l’histoire des sciences est jalonnée de dispositifs techniques qui ont rendu notre perception du monde plus fine (par exemple lorsque l’on est passé de la vision simple au microscope, puis au microscope électronique), plus rapide et plus sûre. La question que nous voulons soulever est pourquoi, en dépit de tout cela, nous agissons souvent comme des idiots.

On est en effet surpris que des esprits formidablement instruits, capables précisément souvent de résoudre des équations très compliquées à l’aide de machines, soient aussi aveugles à des réalités qui tombent sous le sens. On considère en général que c’est l’effet de préjugés relevant notamment de leur position dans la société, et en particulier de leurs intérêts de classe. Sans doute, mais cet effet d’aveuglement reste quelque peu mystérieux.

Alors vient à l’esprit l’idée que c’est là l’effet de notre vieille animalité. Nous avons été dressés par l’évolution à répondre à des situations d’urgence par des réflexes de sauvegarde ou de survie, ce que fait tout animal, mais que nous faisons plus encore parce que nous avons une conscience vive de notre fragilité et de notre mortalité. La machine intelligente, elle, n’a pas conscience qu’elle peut dysfonctionner ou même mourir (tomber définitivement en panne), et, de toute façon, elle s’en fiche, car elle n’est pas un être sensible. Elle peut réagir à des signaux d’alerte, mais ne saurait se protéger contre des attaques, telles les cyber-attaques, et encore moins s’auto-réparer, sans intervention humaine.

Cet ancrage dans notre animalité est un point tellement important que l’on pourrait y trouver l’origine de toutes sortes de réflexes d’auto-protection, notamment dans la science économique standard (réflexes lumineusement analysés par Jacques Généreux dans La déconnomie[8]). Or il est frappant que les hérauts de l’intelligence artificielle ne s’en soucient aucunement, eux qui voudraient que nous puissions fonctionner comme des machines parfaitement rationnelles. Vieux rêve de l’humanité, et fantasme renouvelé par la croyance dans des vertus miraculeuses de la science. Et, de  là, nos savants fous ce sont mis à imaginer que nous pourrions devenir immortels, comme peuvent l’être des machines – ce qui d’ailleurs est faux pour les machines elles-mêmes, en vertu de la deuxième loi de la thermodynamique.

Tout à leur  croyance dans les pouvoirs de l’IA, ses adeptes peuvent lui laisser libre cours, alors que, appliquée sans discernement ni contrôle, elle flatte la bêtise, c’est-à-dire les réactions impulsives, les emportements, les émotions primaires, les jugements hâtifs. Le comble est atteint quand ses promoteurs, considérant la publicité une industrie économique comme un autre, lui fournissent les outils les plus sophistiqués. Nous savons que les majors de l’internet tirent depuis longtemps de la vente des données recueillies la principale source de leurs revenus. Aujourd’hui ils proposent aux entreprises, comme nous l’avons vu, des solutions IA pour parfaire et personnaliser leurs campagnes publicitaires. Certes les créateurs des robots conversationnels ont cru pouvoir se passer de revenus publicitaires, comptant sur des abonnements pour faire payer un service de meilleure qualité que le service gratuit, mais ils y viennent peu à peu pour satisfaire leurs investisseurs.

Mais les méfaits de l’IA ne s’arrêtent pas là. Elle permet d’exploiter toutes les faiblesses de la nature humaine.

Comment l’IA renforce nos « bas instincts »

Cette expression du langage courant est évidemment trompeuse, car nous sommes, pour reprendre une vieille formulation,  des «animaux dénaturés ». De plus l’idée même d’une nature humaine est fortement contestée tant les besoins et les comportements sont variables d’un individu à l’autre, d’une société à l’autre. Pourtant il est possible de dégager, à travers cette diversité, trois invariants qui, en sus de notre nature d’homo faber, nous différentient des animaux supérieurs[9].

Le premier est la prématuration et l’impotence de l’enfant humain qui le rend totalement dépendant des adultes et qui, du fait de la faiblesse de sa prise sur le réel, l’enferme dans un monde de sensations, source, si l’en en croit la psychanalyse, d’un inconscient profond, ce à quoi nous avons déjà fait allusion. Or un usage incontrôlé de l’IA donne libre cours à tous les fantasmes : la peur de l’abandon (d’où le rôle assigné aux Chatbots émotionnels), le désir de toute puissance (d’où la fabrication de personnages héroïsés), la crainte de l’anéantissement (d’où la production d’images morbides), bref tout ce que racontaient les contes pour enfants, mais avec tout le réalisme permis par les algorithmes.

Le deuxième invariant est la prohibition de l’inceste, qui s’accompagne normalement d’un refoulement avec la constitution d’un surmoi. Quant ce dernier est faible (du fait de parents négligents) ou inexistant (parents violents ou incestueux) les enfants sont violents ou même ultra-violents (par identification à l’agresseur). L’IA incontrôlée fournit une matière abondante et réaliste au déchaînement de ces pulsions. On incrimine les réseaux sociaux, mais la situation est pire quand ils charrient tout ce qu’IA a permis aux névrosés et aux malfaiteurs d’imaginer, de divulguer et de mettre en œuvre sur l’internet.

Le troisième invariant est une conscience aigüe de la mort, que le sujet s’efforcera de conjurer par tous les moyens. Comme l’être humain est porté vers le mimétisme, source à la fois d’empathie et de rivalité, il peut chercher le salut dans la communauté des croyants et dans l’exclusion des incroyants, dans l’insertion dans un groupe dominant et dans l’ostracisme des autres. Or l’IA offre des moyens puissants à ces tendances, comme on le voit avec ses applications dans le domaine militaire et son pouvoir de diffusion des contenus haineux, racistes et criminels. On a aussi déjà noté qu’elle donne lieu, chez ses meilleurs spécialistes, à des rêves de domination de la nature et d’immortalité.

Pour toutes ces raisons l’IA présente les plus grands dangers.

En conclusion

Les machines intelligentes peuvent représenter un formidable gain de productivité en ce sens qu’elles économisent du travail humain, du reste non pas tant au niveau de leurs constructeurs et promoteurs[10], mais à celui de leurs utilisateurs (c’est une question que nous ne pouvons développer ici), mais le prix est cher à payer, tant au plan de la dépense de travail (le travail, dans les conditions capitalistes, est en même temps allongé et intensifié), que sur celui de la détérioration des compétences et de ses aspects coopératifs.

Les machines intelligentes sont aussi porteuses de dangers de toutes sortes dans la société tout entière, dans la mesure où elles nous déshumanisent, niant et détruisant ce que nous avons de propre : nos réactions spontanées d’être vivant, la richesse de notre information ordinaire, notre aptitude à faire face à l’imprévu, notre inventivité, notre capacité d’intuition, notre pouvoir de réflexion. Les machines intelligentes  s’essaient à copier notre affectivité, mais la tronquent et la dénaturent, refoulent nos passions, tout en les subvertissant et les soumettant à l’empire de la publicité. Les machines intelligentes n’ont, par nature, aucun sens moral, ce pour quoi leurs promoteurs sont hostiles à toutes les régulations et rechignent à appliquer celles que l’on tente de leur imposer.

A cette liste de dangers il faudrait ajouter (mais ce n’était pas ici notre propos) la vulnérabilité des machines et de l’ensemble du système dans lequel elles sont déployées, les erreurs et les biais cognitifs dont elles sont coutumières, l’appauvrissement de nos capacités d’apprentissage, de sérieux risques de perte de contrôle, leur utilisation comme outil de surveillance généralisée et de destruction militaire à grande échelle, et, last but not least, leur désastreux impact écologique.  Aucune technologie n’a été aussi puissante, aucune, hors la bombe nucléaire, n’a autant mis en péril, à une époque de capitalisme actionnarial débridé, l’humanité toute entière.

Bibliographie

Agüeras y Areas Blaise, What is Intelligence, Massachussets Institute of Technology

Alombert Anne, De la bêtise artificielle, Allia

Bourguignon Jonathan, Internet, année zéro, Divergence 2021

Carbonell Juan Sebastian, Un taylorisme augmenté. Critique de l’intelligence artificielle, Amsterdam

D’Asara Biondo Carlo et François Morel, L’Humanité face à l’IA : le combat du siècle, Calmann Levy, 2025

Laurence Devillers, l’IA ange ou démon ? Cerf Editions

Giraud Thibaut, La parole aux machines. Philosophie des grands modèles de langage, Grasset

Grallet Guillaume, Pionniers :Voyage aux frontières de l’IA, Grasset 2025

Hinton Geoffrey, La menace silencieuse de l’IA, Blessed Publications

Julia Luc, IA génératives, pas créatives, Le Cherche Midi, 2025

Neyrat Frédéric, Traumachine. Intelligence artificielle et techno-fascisme, MF Editions

Salin Eric, Le désert de nous-mêmes. Le tournant intellectuel et créatif de l’intelligence artificielle, L’échappée

La double face de la publicité

La publicité est un corollaire des rapports marchands. Il faut bien, dès que l’on sort des échanges de proximité, que les producteurs de marchandises et de services rendent publics leurs offres détaillées et leurs prix aux consommateurs. C’est ce que nous appellerons une publicité d’information. Encore faut-il que cette information soit honnête et énonce clairement les effets des produits sur le consommateur et sur l’environnement. Tout autre est la publicité que nous appellerons la publicité d’influence et de propagande. Elle vise à pousser le consommateur à l’achat par tous les moyens les plus subtils et à l’endoctriner. Elle existe depuis longtemps, mais, utilisant tous les progrès technologiques, elle est devenue une industrie proliférente, pesant lourdement sur les économies contemporaines. En voici quelques aspects.

Un bref état des lieux

Depuis l’essor des applications sur internet, et spécialement celles des réseaux sociaux, et depuis l’usage des smartphones, les messages publicitaires ont connu une croissance exponentielle. Pour les seules applications d’images on a calculé que les internautes reçoivent un message par seconde. Les enfants eux-mêmes regardent, et dès leur premier âge, 40000 publicités par an. Difficile de faire le départ entre la publicité d’information et la publicité de conditionnement, mais il est clair que la seconde domine, car le nombre de produits n’a pas connu une telle progression. Les dépenses de publicité dans le monde ont atteint en 2023 le chiffre de 700 milliards de dollars, en devenant le troisième secteur économique de la planète, après l’alimentation et l’énergie. Une des raisons de cette croissance exponentielle est la multiplication des produits redondants.

Comment la publicité est-elle devenue très largement une publicité de conditionnement ? Plusieurs études ont montré qu’elle repose sur des techniques d’amorçage : il s’agit de capter l’attention du consommateur, même quand il n’a rien demandé. Cela se fait d’abord par l’insertion de messages, parfois subliminaux, non plus seulement sur les panneaux des villes et dans les médias traditionnels (presse, télévisions), mais sur tous les supports que l’on peut trouver sur internet (informations, musiques, vidéos, films, reportages, documentaires, spectacles sportifs etc.). Mais, avec l’essor de l’IA, les destinataires des messages sont ciblés, car les plateformes possèdent d’innombrables données sur les internautes, via l’historique de leurs recherches, leurs échanges et, plus récemment, leurs conversations avec des chatbots.

En quoi la publicité est devenue une publicité de propagande 

A la manière de la propagande politique, la publicité commerciale diffuse des informations pour inciter le consommateur à l’achat non seulement par des arguments objectifs, mais encore par des sollicitations cachées, des demi-vérités ou des mensonges. Il s’agit notamment d’associer des produits, sans le dire explicitement, à un statut social.

On peut prendre l’exemple des SUV, plus accessibles par leur prix que les voitures qui se réclament ouvertement du « luxe », et vantés seulement pour leur robustesse  et leur confort. En fait ils sont des signes de prestige : sur la route et dans les rues leurs possesseurs dominent de haut  ceux qui n’ont que des voitures légères. Et ce que la pub oublie de dire est qu’ils consomment beaucoup, qu’ils sont difficiles à manœuvrer et à garer, et que, même électriques, ils polluent.

D’une manière générale la fonction des marques n’est pas seulement de donner un gage de qualité, pas toujours démontrable, mais de signifier à quelle classe sociale le consommateur appartient, comme Roland Barthes l’avait si bien analysé dans ses Mythologies.

En quoi la publicité est-elle une publicité d’influence 

 Elle associe les produits à une promesse de bonheur, et même de félicité. Toutes les images de produits sont accompagnées d’utilisateurs épanouis et rayonnants. Cela va de la ménagère ravie de son appareil ménager au conducteur d’une voiture assimilé à pilote de Formule 1, avec sa passagère cheveux au vent, ses enfants jouant dans l’habitacle comme à la maison – en fait tous les ingrédients d’un accident automobile. La publicité aime aussi symboliser l’esprit d’aventure : la voiture file dans les paysages les plus extraordinaires, et même la science fiction est convoquée (elle vole dans le ciel). Inutile de multiplier les exemples, tout monde en connait bien. Ce que l’on sait moins, c’est toutes les techniques de manipulation qui sont utilisées pour attirer et séduire, par exemple le jeu sur les couleurs et leur symbolique, la sophistication des images, le raffinement des cadrages. Des armées de professionnels y sont dédiées. La manipulation se poursuit lors de la présentation des produits chez les commerçants : les emplacements dans les rayonnages des supermarchés sont calculés soigneusement pour attirer l’attention des clients afin de stimuler les ventes, et les marques doivent souvent payer pour cela.

Que faire pour lutter contre ce conditionnement ?

C’est la question que se posent les auteurs du livre Badvertising. Comment la publicité pollue la nature et les cerveaux[1], un livre formidablement documenté et appuyé sur un grand nombre de travaux scientifiques.

Une première façon de sortir de ce monde ensorcelé est d’en prendre congé en regardant ailleurs, par exemple en allant se promener, en pratiquant une activité sportive, en lisant, en quittant les réseaux sociaux. Une autre est d’utiliser les bloqueurs de pub, de refuser tous les cookies, de consulter le moins possible les sites   marchands. Certes, mais il est impossible d’échapper à la pub pour tous les achats du quotidien, puisque tant les lieux ou sites d’achats que les produits eux-mêmes en sont porteurs.

Alors il faut compter sur les pouvoirs publics pour interdire ou modérer la pub. Cela va de l’interdiction des panneaux publicitaires, du moins sur les routes ou dans l’entrée de villes, à une réglementation, qui ne soit pas laissée aux agences de publicité elles-mêmes, et à une fiscalité portant sur des dépassements de plafonds de dépenses publicitaires ou sur les grandes marques. Il est vrai que de telles mesures existent ça et là. Mais elles peinent à endiguer le flot, car la puissance des multinationales, des agences de publicité et des grandes entreprises de l’internet (qui vivent très largement de la publicité) est telle qu’elles peuvent circonvenir les Etats, falsifier les recherches, exercer des chantages à la compétitivité et à l’emploi. L’exemple de l’industrie du tabac en est la démonstration : il a fallu des décennies pour que des pouvoirs publics interdisent le nom des marques sur les paquets de cigarettes et y imposent des images des effets nocifs du tabac sur la santé.

Alors comment contrôler et limiter efficacement la publicité ?

Création d’une Autorité administrative indépendante

Les entreprises, quelles soient des fournisseurs directs, des intermédiaires comme les plateformes commerciales, ou les vendeurs finaux, doivent se faire connaître. C’est là une première forme de publicité. Actuellement elles le font, une fois enregistrées auprès de l’administration avec un numéro de Siret, quand elles ne sont pas au contact des consommateurs, par internet. C’est là que le jeu est faussé dès le départ, car elles doivent payer la plupart des moteurs de recherche pour être en bonne place dans les occurrences. Cette pratique devrait être interdite. Seul leur succès devrait les rendre plus visibles, même si cela leur prend du temps.

Viennent le prix et la qualité des produits, ce qui relève de la publicité d’information. Ils ne sont pas contrôlés par cette administration qu’est la Direction générale de la concurrence, de la consommation et de la répression des fraudes (DGCCRF), qui limite son action à la protection des consommateurs contre les pratiques déloyales,  aux risques des produits pour leur santé et à l’honnêteté des informations fournies. Il y a bien une Autorité de régulation de la publicité, mais elle est composée de membres de la profession, la société civile n’y est par représentée, et ses décisions n’ont pas de valeur contraignante. Autant dire que cette autorégulation laisse le champ presque entièrement libre à la publicité d’information elle-même. Seules des associations de consommateurs, comme la très importante UFC Que choisir, testent la qualité des produits et leurs effets sur la santé, comparent leurs prix et mènent des compagnes contre les abus, pouvant aller jusqu’à des appels au boycott et à des actions en justice. Mais elles ne peuvent rien faire contre la publicité de propagande et d’influence, sauf à y relever des mensonges caractérisés.

Ce sont elles pourtant qui donnent une idée de ce que pourrait être une Autorité administrative indépendante chargée de réguler la publicité sous toutes ses formes. Cette commission serait une institution publique, donc financée par des fonds publics, et non par des cotisants, des dons et des legs, comme le sont les associations reconnues d’utilité publique. Mais cette Autorité, composée de fonctionnaires (leurs membres sont le plus souvent détachés du Conseil d’Etat, de la Cour des comptes et de la Cour de Cassation), n’aurait guère de compétence en la matière et serait fort éloignée des points de vue de la population, car celle-ci n’est pas composée d’individus passifs, comme le croient volontiers les publicitaires, qui les prennent volontiers pour des attardés mentaux[2]. Au minimum elle devait organiser des sondages pour les connaître. Elle pourrait organiser un débat national sur la bonne et la mauvaise publicité et en tirer, sous le contrôle de chercheurs, des leçons. Elle devrait aussi s’inspirer des propositions d’une commission consultative citoyenne, dont les membres seraient tirés au sort, comme il en existe déjà sur d’autres questions. On voit l’avantage : les citoyens reprennent du pouvoir. Elle aurait, comme la CNIL un pouvoir normatif et un pouvoir de sanction.

Sans aucun doute la difficulté serait de savoir où commencent et où finissent la propagande et l’influence. Il faudrait définir des critères précis. On n’empêchera pas les marques de cibler des clientèles particulières, mais tout usage des données personnelles devrait être prohibé, les bloqueurs de pub devraient être généralisés, le démarchage téléphonique interdit. Beaucoup plus délicate est la question du contenu même des messages. Il est normal que les entreprises présentent leurs produits ou services de manière plaisante ou même artistique. C’est ce qu’ont toujours fait le boutiquier et le petit producteur sur un marché de village. On admettra même que les marques de luxe fassent appel à des créateurs pour symboliser l’excellence de leurs produits. C’est beaucoup moins acceptable quand le coût du packaging devient exorbitant[3], ce qui représente un gaspillage de matières premières et de travail. Mais surtout la limite est dépassée quand le message n’a plus aucune rapport avec le produit, mais sert seulement à créer une ambiance (les si bien nommés « influenceurs » servent à cela). Dans ce cas l’Autorité de régulation devrait adresser des avertissements, et, s’il n’en était tenu aucun compte, prendre à la fin des sanctions. Bien sûr on va crier à la censure, mais c’est une question de salubrité publique, à l’instar de ce fait par exemple un Agence de sécurité des médicaments.

En conclusion

La publicité est liée à la marchandisation généralisée, c’est pourquoi elle est si difficile à contrôler et pourquoi toute régulation fait hurler les libéraux. S’ils étaient plus intelligents, ils comprendraient qu’elle engendre un tel gâchis économique et de tels effets pervers qu’elle n’est pas dans leur intérêt bien compris. Mais le capitalisme ne voit pas plus loin que ses intérêts immédiats, dans ce domaine comme dans un autre. Un socialisme de marché ou avec marché devrait prendre la question à bras le corps, et ne pas s’en remettre à des interventions ponctuelles de l’Etat pour endiguer la déferlante publicitaire. Assainir la publicité serait un façon non seulement de libérer les citoyens des pressions et des injonctions qui empoisonnent leur vie quotidienne, d’améliorer leur santé et leur équilibre psychique, mais encore de libérer l’économie du poids d’un secteur particulièrement improductif.